Kildekoder oppe til eksamen

Foto: Pixabay/motparten

Tekst: Jesper Enerstvedt

Dato:03.03.24

Verdens rikeste mann Elon Musk går til søksmål mot verdens største data-firma Microsoft. Musk beskylder Microsoft for å ruge på teknologi til egen vinning. Det i seg selv burde ikke være så veldig overraskende i USA. Microsoft mener Musk juger når han sier han saksøker på vegne av menneskeheten.

Menneskehetens beste

Musk anklager OpenAI og administrerende direktør Sam Altman for å sette profitt foran menneskehetens beste. I søksmålet hevder Musk at OpenAI utvikler kunstig generell intelligens (AGI) – en teoretisk form for AI som kan utføre en rekke oppgaver på et menneskelig intelligensnivå.

Real thing

Mange mennesker er redde for datamaskiner som tenker, erkjenner og oppfatter som et menneske. Ryktene i teknologi-miljøer skal ha det til at såkalte AGI-maskiner er "the real thing". De tror Microsoft allerede har AGI-maskiner som kan tenke og resonnere som menneske. Kritikerne mener akkurat dette faktum er årsaken til at man ikke trenger å være redd for den nye teknologien kalt “Artificial general intelligence”. I likhet med mennesker kommer heller ikke maskinene til å bli enige i noe som helst. Ikke å finne opp noe nytt heller.

Lukket kildekode

Musk sier at dersom han fikk bestemme skulle hele verden, - også Kina, Russland og India, - fått tilgang til denne teknologien, slik at den kom hele menneskeheten til gode. Musk peker på at OpenAI Inc har blitt forvandlet til lukket kildekode, eid av av det største teknologiselskapet i verden, Microsoft. Mange spør seg nå om eventuelle konsekvenser dersom Microsoft lykkes med planene.

Lite trolig

Bekymrede mennesker har kontaktet motparten om dette temaet fordi de frykter konsekvensene av for mye kunnskap samlet på få hender. Men det er også de som mener Musk tenker mer på egen fortjeneste når han krever koden offentligjort. Kritikerne peker på at det er lite trolig at AGI-teknologien kommer til å stå for banebrytende gjennombrudd innen medisin, romfart eller samferdsel med det første. I så fall ville Musks argumenter vært gyldige, men er de det?

AI vs AGI

I motsetning til AI, som er designet for spesifikke oppgaver, er AGI en kunstig generell intelligens som kan prestere bedre enn mennesker på et bredt spekter av kognitive oppgaver. Kognitiv er det som har med erkjennelse, oppfatning og tenkning å gjøre. I filosofi og psykologi opptrer ofte uttrykket «kognitiv» som motsetning til det følelsesmessige eller intuitive. Spørsmålet er også om de kognitive egenskapene vil få like stor betydning innen fysikk og kjemi og andre viktige fagfelt.

Irriterende leksjon

AGI-maskinen kan snart diskutere filosofi med deg, og den kommer ikke til å hisse seg opp eller gjøre narr av deg når du sier at Jean-Jacques Rousseau og John Locke var sure sild i forhold den norske sangeren Joachim Nielsen, som til tider var veldig dyp og filosofisk. Skal vi tro utviklerne vil AGI, til tross for sine kognitive evner, ha en sperre for følelsesmessige utbrudd. Med andre ord en iskald debattant som kan alt, og som ingen ønsker å diskutere med. Men kan AGI-maskinene også revolusjonere praktiske problemer? Nei, sier Microsofts advokater.

Gode odds

Bekymringer om superintelligens har blitt uttrykt av mange ledende teknologisjefer som Elon Musk, Geoffrey Hinton, Yoshua Bengio, og den saksøkte Open AI-sjef Sam Altman. I en undersøkelse fra 2022 svarte AI-forskere at de tror det er ti prosent sjanse for at vår manglende evne til å kontrollere maskinene vil forårsake en eksistensiell katastrofe. Men inntil videre er alle mest bekymret over hvem som eier hva.

Redde politikere

I 2023 signerte hundrevis av AI-eksperter en uttalelse om at å redusere risikoen for utryddelse fra AI - bør være en global prioritet, sammen med andre samfunnsmessige risikoer som pandemier og atomkrig. Tekno-gjengen klarte å skremme Storbritannias statsminister Rishi Sunak og FNs generalsekretær António Guterres, som lovet et økt fokus på global AI-regulering.

Skeptisk franskmann

Mange forskere tror at en superintelligent maskin vil motstå forsøk fra mennesker på å deaktivere den, akkurat som i filmene om Terminator. Skeptikere derimot, som Yann LeCun mener at superintelligente maskiner ikke har noe ønske om selvoppholdelse, og derfor heller ikke vil ha noe sterkt ønske om å utrydde verken mennesker eller dyr, eller seg selv for den saks skyld. Yann André LeCun er heller ingen hvem som helst. Franskmannen arbeider med maskinlæring, robotikk og nevrovitenskap, og er professor ved Courant Insitute of Mathematical Sciences på New York University. Han er også visepresident og sjefsforsker på AI hos Facebook.

Ingen eksplosjon

Franskmannen tror heller ikke på alt snakket om en mulig "intelligenseksplosjon" gjennom AGI. Det vil si at datamaskinene plutselig klarer å bli eksponentielt smartere, og forbedrer seg så raskt at samfunnet ikke klarer å henge med. Han forteller at det ikke er noen vitenskapelig sammenheng mellom eksponentiell vekst i prosessorkraft, og utvikling og forbedring av de største teknologiske problemene mennesker står ovenfor. Akkurat dette er selvsagt relevant dersom Microsoft skal frigi egenutviklet teknologi, som mennesker som Musk da fritt kan benytte til egne aplikasjoner

Dobbelt betydning

Jules Vernes sa en gang at "alt et menneske kan tenke seg er mulig". Lenge fascinerte setningen mennesker, fordi de fleste så på utsagnet som noe utrolig framtidsrettet, moderne og positivt. Dersom et menneske kunne tenke seg fly og undervannsbåter, - ja så kom mennesker til å klare å lage det. Og det gjorde de også! Men Jules Vernes kan også ha ment noe annet - nemlig at dette gir begrensninger. For konsekvensene av setningen har også en kraftig nedside. "Alt et menneske ikke kan tenke seg" - vil derfor heller ikke skje".

Overdrevet

Mennesker som franskmannen Yann André LeCun ser ikke for seg at AGI-maskiner vil evolvere seg rett ut av det periodiske system, vårt univers og eventuelle multivers. Tvert imot. Det er ikke vitenskapelig bevist at superdatamaskiner eller kunstig intelligens har løst de viktigste vitenskapelige problemene, dette til tross for at akselerasjon og maskinevare har utviklet seg eksponentielt, fra gamle trege computere til dagens super-computere. Fortsatt har mennesker som Albert Einstein monopol på å løse slike problemer,

Besudlet av mennesker

Maskinene, i likhet med menneskene, begrenses av et sett med kjente størrelser. Selv en AGI-maskin på stereoider, med lynnedslag i stikkontakten, og som muterer prosessorkraften sin, må nødvendigvis operere innenfor rammene av tilgjengelig informasjon. Selv om den lærer seg selv både raskere og smartere enn mennesker, vil AGI maskinene i hvert fall i de fleste menneskers levetid, slite med at alt den lærer fra, er besudlet av menneskehånd.

Knappenålshode

Man kunne for eksempel tenke seg at supercomputerne, og i hvert fall AI-teknologien, hadde bragt batteriteknologien et gigantisk skritt framover. Det har den ikke. Da ville batteriene i dagens Tesla-biler vært på størrelse med et knappenålshode. I virkeligheten er ikke batteriene stort bedre enn de var for femti år siden. Dagens litium-batterier er til tross for at all verdens supercomputere har hjulpet til, ikke mer enn en kraftig forbedring av batteriene man hadde i norske elbiler i 1903!

Sneglefart

Datateknologien har forbedret seg eksponentielt, og hvert tiende år tusendoblet prosessorytelser og minnekapasitet. Man har hatt en nærmest halleluja-opplevelse i databransjen. Stadig nye modeller av telefoner og datamaskiner leveres folk med sannferdige løfter om at de er raskere og bedre enn forgjengerne, men til tross for all verdens kunnskap, er altså en batteripakke i en Tesla bare noen få ganger så bra som den du fant i den den første batteribilen som kom til Norge i 1903.

Porsche

Norges første elektriske bil var bygget av Ferdinand Porsche, og ble brukt til reklamering og personkjørsel. Bilen står i dag på Norsk teknisk museum. Elbil AS i Førde, laget mellom 1968-72 batterielektriske kassevogner til Postverket i Oslo. De slet som dagens Teslaer med kort rekkevidde i forhold til den store batteripakken. Hadde utviklingen av batterier stått i stil til utviklingen av datamaskiner kunne man hatt batteripakken i jakkelommen med trådløs overføring som ga bilen en million kilometers rekkevidde.

Lysets hastighet

Det samme er tilfelle med mer avansert teoretisk teknologi som lysets hastiget. Man forsøker med hjelp fra all verdens supercomputere å bryte den magiske grensen som lyset setter. For at mennesker skal kunne utforske andre solsystemer er man helt avhengig av å bryte denne grensen for å holde tritt med universets ekspansjon. Universet utvider seg! Det blir stadig lengre avstand mellom galakser med potensielt spennende råstoffer, og i beste fall liv. Universet vi lever i er i ferd med å slå av lyset, og vi henger ikke med i det hele tatt. Det er ikke mye som tyder på at vi kommer til å få særlig hjelp fra AGI-computere heller med det aller første, men denne typen datamaskiner er i hvert fall et skritt i riktig retning.

Dårlig progress

At MIcrosoft kanskje blir først ute med en AGI-teknologi trenger ikke en gang være en kjempefordel. Ofte er det de som er først som får alle barnesykdommene, og maskinene vil heller ikke føre til noe sensasjonelt paradigmeskifte for vitenskapen. Albert Einstein klarte på egenhånd helt uten computer, å skrive om disse størrelsene, og om alle begrensningene. All verdens smarte computere har ikke kommet en millimeter nærmere å løse disse fundamentale problemene for menneskelig eksistens og ekspansjon i galakse og univers.

Ikke grunnslag

Det er ikke vitenskapelig grunnlag for å frykte at AGI baserte computere vil bryte noen av disse grensene i uoverskuelig framtid. Det kan derimot hende at vi får enda flere nye elektriske filosofer og psykologer som skal hjelpe forvirrede mennesker i å realisere seg selv. Og paranoide teknologifolk med overdreven tro på seg selv og egne meninger.

Adoptert

Skal menneskene lykkes med et totalt paradigmeskifte må man ikke bare tillate utvikling av AGI-baserte datamaskiner, men man må satse alt på dem. De menneskene som er engstelige for at en terminator skal dukke opp ved sengekanten får bare krysse fingrene og håpe på det beste. Skulle det skje, er det sikkert en mening med det også. Mennesket som art er et overdrevent sentimentalt anlagt dyr med for stor fokus på eget DNA-basert avkom. Det er oppskrytt. AGI maskiner vil være en naturlig etterfølger og være en flott representant for hva menneskeheten har utrettet. Kanskje de til slutt til og med adopterer navnet vårt - HUMANS.

Vårt beste kort

Kanskje er AGI-maskiner akkurat den overgangen mennesket som art har ventet på? Slik vi gikk fra gående ape til menneske kan AGI maskinene bringe vår arv videre. Maskinene kan oppbevare minner om store vitenskapsmenn og filosofer i sine digitale hvelv. Kanskje er det denne arven fra mennesker som er den eneste muligheten til at minnet om mennesket kan overleve i møtet med annet intelligent liv i universet. Alternativet ville vært at menneskene ble utryddet av en art som kanskje ikke hadde de samme interesser av å bevare vår kultur digitalt.

Maktkamp

På kort sikt er mange mennesker på jorden engstelig for at AGI skal misbrukes av enkelte foretak som Microsoft og skape urettferdig konkurranse, og i verste fall skaffe enkelte grupper makt ut over det som sunt er for demokrati og rettferdig fordeling av ressursene. På lang sikt er folk redd for at AGI maskinene skal begynne å samarbeide og utrydde oss.

Gammeldags tyveri

Selv om et firma som Microsoft klarer å utvikle egen overlegen AGI teknologi før andre, er det heller ikke sannsynlig at dette blir en kilde til varig suksess. Noen kan stjele teknologien og selge den videre. Amerikanerne brukte tyskere for å lage atombomben, og russerne brukte amerikanerne. Dersom det i dag allerede finnes programvare og konkrete maskiner som er klassifisert som AGI kan du nesten ta det for gitt at disse planene allerede er stjålet, kopiert eller planlagt overført på en eller annen måte.

Maktkamp

Motparten har tidligere skrevet om spionen som stjal tegningene fra det fransk-britiske flyet Concorde. Historie-interesserte vil også huske at sjefen i det britiske etteretningsvesenet, Kim Philby, var russisk agent, og kom seg unna ustraffet. Det gjorde også Agent Ace som stjal Concorde tegningene. Bombene i Hiroshima og Nagasaki førte ikke til at USA alene ble sittende på et overlegent våpen. Det førte til at alle fikk det, - til og med Nord-Korea. Kanskje vet Elon Musk veldig godt at AGI teknologien ikke vil føre til banebrytende oppfinnelser innen noe fagfelt med det første, men at den derimot vil gi fryktelig god avkastnng.