Kommentar: Hvilken kunstig intelligens skal vi egentlig bygge?

Vi står midt i et gigantisk globalt gamble om vores fælles fremtid. Et gamble, der i høj grad beror på intelligens, et ord vi bruger konstant, men som vi egentlig ikke er enige om, hvad betyder.

Det er ingen hemmelighed, at vi for øjeblikket bruger ekstremt mange ressourcer på kunstig intelligens. De største virksomheder kaster enorme summer penge efter deres AI-afdelinger. De store geopolitiske magter kæmper om at være forrest i feltet. Og bag pengene ligger der naturressourcer, menneskelig arbejdskraft og en utrolig masse energi. 

Alt sammen er det med et erklæret og primært mål om at være de første til at bygge en AGI, en artificial general intelligence – en ultimativ intelligens, der overgår mennesket på alle parametre. 

Det er penge, arbejdskraft og ressourcer der kunne have gået til grøn omstilling, skoler, uddannelser, hospitaler og andre former for kunstig intelligens.

Det er at gå all in med kapitalismens ressourcer. 

Man kan næsten ugentligt høre forskellige CEO’s fra tech-verdenen tale om hvornår vi vil opnå denne gudelignende intelligens. Typisk strækker forudsigelserne sig fra omkring 2 til 5 år. Men i Silicon Valley er der ingen tvivl; den kommer. 

De største AI-virksomheder fra OpenAI til Google Deepmind til Anthropic er alle oprindeligt bygget på baggrund af ideen om AGI, og følger stort set samme raison d’etre: at lave en AGI der vil handle i menneskets interesse før en anden mere ondsindet aktør, laver den. De er så bare internt uenige om hvem der er de gode og mindre gode aktører.

Men om man overhovedet kan bygge en AGI – ja om man overhovedet kan tale meningsfuldt om en sådan – er langt fra en ukontroversiel idé. For hvis det overhovedet skal være muligt, kræver det at en vigtig præmis om, hvad intelligens overhovedet er, skal være rigtig. 

For at forklare den, kan man kigge på de to overordnede og modstridende fortællinger om, hvad intelligens er. Den første kan forklares ved en historie, der starter den 11. maj 1997, da verdens bedste skakspiller, Garry Kasparov, blev slået af en kunstig intelligens.

A new intelligens

Kasparov havde ellers vundet de samlede kampe mod skakspillende maskiner i både 1989 og 1996, og var op til kampen skråsikker på sin egen sejr. 

Men den her gang var noget ændret. Som Kasparov selv har udtalt efter kampen: ”I could feel–I could smell–a new kind of intelligence across the table.”

Sejren skabte en blanding af beundring og bekymring. Videnskaben og teknologien havde taget et stort skridt frem, men havde også udfordret menneskets selvforståelse. Var vi stadig de eneste fornuftsvæsener på kloden? 

Det var dog ikke alle, der var lige så imponerede. Da Demmis Hassabis – som den dag i dag er direktør for en af verdens førende AI virksomheder, Google DeepMind – så kampen, vidste han godt, at det var et stort fremskridt for kunstig intelligens. Men den maskine, der havde vundet over Kasparov, kunne kun en ting: spille skak.

Hassabis ville skabe en maskine, der kunne slå mennesket i alt. 

Det Hassabis ville bygge var en AGI og kan som sagt betragtes som AI-industriens hellige gral. Ideen er, at man kan skabe en AI der har en højere overordnet (general) intelligens end mennesket. En intelligens, der ikke kun skal være god til skak, skrive danskopgaver eller lave software, men også alt andet. 

Store videnskabsmænd og matematikere som den amerikansk-ungarske Johny von Neuman og faderen af den moderne computer, Alan Turing, havde ideer tidligere i det 20. århundrede ideer om en sådan maskine, men selve begrebet begyndte for alvor at tage fart i 90’ernes techmiljøer. 

Den grundlæggende idé bygger på iforestilling om at intelligens er en egenskab maskiner og mennesker har – i større eller mindre grad – og hvis en maskine får en høj nok intelligens, vil den kunne overgå mennesket på alle parametre. Altså at intelligens i sidste ende kan koges ned til et enkelt tal – en slags IQ.

Den idé har forestillingen om én samlet gudelignende intelligens i centrum, og altså også en hel del penge bag sig. 

Det akavede mødes kraft

Den anden fortælling om intelligens er mindre simpel og kan forklares ved at starte i et konferencecenter i København hvor Artbeat-konferencen for nylig blev afholdt. Det er en konference for det danske kulturliv, hvor jeg for en uges tid siden lettere malplaceret var endt i sammenhæng med noget arbejde. 

Jeg stod noget ud i lokalet hvor det ellers var store dele af den danske kulturelite der var samlet, og et altoverskyggende emne for dagen var selvfølgelig AI. Det var som at sidde i et rum af truede dyr, der forsikrede hinanden om at krybskytten altså ikke er blevet så dygtig en skytte endnu. Den betryggende sætning: ”det kan AI trods alt ikke endnu”, bevægede sig som et ekko gennem salen. 

Så trådte Anders Søgaard op på scenen til konferencen. Søgaard er professor i filosofi og kunstig intelligens på KU, og har brugt store dele af sit liv på at lave AI’s. Derudover har han udgivet en række digtsamlinger og gået på forfatterskolen.

For Søgaard er der ingen tvivl om, hvor kraftfuldt kunstig intelligens er. Men han lægger alligevel ofte vægt på en ting, kunstig intelligens ikke kan producere: det akavede møde. Den kan ikke blive mødt af det akavede øjeblik, hvor der bliver stille mellem to tænkende væsener, og man må gå en ny retning. Som Søgaard har skrevet i Information er det, i det akavede møde, man træner “opmærksomhed, mindfulness og kreativitet”.

Det var som en trøst til det truede rum. Men Søgaards pointe afslører også en dybere konflikt inden for AI-verdenen. For der er en central modsætning mellem Søgaards forståelse af intelligens og den måde som dem, der tror på AGI, forstår intelligens. 

Søgaard mener ikke at intelligens kan forstås som en kvalitet man kan måle på det vi producerer alene, eller en enkelt egenskab vi kan opjustere i det uendelige. Derfor er han også kritisk overfor idéen om en AGI.

”Intelligens i biologiske systemer er jo ikke en ting vi har fuldstændig konsensus om hvordan vi måler ligesom vi har konsensus om hvordan vi måler”, siger Søgaard da jeg ringer til ham.

”Der er to historier om intelligens. Den ene er at det refererer til en egenskab i biologiske systemer som man kan måles og vejes ligesom højde og massefylde. Den anden er, at intelligens i virkeligheden bare er en samlet betegnelse for en masse forskellige egenskaber som har haft en værdi på et eller andet tidspunkt i historien” siger Søgaard til SEIN. 

Det er en ret vigtig distinktion når vi snakker om AGI. Helt centralt for ideen om AGI, står forestillingen om, at der findes en evne i kunstige og biologiske systemer, der kan måles. Det er den samme idé, der ligger bag en IQ test. Altså at mennesker og maskiner har en IQ der definerer hvor kloge de er, hvad de kan og ikke kan. Rationalet bag AGI’s lyder, at hvis man kan gøre det tal højt nok, vil maskinen også blive generelt klogere end mennesket. 

Det svarer til at mene at et menneske med en utroligt høj IQ også vil være generelt klogere end alle andre. Men hvis intelligens derimod er en samling af forskellige egenskaber, sociale som logiske, som hele tiden kan ændre sig, er det måske ikke helt rigtigt. Måske vil den person stadig mangle en del færdigheder som også er intelligente. 

Menneskelige relationer og intelligens består af utallige møder. Vi skal kunne være glade, sørgelige, præcise, rationelle og akavede for at fungere i menneskelige relationer som intelligente væsener. Alle sammen evner som man ikke nødvendigvis kan måle på et IQ lignende parameter for intelligens. Ud fra den forståelse af intelligens bliver det en langt sværere opgave at bygge en AGI. 

For som det ændrer sig hvad der kræves af mennesker, ændrer det sig også hvad vi ser som intelligent. 

Med andre ord jagter vi en teknologisk gud som måske ikke findes. Og viser guden sig ikke at findes, risikerer vi at have ofret en hel del på alteret for den.

Tekst: Nicolai la cour 

Redaktør: Megan Owen