Katastroffilosof

När chattprogrammet »Eugene Goostman« i juni lyckades övertyga delar av en mänsklig testpanel om att det var en 13-årig ukrainsk pojke, hävdade många att det var första gången någonsin som en dator klarat det så kallade Turingtestet. Testet, skapat av den legendariske brittiske matematikern och filosofen Alan Turing redan år 1950, mäter ett dataprograms förmåga att uppvisa ett beteende som inte kan särskiljas från en människas.

Men att ett program kan efterlikna ett mänskligt beteende gör det inte per automatik intelligent. Artificiell intelligens, AI, behöver inte ha en personlighet och något som kan uppfattas som ett väsen. Nyheten om Eugene Goostman var mest ett pr-jippo, men en viktig påminnelse om det växande fältet AI, robotar och automatisering, och hur dessa kan påverka vår framtid.

En av de mer betydelsefulla tänkarna kring den roll AI kan spela är svenske Nick Boström vid Oxfords universitets Future of Humanity Institute. Relativt okänd för en svensk publik har den  Helsingborgfödde professorn satt avtryck i samtiden. När den prestigefyllda amerikanska tidskriften Foreign Policy år 2009 listade de hundra viktigaste tänkarna, uppmärksammade svenska medier att Hans Rosling, professor i internationell hälsa vid Karolinska institutet i Solna, kommit på en nittiosjätte plats. Nick Boström kom på sjuttiotredje plats på samma lista.

Boströms forskning handlar om svårfångade dilemman. Kommer mänskligheten att överleva på sikt? Lever vi egentligen i en datorsimulering? Om det finns liv i rymden, varför har vi ingen kontakt med det? Hur kommer ny teknik att förändra mänsklighetens levnadssätt?

Det är abstrakta frågor, närmast spekulativa för allmänheten. Boströms institut är nästan ensamt i världen om den sortens forskning. Hans Rosling brukar lista fyra stora världsproblem: den extrema fattigdomen, hotet mot resurserna och miljön, risken för krig och finansiell kollaps. De problemen kan gå att åtgärda om fakta är kända. En femte risk är »de svarta svanarna«, de oväntade händelser eller utvecklingar som kan ändra på alla förutsättningar även om vi inte kunnat känna till dem på förhand. Det är dessa existentiella risker som intresserar Boström. Ett kärnvapenkrig eller global pandemi är förstås något fruktansvärt, men det är osannolikt att de skulle kunna utplåna hela mänskligheten. Det måste till större faror än så.

Intresset för den sortens utmaningar började med en omskakande livshändelse på Helsingborgs stadsbibliotek.

– Jag hatade skolan som femtonåring, tills att jag en dag gick till biblioteket och började läsa en antologi om tyska 1800-talsfilosofer. Jag kände att jag hade slösat bort femton år av mitt liv och ville ta igen dem, berättar Nick Boström.

Han tenterade sig in på universitetet som sjuttonåring, men även där var det svårt att tillfredsställa den nyfunna hungern efter kunskap och utmaningar. Han flyttade från Sverige till London School of Economics och en doktorsexamen i vetenskapsfilosofi. När Oxfords universitet 2005 fick sin största donation någonsin, var det för att finansiera forskning om 2000-talets globala frågor. Den då 32-årige Boström fick en professorstitel och ett eget forskningsinstitut.

Nick Boström använder ofta fabler för att förklara filosofiska frågor. »The Fable of the Dragon-Tyrant« handlar om att människor ofta tänker att det är bättre att ha en fågel i handen än tio i skogen, även om vi inte vet, eller förstår, vad det är vi går miste om. Boströms »Letter from Utopia« berättar om en tänkt framtid av friskt evigt liv, utökad fattningsförmåga och känslomässigt välmående och hur skilt det skulle vara från allt vi känner till i dag. Det inte omöjligt enligt naturlagarna, frågan är under vilka förutsättningar mänskligheten skulle välja en sådan tillvaro. Det gäller att se upp med vad man önskar, för det kan gå i uppfyllelse, precis som för sagans kung Midas som önskade att allt han tog vid förvandlades till guld. Även Nick Boströms nya bok »Superintelligence« börjar med en fabel om några sparvar som vill hitta en uggleunge att uppfostra till sin tjänare.

– Jag definierar superintelligens som ett dataprogram som överskrider det mänskliga intellektet i alla fält. Precis som för sparvarna är det svårt för oss människor att riktigt veta vad vi ger oss in på när vi skapar och ska uppfostra något med så mycket större förmåga än oss själva.

AI-forskningen har pågått länge. Framgångarna gäller avgränsade uppgifter som Siris taligenkänning av Apple, IBM:s schackdator Deep Blue och det lärande datasystemet Watson. Boström menar att då vi vet att intelligens på mänsklig nivå har utvecklats genom det naturliga urvalet åtminstone en gång, då är det möjligt att det kan ske en gång till.

De oförutsedda konsekvenserna kan bli omvälvande. Om en superintelligens får den till synes harmlösa uppgiften att beräkna talet pi så långt som möjligt kan den vara så intelligent och hängiven att den kommer på ett sätt att omvandla hela jorden till beräkningskretsar för att räkna snabbare.

Vi bör tänka över i god tid hur vi ska kunna påverka en superintelligens, anser Boström. Det kan behövas spärrar på dess förmåga när den håller på att utvecklas, eller än bättre, att se över vilka värderingar som motiverar den och lägga in resursekonomiska drivkrafter för dess handlingar. Det kan vara svårt, då en sådan maskins tankebanor och värderingar kan vara allt annat än mänskliga.

– I bokens sista kapitel försöker jag att ge råd om policy. Det kan bli nödvändigt att mänskligheten måste sprida sig ut i rymden för att överleva eller att vi måste förbättra vår egen kognitiva förmåga för att kunna matcha och förstå superintelligenserna. Just nu är det för tidigt att agera, utan vi behöver mer kunskap och debatt.

Fakta | Vad är AI?

Artificiell Intelligens är en gren av datavetenskapen som undersöker hur tankeprocesser och beteenden kan skapas för att bygga intelligenta maskiner. De intelligenta maskinerna förnimmer omgivningen och kan påverka den för att uppnå ett mål.

Fakta | Varnar för robotar

Nick Bostrom (ursprungligen Niklas Boström) är 41 år och professor i praktisk etik. Hans tidigare verk har översatts till ett tjugotal språk och han är aktuell med den nya boken »Superintelligence: Paths, Dangers, Strategies«, som kom ut i början av september. Översatt till svenska kommer den ut i början av nästa år.