AI-expert: ”Vi kan bli utrotade”

– Om du inte är oroad för AI kan det bero på att du gör misstaget att föreställa dig AI som en riktigt smart människa, säger Jaan Tallinn när jag ringer upp honom. Vi pratar givetvis via Skype.  

Jaan Tallinn är programmeraren som alltid har gått sin egen väg. Efter att ha blivit rik på försäljningen av Skype har han investerat över 100 miljoner euro i nya företag vid IT-branschens frontlinje. Samtidigt varnar han för farorna med artificiell intelligens (AI), och har sagt att han inte tvekar att använda sitt inflytande för att stoppa skadlig teknologi.

– En vän till mig, skribenten Tim Urban, brukar säga: Vad du i stället borde göra är att föreställa dig AI som en riktigt smart spindel. Det ger en mycket bättre bild av vad som skulle kunna gå fel – och då är spindlar och människor ändå kusiner jämfört med AI. Spindlar är beroende av samma slags miljö som människor, men problemet med AI är att de är fullständigt likgiltiga för biologiskt liv.

Artificiell intelligens är den enda stora utopi vi har kvar. När blev du kritisk till den? 

– Det var inget jag brukade tänka särskilt mycket på, men när jag avvecklade mitt engagemang i Skype började jag titta runt efter andra intressanta saker att göra, och då upptäckte jag forskaren Eliezer Yudkowskys artiklar. Han började slå larm om AI redan i början av 2000-talet. Jag träffade honom i Kalifornien, och efter det var jag övertygad om att det här är det allvarligaste teknologiska problem som mänskligheten står inför.

Vilka är riskerna med AI enligt dig?

– Ett sätt att beskriva det är att AI är en teknik för automatiserade beslut. Varje beslutsfattare vet att när du delegerar någonting förlorar du kontrollen. Om vi rusar iväg och överlämnar alla beslut till AI kommer vi att förlora kontrollen på ett sätt som går bortom allt vi hade kunnat föreställa oss, också kontrollen över klimatet.

Myten om AI går ut på att tekniken är oundviklig och snart är här, vare sig vi gillar den eller inte. Det enda vi förväntas göra är att vara lydiga små konsumenter och anpassa oss i förväg. Jag frågar Jaan Tallinn om vi håller på att anpassa oss till en teknologi som kanske aldrig blir verklig, en teknologi som bara existerar som hjärnspöke.

– Här behöver man skilja på två saker: medvetande och förmåga. Det finns inga belägg för att det ena är en förutsättning för det andra. Jag håller absolut med om att vi inte borde utveckla medvetna maskiner, men det är onödigt att hänga upp sig på frågan om medvetande. De stora problemen med AI har att göra med maskinernas förmåga, inte med deras eventuella medvetande.

– Även om vi antar att vi aldrig kommer att skapa medvetna maskiner skulle vi fortfarande kunna få överlägset kompetenta maskiner, som blir mycket svåra att kontrollera. Att försöka stänga ner ett överlägset system när det gör något vi inte vill, kommer att vara lika svårt som att försöka besegra dataprogrammet AlphaZero i schack. I det läget är det kört.

Jaan Tallinn säger att det stör honom när folk påstår att AI bara är ännu ett verktyg, eftersom det är en metateknologi, det vill säga en teknologi som kan skapa teknologi.

– När vi delegerar viktiga beslut till AI kommer det inte längre att vara människor som utvecklar verktyg och löser problem. Det är naivt att tro att vi skulle kunna begränsa AI till att bara vara ett redskap som vi kan använda för att utvidga vår egen kapacitet. Det vore utmärkt om vi kunde göra det, men jag kan inte se hur det skulle gå till.

AI är IT-branschens nya älskling. Företag och investerare hoppas kunna tjäna enorma pengar på den tekniska utvecklingen, men Jaan Tallinn är inte rädd för att förstöra festen. Folk i affärsvärlden förstod först inte alls vad han pratade om, berättar han. I dag är det ingen som ifrågasätter riskerna med AI, men det betyder inte att något har förändrats i praktiken.

– Folk lyssnar och nickar, sedan fortsätter de som förut. Jag brukade skämta och säga att riskkapitalist är ett väldigt spännande jobb, för man får vara med och se framtiden utvecklas, men man kan inte göra någonting för att påverka den, eftersom man måste maximera sina vinster. Jag är inte riskkapitalist, så jag har fördelen att jag kan avstå från vinst om jag har lust. 

Han säger att han till och med har använt detta faktum som pitch när han träffat nya företagare: 

– Upptäcker vi någonting som är potentiellt farligt kommer jag inte att ha något emot att ta en förlust och stänga butiken, något som vanliga investerare inte är villiga att göra.

En av de dummaste saker människan gjorde under 1900-talet var att tillsätta bly i bensinen. På 1920-talet framstod det som en praktisk lösning på ett tekniskt problem – knackning i bilmotorer. Hälsoriskerna blev uppenbara långt senare. Jag nämner det som ett exempel på hur svårt det är att i förväg veta vilken teknik som kommer att visa sig farlig på lång sikt. Jaan Tallinn instämmer:

– Absolut säker kan man aldrig vara. Beslutsfattande handlar alltid om sannolikheter. Folk som påstår att AI kommer att bli verklighet nästa år, eller att det inte kommer att hända de närmaste 300 åren, är alldeles för tvärsäkra. Att de inte kan veta det betyder inte att det inte finns några risker. Vet du inte om ditt hus kommer att brinna upp har du redan förstått att det är rationellt att teckna en försäkring.

Om den här teknologin är så riskfylld och oförutsägbar, varför är somliga människor besatta av att förverkliga den? 

– Ur ett ingenjörsmässigt och intellektuellt perspektiv är det en otroligt fascinerande teknologi. Människor är inte särskilt bra beslutsfattare, så om man vill ha bättre beslut är en lösning att utveckla teknologi som hjälper oss att fatta goda beslut. DeepMind, ett AI-företag där jag satt i styrelsen, brukade ha som slogan ”Solve intelligence, and then use that to solve everything else”.

Bill Gates, den svenske teknikfilosofen Nick Bostrom och många fler har varnat för att vi inte kommer att kunna kontrollera överlägset intelligenta maskiner. Jag säger till Tallinn att jag misstänker att deras varningar är förfelade, eftersom det som driver hela AI-utvecklingen är att vi vill förlora kontrollen. Mänskligheten vill helst av allt vara barnen i baksätet, som litar på att pappa kör bilen. Barnen kan leka, bråka med varandra, till och med klaga på vart de är på väg, men de behöver aldrig ta ansvar för situationen som helhet. Skulle det inte vara bekvämt att överlåta alla viktiga beslut till AI, frågar jag.

– Det där är en intressant och viktig diskussion, som vi kan ägna oss åt när vi har klarat av elefanten i rummet – att vi kan bli utrotade om vi inte gör någonting. Om vi klarar oss från det, då har vi redan vunnit. Sedan kan vi ägna oss åt lyxen att diskutera exakt hur vår samexistens med AI borde se ut.

Finns det någon teknik som du har försökt stoppa? 

– Ja, det finns en teknologisk sektor som jag inte tror är bra, och som det investeras en hel del i. De nuvarande kiselbaserade chippen håller på att nå sitt kapacitetstak, och det finns olika förslag på hur man ska komma förbi begränsningarna. Jag tror att de största tekniska riskerna har att göra med hur mycket datakraft vi försöker utveckla, och har flera diskussioner på gång med startups och analytiker om det. I ett visst företag har jag övertalat grundarna och övriga investerare att följa en mer ansvarsfull linje.

Trots alla faror finns det minst en teknisk utveckling som Jaan Tallinn ser positivt på.

– Jag har länge varit entusiastisk när det gäller blockchains. Några av mina kollegor undersöker gränsområdet mellan AI och blockchains. Kanske kan man använda blockchains för att tämja AI, kanske kan vi använda blockchains för att utforma en bättre demokrati, med transparenta institutioner som är svåra att korrumpera. Bakom all hype och spekulation håller en spännande teknik på att utvecklas, och när den tar fart kommer antalet användningsområden att explodera.

***

Läs mer: Jon Åsberg: För tidigt att låta AI sköta demokratin

Läs mer: Du sköna nya värld?

Läs mer: Striden om framtidens jobb: Evig ledighet eller massarbetslöshet?