”Nej, Max Tegmark, AI-vargen kommer inte äta upp oss”
På sjuttiotalet fick biologen Paul Ehrlich fel i allt när han spådde mänsklighetens snara hädanfärd. Vår tids motsvarighet är svensken Max Tegmark.
Bild: TT
Av Mathias Sundin, grundare och ordförande för Warp Institute Foundation, medlem av regeringens AI-kommission samt tidigare riksdagsledamot (L).
"Någon gång under de kommande 15 åren kommer slutet att komma”, sa den amerikanske biologiprofessorn Paul Ehrlich till CBS News 1970. Han var då ännu i början av banan som internationell fixstjärna och en av det sena 1900-talets mest inbitna pessimister med sitt budskap att mänskligheten snart skulle gå under av överbefolkning och massvält.
Detta är en argumenterande text. Alla åsikter är skribentens egna.
Här är en annan dystopi: “Det kommer inte att finnas några människor på planeten inom en inte alltför avlägsen framtid.” Men nu är det inte Paul Ehrlich som talar utan den svenske MIT-professorn Max Tegmark som sa så i ett samtal om AI i Lex Fridmans podcast i våras. Tegmark är idag, likt Ehrlich för ett halvt sekel sedan, på väg mot samma status som sin samtids störste pessimist.
Paul Ehrlich hade fört en undanskymd tillvaro som insektsforskare vid Stanford University, men fått sitt genombrott 1968 med boken The Population Bomb, en internationell bästsäljare med budskapet att vi är för många människor på jorden och att den snart inte skulle kunna föda oss längre. Ett kännetecknande för pessimister som blir världskändisar är att de är tvärsäkra på sin sak, och Ehrlich var verkligen inget undantag. Boken inleddes med följande stycke:
"Kampen att föda hela mänskligheten är över. På 1970-talet kommer hundratals miljoner människor att svälta ihjäl trots alla akutprogram som påbörjas nu. Vid denna sena tidpunkt kan ingenting förhindra en betydande ökning av dödstalet i världen..."
Ingen tvekan. Loppet var kört.
Den slagkraftige och underfundige Ehrlich gick igenom rutan och hans budskap fick genomslag inte bara i media, utan även hos makthavare. Flera internationella organisationer startades, och både FN och Världsbanken skapade program, alla med målet att begränsa antalet människor på jorden. Resultaten var förskräckliga, sade Betsy Hartmann senare i en intervju med Smithsonian Magazine. I boken Reproductive Rights and Wrongs visade hon bland annat hur miljontals människor tvångssteriliserades, som ett resultat av dessa kampanjer.
Hur gick det då med Ehrlichs förutsägelse? Inte så bra, tack och lov. Sjuttiotalet blev årtiondet då antalet människor som svalt ihjäl sjönk till rekordlåga nivåer, för att därefter fortsatta minska. Ehrlich har blivit symbolen för naiv pessimism. Men det var ju det här med självsäkerheten. När Ehrlich utvärderade sig själv och boken i sin självbiografi Life, så skriver han att den största missen var att han var “alldeles för optimistisk”...
Det finns flera likheter mellan Paul Ehrlich och Max Tegmark. Båda är professorer vid framstående amerikanska universitet, Stanford respektive MIT. Deras domedagsprofetior rör områden som de ursprungligen inte har forskat inom. Ehrlich är som sagt insektsforskare och Tegmark är fysiker. Båda har skrivit populära böcker och båda har fått stort genomslag i media.
Och om ni ursäktar en radioövergång så finns insekterna också med i Max Tegmarks värld. Han är rädd för att AI kommer bli så smart att robotarna ser på oss människor som vi ser på myror, och att de krossar mänskligheten under klacken. Det är han lika säker på som Ehrlich var på sin domedag. Under den första minuten av Tegmarks sommarprat i P1 levererade han dödsförklaringen: "Jag tror nämligen att den artificiella intelligens som vi försöker bygga, antagligen kommer utplåna hela mänskligheten ganska snart,” sa han och spelade sedan Highway to Hell.
Ingen tvekan. Loppet är kört.
Till följd av tvärsäkerheten kommer en oförmåga att erkänna när man har fel.
Max Tegmark ertappades under våren med att sprida fake news. I Time hävdade han att “hälften av AI-forskarna uppskattar risken för att AI orsakar mänsklighetens undergång till minst 10 procent.” Det gör dem till rena optimisterna jämfört med Tegmark, men det var inte hans poäng. Han ville visa att det var många som var oroade och att man därför skulle lyssna på honom. En som inte köpte det var Dagens Nyheters vetenskapsjournalist Maria Gunther. Hon visade att svarsfrekvensen i den undersökning Tegmark hänvisar till var ynka 4 procent, och att alla som svarade inte heller var AI-forskare.
“Om man använder sådana hitte-på-fakta för att argumentera för sin sak saboterar man inte bara hela diskussionen. Man undergräver också sin egen trovärdighet som forskare och debattör,” skrev Gunther.
Ett annat trick de begagnar sig av är att framställa sig som optimister. Paul Ehrlich kallar sig en “evig optimist” och Max Tegmark låtsas att han förut var jättepositiv till AI, men nu när han ser hur oansvariga alla är så har han förstått hur illa det kommer gå. “På senare tid har dock Tegmarks optimism övergått i oro,” skriver Wall Street Journal. "Jag hade verkligen hoppats att mänskligheten skulle vara mer upp till uppgiften att hantera detta," säger han. Men det är vi alltså tyvärr inte… om vi inte vänder oss mot Räddaren och följer i hans ledband.
Även Tegmark går igenom rutan. Han pratar fint och genuint om sina föräldrar som nyligen gick bort och han oroar sig för sin nyfödde son: “Vi har precis fått en liten bebis och jag frågar mig själv hela tiden, hur gammal kommer han ens att bli?” Slagkraftig är han också och jämför i Wall Street Journal AI med att ge handgranater till barn. AI är såklart inte ett vapen, men om tar hänsyn till sådana detaljer blir det inga bra rubriker.
Såväl Ehrlich som Tegmark tycks även se världen från vänster. För Tegmark i alla fall när det kommer till marknadsekonomi. En religion som nästan inte får ifrågasättas, menar han. Konkurrens är kärnan i hans argument varför mänskligheten hanterar AI så oansvarigt. Företag som är bäst på AI kommer konkurrera ut andra företag och makten koncentreras då hos vinnarna. Länder som är bäst på AI kommer konkurrera ut andra länder. Med denna makt kommer de att skapa jättefarlig AI, som av någon anledning dödar oss alla. Om Tegmark hade frågat en ekonom om det resonemanget hade han fått en åthutning.
Därmed har vi anlänt till den sista punkten som förenar Ehrlich och Tegmark. Deras domedagsprofetior saknar belägg. De har teorier om varför mänskligheten kommer att gå under, men inga fakta som belägger dem. Vi har idag ingen aning hur man bygger den supersmarta AI – smartare än hela mänskligheten – som Tegmark är så rädd för. Inte heller har vi en susning om hur steget innan skapas, Artificiell Generell Intelligens (AGI) där AI:n är lika smart som en människa. Tegmark säger att vi inte vet hur vi kontrollerar AGI, vilket ju är sant. Hur skulle vi kunna det, när vi inte ens kan gissa hur den ska byggas? Han kan inte föreställa sig att vi kommer lösa det. Precis som Ehrlich inte kunde föreställa sig att nya grödor kunde ge mat till hundratals miljoner människor.
Tack vare alla dessa egenskaper lyssnar världen nu på Max Tegmark, likt den en gång lyssnade på Paul Ehrlich. Vi behöver en AI-paus, stod det i hans stiftelse Future of Lifes öppna brev, som tusentals skrev på under våren. I november var Max Tegmark på plats när världsledare, däribland USA:s vicepresident, samlades i Bletchley Park för att diskutera AI-regleringar för att undvika domedagen. EU-kommissionens ordförande, Ursula von der Leyen, sa i sitt State of the Union, att existentiellt hot från AI ska hanteras på global nivå med samma allvar som kärnvapenkrig och pandemier. Tegmark jublade, såklart, för det är han mer än någon annan i världen som fick henne att säga de orden.
Max Tegmark är vår tids Paul Ehrlich.
Mathias Sundin är grundare och ordförande för Warp Institute, medlem av regeringens AI-kommission samt tidigare riksdagsledamot (L). Han är också aktuell med AI-boken Kentaurens fördel.
***
