Är vi i början av vår egen historia?

Tänk dig att vi befinner oss alldeles i början av historien. Att vi som lever på jorden nu representerar en arkaisk mänsklighet.

Om Homo sapiens överlever som art lika länge som ett typiskt däggdjur kommer vi att vara här i minst en miljon år. Och vi är knappast ett typiskt däggdjur. Vi har förmågan att optimera våra levnadsvillkor. Så vår framtid kan vara mycket, mycket lång.

Det förutsätter förstås att vi inte gör något alltför dumt. Att vi värnar våra framsteg och träder försiktigt.

Detta är det hisnande perspektivet i stjärnfilosofen William MacAskills bok Vad framtiden förtjänar. 

MacAskill beskriver dagens mänsklighet som en tonåring som har det mesta av sitt liv framför sig men ändå tror sig förstå det mesta och tänker kortsiktigt.

– De senaste 200 åren har vi upplevt en enorm teknisk och samhällelig utveckling, och vi håller fortfarande på och försöker hantera det. Vår visdom har inte hunnit ikapp vår tekniska förmåga, säger han i ett samtal med Fokus.

– Precis som tonåringar har vi fortfarande det mesta av livet framför oss, och precis som tonåringar tar vi inte hänsyn. Vi äventyrar vår framtid genom att ta kortsiktiga risker. Politiker tycker de är långsiktiga när de planerar för nästa mandatperiod.

I William MacAskills värld betyder långsiktighet tusentals år eller mer. Bokens undertitel lyder Att planera för en miljon år. Det vore onekligen intressant att följa en valkampanj byggd på den premissen.

Trots att boken fokuserar på att beskriva hot och risker är den i grunden hoppfull. Att förstå att mänskligheten sannolikt har en framtid som är många, många gånger längre än den tid Homo sapiens funnits på jorden är i sig ett uttryck för optimism.

– Jag är optimist i två avseenden: dels tycker jag att världen på många sätt har blivit bättre, och det skulle kunna fortsätta, dels har vi stora möjligheter att påverka utvecklingen till det bättre, säger William MacAskill.

– Det finns fortfarande djupa orättvisor, mycket lidande och många risker, men med stor eftertanke, beslutsamhet och ödmjukhet kan vi se till att vi styr civilisationen i en bättre riktning.

MacAskill delar in de stora hoten mot vår civilisation i tre huvudkategorier: utplåning, kollaps och stagnation. Termerna är tämligen självförklarande.

Den som väcker mest intresse, fascinerade som vi är av att känna apokalypsens doft, är utplåning. Hur ser mänsklighetens lieman ut i dag?

Liksom andra som grubblat över existentiella risker drar MacAskill slutsatsen att nya risker är större än gamla. Det behöver inte betyda att de är större rent sakligt, men problemet är att vi inte förstår dem och inte har beredskap.

Dit hör människoskapade smittämnen. Mycket talar nu för att sars-cov-2 läckte ut från ett labb och kanske kan vi skatta oss lyckliga över att pandemin inte var värre.

– Vi har förmågan att skapa virus som är betydligt farligare än de som uppstår i naturen.

Ett omfattande kärnvapenkrig leder sannolikt till kollaps, från vilken civilisationen får svårt att återhämta sig, men inte till utplåning.

Detsamma skulle kunna bli resultatet av extrema klimatförändringar. Men generellt betonar inte MacAskill klimathotet särskilt starkt, och han har ändå räknat på temperaturökningar som FN:s klimatpanel inte längre håller för sannolika.

Däremot betonar han det potentiella hotet från artificiell intelligens, just av skälet att det är okänd mark.

Det pågår som bekant en intensiv debatt om riskerna och möjligheterna med AI. MacAskill är tydlig med att han ser båda sidorna. Kraftfulla AI-system skulle kunna ge mänskligheten en enorm skjuts in i en bättre värld. De skulle kunna accelerera livsbejakande forskning och eliminera själsdödande, monotona arbeten och ge oss mer tid för vänner, familj och skapande.

– Det är bara vår fantasi som sätter gränser för hur stora fördelarna kan bli.

Men, menar han, vi måste vara noggranna och eftertänksamma när vi utvecklar systemen.

I slutet av maj publicerades ett kort öppet brev med uppmaningen att prioritera kontrollen över AI-system lika högt som kontrollen över kärnvapen och pandemier. Oxforddocenten William MacAskill hör till de hundratals undertecknarna, bland vilka intressant nog även cheferna för världens ledande företag för AI-utveckling finns.

– Samtidigt  … om man bara fokuserar på det existentiella hotet missar man den bredare bilden. Övergången till ett samhälle där maskiner är smartare och kraftfullare än människor är en brytpunkt. Den kan påverka oss under en mycket lång tid oavsett om vi dör ut eller inte.

MacAskill ser tre möjliga AI-scenarier:

1. AI-systemen är felriktade. De har sina egna mål och de är likgiltiga inför hur det går för mänskligheten. Det kan leda till vår undergång eller till en värld där vi lever parallellt men är maktlösa i förhållande till AI-systemen.

2. AI-systemen existerar endast för mänsklighetens fromma och är inriktade därefter.

3. AI-systemen blir mer avancerade än vi och har sina egna mål, men de är etiskt motiverade och bryr sig om mänskligheten. De vill inte utrota oss.

– Jag är inte säker på vilket som är mest sannolikt.

Man kan tycka det är självklart att maskiner inte kan vara medvetna, medan det centrala i en människas existens är just medvetandet. Men William MacAskill menar att det kan bli ett ofattbart svårt problem att veta säkert om AI-system är medvetna eller inte.

– Det kommer ju inte att räcka med att fråga maskinen om den är medveten, för den kan ha instruerats att svara så.

Vad kan då du och jag göra för att trygga mänsklighetens fortlevnad? För att undvika kollaps, utplåning eller stagnation är det viktigaste att så många som möjligt av oss är medvetna om riskerna och förstår vad som står på spel. För att kunna visualisera vår bästa tänkbara framtid behöver vi kunskap.

MacAskill lanserar egentligen inga nya, handfasta tillvägagångssätt, men han fortsätter att rekommendera dem som är kärnan i den rörelse för effektiv altruism han själv initierade för drygt tio år sedan:

1) Donera tio procent av din inkomst till organisationer som bevisligen gör mest nytta för mänskligheten. Du kan exempelvis stödja innovationsarbete inom ren teknik, biosäkerhet, effektiv matproduktion och trygg AI-utveckling.

2) Välj en karriär som är möjlig för dig och som kan ge dig resurser att förbättra världen. Att bli aktiemäklare kan enligt effektiv altruism-tänkandet vara bättre än att bli exempelvis läkare, åtminstone i den rika världen. En framgångsrik aktiemäklare gör ingen direkt nytta men kan generera mycket stora summor pengar att investera i goda projekt. En läkare gör nytta, men eftersom det redan finns så många blir marginalnyttan liten.

MacAskills senaste bok har ambitionen att få oss att tänka miljontals år in i framtiden. Därför känns det lite närsynt att den kretsar mycket kring företeelser vi lever med i dag, som fossila bränslen, global uppvärmning, kärnvapen, nationer och penningsystem.

Vad vet vi – om en halv miljon år kanske vi har ändrat form och metabolism. Vi kanske inte ens behöver mat, vi kanske har lärt oss att direkt härbärgera den allestädes närvarande energin. Vi kanske har utvecklat ofattbara mentala förmågor. Allt är ju möjligt.

Det hade varit spännande med en sådan fantasifull exposé. Så radikalt spekulerar dock inte MacAskill, och det var kanske inte heller hans ambition.

Han talar förvisso om en avlägsen tid då vi, om vi skött våra kort väl, kan börja expandera vår civilisation ut i galaxen.

Men resonemanget kan bli lite tekniskt och svalt. Utgångspunkten är i princip att människor är biologiska maskiner och att evolutionen är mekanisk. Alla ser inte livet och mänsklig utveckling på det sättet.

Det förtar inte den beundransvärda ambitionen att verkligen djupgranska mänsklighetens problem, se extremt långt och konstruktivt finna lösningar på den outsinliga mängden utmaningar.

Och den öppne och sympatiske William MacAskill avfärdar inte min sista fråga till honom, som tassar in på esoterisk mark:

Skulle mänsklighetens nästa stora kliv kunna bli ett kliv inåt?

– Det är en möjlighet. Kanske är det bästa inte att fortsätta expandera och bli större utan i stället gå inåt och leva ett mer andligt liv. Men då måste alla gå den vägen.

***

Läs även: Lever vi i en postapokalyptisk värld?

Läs även: Covidpolitiken – censur som aldrig fick ifrågasättas