I moralens utmarker

Hösten 1995 befann sig David Kaczynski i ett moraliskt dilemma. Hans fru Linda presenterade en skrämmande hypotes: Var det möjligt att Davids bror, Ted Kaczynski, var den så kallade Unabombaren?

Unabombaren, från FBI:s interna förkortning University airline bomber, var känd från en vittnesskiss som en mustascherad man i huvtröja och pilotglasögon. En terrorist som riktade sitt hat mot den tekniska utveckling han ansåg hade förstört naturen och människans psyke. Under 17 år hade han ostört skickat brevbomber till slumpvist utvalda offer, mördat 3 människor och skadat drygt 20. Utredningen var den längsta och dyraste i FBI:s historia.

Den gäckande seriemördaren hade just genom utpressning fått sitt manifest publicerat i Washington Post. Linda tvingade sin man att jaga fatt på ett exemplar. David läste. Kunde inte utesluta att orden kom från hans psykiskt sjuka och högintelligenta bror. Men han kunde inte heller säga säkert att de gjorde det.

Att kontakta FBI och skicka en grupp frustrerade agenter till den paranoide Ted Kaczynski som levde isolerad i en stuga i Montana skulle lätt kunna sluta i katastrof, även om Ted var oskyldig. Och om skyldig? David skulle knappast lämna över sin bror till ett särskilt humant rättssystem. Den ökända Unabombaren löpte stor risk att straffas med döden, vilket skulle implicera David i sin brors död. Men att inte säga något, riskerade att ge honom andra människoliv på sitt samvete.

LÄS OCKSÅ: Krönika: Den 46-årige Bellman förpassades till föredetting

David och Lindas beslut att delge FBI sin misstanke stoppade en mördare, men förstörde nästan deras liv. Fallet var förstås mumma för medierna. Deras privatliv slogs sönder och David hängdes ut med två olika vinklar: Vilken typ av familj skapar en mördare som Unabombaren? Och vilken typ av människa anger sin bror?

Ett moraliskt dilemma handlar sällan om gott eller ont. Snarare kan det liknas vid ett vägskäl där samtliga vägar har en svåröverskådlig röra av oönskade konsekvenser. Vid korsningen står dessutom en massa konsekvensbefriade människor och skriker: »Måste få hjälp!« »Måste spärras in!« »Visa empati!« Att visa empati är inte det svåra. Det svåra är ofta att praktiskt hantera en extremt pressad situation, kanske under lång tid, utan att göra avkall på sina egna gränser.

Brittiske författaren Ian McEwan spinner ofta sina romaner kring moraliska dilemman. Hans roman »Försoning« behandlar de inre och yttre konsekvenserna av en lögn, både för dem som utsatts och den som ljög. »Domaren« problematiserar det faktum att samhället gärna vill avskärma unga människor från religiös och kulturell extremism, men sällan kan erbjuda någon alternativ gemenskap. I den senaste romanen, »Maskiner som jag«, ger han sig in i en litterär tradition som alltid rört sig kring en etikfråga. Berättelser om artificiella människor, från Frankenstein och framåt, tar upp problematiken om vilket ansvar vi människor har för det vi har byggt.

Ett obligatoriskt inslag i dessa berättelser är ett Turingtest. Matematikern Alan Turing har kallats den artificiella intelligensens fader och spelade en avgörande roll för de allierade under andra världskriget när han knäckte Nazitysklands Enigmakod. En maskin som lyckas dölja för en människa att den är en maskin har klarat det test som Alan Turing uppfann på 50-talet. McEwans version av hans test lär vara genrens roligaste. »Maskiner som jag« skildrar nämligen inte en spekulativ framtid utan ett alternativt förflutet. Platsen är England. Året är 1982. Turing blev i verkligheten »belönad« med kemisk kastrering för sin homosexualitet och dog 1954 av cyanidförgiftning, oklart om det var en olycka eller självmord. I Ian Mc­Ewans värld tog Turing ett kort fängelsestraff i stället för kastrering, använde tiden till kvantmekanik och löste den ekvation som möjliggjorde en människolik artificiell intelligens. De första konstgjorda människorna är en generation på 25 androider som döps till Adam eller Eva. Evorna tar slut först.

En Adam hamnar hos Charlie, en tekniknördig man i 30-årsåldern som famlar i tillvaron efter mening. Charlie har efter ett liv av mindre vinster och förluster hamnat på strax över noll. Han har inget jobb, ingen tjej. Bor i en etta med ruttna fönster. Hankar sig fram på aktiespekulation. Är god vän med Miranda, den tio år yngre studentskan i lägenheten ovanför, som han snart inser att han älskar. När han oväntat ärver pengar spenderar han dem på en Adam.

Adam är ett maskininlärningens under. Hans hud är människolik, andedräkten som baksidan på en varm tv. Han marknadsförs aldrig som en moralisk maskin, men är programmerad för att inte bli en science fiction-dystopi. Välvillig. Rationell. Anländer med mjukvara för en personlighet som kan ställas in, men detta är mest en illusion för att flytta ansvaret för maskinens manér från tillverkare till köpare. Adams personlighet formas av hans miljö.

Att äga Adam får Charlie att känna sig som en del av framtiden. Ändå ifrågasätter han sitt köp när Adam vaknar upp och häver ur sig kritik mot Miranda: Hon skulle kunna vara en lögnare som kan skada Charlie.

Adam lär sig dock kvickt att navigera bland människor. Maskinen är snart lika förälskad i Miranda som Charlie är, men håller sig i schack för att inte svika sin ägare. Miranda har dock en mörk händelse i sitt förflutna som hotar trions relativa harmoni: En man som hatar henne kommer snart att släppas ut ur fängelset.

LÄS OCKSÅ: Han blir ny Dramatenchef 

Ian McEwan orkestrerar en moralisk situation som är intressant även utan smarta maskiner, med frågor om hämnd och rättvisa, värdet av lögner och en våldtäktsmans verkliga motivation. Men maskinen möjliggör scener som annars skulle vara orealistiska (Adam har styrkan av fyra män) och tillför information (Adam kopplar upp sig mot nätet, som existerar anakronistiskt trots att det är 1980-tal, varje natt). Framför allt växer Adam genom romanen till ett moraliskt orakel. Någon som blixtsnabbt analyserar alla sidor och kommer fram till den rätta vägen utan att ge någon människa större vikt än någon annan. Det blir katastrof. Den som kommer i kläm är fyra år gammal och oskyldig.

»Fast sanningen är inte alltid det enda som betyder något«, säger Charlie varpå Adam svarar:

»Det är en märklig sak att säga. Naturligtvis betyder sanningen allt.«

Det som i slutänden skiljer team Charlie från den  snabblärde androiden är föga smickrande. Det har inget att göra med schackspel, kärlek eller konstnärssinne, utan med självmotsägelser, lögner och självbedrägeri. Maskinen saknar vår partiskhet för dem vi älskar och särskilt för våra barn. Den blir en ren ideolog och därmed ett hot mot vår överlevnad.

Det är omöjligt för en individ av vårt släkte att överleva, i alla fall emotionellt, utan uppförstorade omsorger från åtminstone en annan människa. Att fullt ut ge upp den »orättvisa« som ligger i att specifikt värna om ett litet antal personer är att ge upp det som flätar in oss i mänskligheten. Denna partiskhet är vad vi har.

Ted Kaczynskis öde är inte helt olikt Adams. Båda befinner sig i kanten för mänsklighetens gräns, avskurna från den romantiska kärleken, svikna av sin manliga bundsförvant, närda av enorma mängder fakta som analyserats av ett överlägset intellekt. Båda vantrivs i de vanliga människornas motsägelsefulla värld.

I drömmen om artificiell intelligens, liksom i drömmen om den extrema miljörörelse Ted Kaczynski sa sig företräda, ingår idén om en kraft överlägsen vår egen. Någon som kan ställa sig över våra självdestruktiva tillkortakommanden och fixa röran vi ställt till med. Skulle en sådan intelligens ens vilja ha kvar oss? Tankeexperimentet får lätt drag av ädel självuppoffring: Naturen mår bättre utan oss. I Amazons kommentarsfält på Unabombarens manifest finns mer beundran än harm.

Argumentet som till slut fick David Kaczynski att  ange sin bror handlade om karma. Idén om att onda handlingar inte bara skadar offren utan även förövaren, som får fortsätta sin spiral av social, känslomässig och spirituell korruption. Den vanliga människans moraliska kapacitet må vara ofullkomlig. Vi gör ändå bäst i att heja på team Charlie. Han är inte så hopplös som han ser ut.

***

Böcker om moral

Ian McEwan:

»Maskiner som jag« (Brombergs, 2019)

»Domaren« (Brombergs, 2014)

David Kascynski:

»Every last tie: The story of the Unabomber and his family«  (Duke university press books, 2016)