Skräcken för de okända
Filmen »Terminator« gjorde ett outplånligt intryck när den hade premiär 1984. Men det var inte Arnold Schwartzeneggers insats som cyborgen T-800 som fick hockeyfrillan att resa sig utan Skynet; den militära AI-dator som utvecklade ett eget medvetande, tog över alla maskiner och började utrota mänskligheten.
Rädslan för ny teknik är dock inte direkt ny. I »Humanizations of the drones« skriver David Bergman, major och doktorand, om hur påve Urban II år 1097 försökte förbjuda användandet av armborst. Det nya vapnet ansågs så omoraliskt farligt att bara muslimer och ickekristna fick skjutas med det.
Fler misslyckade försök att hindra utvecklingen har gjorts sedan dess.
I dag talas det om förbud mot »mördardrönare«, som om vapnet hade en egen vilja trots att de liksom armborst har människor som väljer mål, trycker på avtryckaren, och därmed kan undvika att döda oskyldiga. Det mänskliga ansvaret är dock märkligt förbisett i diskussionen.
Likaså att det är mänskliga programmerare som sätter ramarna för vad AI eller autonoma vapensystem kan göra och inte. Det är människor som bygger datorer och robotar, går i krig, fraktar och ställer upp vapnen. Ändå skyller man på och fruktar tekniken, som om den inte vore vår egen skapelse.
Det är Karel Capeks fel.
När hans satir »RUR« (Rossums universella robotar) hade premiär på Prags nationalteater den 25 januari 1921 myntades ordet robotar. I pjäsen var de dock inte mekaniska utan gjorda av en mekanisk smet men liknade människor.
Deras enda syfte var att arbeta så att folk kunde lägga sin tid på självförverkligande. Men när robotarna upptäckte att de var smartare och starkare än människorna så gick det som det brukade: De började utrota mänskligheten.
Sedan dess har SF-litteratur och filmer varit nedlusade med samma tema.
I dag har tekniken nästan kommit i kapp och storheter som Elon Musk, Stephen Hawkin och Nick Boström har varnat för konsekvenserna. AI kan vara mänsklighetens sista uppfinning eftersom den förr eller senare kommer att utveckla ett eget medvetande, så överlägset människans att vi kommer att framstå som myror i jämförelse.
Den som misslyckats med att få Siri att ge en korrekt vägbeskrivning på mobilen vet att det är en bit kvar till den dagen.
Det finns också något förmätet i att utgå från att mänskligheten – med sina krig, religiös fanatism, missbruk, mord, makthunger, förtryck och klimatförstöring – skulle vara skapelsens krona.
Varför skulle en Terminator vara mer omänsklig än en IS-terrorist som sparkar ihjäl en yazidisk tvååring? Var finns det mänskliga i att passivt se på när människor svälter ihjäl eller drunknar i Medelhavet?
En människa kan kanske ta in två, tre perspektiv på en gång men beslutsprocessen fördunklas av hat, personlig vinning, avund, lojaliteter och dylikt. En framtida AI kommer att kunna analysera tiotusentals perspektiv samtidigt och fatta helt objektiva beslut på en mikrosekund. Den blir inte utmattad, rasande eller hämndlysten. Den dras inte med i något politiskt eller religiöst vanvett som rättfärdigar folkmord, nedmejade demonstranter eller förföljelser av oliktänkande. Trots detta anser sig människan vara överlägsen, särskilt när det gäller etiska beslut. Det är lite märkligt.
Kanske handlar AI-rädslan helt enkelt egentligen om en instinktiv skräck för det okända, det omänskliga eller för att förlora makten.
Men det kan ju gå bra också. För i en tid där känslor och tyckande upphöjts till sanning kan mer objektiv intelligens aldrig vara fel. Oavsett om den är artificiell eller inte.
Terminator 6 »Dark Fate« – har premiär i november.
