Problemet är att AI-robotarna lyder lite för bra
Det stora hotet är inte att robotarna är på väg att ta kontrollen över oss utan snarare deras lyhördhet.
Toppbild: AP
Rädslan för att maskinerna ska ta över är lika gammal som maskinerna själva. Men det senaste året har den aktualiserats genom AI, en teknik vars makt till och med utvecklarna fruktar. Forskaren Max Tegmark ägnade sitt sommarprat åt att förklara varför den kan utplåna mänskligheten.
Själv är jag tillräckligt modernitetsskeptisk för att lystra till sådana varningsrop. Men jag tror inte att det stora hotet just nu är att robotarna är på väg att ta kontrollen över oss. Problemet är snarare det omvända: Att de lyder lite för bra.
Detta är en argumenterande text. Alla åsikter är skribentens egna.
För några år sedan började Amazon använda AI för att sortera sina jobbansökningar. De matade in de anställda ingenjörernas resuméer, och bad sedan AI:n ranka de ansökningar som kom in på en skala från 1 till 5. De CV:s som var mest lika dem som företaget hade anställt, skulle få fem stjärnor.
Men snart uppstod problem. Majoriteten av Amazons ingenjörer var män, och det snappade AI:n upp. Därför gav den högre poäng till manliga sökande, medan det gav minuspoäng att vara kvinna.
Problemet upptäcktes och man försökte korrigera programmet så att den sökandes kön inte skulle påverka. Men AI:n lät sig inte luras så lätt. Anställningsmönstret var ju tydligt, därför plockade den upp andra tecken som indikerade att den sökande var kvinna. Hade hon till exempel gått på ett college med enbart kvinnliga studenter gav det minuspoäng.
Liknande problem uppstod när amerikanska myndigheter använde AI för att bedöma återfallsrisk och tidig frigivning för fångar. Datorn noterade att svarta amerikaner historiskt hade bedömts hårdare, och upprepade denna riskbedömning.
Maskinerna snappar alltså upp mönster i mänskligt beteende – inklusive sådana som vi inte är stolta över – och upprepar dem. De blir som en skrattspegel som framhäver våra minst smickrande drag.
Även våra privata AI-tjänare, de smarta telefonerna, är fulla med appar designade för att lära känna oss och servera oss det vi vill ha. Ibland är det bekvämt, som när nätbokhandeln tipsar om böcker den tror vi kommer gilla. Ibland är det mer problematiskt.
I sin bok The Alignment Problem, en av de senaste årens bästa böcker om AI, berättar Brian Christian om en vän som hade problem med alkohol och försökte dra ner. Men algoritmerna hade snappat upp att han gillade öl, därför översköljdes han av läskande reklam så fort han öppnade telefonen. Det gjorde kampen mot missbruket många gånger svårare.
Det är alltså maskinernas lyhördhet som är problemet, inte att de kontrollerar oss. AI:n tar fasta på vilka vi är, inte dem vi vill vara. Detta går på tvärs med moralisk utveckling, som ju alltid bygger på strävan: Att vi riktar blicken mot en bättre version av oss själva och anstränger oss för att komma dit.
Kanske kan man programmera en AI så att den i stället tar hänsyn till vilka vi vill vara, men det intresserar inte företagen som designar dem. För det är lättare att fånga vår uppmärksamhet och sälja sina produkter till oss genom att identifiera våra svaga punkter och trycka på dem.
Följden är att den tekniska utvecklingen just nu hämmar den moraliska. Vi växer i kompetens, men inte i visdom. Fortsätter det så här slutar vi som barn, men utrustade med de mäktigaste maskiner världen skådat.
Dystopin för vår tid visade sig trots allt inte vara det kontrollsamhälle som George Orwell föreställde sig i ”1984”. Snarare liknar vår värld den Aldous Huxleys skildrar i ”Du sköna nya värld”. Undergången kommer via underhållning. Och ingen behöver tvinga oss, utan vi vandrar frivilligt in i fällan.
***
Läs även: Pojkar är mer än bara problem
