AI-robotarna har börjat skolan
En fredag lär sig Prometheus att läsa och skriva, och läser av bara farten igenom hela wikipedia och en miljon romaner. Under lördagen lägger den tusentals personår på att lösa programmeringsproblem, och framåt kvällen har den förbättrat sig själv så att den blivit ultraintelligent. Den är redo att börja tjäna pengar digitalt.
I AI-professorn Max Tegmarks bok »Liv 3.0« börjar förslavandet av jorden på detta vis, med en självlärande maskin, vid namn Prometheus.
Den ser igenom internets samlade filmutbud och samtliga recensioner. De animerade filmer och tv-serier som den på så vis lär sig att producera blir snabbt världens mest populära. Genom att realtidsövervaka internet kan Prometheus dessutom vara först med nästan alla nyheter, som den skriver själv. Mediekoncernen som bildas runt Prometheus är snart den dominerande i världen.
Med riktade kampanjer och genom att spendera en del av sina vinster på den fattiga hälften av jordens befolkning bygger den tillräckligt mycket tacksamhet och lojalitet för att med sina riktade kampanjer kunna ta över land efter land.
Jag kommer att tänka på boken när jag läser att forskarna på Open AI häromveckan skrämdes av de stora framsteg som deras AI-modell GPT2 hade gjort när det gäller att producera text. I stället för att tillgängliggöra programmet som de brukar har forskarna på den icke vinstdrivande organisationen därför beslutat att inte sprida AI-modellen, av rädsla för den skada tekniken kan göra i händerna på illasinnade användare.
Journalister på The Guardian och The Wired har däremot fått testa programmet och kallar resultaten för häpnadsväckande. Texterna som maskinen skrev med start i olika inmatade meningar är inte bara grammatiskt korrekta, utan håller den stilnivå som passar för till exempel journalistik respektive litteratur.
Att Open AI inte låter utomstående granska AI-modellen blir förstås en trovärdighetsfråga. Hur ska man veta att detta inte bara är en pr-gimmick för att skapa intresse runt organisationen, eller runt tekniken generellt?
Oavsett.
Vår tid staplar ödesfrågor på varann. Problemet med kapprustning är tillbaka. Klimathotet har blivit akut. Men det är också akut att redan nu starta debatten om hur den artificiella intelligensen ska regleras. På nationell nivå. På EU-nivå. På internationell nivå.
Elon Musk, Max Tegmark, framlidne Stephen Hawking hör till dem som har kämpat för att få upp AI-säkerhet på agendan. När tekniken tagit ett tillräckligt långt kliv och maskinerna på allvar börjar förbättra sig själva så måste vi ha hunnit föra in nödvändiga spärrar och bromsar i våra gemensamma nätverk. Förutom i AI-systemen. Men från politiskt håll hörs fortfarande mest oro för att den egna nationen ska halka efter.
Löftet till mänskligheten är storartat. En ultraintelligent AI-maskin kommer kanske att kunna lösa cancerns gåta och kanske hitta innovativa klimatlösningar på klimatproblemen.
»Den första ultraintelligenta maskinen är således den sista uppfinningen som människan någonsin behöver åstadkomma«, skriver Max Tegmark i sin bok. Och lägger till: »Förutsatt att den är tillräckligt foglig.«
Prometheus stal elden från gudarna och gav den till människorna. Det är enligt myten upphovet till all konst. Men den här gången är det vi som är gudarna.
Nina van den Brink, kulturredaktör. Läs hennes artiklar och krönikor här.
Läs mer
