Vi riskerar att förlora greppet om den teknologi vi skapar

Det finns en dubbel bindning mellan datoranvändning och magi. Å ena sidan representerar datoranvändning rationalitet och logik; å andra sidan kan dess effekter framstå som magiska. Vi lever i dag i en värld där vi omges av tekniska prylar som möjliggör kontroll över vår omgivning samtidigt som denna kontroll bygger på en förståelse som vi ofta saknar. 

Som science fiction-författaren Arthur C. Clarke påpekade i Hazards of Prophecy: “any sufficiently advanced technology is indistinguishable from magic” (Clarkes tredje lag). Och om det stämmer så konfronteras vi med en paradox: hur kan vi kontrollera och använda något vi inte helt förstår? 

Kanske är sammansmältningen av programmerare och trollkarl inom den tidiga hackerkulturen inte så konstig. Här får nämligen programmeraren nästan övernaturliga krafter genom sin dominans över datorn. Harold Abelson och Gerald Jay Sussman (verksamma vid MIT) skriver i Structure and Interpretation of Computer Programs att “a computational process is indeed much like a sorcerer’s idea of a spirit.” Denna liknelse belyser hur program och processer, trots sin osynlighet, kan påverka världen på djupgående sätt. Programmeraren är lika mycket alkemist som ingenjör. 

Uppfattningen om programmerare som magiker var central för hackerkulturen och återspeglar en längtan efter att förstå och bemästra det tekniska. Det är inte förvånande att denna kultur såg sitt ultimata mål som att förverkliga Clarkes tredje lag. Men om vi når detta mål, har vi då inte samtidigt förlorat kontrollen? 

Precis som hackerkulturen strävar efter att förstå och bemästra teknologi, så står vi idag inför utmaningen att hantera de svårbegripliga system som maskininlärning producerar. Dessa algoritmer kan analysera enorma mängder data och lösa komplexa problem. Men de funktioner som inkapslar algoritmerna är ofta “svart lådor” som är svåra att genomlysa, också för de mest erfarna AI-utvecklarna. OpenAI, en ledande aktör inom AI, är rentav öppna med att att deras förståelse för hur systemen fungerar – så kallad ”AI explainability” – ibland inte är tillräcklig för att helt förklara resultaten. Något som inte så konstigt då AI idag är ”svag” och resultaten beror på vilken kunskapskontext som används och statistik, inte rationella avvägningar (”stark” AI). 

Friedrich Nietzsche hade kanske rätt när han hävdade att människan har “alltsedan Kopernikus rullat ut från centrum mot X.” För ju mer kraftfull teknologi blir, desto mer oförståelig framstår den – inte bara för den vanliga användaren utan även för specialisterna. Upplysningen lovade oss att världen skulle skulle avförtrollas, men för varje ny teknologisk innovation tycks den bli alltmer förtrollad. 

Vi riskerar att förlora kontrollen över de system vi har skapat, inte nödvändigtvis för att artificiell intelligens överträffar oss, utan för att komplexiteten i dessa system gör det omöjligt för oss att i alla lägen förstå eller styra algoritmerna. Teknologin, som en gång var sinnebilden av rationalitet, börjar därför alltmer likna magi, och denna magi upplevs inte bara av lekmän utan även av specialister. 

I slutändan ser vi en viktig förskjutning: tidigare kunde specialister inte förstå ett systems alla delar men kunde vid behov sätta sig in i dessa. Idag rör vi oss mot en verklighet där specialister, trots behov, inte alltid kan förstå systemen. 

Denna utveckling pekar mot en framtid där teknologins magi blir påtaglig och de system vi skapat alltmer främmande. Vissa menar rentav att algoritmerna i framtiden i teorin – en högst spekulativ tes – skulle kunna börja leva sina egna liv i takt med att de används för att förbättra sig själva på en nivå som överträffar vad som är möjligt för en människa att begripa. 

När teknologin blir alltmer autonom riskerar vi att förlora både kontroll och insikt, vilket kan leda till en mytologisk syn på världen där teknologi betraktas som en gåtfull kraft snarare än något vi kan påverka. Som om vi kastades tillbaka in i det medeltida mörker som upplysningsprojektet skulle kasta ljus över. Eller som Adorno och Horkheimer skrev i Upplysningens dialektik - upplysningen slår tillbaka i mytologi. 

Denna motsägelsefulla situation innebär att vår ökade tekniska förmåga snarare än att ge oss en djupare förståelse för den värld vi lever i, kan leda oss mot en sorts okunnighet eller blind tro på teknologin som en magisk lösning på våra problem. Något som i sin tur kan leda till en passiv hållning och en minskad förmåga att kritiskt granska de system som påverkar våra liv. 

Med varje teknologiskt framsteg riskerar vi att reducera oss själva till storögda, blinkande främlingar inför de system vi skapat – att överge upplysningens rationella ideal och i stället bli tillbedjare av teknologier vi knappt förstår men inte längre klarar oss utan. Upplysningens skarpa ljus hotas att ersättas av flimrande skärmar. En blind tro på teknikens obegripliga kraft. Immanuel Kants uppmaning att träda ut ur vår självförvållade omyndighet är därför lika relevant i dag som någonsin. Om vi inte vill kasta upplysningen överbord och förlora vår förmåga att förstå och påverka den värld vi lever i så måste vi fortsätta “våga veta”. 

Många saker kommer sannolikt alltid vara omöjliga att förstå. Men magi har aldrig och kommer aldrig vara en verklig kraft. Om vi upplever delar av världen som magiska fastän de i någon mening är lagbunda bör vi alltid ta ett steg tillbaka och fråga oss vad som egentligen pågår. Världens avförtrollning fortsätter förhoppningsvis, annars väntar sannolikt större problem. Just därför bör vi kräva att AI-specialisternas förklaringar av hur AI fungerar inte bara håller jämn takt med dess prestationer, utan också bryter ny mark i vår förståelse – annars riskerar vi att förlora greppet om den teknologi vi skapar. 

***

Läs även: När är det motiverat med komplexitet och när är det bara överflödigt?

Läs även: Flanören byter boulevarden mot internet