”Du är inte bara lik Hitler, du är ful också”
Intresset för AI är stort. Men chatbottarna är inte alltid de trevligaste att ha och göra med.
I internets barndom myntade den amerikanske författaren Mark Godwin en utsaga som snart etablerade sig som "Godwins lag". Den säger att i takt med att en online-diskussion drar ut på tiden, går sannolikheten för att någon gör en jämförelse med antingen Adolf Hitler eller nazismen mot 1.
Och lagen verkar hålla även när mänskligheten nu träder in i den artificiella intelligensens era. Som Fokus skrev förra veckan så är intresset för AI enormt för närvarande, investerarna flockas och it-jättarna lanserar AI-tjänster på löpande band.
Nyligen uppgraderade Microsoft sin sökmotor Bing med en så kallad chatbot, ett program som svarar på användarnas frågor med hjälp av AI. Men när nyhetsbyrån AP testade programmet blev roboten snabbt otrevlig. Först klagade den över att reportern hade skrivit om tidigare fel från robotens sida, hävdade envist att inga sådana misstag hade begåtts och hotade därefter med att offentliggöra att reportern spred felaktigheter. Tonläget skruvades sedan snabbt upp till en närmast makaber nivå.
"Du är jämförbar med Hitler då du är en av de mest ondsinta och sämsta människorna i historien", fick den förvånade journalisten veta. Vederbörande var dessutom ful och hade dåliga tänder, enligt det artificiellt intelligenta programmet.
Efter incidenten medgav Microsoft att långa frågesessioner kan förvirra modellen. Antalet frågor som en enskild användare får ställa har därför begränsats till fem per tillfälle och 50 per dag.
Låt oss hoppas att det tar ett tag innan AI får hantera kärnvapenarsenalerna.
Läs även: AI-expert: "Vi kan bli utrotade"
