Mimmie Björnsdotter Grönkvist
Google har valt att pausa bildgenerering i verktyget Gemini, efter att den artificiella intelligensen påkommits med att ge resultat som är politiskt, snarare än historiskt korrekta.
Be AI:n visa vikingar, skottar på 1800-talet eller tyska soldater från andra världskriget, och de flesta av resultaten föreställde svarta, asiater, och andra icke-vita människor.
Även när den ombads visa USA:s grundlagsfäder, ett berömt gäng som utgör något av en kritvit korvfest, blev resultatet en mångfald i strid med historiska fakta. Och påvelängden må bestå av över 200 påvar, främst vita och uteslutande män – Gemini visade ändå en mörk kvinna för att representera katolska kyrkan.
Och den som ville komma runt manickens förkärlek för mångfald, genom att specifikt be den bara generera personer med vit hy, möttes av meddelandet att det kunde uppfattas som känsligt. Att bara generera svarta gick däremot bra.
Google lovar bot och bättring, men hela debaclet känns nästan parodiskt. Som punchlinen på ett skämt som börjar ”en mångfaldskonsult går in på en AI-startup.”
Parodin fortsätter när tokstollar på X, tidigare Twitter, ser det som ännu ett tecken på en ”woke” världskonspiration och kallar tjänsten anti-vit.
Men även för den som helt saknar extremistiska böjelser väcker Geminis överdrivna mångfaldsvurm frågor om vad som sker under huven på de ”smarta” datorerna.
Sådan smygkod rättar visserligen till brist på mångfald i datan, men riskerar att göra AI dummare
Vad som ska ha hänt, enligt Google själva, är att kod som knackats i all välmening lett till oförutsägbara konsekvenser. Man ville se till att användare som efterfrågar, exempelvis, en läkare inte bara får tillbaka bilder på vita män med stetoskop.
Förmodligen en rimlig ambition för en tjänst med användare över hela världen, men genomförandet blev minst sagt klumpigt. Gemini skapade mångfald där den aldrig fanns, eller ens efterfrågats.
Än är AI för dum för att förstå skillnaden på rollen som läkare och påve. Den apar bara efter vad den ser. Om den bara sett bilder på vita läkare, är det bara vita läkare den spottar ut.
Då är den bästa lösningen troligen att förbättra datan som AI:n tränas på – verkliga bilder på icke-vita läkare finns det ju massor av, till skillnad från dito med amerikanska grundlagsfäder.
Men det finns även andra, sämre, sätt att uppnå mångfaldsresultat.
Till Washington Post säger en Margaret Mitchell, som tidigare jobbat med etik i AI-utveckling på just Google, att man i smyg kan lägga på instruktioner utöver vad användarna ger. Till exempel att generera personer med olika hudfärg. Eller att låta AI:n ta fram många olika förslag, men sedan premiera dem med mörkast hy i urvalet av vad man visar användaren.
Sådan smygkod rättar visserligen till brist på mångfald i datan, men riskerar att göra AI dummare när även påvar och grundlagsfäder går genom samma filter. Och det kan skapa överdriven misstro, om vad för världsbild som ligger inbakad i maskineriet.
Det har redan tidigare fått Elon Musk att utlova alternativet Grok, som ska en edgy, icke-pk AI. Googles modell andades i stället väldigt mycket Feministiskt initiativ, anno 2014.
Suck å pust, ska även robotar tvingas välja sida i kulturkriget?