New Yorks AI-chattbot uppmuntrade företag att bryta mot lagen

Under oktober 2023 lanserade New York City en egen AI-chattbot som är tänkt att hjälpa småföretagare att hantera sina verksamheter. Nu kritiseras chattboten för att både ge märkliga råd och i vissa fall även uppmuntra företag att bryta mot lagen, rapporterar AP.

Chattboten ska exempelvis felaktigt påstått att det är okej för en arbetsgivare att avskeda en anställd som uppmärksammar sexuella trakasserier, inte berättar att den är gravid eller vägrar att klippa sina dreadlocks. AI-chattboten ska även sagt att det är okej för en restaurang att servera ost som en råtta ätit av, om än med brasklappen att det är viktigt att utvärdera “skadad råttan orsakat” och att “informera kunden om situationen”.

Trots rapporterna har New York City ändå valt att låta AI-chattboten fortsätta vara tillgänglig via deras webbsida. Stadens borgmästare Eric Adams har samtidigt bekräftat att chattboten ibland kan ge felaktiga svar.

När man använder chattboten finns även en varningstext som säger att den ibland kan producera felaktiga, skadliga eller partiska svar. Texten har senare också uppdaterats med att svaren inte ska ses som juridiska råd.