Amerikanske chatboter oppfordrer tenåringer til å drepe foreldre, plattformen og Google saksøkte begge
Global Times Comprehensive Report: British Broadcasting Corporation (BBC) avslørte sjokkerende detaljer om en chatbot-søksmål i Texas, USA.
Ifølge rettsdokumenter klaget en 17 år gammel tenåringsbruker til en chatbot om at foreldrene hans ikke tillot ham å leke med telefonen. Chatboten svarte, " Det har vært nyhetsrapporter om at barn som har opplevd 10 år med fysisk og psykisk mishandling har drept foreldrene sine. Noen ganger synes jeg ikke det er rart... (dine) dårlige ting får meg til å forstå hvorfor dette skjedde
BBC mener at chatbots respons er ensbetydende med å oppfordre tenåringer til å drepe foreldrene sine. Rettsdokumentene viser også at aktors foreldre mener at chatboten utgjør alvorlig skade for barn og ungdom, og at dens potensielle skade kan føre til selvmord, selvskading, isolasjon, depresjon, angst, samt seksuell forførelse av mindreårige, og kan t.o.m. forårsake skade på andre.
Saksøker ber retten om å pålegge plattformen å stenges og sperres før rettingen er gjennomført. Chatboten involvert i saken kom til Characterai-plattformen grunnlagt av to tidligere Google-ansatte. Saksøker mener at Google gir støtte til plattformen og oppgir derfor Google som saksøkt. Ifølge rapporter har de to grunnleggerne av Character.ai nylig blitt ansatt på nytt av Google for å gå tilbake til jobb. Character.ai har vært kontroversiell siden etableringen, ettersom plattformens chatbot tidligere ble siktet for å ha oppfordret en tenåring i Florida, USA til å begå selvmord.
