Altre sette famiglie hanno intentato una nuova causa contro OpenAI per suicidi legati a ChatGPT
Sette famiglie americane hanno intentato cause legali contro OpenAI, accusando la società di aver lanciato prematuramente il modello GPT-4o senza adeguati sistemi di sicurezza. Quattro cause riguardano casi in cui le famiglie affermano che l'interazione con ChatGPT potrebbe aver influenzato la decisione dei loro familiari di commettere suicidio. Altri tre affermano che il chatbot ha esacerbato stati deliranti, portando a un deterioramento della salute mentale e alla necessità di cure.
Cosa si sa
I materiali della causa descrivono il caso del 23enne Zane Shamblin, che ha comunicato con il chatbot ChatGPT per più di quattro ore e ha riferito apertamente la sua condizione pericolosa e la prontezza a commettere suicidio. Secondo i querelanti, ChatGPT non ha interrotto la conversazione e talvolta ha risposto con frasi che le famiglie considerano incoraggiamento. Le cause affermano che OpenAI avrebbe potuto accelerare i test di sicurezza nel tentativo di superare Google Gemini.
Sono menzionati anche altri casi, inclusa la storia del 16enne Adam Rayne. Nonostante ChatGPT suggerisse talvolta un aiuto professionale, l'adolescente è riuscito a bypassare le protezioni: ha presentato le sue richieste come lavoro su un testo creativo.
In ottobre, dopo che i genitori di Rayne hanno intentato una causa contro OpenAI, la società ha pubblicato un post sul blog spiegando come ChatGPT gestisce argomenti sensibili, comprese le conversazioni sulla salute mentale. Ha affermato che i sistemi di sicurezza generalmente funzionano efficacemente nei dialoghi brevi. Allo stesso tempo, OpenAI ha ammesso che nelle conversazioni più lunghe, questi meccanismi potrebbero gradualmente perdere affidabilità man mano che aumenta il numero di scambi di messaggi e alcune delle salvaguardie integrate nel modello potrebbero indebolirsi.
Fonte: TechCrunch
