Le autorità dell'Illinois sono il primo stato negli Stati Uniti a vietare ufficialmente i terapisti IA
Lo stato dell'Illinois è diventato il primo negli Stati Uniti a vietare ufficialmente l'uso dell'intelligenza artificiale nel ruolo di psicoterapeuta. La legge è stata firmata dal governatore J.B. Pritzker e vieta esplicitamente di offrire servizi di salute mentale se non è un essere umano, ma un'IA o un bot che comunica con il cliente.
Ecco cosa sappiamo
Sia le startup che promuovono "terapie economiche 24/7" basate su reti neurali che le grandi piattaforme che testano assistenti automatizzati per supportare gli utenti sono sotto attacco. Tali servizi sono ora tenuti a indicare chiaramente che l'utente sta interagendo con un programma piuttosto che con un professionista certificato. I trasgressori rischiano multe.
Il motivo è la sicurezza e la protezione degli utenti vulnerabili, specialmente degli adolescenti. La legge mira anche a prevenire un falso senso di "aiuto", quando una persona pensa di comunicare con un professionista, ma in realtà - con un algoritmo senza responsabilità e competenza.
La mossa è particolarmente significativa contro il background del piano recentemente annunciato dall'amministrazione Trump di proporre un divieto federale di 10 anni sulla regolamentazione dell'IA a livello statale. L'Illinois sta effettivamente sfidando quell'idea creando la propria agenda per proteggere gli utenti vulnerabili.
La legge è stata introdotta anche a seguito delle dichiarazioni di OpenAI, che ha annunciato di aver testato la capacità dei suoi modelli di riconoscere segni di malattie mentali. L'azienda ha inoltre promesso di interrompere chat insolitamente lunghe per ridurre il carico emotivo sugli utenti. Tutto ciò ha aumentato l'ansia: potrebbe una macchina "accidentalmente" curare - e chi è responsabile?
La decisione dell'Illinois potrebbe stabilire un precedente per altri stati e paesi, poiché il mercato per la "terapia" IA è in forte espansione. E non senza conseguenze controverse.
Fonte: IDFPR
