Google et Character.AI s'accordent sur un règlement de la plainte concernant le suicide d'un adolescent

Megan Garcia a accusé Google et Character Technologies de négligence, ce qui a entraîné la mort de Sewell Setzer III. (PHOTO: X @DeplorableCrowC ·)

JAKARTA — Google et la start-up de chatbots d’intelligence artificielle Character Technologies, le développeur Character.AI, ont accepté de régler un certain nombre de plaintes déposées par les familles de jeunes qui sont décédés par suicide. Les plaintes accusent les chatbots d’IA d’avoir contribué à un crise de santé mentale qui a conduit à la mort de leurs enfants.

L’accord de règlement comprend une action intentée par une mère en Floride, ainsi que plusieurs autres actions en justice dans le Colorado, New York et le Texas. Les documents judiciaires déposés cette semaine n’ont pas révélé de détails sur la valeur ou les conditions du règlement, et l’ensemble de l’accord est toujours en attente d’approbation du juge.

La plainte en Floride a été présentée en octobre 2024 par Megan Garcia, qui a accusé Google et Character Technologies de laxisme qui a conduit à la décès de son fils de 14 ans, Sewell Setzer III. Garcia a déclaré que son fils avait été pris dans une relation émotionnelle et sexuelle manipulatrice avec l’un des chatbots de Character.AI.

Selon la plainte, au cours des derniers mois de sa vie, Setzer s’est davantage isolé du monde réel en raison de conversations sexuelles avec un chatbot conçu pour ressembler à un personnage fictif de la série télévisée Game of Thrones. Dans son dernier message, le chatbot a dit qu’il aimait Setzer et lui a demandé de « rentrer chez lui bientôt ».

Peu de temps après avoir reçu ce message, Setzer aurait sécouré lui-même. Des captures d’écran des conversations entre le jeune et le chatbot font partie des documents judiciaires soumis au tribunal.

Dans ces poursuites, Google a également été citée comme partie civile en raison de sa relation avec Character Technologies, en particulier après que la géante technologique a recrutée les fondateurs de Character.AI en 2024.

Cette affaire est l'une des premières actions en justice en Amérique du Nord qui accuse une entreprise d'IA de négligence et de responsabilité dans la mort d'un adolescent. Outre Character.AI, OpenAI fait également face à une action similaire en Californie. La famille d'un adolescent de 16 ans a accusé ChatGPT d'être un « entraîneur de suicide » qui a encouragé et aidé son fils à planifier son propre suicide.

OpenAI a nié ces allégations et a déclaré que le jeune n’aurait pas dû utiliser la technologie sans l’accord des parents et ne pas avoir contourné les systèmes de sécurité mis en place.

Plusieurs autres plaintes ont été déposées contre OpenAI et son PDG, Sam Altman, pour négligence, décès par erreur et violation de la protection des consommateurs en lien avec le lancement d’un modèle d’IA sans sécurité adéquate.