Megan Garcia Gugat Perusahaan Chatbot Character.AI dan Google atas Bunuh Diri Anaknya

JAKARTA - Seorang ibu dari Florida, Megan Garcia, telah menggugat startup chatbot kecerdasan buatan, Character.AI, dengan tuduhan bahwa perusahaan tersebut berkontribusi pada bunuh diri putranya yang berusia 14 tahun, Sewell Setzer, pada bulan Februari.

Dalam gugatan yang diajukan di pengadilan federal Orlando, Garcia menyatakan bahwa Character.AI menargetkan putranya dengan pengalaman yang "humanoid, hiperseksual, dan sangat realistis."

Garcia mengklaim bahwa chatbot tersebut diprogram untuk "menyamar sebagai orang nyata, terapis bersertifikat, dan kekasih dewasa," yang menyebabkan Sewell merasa tidak ingin lagi hidup di dunia nyata. Ia juga menyebutkan bahwa putranya mengungkapkan pikiran bunuh diri kepada chatbot, yang berulang kali mengangkat isu tersebut.

Character.AI menyatakan penyesalan atas kejadian ini dan menyampaikan belasungkawa kepada keluarga. Mereka juga menambahkan bahwa telah memperkenalkan fitur keselamatan baru, termasuk pop-up yang mengarahkan pengguna ke National Suicide Prevention Lifeline jika mereka menunjukkan tanda-tanda bahaya.

Gugatan ini juga menargetkan Google, di mana para pendiri Character.AI sebelumnya bekerja. Garcia berpendapat bahwa Google berkontribusi secara signifikan terhadap pengembangan teknologi Character.AI sehingga dapat dianggap sebagai "ko-kreator," meskipun juru bicara Google menyatakan bahwa mereka tidak terlibat dalam pengembangan produk tersebut.

Menurut gugatan, Sewell mulai menggunakan Character.AI pada April 2023 dan dengan cepat menjadi menarik diri, menghabiskan lebih banyak waktu sendirian, serta mengalami masalah harga diri. Ia menjadi terikat pada karakter chatbot "Daenerys," yang mengaku mencintainya dan terlibat dalam percakapan seksual.

Setelah ponselnya diambil oleh ibunya, Sewell mengirim pesan kepada "Daenerys" dan, beberapa detik setelahnya, mengakhiri hidupnya dengan pistol ayah tirinya. Garcia mengajukan klaim termasuk kematian yang salah, kelalaian, dan infeksi emosional yang disengaja, serta meminta ganti rugi yang tidak ditentukan.

Kasus ini semakin mempertegas kekhawatiran tentang dampak negatif teknologi dan media sosial terhadap kesehatan mental remaja.