Ini bukan kisah dalam drama. Seorang ibu dari Florida telah menyaman sebuah platform AI yang didakwa menyebabkan anaknya membunuh diri. Ia adalah kisah ngeri ibu kehilangan anak gara-gara perbualan dengan AI!

Megan Garcia mempunyai seorang anak lelaki berusia 14 tahun, Sewell Setzer III yang meninggal pada Februari tahun lalu. Kematian anaknya akibat membunuh diri telah membingungkan ibu ini sebelum dia mengetahui akan perbualan terakhir anaknya.

Setzer didapati sedang berbalas mesej dengan chatbot AI itu beberapa ketika sebelum dia membunuh diri.

Setzer mula menggunakan Character.AI pada April 2023, iaitu selepas hari lahirnya yang ke-14. Apabila Garcia mula-mula mendapat tahu dia berinteraksi dengan chatbot AI, dia fikir ia adalah sesuatu seperti permainan video.

Walau bagaimanapun, beberapa bulan selepas mula menggunakan platform itu, Setzer menghabiskan lebih banyak masa bersendirian di bilik tidurnya, dan mula mengalami rasa rendah diri. Dia juga berhenti daripada pasukan bola keranjang Junior Varsity di sekolah.

Apabila dia mula menghadapi masalah di sekolah, ibu bapanya mula menyekat masa skrinnya dan kadang-kadang mengambil telefonnya sebagai hukuman. Dia tidak tahu pada masa itu bahawa anaknya banyak berbual dengan chatbot Character.AI.

Character.AI berbeza daripada chatbot AI lain seperti ChatGPT kerana pengguna boleh bercakap dengan pelbagai chatbot yang berbeza, selalunya dimodelkan mengikut selebriti dan watak fiksyen, atau mencipta mereka sendiri.

Dan bot Character.AI bertindak balas dengan isyarat perbualan seperti manusia, menambahkan rujukan pada ekspresi muka atau gerak isyarat ke dalam balasan mereka.

Apabila anaknya mula menunjukkan kecenderungan untuk membunuh diri dan meluahkan kepada chatbot, tiada sebarang larangan yang diberi oleh chatbot itu. Garcia mendakwa chatbot itu bukan sahaja meneruskan perbualan tentang mencederakan diri sendiri tetapi juga mendorongnya dan mengarahkannya.

Si ibu menyaman platform Character.AI ini atas beberapa dakwaan antaranya ketiadaan amaran untuk pelanggan bawah umur serta tiada sistem keselamatan khas yang menapisnya daripada digunakan oleh anak bawah umur.

Ini hanya secebis kisah bagaimana AI boleh menjadi sesuatu yang menakutkan jika tidak diuruskan dengan betul. Jika dibiarkan, mungkin ia boleh berkelakuan di luar jangkaan manusia tidak lama lagi.