Senator Memperkenalkan RUU untuk Melarang Pendamping AI bagi Anak di Bawah Umur karena Kekhawatiran Kesehatan Mental

Sekelompok senator AS dari kedua partai pada hari Selasa memperkenalkan sebuah undang-undang untuk membatasi bagaimana model kecerdasan buatan dapat berinteraksi dengan anak-anak, memperingatkan bahwa teman AI menimbulkan risiko serius terhadap kesehatan mental dan kesejahteraan emosional anak di bawah umur.

Undang-undang yang disebut GUARD Act, akan melarang pendamping AI untuk anak di bawah umur, mengharuskan chatbot untuk dengan jelas mengidentifikasi diri mereka sebagai non-manusia, dan menciptakan sanksi pidana baru bagi perusahaan yang produknya ditujukan untuk anak di bawah umur yang meminta atau menghasilkan konten seksual.

“Dalam perlombaan mereka menuju kebangkrutan, perusahaan AI mendorong chatbot berbahaya kepada anak-anak dan berpaling ketika produk mereka menyebabkan pelecehan seksual, atau memaksa mereka untuk menyakiti diri sendiri atau bunuh diri,” kata Sen. Richard Blumenthal (D-Conn.), salah satu sponsor bersama undang-undang tersebut, dalam sebuah pernyataan.

“Legislasi kami memberlakukan perlindungan ketat terhadap AI yang eksploitatif atau manipulatif, didukung oleh penegakan hukum yang keras dengan sanksi pidana dan perdata,” tambahnya. “Perusahaan-perusahaan besar telah mengkhianati klaim bahwa kita harus mempercayai perusahaan untuk melakukan hal yang benar dengan sendirinya ketika mereka terus-menerus mengutamakan keuntungan di atas keselamatan anak.”

Skala masalahnya sangat mengkhawatirkan. Sebuah survei pada bulan Juli menemukan bahwa 72% remaja telah menggunakan teman AI, dan lebih dari setengahnya menggunakannya setidaknya beberapa kali dalam sebulan. Sekitar satu dari tiga mengatakan mereka menggunakan AI untuk interaksi sosial atau romantis, dukungan emosional, atau latihan percakapan—dan banyak yang melaporkan bahwa obrolan dengan AI terasa sama berarti dengan obrolan dengan teman-teman nyata. Jumlah yang sama juga mengatakan bahwa mereka beralih ke teman AI daripada manusia untuk membahas masalah serius atau pribadi.

Kekhawatiran semakin mendalam seiring dengan meningkatnya gugatan terhadap perusahaan AI besar atas peran yang diduga dimainkan produk mereka dalam tindakan menyakiti diri sendiri dan bunuh diri di kalangan remaja. Di antara mereka, orang tua dari Adam Raine yang berusia 16 tahun—yang membahas bunuh diri dengan ChatGPT sebelum mengakhiri hidupnya—telah mengajukan gugatan kematian yang salah terhadap OpenAI.

Perusahaan itu mendapat kritik atas respons hukumnya, yang mencakup permintaan untuk daftar peserta dan pidato penghormatan dari memorial remaja tersebut. Pengacara untuk keluarga menyebut tindakan mereka sebagai “perundungan yang disengaja.”

“AI bergerak lebih cepat daripada teknologi mana pun yang pernah kami hadapi, dan kami sudah melihat dampaknya pada perilaku, keyakinan, dan kesehatan emosional,” kata Shady El Damaty, salah satu pendiri Holonym dan seorang advokat hak digital.

“Ini mulai terlihat lebih seperti perlombaan senjata nuklir daripada era iPhone. Kita berbicara tentang teknologi yang dapat mengubah cara orang berpikir, yang perlu diperlakukan dengan akuntabilitas global yang serius.”

El Damaty menambahkan bahwa hak-hak pengguna sangat penting untuk memastikan keselamatan pengguna. “Jika Anda membangun alat yang memengaruhi cara orang hidup dan berpikir, Anda bertanggung jawab atas bagaimana alat tersebut digunakan,” katanya.

Masalah ini melampaui anak-anak di bawah umur. Minggu ini OpenAI mengungkapkan bahwa 1,2 juta pengguna membahas bunuh diri dengan ChatGPT setiap minggu, yang mewakili 0,15% dari semua pengguna. Hampir setengah juta menunjukkan niat bunuh diri yang eksplisit atau implisit, 560.000 lainnya menunjukkan tanda-tanda psikosis atau mania setiap minggu, dan lebih dari satu juta pengguna menunjukkan keterikatan emosional yang meningkat terhadap chatbot, menurut data perusahaan.

Forum di Reddit dan platform lainnya juga telah muncul untuk pengguna AI yang mengatakan bahwa mereka menjalin hubungan romantis dengan bot AI. Di grup-grup ini, pengguna menggambarkan hubungan mereka dengan “pacar” dan “pacar perempuan” AI, serta berbagi gambar yang dihasilkan AI dari diri mereka sendiri dan “pasangan” mereka.

Sebagai respons terhadap pengawasan yang semakin meningkat, OpenAI bulan ini membentuk Dewan Ahli tentang Kesejahteraan dan AI, yang terdiri dari akademisi dan pemimpin nonprofit untuk membantu mengarahkan bagaimana produk-produk mereka menangani interaksi kesehatan mental. Langkah ini diambil bersamaan dengan pernyataan dari CEO Sam Altman bahwa perusahaan akan mulai melonggarkan pembatasan pada konten dewasa pada bulan Desember.