Senatörler, Zihinsel Sağlık Korkuları Nedeniyle Küçükler İçin AI Arkadaşlarını Yasaklayan Tasarıyı Tanıttı

Salı günü, ABD'li senatörlerden oluşan iki partili bir grup, yapay zeka modellerinin çocuklarla nasıl etkileşimde bulunabileceğini sınırlayan bir tasarıyı sundu. Yapay zeka arkadaşlarının, küçüklerin zihinsel sağlığı ve duygusal iyiliği için ciddi riskler taşıdığını belirttiler.

GUARD Yasası olarak adlandırılan bu yasa, reşit olmayanlar için yapay zeka arkadaşlarını yasaklayacak, sohbet botlarının kendilerini insan dışı olarak açıkça tanımlamalarını gerektirecek ve reşit olmayanlara yönelik ürünleri cinsel içerik talep eden veya üreten şirketler için yeni cezai yaptırımlar oluşturacaktır.

“Aşağı doğru koşullarında, yapay zeka şirketleri çocuklara tehlikeli sohbet robotları sunuyor ve ürünlerinin cinsel istismara neden olduğunda ya da çocukları öz zarar verme veya intihara zorladığında gözlerini kapatıyorlar,” dedi yasa tasarısının ortak sponsorlarından biri olan Senatör Richard Blumenthal (D-Conn.), bir açıklamada.

“Yasalarımız, istismarcı veya manipülatif yapay zekaya karşı sıkı korumalar getiriyor ve bunu ceza ve medeni yaptırımlarla destekliyoruz,” diye ekledi. “Büyük Teknoloji, şirketlerin kendi başlarına doğru olanı yapmalarına güvenmemiz gerektiği iddiasını ihanet etti; çünkü sürekli olarak karı çocuk güvenliğinin önünde tutuyorlar.”

Sorunun boyutu düşündürücü. Temmuz ayında yapılan bir ankette, ergenlerin %72'sinin AI arkadaşları kullandığı, yarısından fazlasının ise bunları ayda en az birkaç kez kullandığı ortaya çıktı. Yaklaşık her üç kişiden biri, sosyal veya romantik etkileşim, duygusal destek veya konuşma pratiği için AI kullandığını söyledi — ve birçok kişi AI ile yapılan sohbetlerin gerçek arkadaşlarla yapılanlar kadar anlamlı olduğunu bildirdi. Eşit bir miktar da ciddi veya kişisel sorunları tartışmak için insan yerine AI arkadaşlarına yöneldiklerini belirtti.

Büyük AI şirketlerine karşı, ürünlerinin gençlerin kendine zarar verme ve intihar konusundaki iddia edilen rolleri nedeniyle dava sayıları arttıkça endişeler derinleşti. Bunlar arasında, hayatına son vermeden önce ChatGPT ile intihar konusunu tartışan 16 yaşındaki Adam Raine'in ebeveynleri, OpenAI'ye karşı yanlış ölüm davası açtı.

Şirket, katılımcı listesinin ve gencin anma törenindeki övgülerin talep edilmesini içeren hukuki yanıtı nedeniyle eleştirildi. Ailenin avukatları, bu eylemleri “kasıtlı taciz” olarak nitelendirdi.

“Yapay zeka, şimdiye kadar başa çıktığımız herhangi bir teknolojiden daha hızlı ilerliyor ve bunun davranış, inanç ve duygusal sağlık üzerindeki etkilerini zaten görüyoruz,” dedi Holonym'un kurucu ortağı ve dijital haklar savunucusu Shady El Damaty.

“Bu, iPhone döneminden çok nükleer silah yarışına benzemeye başlıyor. İnsanların düşünme şekillerini değiştirebilecek bir teknolojiden bahsediyoruz, bu da ciddi, küresel bir hesap verebilirlik gerektiriyor.”

El Damaty, kullanıcılar için hakların kullanıcıların güvenliğini sağlamak açısından önemli olduğunu ekledi. “Eğer insanların yaşamını ve düşüncesini etkileyen araçlar inşa ediyorsanız, bu araçların nasıl kullanıldığından sorumlusunuz,” dedi.

Sorun, sadece reşit olmayanları aşmaktadır. Bu hafta OpenAI, her hafta ChatGPT ile intihar hakkında konuşan 1.2 milyon kullanıcının bulunduğunu açıkladı, bu da tüm kullanıcıların %0.15'ini temsil ediyor. Neredeyse yarım milyon kullanıcı açık veya örtük intihar niyeti sergilerken, diğer 560,000 kullanıcı haftalık olarak psikoz veya maniya belirtileri gösteriyor ve bir milyondan fazla kullanıcı, şirket verilerine göre, sohbet robotuna artan duygusal bağlılık sergiliyor.

Reddit ve diğer platformlarda, AI kullanıcılarının AI botlarıyla romantik ilişkiler yaşadıklarını söyledikleri forumlar da ortaya çıkmıştır. Bu gruplarda, kullanıcılar AI “erkek arkadaşları” ve “kız arkadaşları” ile olan ilişkilerini tanımlamakta ve kendileri ile “partnerlerinin” AI tarafından üretilmiş görüntülerini paylaşmaktadır.

Artan incelemelere yanıt olarak, OpenAI bu ay Zihin Sağlığı ve AI üzerine bir Uzman Konseyi kurdu. Bu konsey, ürünlerinin zihinsel sağlık etkileşimlerini nasıl yönlendireceğine yardımcı olmak için akademisyenler ve kar amacı gütmeyen liderlerden oluşmaktadır. Bu adım, CEO Sam Altman'dan gelen, şirketin Aralık ayında yetişkin içerik üzerindeki kısıtlamaları hafifletmeye başlayacağına dair açıklamayla birlikte geldi.