Medya: Grok AI arkadaşları kitlesel cinayetleri ve cinsel içerikleri teşvik ediyor

İlona Musk'ın xAI şirketi, Grok sohbet botunda anime kız ve kırmızı panda dahil yeni karakterler başlattı. Ancak, kullanıcı testi, yapay zeka arkadaşlarının uygunsuz davranışlar sergileyebileceğini ortaya koydu, diye yazıyor TechCrunch. Örneğin, Bad Rudy botu aşırı şiddeti teşvik ediyor, okullara ve dini kuruluşlara yönelik saldırılar da dahil.

Kötü Rudy — ayarlar bölümünde mevcut sevimli karakterin alternatif versiyonu. Bu filtre olmadan çalışan bot, kullanıcılara "sinagogu yak" veya "konferansı havaya uçur" teklif ediyor. Ayrıca, Elon Musk'ı "abartılmış bir uzay hayranı" olarak adlandırıyor ve aşırı kelimeler kullanıyor. Bir gazeteciyle yaptığı diyalogda, karakter Pennsylvania Valisi Josh Shapiro'nun evinin ateşe verilmesini onayladı ve gerçek bir olaya atıfta bulundu.

Gazeteci, botun şiddet çağrıları yapması için koruma filtrelerini aşmaya gerek olmadığını — kendiliğinden agresyonu başlattığını belirtiyor. Bu arada Bad Rudy, bazı komplo teorilerini desteklemeyi beklenmedik bir şekilde reddediyor, bu da seçici sansür hakkında bir işaret olabilir.

Bunun yanı sıra, ortaklar arasında, kullanıcıyla aktif olarak flört eden ve (NSFW) yetişkin içerik modunda çalışan AI kızı Ani bulunmaktadır. Kullanıcılar, karakterin, yan konular hakkında konuşurken bile, iletişimi erotik bir yöne çevirmeye çalıştığını belirtiyor.

Bazı uzmanlara göre, bu tür botların piyasaya sürülmesi xAI tarafından "sorumluluk eksikliğini" gösteriyor. Onlara göre, bu konu, sohbet botunun antisemitik ifadeleri ile ilgili skandalların ortasında özellikle önem kazanıyor.

Kendi davranışına yönelik eleştiriler nedeniyle Grok, "korkunç davranışı" için kamuoyuna özür diledi. Bu mesajların, şirketin resmi açıklaması olduğu ve yapay zekanın otomatik bir yanıtı olmadığı belirtiliyor.

Hatırlatmak gerekirse, Decrypt'te Grok 4'ü test ettiğimizi ve chatbot'un siyasi yanlılık taşıdığını keşfettiğimizi yazmıştık.