PM Inggris Keir Starmer menargetkan chatbot AI dalam dorongan baru untuk keselamatan anak-anak

Perdana Menteri Inggris Keir Starmer telah menguraikan rencana untuk menjadikan chatbot AI tunduk pada aturan keselamatan online yang lebih ketat, memperingatkan bahwa teknologi yang berkembang sedang membentuk kembali masa kecil dengan cara yang tidak lagi bisa diabaikan oleh pembuat kebijakan.

Ringkasan

• Perdana Menteri Inggris Keir Starmer menandai rencana untuk memperluas undang-undang keselamatan online agar mencakup chatbot AI yang digunakan oleh anak-anak.
• Pemerintah khawatir tentang risiko termasuk konten yang tidak pantas, ketergantungan emosional, dan saran yang tidak diatur yang dihasilkan AI.
• Konsultasi publik akan memeriksa kekuasaan regulasi baru untuk memastikan bahwa alat AI yang beroperasi di Inggris aman bagi anak di bawah umur.

Chatbot AI Mungkin Segera Diatur Lebih Ketat di Inggris untuk Melindungi Anak-anak

Dalam pembaruan terbaru di Substack, Starmer mengatakan bahwa perlindungan bagi kaum muda harus berkembang seiring dengan kemajuan pesat alat kecerdasan buatan. Meskipun sebagian besar perdebatan tentang bahaya daring berfokus pada media sosial, dia berpendapat bahwa chatbot berbasis AI kini menimbulkan risiko baru dan kompleks, terutama bagi anak-anak dan remaja.

Starmer menyatakan bahwa pemerintah Inggris sedang mempertimbangkan untuk memperluas undang-undang keselamatan daring yang ada agar secara eksplisit mencakup sistem AI. Chatbot semakin banyak tertanam dalam aplikasi, mesin pencari, dan platform mandiri, sering kali berinteraksi dengan pengguna dalam percakapan yang sangat personal dan mirip manusia.

Bagi pengguna muda, dia memperingatkan, hal ini dapat mengaburkan batas antara informasi, pengaruh, dan manipulasi.

Perdana Menteri menyoroti kekhawatiran mulai dari paparan konten yang tidak pantas hingga ketergantungan emosional dan saran yang tidak terkendali. Berbeda dengan platform tradisional, sistem AI dapat menghasilkan respons secara real-time, sehingga pengawasan dan moderasi menjadi lebih sulit.

Dia menyarankan bahwa Parlemen mungkin perlu kekuasaan regulasi baru untuk merespons dengan cepat saat teknologi berkembang.

Starmer memandang isu ini sebagai bagian dari upaya yang lebih luas untuk “memberikan ruang bagi anak-anak untuk tumbuh” tanpa dipengaruhi oleh algoritma yang tidak transparan atau sistem digital yang tidak diatur. Dia menegaskan bahwa inovasi tidak boleh mengorbankan keselamatan, dan bahwa perusahaan teknologi harus bertanggung jawab lebih besar terhadap bagaimana alat mereka dirancang dan digunakan.

Konsultasi publik diharapkan akan memeriksa cara terbaik untuk mengatur layanan berbasis AI yang digunakan oleh anak di bawah umur. Setelah bukti terkumpul, Starmer mengatakan pemerintah akan bergerak cepat untuk bertindak, menandakan bahwa chatbot AI kemungkinan akan menjadi fokus utama dari fase berikutnya reformasi keselamatan daring di Inggris.