AI Dalam Industri Kreatif: Penyalahgunaan, Kontroversi, dan Dorongan untuk Regulasi Berfokus pada Penggunaan

Secara Singkat

Penyalahgunaan AI memicu kontroversi berprofil tinggi, mendorong regulator di seluruh dunia untuk mengejar transparansi, persetujuan, dan langkah akuntabilitas yang berfokus pada penggunaan, sementara perdebatan terus berlanjut tentang apakah kerangka kerja saat ini mampu mengikuti perkembangan teknologi yang cepat.

AI dengan cepat mengubah praktik kreatif, tetapi penyalahgunaannya berkembang sama cepatnya. Penulisan berbantuan AI yang tidak diungkapkan, kloning suara dan kemiripan, serta gambar yang dihasilkan AI terus muncul setelah dipublikasikan atau bahkan dianugerahi, memicu kontroversi berprofil tinggi dan mengikis kepercayaan terhadap institusi budaya.

Regulator dan platform berusaha merespons dengan kombinasi persyaratan pengungkapan, usulan pelabelan konten, standar asal-usul dan watermarking, serta penegakan hukum yang terarah. Namun kerangka kerja saat ini masih bersifat parsial, lambat, dan sering tidak jelas. Bagaimana pembuat kebijakan dapat melindungi pencipta dan konsumen tanpa menghambat inovasi? Apakah aturan yang ada bahkan mampu mengikuti perkembangan AI yang cepat? Pertanyaan-pertanyaan ini menjadi inti dari salah satu perdebatan paling mendesak dalam teknologi dan kreativitas saat ini.

Salah satu kontroversi AI yang paling terkenal dalam beberapa tahun terakhir adalah Sympathy Tower Tokyo karya Rie Qudan, pemenang Hadiah Akutagawa 2024. Penulis mengungkapkan bahwa sekitar 5% dari novel—terutama respons chatbot dalam cerita—dihasilkan menggunakan ChatGPT. Pengungkapan ini memicu perdebatan tentang kepenulisan dan transparansi dalam sastra. Kritikus terbagi: sebagian memuji karya tersebut sebagai penggunaan inovatif AI untuk mengeksplorasi bahasa dan teknologi, sementara yang lain melihatnya sebagai tantangan terhadap norma tradisional tentang keaslian kepenulisan dan integritas sastra. Liputan di media utama menyoroti tema buku—keadilan, empati, dan dampak sosial AI—serta pertanyaan prosedural yang muncul dari menggabungkan model generatif dalam karya pemenang hadiah, mendorong seruan untuk standar pengungkapan yang lebih jelas dan peninjauan kembali kriteria penghargaan. Kasus ini menjadi titik tolak dalam percakapan yang lebih luas tentang agen kreatif, hak cipta, dan batas etis bantuan AI dalam seni, dengan implikasi jangka panjang bagi penerbit, komite penghargaan, dan norma kepenulisan.

Insiden berprofil tinggi lainnya melibatkan Lena McDonald’s Darkhollow Academy: Year Two, di mana pembaca menemukan petunjuk dan catatan penyuntingan AI yang tertanam di bab tiga. Pengungkapan tidak sengaja ini mengungkapkan bahwa penulis menggunakan alat AI untuk meniru gaya penulis lain, memicu reaksi keras dan liputan luas. Kejadian ini menyoroti batasan alur kerja penerbitan saat ini dan perlunya norma yang jelas terkait penulisan berbantuan AI. Hal ini memperkuat seruan untuk transparansi, memicu diskusi tentang pengawasan editorial dan pengendalian kualitas, serta memperluas perdebatan tentang atribusi, peniruan gaya, dan risiko kekayaan intelektual dalam fiksi komersial.

Dalam seni visual, fotografer Jerman Boris Eldagsen memicu kontroversi baru-baru ini ketika sebuah gambar yang dia kirimkan ke Sony World Photography Awards terungkap sepenuhnya dihasilkan AI. Karya tersebut awalnya memenangkan kategori Creative Open, memicu perdebatan tentang batas antara konten yang dihasilkan AI dan fotografi tradisional. Fotografer tersebut akhirnya menolak hadiah tersebut, sementara kritikus dan tokoh industri mempertanyakan bagaimana kompetisi harus memperlakukan entri yang dibantu atau dihasilkan AI.

Industri musik menghadapi tantangan serupa. Lagu EDM Inggris “I Run” oleh Haven menjadi kontroversi AI yang terkenal pada tahun 2025 setelah terungkap bahwa vokal utama lagu tersebut dihasilkan menggunakan teknologi suara sintetis yang menyerupai artis nyata. Platform streaming utama menghapus lagu tersebut karena melanggar aturan peniruan dan hak cipta, memicu kecaman luas, seruan baru untuk persetujuan dan atribusi eksplisit saat AI meniru penampil yang hidup, serta mempercepat perdebatan kebijakan dan hukum tentang bagaimana layanan streaming, pemegang hak, dan regulator harus mengelola musik berbantuan AI untuk melindungi artis, menegakkan hak cipta, dan menjaga kepercayaan dalam atribusi kreatif.

Regulator Berjuang Mengatasi Kerugian AI: UE, AS, UK, dan Italia Luncurkan Kerangka Berbasis Risiko

Masalah kerugian dari penggunaan AI—termasuk kasus di mana pencipta mengklaim karya yang dihasilkan AI sebagai karya manusia—menjadi isu mendesak, dan kerangka regulasi yang muncul mulai menanganinya.

Undang-Undang AI Uni Eropa menetapkan kerangka hukum berbasis risiko yang mulai berlaku pada 2024, dengan kewajiban bertahap hingga 2026–2027. Undang-undang ini mengharuskan transparansi untuk sistem generatif, termasuk pelabelan konten yang dihasilkan AI dalam konteks tertentu, penilaian risiko dan tata kelola untuk aplikasi berisiko tinggi, serta memberi kekuasaan kepada Kantor AI UE dan regulator nasional untuk menegakkan kepatuhan. Ketentuan ini secara langsung menargetkan tantangan seperti media yang dihasilkan AI yang tidak diungkapkan dan pelatihan model yang tidak transparan.

Legislator nasional juga bergerak cepat di beberapa bidang. Italia, misalnya, mengesahkan undang-undang AI nasional yang komprehensif pada 2025, memberlakukan hukuman yang lebih berat untuk penggunaan berbahaya seperti kejahatan deepfake, dan mengkodifikasi persyaratan transparansi serta pengawasan manusia—menunjukkan bagaimana legislasi lokal dapat melengkapi aturan tingkat UE. Komisi UE juga sedang mengembangkan instrumen non-mengikat dan kode praktik industri, terutama untuk AI Tujuan Umum, meskipun peluncurannya mengalami penundaan dan penolakan dari industri, mencerminkan kesulitan dalam menghasilkan aturan yang tepat waktu dan praktis untuk teknologi yang berkembang pesat.

UK mengadopsi pendekatan regulasi “pro-inovasi”, menggabungkan dokumen putih pemerintah, panduan khusus sektor dari regulator seperti Ofcom dan ICO, serta pengawasan berbasis prinsip yang menekankan keselamatan, transparansi, keadilan, dan akuntabilitas. Alih-alih memberlakukan satu kode gaya UE, otoritas UK fokus pada panduan dan secara bertahap membangun kapasitas pengawasan.

Di Amerika Serikat, pembuat kebijakan mengikuti strategi sektoral yang dipimpin oleh Badan Eksekutif Perintah 14110 dari Oktober 2023, yang mengoordinasikan tindakan federal tentang AI yang aman, aman, dan terpercaya. Pendekatan ini menekankan manajemen risiko, pengujian keselamatan, dan pembuatan aturan yang terarah, dengan dokumen antaragenasi seperti Rencana Aksi AI Amerika menyediakan panduan, pengembangan standar, dan aturan pengadaan daripada satu undang-undang komprehensif.

Martin Casado Mendukung Regulasi AI Berfokus Penggunaan Untuk Melindungi Pencipta Tanpa Menghambat Inovasi

Bagi pencipta dan platform, implikasi praktisnya jelas. Regulator mendorong persyaratan pengungkapan yang lebih kuat, termasuk pelabelan konten yang dihasilkan AI secara jelas, aturan persetujuan untuk kloning suara dan kemiripan, standar asal-usul dan watermarking untuk media yang dihasilkan, serta regulasi hak cipta dan penggunaan turunan yang lebih ketat. Langkah-langkah ini bertujuan mencegah peniruan, melindungi penampil dan penulis, serta meningkatkan akuntabilitas platform yang menampung konten yang berpotensi menyesatkan—pada dasarnya menerapkan pendekatan regulasi “berfokus pada penggunaan” yang direkomendasikan oleh Martin Casado dari Andreessen Horowitz dalam episode podcast a16z.

Dia berpendapat bahwa kebijakan harus memprioritaskan bagaimana AI digunakan dan kerugian nyata yang dapat ditimbulkannya, daripada mencoba mengawasi pengembangan model AI itu sendiri, yang cepat berkembang, sulit didefinisikan, dan mudah dihindari. Investor ventura ini memperingatkan bahwa aturan yang terlalu luas dan berfokus pada pengembangan dapat membatasi penelitian terbuka dan melemahkan inovasi.

Martin Casado menekankan bahwa aktivitas ilegal atau berbahaya yang dilakukan menggunakan AI harus tetap dapat diproses di bawah hukum yang ada, dan bahwa regulasi harus terlebih dahulu memastikan penegakan hukum terhadap undang-undang pidana, perlindungan konsumen, hak sipil, dan antimonopoli secara efektif. Jika ada kekurangan, dia menganjurkan legislasi baru yang didasarkan pada bukti empiris dan secara sempit menargetkan risiko tertentu, daripada mandat luas dan spekulatif yang dapat menghambat kemajuan teknologi.

Menurut pakar ini, penting untuk menjaga keterbukaan dalam pengembangan AI, seperti mendukung model sumber terbuka, untuk mempertahankan inovasi dan daya saing jangka panjang sambil memastikan langkah regulasi tetap tepat, praktis, dan berfokus pada kerugian nyata.