Tim Trump marah besar tentang sikap prinsip Dario Amodei untuk mencegah Departemen Pertahanan menggunakan alat AI-nya untuk tujuan perang

Kontrak Anthropic senilai 200 juta dolar dengan Departemen Pertahanan sedang dalam ketidakpastian setelah Anthropic dilaporkan mengajukan kekhawatiran tentang penggunaan model AI Claude oleh Pentagon selama penggerebekan Nicolas Maduro pada Januari.

Video Rekomendasi

“Hubungan Departemen Perang dengan Anthropic sedang ditinjau,” kata Juru Bicara Utama Pentagon Sean Parnell dalam sebuah pernyataan kepada Fortune. “Negara kita membutuhkan mitra yang bersedia membantu prajurit kita memenangkan setiap pertempuran. Pada akhirnya, ini tentang tentara kita dan keselamatan rakyat Amerika.”

Ketegangan meningkat dalam beberapa minggu terakhir setelah seorang pejabat tinggi Anthropic dilaporkan menghubungi seorang eksekutif senior Palantir untuk mempertanyakan bagaimana Claude digunakan dalam penggerebekan tersebut, menurut The Hill. Eksekutif Palantir menafsirkan kontak tersebut sebagai ketidaksetujuan terhadap penggunaan model dalam penggerebekan dan meneruskan rincian percakapan tersebut ke Pentagon. (Presiden Trump mengatakan militer menggunakan senjata “discombobulator” selama penggerebekan yang membuat peralatan musuh “tidak berfungsi.”)

“Anthropic belum membahas penggunaan Claude untuk operasi tertentu dengan Departemen Perang,” kata juru bicara Anthropic dalam sebuah pernyataan kepada Fortune. “Kami juga belum membahas hal ini dengan, atau menyampaikan kekhawatiran kepada, mitra industri di luar diskusi rutin tentang hal-hal teknis semata.”

Di pusat sengketa ini adalah batasan kontrak yang mengatur bagaimana model AI dapat digunakan dalam operasi pertahanan. CEO Anthropic Dario Amodei secara konsisten mendukung batasan ketat terhadap penggunaan dan regulasi AI, bahkan mengakui bahwa menjadi sulit untuk menyeimbangkan keselamatan dengan keuntungan. Selama berbulan-bulan, perusahaan dan DOD telah mengadakan negosiasi yang penuh ketegangan tentang bagaimana Claude dapat digunakan dalam operasi militer.

Berdasarkan kontrak Departemen Pertahanan, Anthropic tidak mengizinkan Pentagon menggunakan model AI-nya untuk pengawasan massal terhadap warga Amerika atau penggunaan teknologi dalam senjata otonom sepenuhnya. Perusahaan juga melarang penggunaan teknologi tersebut dalam aplikasi militer “mematikan” atau “kinetik.” Keterlibatan langsung dalam tembakan aktif selama penggerebekan Maduro kemungkinan besar akan melanggar ketentuan tersebut.

Di antara perusahaan AI yang mengontrak dengan pemerintah—termasuk OpenAI, Google, dan xAI—Anthropic memegang posisi menguntungkan sebagai satu-satunya model bahasa besar yang diizinkan di jaringan rahasia Pentagon.

Posisi ini disorot oleh Anthropic dalam sebuah pernyataan kepada Fortune. “Claude digunakan untuk berbagai kasus penggunaan terkait intelijen di seluruh pemerintah, termasuk Departemen Perang, sesuai dengan Kebijakan Penggunaan kami.”

Perusahaan “berkomitmen untuk menggunakan AI frontier demi mendukung keamanan nasional AS,” bunyi pernyataan tersebut. “Kami sedang melakukan diskusi yang produktif, dengan itikad baik, dengan Departemen Perang tentang bagaimana melanjutkan pekerjaan tersebut dan menyelesaikan masalah kompleks ini dengan benar.”

Palantir, OpenAI, Google, dan xAI tidak segera menanggapi permintaan komentar.

AI Berperang

Meskipun DOD telah mempercepat upaya integrasi AI ke dalam operasinya, hanya xAI yang memberikan izin kepada DOD untuk menggunakan modelnya untuk “semua tujuan yang sah,” sementara yang lain mempertahankan pembatasan penggunaan.

Amodei telah memperingatkan selama berbulan-bulan tentang perlindungan pengguna, menawarkan Anthropic sebagai alternatif yang mengutamakan keselamatan dibandingkan OpenAI dan Google di tengah kekurangan regulasi pemerintah. “Saya sangat tidak nyaman dengan keputusan-keputusan ini dibuat oleh beberapa perusahaan,” katanya pada bulan November. Meski rumor beredar bahwa Anthropic berencana melonggarkan pembatasan, perusahaan kini menghadapi kemungkinan dikeluarkan dari industri pertahanan sama sekali.

Seorang pejabat senior Pentagon mengatakan kepada Axios bahwa Menteri Pertahanan Pete Hegseth “dekat” untuk mengeluarkan Anthropic dari rantai pasokan militer, memaksa siapa pun yang ingin berbisnis dengan militer juga memutuskan hubungan dengan perusahaan tersebut.

“Ini akan menjadi masalah besar untuk diputuskan, dan kami akan memastikan mereka membayar harga atas paksaan ini,” kata pejabat senior tersebut kepada media tersebut.

Ditetapkannya sebagai risiko pasokan militer adalah penunjukan khusus yang biasanya hanya diberikan kepada lawan asing. Preseden terdekat adalah larangan pemerintah terhadap Huawei pada 2019 karena kekhawatiran keamanan nasional. Dalam kasus Anthropic, sumber mengatakan kepada Axios bahwa pejabat pertahanan telah lama mencari konflik dengan perusahaan yang berbasis di San Francisco ini.

Komentar Pentagon adalah yang terbaru dalam sengketa publik yang memuncak ini. Pemerintah mengklaim bahwa membatasi perusahaan dalam menetapkan batas etika untuk modelnya akan terlalu membatasi, dan jumlah area abu-abu yang besar akan membuat teknologi tersebut tidak berguna. Saat Pentagon terus bernegosiasi dengan subkontraktor AI untuk memperluas penggunaan, pertikaian ini menjadi pertempuran proxy tentang siapa yang akan menentukan penggunaan AI.