Anthropic: Tidak Ada ‘Tombol Matikan’ pada AI yang Digunakan Militer AS

(SeaPRwire) –   Perusahaan telah membantah pernyataan Pentagon bahwa mereka masih dapat mengontrol Claude AI yang diterapkan di jaringan militer

Pengembang AI Anthropic bersikeras bahwa mereka tidak memiliki pintu belakang atau “kill switch” untuk Claude AI mereka begitu sistem itu diterapkan di jaringan militer rahasia Pentagon, menurut sebuah pengajuan pengadilan baru.

Militer AS dan perusahaan teknologi itu terlibat dalam perselisihan kebijakan awal tahun ini, dengan Pentagon bersikeras menggunakan sistem untuk “semua tujuan militer yang sah,” sementara perusahaan tetap mempertahankan pengamanan AI-nya terkait pengawasan massal dan penggunaan senjata otonom penuh.

Pada akhirnya, Pentagon mengakhiri kemitraannya dengan Anthropic, menetapkan perusahaan teknologi itu sebagai “risiko rantai pasokan,” sebuah label langka yang biasanya diperuntukkan bagi entitas yang terkait dengan musuh asing Washington. Penetapan ini tidak hanya melarang perusahaan bekerja langsung dengan pemerintah AS tetapi juga kontraktor lain untuk menggunakan produknya.

Dalam pengajuan baru ke pengadilan banding federal di Washington, DC, Anthropic membantah klaim utama pemerintah AS bahwa perusahaan masih mempertahankan tingkat kendali tertentu atas Claude AI setelah diterapkan ke sistem rahasia dan secara efektif memberikan diri mereka “hak veto operasional.” Perusahaan mengatakan mereka “tidak memiliki pintu belakang atau remote kill switch,” sementara “personelnya tidak dapat masuk ke sistem departemen untuk memodifikasi atau menonaktifkan model yang sedang berjalan.”

Sistem AI yang disediakan untuk Pentagon hadir sebagai model “statis,” demikian argumen perusahaan. Setelah diterapkan, sistem itu “tidak menurun atau berubah dengan sendirinya, dan Anthropic tidak dapat mendorong perubahan yang tidak diungkapkan atau tidak disetujui ke model setelah departemen telah menerapkannya.”

Anthropic secara resmi ditetapkan sebagai “risiko rantai pasokan bagi keamanan nasional” pada 27 Februari, sementara Presiden AS Donald Trump menuduhnya dijalankan oleh “orang-orang gila sayap kiri.” Perusahaan menantang label tersebut di pengadilan, dengan pertempuran hukum sejauh ini menghasilkan hasil yang beragam.

Awal bulan ini, pengadilan DC menolak permintaan Anthropic untuk menghentikan sementara penetapan risiko rantai pasokan. Namun, dalam kasus paralel di California, pengadilan berpihak pada perusahaan, secara sementara memblokir keputusan pemerintah. Dengan keputusan yang terbelah ini, Anthropic tetap dilarang bekerja dengan Pentagon tetapi masih dapat melanjutkan kemitraannya dengan lembaga lain sementara pertempuran hukum berlangsung.