AI Saat Ini Dapat Membuat Pandemi 5 Kali Lebih Mungkin Terjadi, Prediksi Para Ahli

(SeaPRwire) –   Perkembangan terbaru dalam AI bisa berarti pandemi yang disebabkan oleh manusia lima kali lebih mungkin terjadi daripada setahun yang lalu, menurut prediksi para ahli terkemuka yang dibagikan secara eksklusif kepada TIME.

Data ini menggemakan kekhawatiran yang diungkapkan oleh perusahaan AI OpenAI dan Anthropic dalam beberapa bulan terakhir, keduanya telah memperingatkan bahwa alat AI saat ini mencapai kemampuan untuk secara signifikan membantu pihak jahat yang mencoba menciptakan senjata biologis.

Para ahli biologi telah lama dapat memodifikasi virus menggunakan teknologi laboratorium. Perkembangan baru adalah kemampuan chatbot—seperti ChatGPT atau Claude—untuk memberikan saran pemecahan masalah yang akurat kepada ahli biologi amatir yang mencoba menciptakan senjata biologis mematikan di laboratorium. Para ahli keamanan telah lama melihat kesulitan proses pemecahan masalah ini sebagai hambatan signifikan bagi kelompok teroris untuk menciptakan senjata biologis, kata Seth Donoughe, salah satu penulis studi tersebut. Sekarang, katanya, berkat AI, keahlian yang diperlukan untuk sengaja menyebabkan pandemi baru “bisa menjadi lebih mudah diakses oleh lebih banyak orang.”

Antara Desember 2024 dan Februari 2025, Forecasting Research Institute meminta 46 ahli biosekuriti dan 22 “superforecaster” (individu dengan tingkat keberhasilan tinggi dalam memprediksi peristiwa masa depan) untuk memperkirakan risiko pandemi yang disebabkan oleh manusia. Rata-rata responden survei memprediksi risiko terjadinya hal itu dalam tahun tertentu adalah 0,3%.

Yang terpenting, para peninjau kemudian mengajukan pertanyaan lain: seberapa besar risiko itu akan meningkat jika alat AI dapat menyamai kinerja tim ahli dalam uji pemecahan masalah virologi yang sulit? Jika AI bisa melakukan itu, kata rata-rata ahli, maka risiko tahunan akan melonjak menjadi 1,5%—peningkatan lima kali lipat.

Yang tidak diketahui oleh para peramal adalah bahwa Donoughe, seorang ilmuwan peneliti di SecureBio, sebuah organisasi nirlaba pencegah pandemi, sedang menguji sistem AI untuk kemampuan tersebut. Pada bulan April, tim Donoughe mengungkapkan hasil pengujian tersebut: sistem AI teratas saat ini dapat mengungguli ahli virologi tingkat PhD dalam uji pemecahan masalah yang sulit.

Dengan kata lain, AI sekarang dapat melakukan hal yang diperingatkan oleh para peramal akan meningkatkan risiko pandemi yang disebabkan oleh manusia hingga lima kali lipat. (Forecasting Research Institute berencana untuk mensurvei ulang para ahli yang sama di masa depan untuk melacak apakah pandangan mereka tentang risiko telah meningkat seperti yang mereka katakan, tetapi menyatakan penelitian ini akan memakan waktu berbulan-bulan untuk diselesaikan.)

Tentu saja, ada beberapa alasan untuk meragukan hasil ini. Peramalan adalah ilmu yang tidak pasti, dan sangat sulit untuk secara akurat memprediksi kemungkinan peristiwa yang sangat langka. Para peramal dalam studi ini juga mengungkapkan kurangnya pemahaman tentang laju kemajuan AI. (Misalnya, ketika ditanya, sebagian besar mengatakan mereka tidak berharap AI melampaui kinerja manusia dalam uji virologi hingga setelah tahun 2030, sementara uji Donoughe menunjukkan bahwa batas itu telah tercapai.) Namun, bahkan jika angka-angka itu sendiri diambil dengan sedikit keraguan, para penulis makalah berpendapat, hasilnya secara keseluruhan masih mengarah ke arah yang mengancam. “Tampaknya kemampuan AI jangka pendek dapat secara signifikan meningkatkan risiko epidemi yang disebabkan oleh manusia,” kata Josh Rosenberg, CEO Forecasting Research Institute.

Studi ini juga mengidentifikasi cara-cara mengurangi risiko senjata biologis yang ditimbulkan oleh AI. Mitigasi tersebut secara luas terbagi dalam dua kategori.

Kategori pertama adalah pengamanan pada tingkat model. Dalam wawancara, para peneliti menyambut baik upaya perusahaan seperti OpenAI dan Anthropic untuk mencegah AI mereka merespons perintah yang bertujuan membangun senjata biologis. Makalah ini juga mengidentifikasi pembatasan proliferasi model “”, dan penambahan perlindungan terhadap model yang di-, sebagai hal yang mungkin mengurangi risiko AI digunakan untuk memulai pandemi.

Kategori pengamanan kedua melibatkan pembatasan pada perusahaan yang mensintesis asam nukleat. Saat ini, dimungkinkan untuk mengirimkan kode genetik kepada salah satu perusahaan ini, dan menerima materi biologis yang sesuai dengan kode tersebut. Saat ini, perusahaan-perusahaan ini tidak diwajibkan oleh hukum untuk menyaring kode genetik yang mereka terima sebelum mensintesisnya. Hal itu berpotensi berbahaya karena materi genetik yang disintesis ini dapat digunakan untuk menciptakan patogen pesanan via pos. Para penulis makalah merekomendasikan laboratorium menyaring urutan genetik mereka untuk memeriksa potensi bahaya, dan agar laboratorium menerapkan prosedur “kenali pelanggan Anda”.

Secara keseluruhan, semua pengamanan ini—jika diterapkan—dapat menurunkan risiko pandemi yang diaktifkan AI kembali menjadi 0,4%, kata rata-rata peramal. (Hanya sedikit lebih tinggi dari baseline 0,3% di mana mereka percaya dunia berada sebelum mereka tahu AI saat ini dapat membantu menciptakan senjata biologis.)

“Secara umum, tampaknya ini adalah area risiko baru yang patut diperhatikan,” kata Rosenberg. “Namun ada respons kebijakan yang baik untuk mengatasinya.”