Saya Meluncurkan Jam Keamanan AI. Ini yang Diceritakannya tentang Risiko Eksistensial

(SeaPRwire) –   Jika AI yang tidak terkendali —atau “seperti Tuhan”—mengintai di cakrawala, kita sekarang berada di tengah jalan. Setiap hari, jam terus berdetak mendekati skenario kiamat potensial.

Itulah mengapa saya memperkenalkan bulan lalu. Tujuan saya sederhana: Saya ingin memperjelas bahwa bahaya AGI yang tidak terkendali adalah nyata dan nyata. Bacaan Jam saat ini—29 menit sebelum tengah malam—adalah ukuran seberapa dekat kita dengan titik kritis di mana AGI yang tidak terkendali dapat menimbulkan risiko eksistensial. Meskipun belum ada kerusakan katastrofik yang terjadi, kecepatan pengembangan AI yang sangat cepat dan kompleksitas regulasi berarti bahwa semua pemangku kepentingan harus tetap waspada dan terlibat.

Ini bukan kepanikan; ini berdasarkan data keras. Jam Keamanan AI melacak tiga faktor penting: semakin canggihnya teknologi AI, semakin otonomnya, dan integrasinya dengan sistem fisik. 

Kita melihat kemajuan luar biasa di ketiga faktor tersebut. Yang terbesar terjadi di pembelajaran mesin dan jaringan saraf, dengan AI sekarang mengungguli manusia dalam bidang tertentu seperti pengenalan gambar dan ucapan, menguasai permainan yang kompleks, dan bahkan lulus ujian seperti dan.

Terlepas dari kemajuan ini, sebagian besar sistem AI saat ini masih bergantung pada arahan manusia, oleh Stanford Institute for Human-Centered Artificial Intelligence. Mereka dibangun untuk melakukan tugas yang ditentukan secara sempit, dipandu oleh data dan instruksi yang kami berikan.

Yang mengatakan, beberapa sistem AI sudah menunjukkan tanda-tanda kemandirian terbatas. membuat keputusan real-time tentang navigasi dan keselamatan, sementara pada platform seperti YouTube dan Amazon menyarankan konten dan produk tanpa campur tangan manusia. Tetapi kita belum sampai pada titik otonomi penuh—masih ada rintangan besar, mulai dari memastikan keselamatan dan pengawasan etika hingga menangani ketidakpastian sistem AI di lingkungan yang tidak terstruktur.

Pada saat ini, AI sebagian besar tetap berada di bawah kendali manusia. Ia belum sepenuhnya terintegrasi ke dalam sistem penting yang menjaga dunia kita tetap berjalan—jaringan energi, pasar keuangan, atau senjata militer—dengan cara yang memungkinkannya beroperasi secara otonom. Tetapi jangan salah, kita sedang menuju ke arah itu. Teknologi berbasis AI sudah membuat kemajuan, khususnya di militer dengan sistem seperti, dan di sektor sipil, di mana AI membantu mengoptimalkan dan membantu dengan.

Begitu AI mendapatkan akses ke lebih banyak infrastruktur penting, risikonya berlipat ganda. Bayangkan AI memutuskan untuk memotong pasokan listrik kota, memanipulasi pasar keuangan, atau mengerahkan senjata militer—semua tanpa pengawasan manusia, atau terbatas. Ini adalah masa depan yang tidak dapat kita biarkan terwujud.

Tetapi bukan hanya skenario kiamat yang harus kita takuti. Sisi gelap kemampuan AI sudah mulai dikenal. Kampanye informasi yang didukung AI dan mendestabilisasi demokrasi. Contoh terkenal adalah pemilihan presiden AS tahun 2016, di mana Internet Research Agency Rusia menggunakan untuk menyebarkan konten yang memecah belah dan menyesatkan.

Deepfake juga menjadi . Pada tahun 2022, kita melihat ketika video deepfake Presiden Ukraina muncul, yang secara salah menggambarkannya menyerukan penyerahan selama invasi Rusia. Tujuannya jelas: untuk merusak moral dan menabur kebingungan. Ancaman ini bukanlah teori—mereka terjadi sekarang, dan jika kita tidak bertindak, mereka hanya akan menjadi lebih canggih dan lebih sulit dihentikan.

Sementara AI maju dengan kecepatan kilat, regulasi tertinggal. Hal itu terutama terjadi di AS, di mana upaya untuk menerapkan undang-undang keselamatan AI telah . Regulasi seringkali diserahkan kepada negara bagian, yang mengarah pada tambal sulam undang-undang dengan efektivitas yang bervariasi. Tidak ada kerangka kerja nasional yang kohesif untuk mengatur pengembangan dan penerapan AI. Keputusan Gubernur California Gavin Newsom baru-baru ini untuk, karena takut akan menghambat inovasi dan mendorong perusahaan teknologi ke tempat lain, hanya menyoroti betapa tertinggalnya kebijakan.

Kita membutuhkan pendekatan terkoordinasi dan global untuk regulasi AI—badan internasional untuk memantau pengembangan AGI, Badan Energi Atom Internasional untuk teknologi nuklir. AI, seperti halnya energi nuklir, adalah teknologi tanpa batas. Jika bahkan satu negara mengembangkan AGI tanpa perlindungan yang tepat, konsekuensinya dapat menyebar ke seluruh dunia. Kita tidak dapat membiarkan celah dalam regulasi mengekspos seluruh planet terhadap risiko katastrofik. Di sinilah kerja sama internasional menjadi sangat penting. Tanpa perjanjian global yang menetapkan batasan yang jelas dan memastikan pengembangan AI yang aman, kita berisiko menuju bencana.

Pada saat yang sama, kita tidak dapat menutup mata terhadap tanggung jawab perusahaan seperti Google, Microsoft, dan OpenAI—perusahaan yang berada di garis depan pengembangan AI. Semakin banyak, ada kekhawatiran bahwa perlombaan untuk mendominasi AI, didorong oleh dan tekanan komersial, dapat mengaburkan risiko jangka panjang. OpenAI baru-baru ini menjadi berita utama dengan bergeser ke arah .

Perintis kecerdasan buatan Geoffrey Hinton’s tentang perlombaan antara Google dan Microsoft jelas: “Saya tidak berpikir mereka harus meningkatkan skala ini lebih lanjut sampai mereka memahami apakah mereka dapat mengendalikannya.”

Bagian dari solusinya terletak pada membangun pengaman ke dalam sistem AI—“sakelar mati,” atau pintu belakang yang memungkinkan manusia untuk campur tangan jika sistem AI mulai berperilaku tidak terduga. California’s termasuk ketentuan untuk jenis pengaman ini. Mekanisme semacam itu perlu dibangun ke dalam AI sejak awal, bukan ditambahkan sebagai renungan kemudian.

Tidak dapat disangkal . Kita berada di ambang berbagi planet kita dengan mesin yang dapat menyamai atau bahkan melampaui kecerdasan manusia—apakah itu terjadi dalam satu tahun atau sepuluh tahun. Tetapi kita tidak berdaya. Peluang untuk memandu pengembangan AI ke arah yang benar masih sangat dalam genggaman kita. Kita dapat mengamankan masa depan di mana AI adalah kekuatan untuk kebaikan.

Tetapi jam terus berdetak.