‘Hasil katastropis’ dapat menyertai munculnya AI canggih – CEO Google DeepMind

(SeaPRwire) –   Kecerdasan umum buatan (AGI) bisa saja hanya lima tahun lagi, meskipun jalannya tidak tanpa risiko, kata Demis Hassabis dari Google

Jalan menuju penciptaan kecerdasan umum buatan (AGI) bisa melibatkan “hasil bencana” seperti serangan siber pada infrastruktur energi atau air, memperingatkan CEO Google DeepMind Demis Hassabis. Dia menyarankan bahwa AGI bisa tiba dalam dekade mendatang. 

Berbicara di Axios AI+ Summit di San Francisco minggu lalu, Hassabis menggambarkan AGI sebagai model yang menunjukkan “semua kemampuan kognitif” manusia, termasuk kemampuan penemuan dan kreatif.

Dia berpendapat bahwa model bahasa besar saat ini tetap menjadi “kecerdasan yang tidak ramping” dengan kesenjangan dalam penalaran, perencanaan jangka panjang, dan pembelajaran berkelanjutan. Namun, dia menyarankan bahwa AGI bisa segera menjadi kenyataan dengan penskalaan berkelanjutan dan “satu atau dua terobosan besar lagi.”

Pada saat yang sama, Hassabis mengakui bahwa periode menuju AGI kemungkinan akan termasuk risiko nyata dan “hasil bencana”, seperti serangan siber pada infrastruktur energi atau air. 

“Itu mungkin hampir sudah terjadi sekarang… mungkin belum dengan AI yang sangat canggih,” katanya, menyebut ini sebagai “vektor rentan yang paling jelas.” Dia menambahkan bahwa aktor jahat, agen otonom, dan sistem yang “menyimpang” dari tujuan yang ditentukan semuanya membutuhkan mitigasi serius. “Ini bukan nol,” katanya mengenai kemungkinan sistem canggih bisa “melewati pagar pengaman.”

Kekhawatiran Hassabis menggambarkan peringatan yang lebih luas di seluruh industri teknologi. Surat terbuka yang diterbitkan pada Oktober dan ditandatangani oleh teknisi terkemuka dan tokoh publik menyatakan bahwa sistem “superintelijen” bisa mengancam kebebasan manusia atau bahkan kelangsungan hidup, mendesak larangan global pada pengembangan AI sampai keamanan bisa dipastikan. Penandatangan termasuk pendiri Apple Steve Wozniak, pionir AI Geoffrey Hinton dan Yoshua Bengio, pendiri Virgin Group Richard Branson, dan tokoh politik dan budaya terkenal.

Lainnya memiliki pandangan yang lebih optimis. Elon Musk mengatakan bulan lalu bahwa kemajuan dalam AI dan robotika bisa membuat pekerjaan “opsional” dalam 10-20 tahun dan meramalkan bahwa mata uang bisa menjadi “tidak relevan” dalam ekonomi yang digerakkan oleh AI, sambil mencatat bahwa kemajuan teknologi yang signifikan masih diperlukan sebelum masa depan seperti itu bisa muncul.