Mengapa Sam Altman Meninggalkan Komite Keselamatan OpenAI

(SeaPRwire) –   CEO OpenAI, Sam Altman, mengundurkan diri dari komite internal yang dibentuk perusahaan untuk memberi nasihat kepada dewan direksi mengenai keputusan “keamanan dan keselamatan penting” di tengah perlombaan untuk mengembangkan teknologi kecerdasan buatan yang semakin kuat.

Komite, yang dibentuk pada bulan Mei, telah mengevaluasi proses dan tindakan pengamanan OpenAI selama periode 90 hari. OpenAI mengumumkan rekomendasi komite setelah penilaian pada 16 September. Yang pertama dalam daftar: membentuk tata kelola independen untuk keamanan dan keselamatan.

Sehubungan dengan itu, Altman, yang selain menjabat di dewan direksi OpenAI, juga mengawasi operasi bisnis perusahaan dalam perannya sebagai CEO, tidak akan lagi menjabat di komite keselamatan. Sejalan dengan rekomendasi komite, OpenAI mengatakan komite independen yang baru akan dipimpin oleh Zico Kolter, Direktur Departemen Pembelajaran Mesin di Carnegie Mellon University, yang bergabung dengan dewan direksi OpenAI pada bulan Agustus. Anggota komite lainnya akan termasuk anggota dewan OpenAI, pendiri dan CEO Quora, Adam D’Angelo, pensiunan Jenderal Angkatan Darat AS, Paul Nakasone, dan mantan presiden Sony Entertainment, Nicole Seligman. Bersama dengan Altman, ketua dewan OpenAI, Bret Taylor, dan beberapa ahli teknis dan kebijakan perusahaan juga akan mengundurkan diri dari komite.

Rekomendasi lain dari komite meliputi peningkatan tindakan pengamanan, transparansi tentang pekerjaan OpenAI, dan penyatuan kerangka kerja keselamatan perusahaan. Komite juga mengatakan akan mengeksplorasi lebih banyak peluang untuk berkolaborasi dengan organisasi eksternal, seperti yang digunakan untuk mengelola kemampuan berbahaya.

Komite Keselamatan dan Keamanan bukanlah upaya pertama OpenAI untuk menciptakan pengawasan independen. Cabang OpenAI yang nirlaba, yang dibuat pada tahun 2019, dikendalikan oleh entitas nirlaba dengan dewan “kepercayaan”, yang bertugas untuk memastikan bahwa OpenAI bertindak sesuai dengan misinya untuk mengembangkan kecerdasan buatan yang aman dan bermanfaat luas (AGI)—sistem yang melampaui manusia dalam sebagian besar hal.

Pada bulan November, dewan direksi OpenAI memecat Altman, dengan alasan bahwa ia “tidak selalu jujur dalam komunikasinya dengan dewan, sehingga menghambat kemampuan dewan untuk menjalankan tanggung jawabnya.” Setelah karyawan dan investor melakukan protes—dan anggota dewan serta presiden perusahaan, Greg Brockman, mengundurkan diri—Altman segera diangkat kembali. Tasha McCauley, dan Ilya Sutskever mengundurkan diri. Brockman kemudian kembali sebagai presiden perusahaan.

Insiden ini menyoroti tantangan utama bagi perusahaan yang berkembang pesat. Para kritikus termasuk Toner dan McCauley berpendapat bahwa memiliki dewan direksi yang secara formal independen bukanlah penyeimbang yang cukup untuk insentif keuntungan yang kuat yang dihadapi perusahaan. Awal bulan ini, melaporkan bahwa upaya penggalangan dana OpenAI yang sedang berlangsung, yang dapat melambungkan valuasinya menjadi , mungkin bergantung pada perubahan struktur perusahaannya.

Toner dan McCauley mengatakan kemandirian dewan direksi tidak cukup dan pemerintah harus berperan aktif dalam mengatur AI. “Bahkan dengan niat terbaik, tanpa pengawasan eksternal, jenis pengaturan sendiri ini akan berakhir tidak dapat diterapkan,” kata mantan anggota dewan di The Economist pada bulan Mei, merefleksikan kekacauan ruang rapat OpenAI pada bulan November.

Di masa lalu, Altman telah mendukung regulasi sistem AI, tetapi OpenAI juga melobi penolakan RUU AI California, yang akan mewajibkan protokol keselamatan bagi pengembang. Berlawanan dengan posisi perusahaan, lebih dari 30 karyawan dan mantan karyawan OpenAI telah mendukung RUU tersebut.

Pembentukan Komite Keselamatan dan Keamanan pada akhir Mei mengikuti bulan yang sangat bergejolak bagi OpenAI. dan , dua pemimpin tim “” perusahaan, yang berfokus untuk memastikan bahwa jika sistem AI melampaui kecerdasan tingkat manusia, mereka tetap berada di bawah kendali manusia, mengundurkan diri. Leike menuding OpenAI memprioritaskan “produk mengkilap” daripada keselamatan dalam sebuah posting di X. Tim tersebut dibubarkan setelah kepergian mereka. Pada bulan yang sama, OpenAI mendapat kecaman karena meminta karyawan yang mengundurkan diri untuk menandatangani perjanjian yang mencegah mereka mengkritik perusahaan atau kehilangan ekuitas mereka yang diinvestasikan. (OpenAI kemudian menyatakan bahwa ketentuan-ketentuan ini tidak dan tidak akan diterapkan dan akan dihapus dari semua dokumen keluar ke depan).