Cara Menyelamatkan Jiwa Nirlaba OpenAI, Menurut Mantan Karyawan OpenAI

(SeaPRwire) –   OpenAI bukanlah perusahaan biasa. Didirikan sebagai organisasi nirlaba pada tahun 2015, diprediksi bahwa AI dapat “mencapai kinerja manusia pada hampir setiap tugas intelektual,” menciptakan kebutuhan akan organisasi yang akan “membangun nilai untuk semua orang daripada pemegang saham.”

Dalam beberapa tahun berikutnya, pengembangan AI menjadi , sehingga pada tahun 2019, OpenAI menciptakan yang dapat mengumpulkan modal investasi sambil tetap terikat pada misi amal organisasi nirlaba tersebut.

Sekitar waktu transisi inilah saya bergabung dengan perusahaan sebagai peneliti junior. Tim saya di OpenAI berfokus pada : sebuah proses di mana sistem AI berinteraksi dengan lingkungan simulasi, dan belajar untuk meningkatkan diri melalui coba-coba. Kami menerapkan metode ini pertama kali pada video game, dan kemudian pada model bahasa besar, membentuknya menggunakan umpan balik manusia menjadi versi awal ChatGPT. Teknik yang sama digunakan saat ini untuk melatih sistem yang dinikmati oleh ratusan juta pengguna.

Pekerjaan saya dan tim saya didasarkan pada komitmen utama yang dibuat oleh OpenAI dalam transisinya pada tahun 2019: kewajiban yang mengikat secara hukum untuk mengutamakan kepentingan publik di atas kepentingan investor. Namun komitmen ini sekarang terancam, karena OpenAI mengejar yang akan menghapus batasan keuntungan investor dan kewajibannya terhadap misi amalnya.

Sangat menggoda untuk menanggapi ini dengan sinis, dengan mengabaikannya: setelah ada cukup banyak uang yang dipertaruhkan, transformasi organisasi dari organisasi nirlaba yang mengutamakan misi menjadi perusahaan teknologi besar tidak dapat dihindari. Tetapi narasi semacam itu membebaskan perusahaan dari tanggung jawab karena menarik kembali janjinya kepada publik. Terlebih lagi, rencana restrukturisasi OpenAI masih dari pejabat terpilih, sehingga publik memiliki alasan dan hak untuk membela kepentingannya.

Saya masih memiliki ekuitas di OpenAI, tetapi meskipun saya memiliki kepentingan pribadi dalam kesuksesan finansial organisasi ini, saya percaya kepentingan publik perlu dilindungi. Sebelum saya meninggalkan perusahaan pada tahun 2023, produk sudah dirilis dengan jadwal yang ketat, tetapi ini tampaknya semakin intensif, sedemikian rupa sehingga karyawan telah memperingatkan tentang . Pendekatan terburu-buru ini sekarang menyebabkan rilis karena “memicu kemarahan, mendesak tindakan impulsif, atau memperkuat emosi negatif.” Sementara itu, para pengambil keputusan memiliki insentif keuntungan yang tidak sepenuhnya memperhitungkan sisi negatif ini.

Tanggung jawab untuk menuntut OpenAI memenuhi misi amalnya berada di tangan dewan direksi nirlabanya. Sayangnya, banyak yang bahwa dewan nirlaba saat ini tidak memiliki independensi dan sumber daya yang dibutuhkan untuk menjalankan peran ini secara efektif. Sejak 2019, operasi komersial OpenAI telah berkembang dari tidak ada menjadi menghasilkan miliaran pendapatan tahunan. Sebaliknya, organisasi nirlaba masih tidak memiliki staf independen sendiri, dan anggota dewannya terlalu sibuk menjalankan perusahaan atau laboratorium akademik mereka sendiri untuk memberikan pengawasan yang berarti. Selain itu, usulan restrukturisasi OpenAI sekarang mengancam untuk melemahkan otoritas dewan ketika seharusnya diperkuat.

Tetapi ada jalan lain. Sebelum melanjutkan restrukturisasi apa pun, prioritas utama dewan adalah mempekerjakan CEO nirlaba untuk membangun tim independen, bebas dari konflik kepentingan finansial dan bertanggung jawab kepada dewan saja. Tujuan dari tim ini adalah untuk mendukung dewan dalam tugas pengawasannya, dan dapat berkembang untuk melakukan sejumlah fungsi penting.

Pertama, organisasi nirlaba dapat melakukan peninjauan kinerja eksekutif berdasarkan standar misi amal organisasi. Ini dapat digunakan oleh dewan untuk menentukan paket kompensasi eksekutif, membantu menyelaraskan insentif di puncak perusahaan.

Kedua, organisasi nirlaba dapat memberikan dewan keahlian independen tentang keselamatan dan keamanan. Ia dapat meninjau pengujian keselamatan internal yang dilakukan di bawah , serta pengujian keselamatan eksternal dan audit pihak ketiga atas praktik keamanan perusahaan. Penerapan perbatasan dapat dikenakan persetujuan dewan, didukung oleh ringkasan tinjauan ini.

Ketiga, organisasi nirlaba dapat meningkatkan transparansi. Dengan mempertahankan saluran komunikasinya sendiri dengan publik, ia dapat memberi tahu publik tentang praktik keselamatan dan keamanan perusahaan, perubahan penting pada kebijakan internal atau spesifikasi model, dan kemampuan baru yang menjadi perhatian publik. Ia juga dapat melakukan dan menerbitkan postmortemnya sendiri atas insiden keselamatan, dan mengelola hotline pelapor internal.

Akhirnya, organisasi nirlaba dapat mengambil alih setiap kegiatan di mana insentif keuntungan cenderung menyimpang dari kepentingan publik, seperti . Ia juga dapat mulai menggunakan sumber daya keuangan organisasi nirlaba yang luas (berasal dari kepemilikan saham mayoritas di perusahaan) untuk memberikan hibah untuk mendukung penggunaan AI yang bermanfaat dan upaya mitigasi risiko.

Karena pengembangan AI terus berlanjut dengan untuk regulasi Federal yang berarti di cakrawala, dewan nirlaba yang berdaya lebih penting dari sebelumnya. Kegiatan organisasi nirlaba tidak hanya dapat berfungsi sebagai pengawasan untuk OpenAI itu sendiri, tetapi juga sebagai cetak biru untuk orang lain. Misalnya, standar transparansi dan tinjauan pihak ketiga yang dipelopori di OpenAI dapat memberikan titik awal untuk regulasi di masa depan.

Langkah selanjutnya OpenAI akan menentukan lintasan perusahaan untuk tahun-tahun mendatang. Alih-alih secara permanen meninggalkan komitmennya terhadap kepentingan publik, ia dapat mundur dari jurang dan menegaskannya kembali, dengan meningkatkan kemampuan dewan nirlaba untuk memenuhi tugas pengawasannya.

Jiwa nirlaba OpenAI masih dapat diselamatkan—tetapi mungkin mengharuskan publik untuk menyuarakan dirinya sebagai penerima manfaat organisasi yang sah.

“`