Kita akan menyaksikan redistribusi kekuasaan terbesar dalam sejarah.
Selama berabad-abad, kemanusiaan telah dibentuk oleh gelombang teknologi yang berurutan. Penemuan api, penemuan roda, pemanfaatan listrik – semuanya adalah momen transformasi bagi peradaban. Semua gelombang teknologi itu dimulai dari skala kecil, dengan beberapa eksperimen yang goyah, tetapi pada akhirnya mereka menyebar ke seluruh dunia. Gelombang-gelombang ini mengikuti trajektori yang sama: teknologi terobosan diciptakan, memberikan nilai besar, dan karenanya mereka berproliferasi, menjadi lebih efektif, lebih murah, lebih luas penggunaannya dan diserap ke dalam fabrik kehidupan manusia yang normal dan selalu berkembang.
Kita sekarang menghadapi gelombang teknologi baru, berpusat pada AI tetapi juga mencakup biologi sintetis, komputasi kuantum, dan sumber energi baru yang melimpah. Dalam banyak hal, gelombang ini akan mengulangi pola ini. Namun gelombang ini juga akan menyimpang dari pola tersebut dengan cara-cara krusial yang baru mulai terlihat. Di tengah semua gosip, harapan, ketakutan, saya pikir intinya hilang; karakteristik unik dari gelombang ini terlewat dalam kebisingan. Memahami hal ini, melihat apa yang sebenarnya berubah, sangat penting untuk memahami masa depan.
AI berbeda dari gelombang teknologi sebelumnya karena bagaimana AI melepaskan kekuatan baru dan mentransformasi kekuatan yang ada. Ini adalah aspek paling kurang diperhatikan dari revolusi teknologi yang sedang berlangsung. Sementara semua gelombang teknologi menciptakan struktur kekuasaan yang diubah dalam jejaknya, tidak ada yang melihat proliferasi kekuasaan mentah seperti yang akan datang.
Pikirkan begini. Teknologi paling kuat di era sebelumnya umumnya dikhususkan untuk elit kaya modal kecil atau pemerintah nasional. Membangun pabrik bertenaga uap, kapal induk atau pembangkit listrik nuklir adalah usaha yang mahal, sulit dan sangat besar. Dengan teknologi terkemuka zaman kita, itu tidak akan benar lagi.
Jika gelombang teknologi besar terakhir – komputer dan internet – tentang menyiarkan informasi, gelombang baru ini semuanya tentang melakukan. Kita menghadapi lompatan dalam hal apa yang dimungkinkan bagi orang perorangan untuk dilakukan, dan pada kecepatan yang sebelumnya tak terbayangkan.
AI menjadi semakin kuat dan secara radikal lebih murah dari bulan ke bulan – apa yang secara komputasional mustahil, atau akan menelan biaya puluhan juta dolar beberapa tahun lalu, kini sudah meluas.
AI-AI ini akan mengatur pesta pensiun dan mengelola buku harian Anda, mereka akan mengembangkan dan mengeksekusi strategi bisnis, sambil merancang obat baru untuk memerangi kanker. Mereka akan merencanakan dan menjalankan rumah sakit atau invasi sama seperti mereka akan menjawab email Anda. Membangun maskapai penerbangan atau sebaliknya menghentikan seluruh armada masing-masing menjadi lebih tercapai. Apakah itu komersial, agama, budaya, atau militer, demokratis atau otoriter, setiap motivasi yang dapat Anda pikirkan dapat ditingkatkan secara dramatis dengan memiliki kekuatan murah di ujung jari Anda. Alat-alat ini akan tersedia untuk semua orang, miliarder dan penipu jalanan, anak-anak di India dan pensiunan di Beverly Hills, proliferasi bukan hanya teknologi tetapi kemampuan itu sendiri.
Kekuasaan, kemampuan untuk mencapai tujuan, di mana-mana, di tangan siapa pun yang menginginkannya. Saya menebak itu akan menjadi sebagian besar orang. Ini jauh lebih memberdayakan daripada web yang pernah ada.
Dan ini datang lebih cepat dari yang bisa kita siapkan dengan memadai. Ini adalah zaman ketika teknologi paling kuat bersumber terbuka dalam hitungan bulan, ketika jutaan orang memiliki akses ke teknologi mutakhir, dan teknologi mutakhir itu adalah penguat kekuatan terbesar yang pernah ada. Era baru ini akan menciptakan bisnis raksasa baru, memberdayakan ekor panjang pelaku – baik dan buruk – meningkatkan kekuatan beberapa negara, mengikis negara lain. Apakah itu perusahaan raksasa atau startup, partai mapan atau gerakan pemberontak, entrepreneur bermata liar atau serigala tunggal dengan dendam untuk digiling, di sini ada peningkatan potensi besar yang mungkin. Pemenang dan pecundang akan muncul dengan cepat dan tak terduga di atmosfir mudah terbakar ini karena kekuasaan itu sendiri melonjak melalui sistem. Singkatnya, ini mewakili pengocokan kekuasaan terbesar dalam sejarah, semuanya terjadi dalam hitungan tahun.
Mereka yang paling nyaman hari ini terlihat rentan. Bahkan ketika wacana tentang AI telah mencapai demam, mereka yang berkuasa hari ini, kelas profesional, merasa sangat tidak siap untuk gangguan dan pembentukan kekuasaan baru yang akan dibawa kekacauan ini. Mereka – dokter, pengacara, akuntan, wakil presiden bisnis – tidak akan lolos tanpa terluka, namun sebagian besar yang saya ajak bicara masih sangat acuh tak acuh tentang perubahan yang menanti. Ini bukan hanya pusat panggilan otomatis. Gelombang ini akan menata ulang dan menata ulang masyarakat secara mendasar dan mereka yang paling banyak kehilangan, bergantung pada modal, keahlian, otoritas dan arsitektur keamanan yang mapan, justru paling terpapar.
Saya pernah melihat jenis ketidakpedulian ini sebelumnya. Saya menyebutnya “penolakan pesimisme”: kecenderungan untuk memalingkan pandangan dari perubahan teknologi yang meluas dan apa artinya yang sebenarnya. Sampai baru-baru ini, itu adalah penyakit umum dari elit Silicon Valley, banyak di antaranya mengejar “disrupsi” teknologi tanpa mempertimbangkan hasil yang mungkin. Kedatangan AI generatif dan produk AI lainnya telah mulai mengubah itu. Meskipun masih jauh untuk dilakukan, para pemimpin di Silicon Valley telah mulai mengambil pendekatan yang lebih proaktif dan pencegahan terhadap pengembangan model AI terbesar. Tetapi secara lebih luas sangat penting bahwa masyarakat yang menghadapi gelombang ini tidak mengabaikannya sebagai omong kosong, berpaling, dan terkejut. Persiapan untuk apa yang saya sebut pengandangan, program komprehensif untuk mengelola alat-alat ini, perlu dimulai sekarang.
Ketika kita mulai melihat kekuasaan itu sendiri berproliferasi, distribusi dan sifatnya secara mendasar berubah, penolakan pesimisme bukanlah jawabannya. Saatnya menghadapi konsekuensi dari pergeseran ini dalam hal siapa yang bisa melakukan apa, kapan dan bagaimana, memahami apa artinya, dan mulai merencanakan bagaimana kita dapat mengendalikan dan mengandangnya untuk kepentingan semua orang. Sejarah dapat menjadi panduan yang berguna. Tetapi dengan AI, biologi sintetis dan sisanya, kita dapat yakin satu hal: kita menghadapi yang benar-benar belum pernah terjadi sebelumnya.
