CEO Teknologi Disidang Soal Keamanan Anak Online, AI Memerumitkan Masalah Ini

(SeaPRwire) –   CEO lima perusahaan media sosial termasuk Meta, TikTok dan X (dulu Twitter) disidang oleh Senator pada Rabu tentang bagaimana mereka mencegah eksploitasi anak online.

Komite Yudisial Senat mengadakan pertemuan ini untuk mempertanggungjawabkan CEO atas apa yang mereka katakan sebagai kegagalan mencegah penyalahgunaan anak-anak, dan bertanya apakah mereka akan mendukung undang-undang yang diajukan anggota Komite untuk menangani masalah ini.

Masalah ini semakin parah, menurut Pusat Nasional untuk Anak Hilang dan Dieksploitasi, yang mengatakan laporan bahan eksploitasi seksual anak (CSAM) mencapai rekor tertinggi tahun lalu dengan lebih dari 36 juta, seperti yang dilaporkan oleh . Pusat Informasi CyberTipline Nasional untuk Pelaporan CSAM Secara Online, sistem terpusat di AS untuk melaporkan CSAM secara online, menerima laporan lebih dari pada 2022, dengan hampir 90% laporan berasal dari luar negeri.

Mark Zuckerberg dari Meta, Shou Chew dari TikTok, dan Linda Yaccarino dari X hadir bersama Jason Spiegel dari Snap dan Jason Citron dari Discord untuk menjawab pertanyaan dari Komite Yudisial Senat. Sementara Zuckerberg dan Chew hadir secara sukarela, Komite harus menyerahkan Spiegel, Citron, dan Yaccarino surat panggilan.

Senator Richard Durbin, seorang Demokrat dari Illinois dan ketua Komite, membuka sidang dengan video yang menunjukkan korban eksploitasi seksual anak secara online, termasuk keluarga anak-anak yang bunuh diri setelah ditargetkan oleh pelaku.

Senator Lindsey Graham, seorang Republik dari Carolina Selatan dan anggota peringkat, memberitahu para hadirin tentang , putra 17 tahun dari Anggota Dewan Negara Bagian Carolina Selatan Brandon Guffey, yang bunuh diri tahun lalu setelah dieksploitasi secara seksual di Instagram. “Anda memiliki darah di tangan Anda,” kata Graham kepada CEO, terutama menunjuk Zuckerberg.

Banyak anggota dewan menyatakan kefrustrasian mereka atas apa yang mereka katakan sebagai upaya yang tidak memadai yang diambil oleh perusahaan media sosial untuk menangani masalah ini dan menyatakan keinginan mereka untuk bertindak. Dalam satu tahun terakhir, selain mengadakan sejumlah sidang, Komite Yudisial telah melaporkan sejumlah rancangan undang-undang ke lantai Senat yang bertujuan melindungi anak online, termasuk .

Dalam kesaksiannya, CEO semua menjelaskan langkah-langkah yang mereka ambil untuk mencegah bahaya online terhadap anak-anak. Namun, ketika ditanya apakah mereka akan mendukung rancangan undang-undang yang dilaporkan Komite Yudisial, banyak yang menghindar.

Pada satu titik, Senator Josh Hawley, seorang Republik dari Missouri, bertanya kepada Zuckerberg apakah ia ingin meminta maaf kepada orang tua anak-anak yang hadir di sidang. “Saya minta maaf atas semua yang telah Anda alami,” kata Zuckerberg. “Ini mengerikan. Tidak seorang pun seharusnya mengalami hal-hal yang telah dialami keluarga Anda.”

Pada beberapa kesempatan, CEO menekankan penggunaan kecerdasan buatan perusahaan mereka untuk menangani masalah CSAM secara online. Dalam kesaksiannya, Citron menekankan akuisisi Discord terhadap Sentropy, perusahaan yang mengembangkan solusi moderasi konten berbasis AI. Zuckerberg mengatakan 99% konten yang dihapus Meta dideteksi secara otomatis oleh alat AI. Namun, para pejabat teknologi dan hukum tidak membahas peran AI dalam proliferasi CSAM.

Gambar eksploitasi anak yang dihasilkan AI

Munculnya kecerdasan buatan generatif menambah kekhawatiran tentang bahaya bagi anak-anak secara online. Penegak hukum di seluruh dunia terpaksa menangani kasus AI-generated CSAM—sebuah fenomena tanpa preseden bagi banyak pengadilan.

Pada , aktris Marvel berusia 17 tahun Xochitl Gomez, yang memerankan pahlawan super remaja America Chavez dalam film 2022 Doctor Strange in the Multiverse of Madness, berbicara tentang seberapa sulitnya membersihkan X dari gambar pornografi AI-generated dirinya.

Berbicara di podcast dengan aktor Taylor Lautner dan istrinya, Gomez mengatakan ibunya dan timnya telah berusaha—tanpa hasil—untuk menghapus gambar-gambar tersebut. “Ibunya memiliki email demi email, tapi banyak sekali dan dia telah menangani semuanya,” katanya. “Bagiku, ini bukan sesuatu yang mengejutkan, tapi lebih ke ‘Mengapa sulit sekali menghapusnya?'”

Otoritas dihadapkan tugas rumit untuk menghentikan penyebaran CSAM hasil AI seiring teknologi berkembang dengan cepat dan akses mudah ke alat seperti deepfake meningkat, bahkan di kalangan anak-anak sendiri.

Seiring model AI semakin baik dan lebih mudah diakses, mereka juga akan semakin sulit diawasi jika digunakan untuk tujuan yang tidak sah, seperti membuat CSAM, menurut Dan Sexton, chief technology officer dari Internet Watch Foundation (IWF) Inggris. Ia mengatakan dunia perlu segera menyetujui solusi: “Semakin lama kita menunda menemukan solusi untuk setiap masalah potensial yang mungkin terjadi besok, kemungkinan besar hal itu sudah terjadi dan kita hanya mengejar di belakang, berusaha membatalkan kerusakan yang sudah terjadi.”

Masalah yang semakin besar

Sebagian besar, membuat CSAM apa pun sudah dilarang luas, termasuk menggunakan AI. Dalam laporan terbarunya, Pusat Internasional untuk Anak Hilang dan Dieksploitasi menemukan bahwa 182 dari 196 negara memiliki undang-undang yang secara khusus menangani CSAM atau cukup untuk memerangi masalah ini. Misalnya, mendefinisikan CSAM sebagai representasi visual dari perilaku seksual eksplisit yang melibatkan minor—yang dapat termasuk “gambar digital atau yang dihasilkan komputer yang tidak dapat dibedakan dari minor sebenarnya” serta “gambar yang dibuat, diadaptasi, atau dimodifikasi, tetapi tampak menggambarkan minor yang dapat diidentifikasi sebenarnya.” Di Irlandia, undang-undang jauh lebih ketat: CSAM ilegal, baik .

Beberapa pelaku sudah dihukum berdasarkan undang-undang seperti itu. Pada September, seorang pria 40-an dihukum penjara 2,5 tahun karena menggunakan AI untuk mengilustrasikan ratusan gambar pornografi anak yang sangat mirip. Pada April lalu, seorang pria berusia 61 tahun dihukum penjara tiga tahun karena menggunakan teknologi deepfake untuk membuat video eksploitasi seksual sintetis anak. Pada bulan yang sama, seorang pria berusia 22 tahun dihukum enam bulan penjara dan 10 tahun masa percobaan sebagai pelaku kejahatan seks setelah mengakui beberapa tuduhan terkait pembuatan dan penyebaran gambar seksualis eksplisit lebih dari satu dozen wanita di bawah umur.

Tetapi penyelesaian kasus-kasus ini tidak selalu jelas. Spanyol dilaporkan menerima lebih dari 20 laporan gadis berusia antara 11 dan 17 tahun yang beredar gambar bugil hasil AI mereka di internet pada September. Namun membutuhkan waktu bagi otoritas penegak hukum untuk menentukan tanggung jawab pidana pelaku dugaan, yang juga dipercaya masih remaja. Manuel Cancio, profesor hukum pidana di Universitas Otonom Madrid, mengatakan kepada TIME bahwa “jika ini adalah kasus jelas di mana semua orang akan tahu di bagian mana Kode Pidana harus ditempatkan, maka tuntutan sudah diajukan.” David Wright, direktur Pusat Keamanan Internet Inggris, juga mengatakan kepada TIME bahwa organisasi perlindungan anak telah menerima laporan siswa sekolah yang membuat dan menyebarkan gambar bugil hasil AI teman-teman mereka.

Teknologi AI saat ini dapat menggunakan citra siapa saja tanpa sepengetahuan untuk menghasilkan materi eksploitasi seksual anak dalam beberapa klik, meski banyak pengembang tidak mengizinkan penggunaan untuk materi semacam itu. Stanford Internet Observatory melaporkan bahwa beberapa model AI dilatih pada dataset yang berisi setidaknya 3.000 gambar CSAM yang diketahui—berasal dari platform populer seperti dan —meski kebijakan mereka melarang pengunggahan konten semacam itu. Reddit dan X tidak menanggapi permintaan komentar tentang laporan tersebut. Sexton mengatakan IWF juga menerima laporan gambar korban CSAM sebelumnya digunakan kembali untuk membuat lebih banyak CSAM mereka.

David Thiel, chief technologist di Stanford Internet Observatory, mengatakan CSAM hasil AI telah melampaui solusi yang digunakan untuk melacak dan menghapus konten tersebut. “Ini hanya aliran konten baru terus-menerus daripada sirkulasi materi yang diketahui,” kata Thiel, “yang membuat bagian pencocokan gambar visual menjadi sangat sulit.”

Artikel ini disediakan oleh penyedia konten pihak ketiga. SeaPRwire (https://www.seaprwire.com/) tidak memberikan jaminan atau pernyataan sehubungan dengan hal tersebut.

Sektor: Top Story, Daily News

SeaPRwire menyediakan distribusi siaran pers real-time untuk perusahaan dan lembaga, menjangkau lebih dari 6.500 toko media, 86.000 editor dan jurnalis, dan 3,5 juta desktop profesional di 90 negara. SeaPRwire mendukung distribusi siaran pers dalam bahasa Inggris, Korea, Jepang, Arab, Cina Sederhana, Cina Tradisional, Vietnam, Thailand, Indonesia, Melayu, Jerman, Rusia, Prancis, Spanyol, Portugis dan bahasa lainnya. 

Next Post

SK Networks Bekerjasama dengan Vivek untuk Mendorong Perusahaan Investasi Berbasis Bisnis yang Berfokus pada AI Melalui Proyek 'SK Networks Renaissance'

Kam Feb 1 , 2024
Direktur Utama Bow Capital dan Pemilik NBA Sacramento Kings Kunjungi Korea MOU untuk Membentuk Konsorsium Investasi Kerjasama Skala Besar untuk Proyek Renaisans Jaringan SK… Investasi Target Pembelian Saham Cadangan SK Networks Bersama Investor Besar AS SK Networks Memperkuat Bisnis di Sektor Teknologi, Termasuk AI dan Robotika, Bertujuan untuk Menarik Investor […]