Mengapa Perlawanan Terhadap Ekstremisme Online Terus Gagal

(SeaPRwire) –   Ketika kita membaca tentang penembakan lain yang terkait dengan kebencian online, atau jaringan kekerasan lain yang menyebar di media sosial, seruan yang umum adalah bahwa “platform media sosial harus berbuat lebih banyak.”

Memang, penelitian saya sendiri dalam ekstremisme online dan moderasi konten menunjukkan bahwa meskipun penghapusan moderasi konten telah melonjak di situs-situs utama selama beberapa tahun terakhir, para ekstremis masih menemukan banyak ruang digital untuk merekrut, mengatur, dan menyerukan kekerasan. Jadi, mungkin pertanyaan yang harus kita ajukan bukanlah apakah platform melakukan cukup banyak secara terpisah—tetapi apakah kita mengatasi masalah yang lebih besar daripada yang dapat ditangani oleh satu situs pun.

Pendekatan kita untuk memerangi kebencian dan ekstremisme online terlalu sering berfokus pada platform individu—Facebook, X, YouTube, atau TikTok—dan terlalu sedikit pada fragmentasi moderasi konten di seluruh internet. Secara historis, ketika pemerintah mengawasi “Big Tech” dan platform memperketat aturan moderasi mereka, gerakan ekstremis menyebar ke platform yang lebih kecil atau alternatif. Lebih sedikit aturan dan tim kepercayaan dan keamanan yang lebih kecil berarti lebih banyak peluang untuk meradikalisasi audiens yang berdedikasi sambil tetap menguji cara untuk menyelinap kembali ke platform yang lebih besar.

Baru-baru ini, hal ini menjadi lebih mudah, dengan beberapa platform besar melonggarkan aturan moderasi konten mereka dengan kedok kebebasan berbicara. Di bawah kepemilikan Elon Musk, misalnya, secara tajam mengurangi tim kepercayaan dan keamanannya, , dan . Demikian pula, , yang memiliki Facebook dan Instagram, mengakhiri program pengecekan fakta pihak ketiganya dan mendefinisikan ulang kebijakan ujaran kebenciannya sehingga retorika tertentu yang dulunya tidak diizinkan sekarang diperbolehkan. Dan karena platform ini menawarkan jangkauan terluas, para ekstremis tidak hanya mendapatkan kembali akses ke audiens utama tetapi juga memasuki kembali siklus radikalisasi, perekrutan, dan mobilisasi yang sulit dipertahankan oleh platform yang lebih kecil.

Saya berdasarkan pada dataset multi-platform yang luas dan studi kasus aktor di seluruh spektrum ideologis menunjukkan bagaimana para ekstremis membangun ketahanan dalam lanskap yang tidak merata ini. Strategi mereka disengaja dan dinamis. Mereka menggunakan situs pinggiran atau aplikasi pesan terenkripsi untuk memposting materi yang paling membakar atau kejam, melewati penegakan hukum yang lebih ketat. Kemudian mereka membuat pesan “yang diturunkan nada”-nya untuk platform utama—mungkin penuh kebencian, tetapi tidak cukup penuh kebencian untuk memicu penghapusan massal. Mereka memanfaatkan kebencian pengguna yang merasa telah disensor di media sosial arus utama, mengubah keluhan itu menjadi bagian dari seruan mereka. Siklus ini berkembang di celah-celah dari apa yang saya sebut “sistem penegakan yang tidak konsisten”—ekosistem yang, sengaja atau tidak, memungkinkan para ekstremis untuk beradaptasi, menghindari larangan, dan membangun kembali di seluruh platform.

Tetapi pendekatan tambal sulam ini juga berarti bahwa gerakan ekstremis tidak pernah benar-benar dibongkar—hanya dipindahkan sementara. Alih-alih melemahkan jaringan ini, itu mengajarkan mereka untuk berevolusi, membuat penegakan hukum di masa depan menjadi lebih sulit.

Jika platform mengoordinasikan standar mereka (dan bukan hanya dalam pernyataan yang tidak jelas tetapi dalam protokol penegakan khusus), konsistensi itu mulai menghilangkan “arbitrase” yang diandalkan oleh para ekstremis. Analisis terhadap 60 platform menunjukkan bahwa di tempat-tempat di mana ada konvergensi kebijakan yang nyata, kelompok-kelompok kekerasan menemukan lebih sedikit tempat yang aman karena mereka tidak lagi dapat mengeksploitasi kesenjangan penegakan untuk mempertahankan kehadiran online. Ketika platform menerapkan aturan yang serupa dan mengoordinasikan penegakan hukum, para ekstremis memiliki lebih sedikit tempat untuk berkumpul kembali dan lebih sedikit kesempatan untuk berpindah dari satu situs ke situs lain ketika larangan berlaku.

Mengkoordinasikan dengan cara ini tidak mudah—moderasi konten menimbulkan kekhawatiran tentang kebebasan berbicara, penyensoran, dan potensi penyalahgunaan oleh pemerintah atau perusahaan swasta. Namun demikian, untuk sebagian kecil konten yang sebagian besar dari kita setuju berada di luar batas—propaganda teroris dan ujaran kebencian yang menganjurkan kekerasan—menyelaraskan standar akan menutup banyak lubang yang menganga.

Membangun kemampuan kepercayaan dan keamanan yang kuat tidaklah murah atau sederhana—terutama untuk platform yang lebih kecil yang tidak dapat mempekerjakan ratusan moderator dan ahli hukum. Masuklah gelombang baru inisiatif pihak ketiga yang bertujuan untuk melakukan hal itu: ROOST, misalnya, adalah oleh koalisi yayasan filantropis dan perusahaan teknologi seperti Google, OpenAI, dan Roblox. Ini menyediakan perangkat lunak sumber terbuka dan basis data bersama sehingga platform, besar atau kecil, dapat lebih baik mengidentifikasi dan menghapus materi ekstremis yang diketahui menghasut bahaya di dunia nyata. Proyek seperti ini menjanjikan jalan menuju konvergensi yang lebih besar, tanpa memaksa perusahaan untuk menciptakan kembali moderasi dari awal.

Tentu saja, beberapa hambatan terbesar tetap bersifat politis. Kita masih kekurangan konsensus tentang di mana menarik garis antara ujaran ekstremis yang berbahaya dan ekspresi politik yang sah. Topik ini menjadi sangat terpolarisasi, dengan berbagai aktor dan pemangku kepentingan yang memegang pandangan yang sangat kontras tentang apa yang harus dianggap berbahaya. Tetapi kekerasan ekstremis bukanlah masalah partisan: dari penembakan sinagoga hingga kekerasan yang disiarkan langsung di Christchurch hingga serangkaian serangan yang terinspirasi oleh kelompok Islam yang terkait dengan radikalisasi online, kita telah menyaksikan cukup banyak kekejaman untuk mengetahui bahwa kebencian dan teror berkembang di antara platform.

Ya, kita akan terus memperdebatkan batas-batas konten yang berbahaya. Tetapi dapat menyetujui bahwa seruan eksplisit untuk kekerasan, pelecehan berbasis kebencian, dan propaganda teror memerlukan intervensi cepat dan serius. Landasan bersama itulah tempat inisiatif multi-platform seperti ROOST, atau basis data kolaboratif yang dipimpin oleh Global Internet Forum to Counter Terrorism, dapat membuat kemajuan nyata.

Sampai kita mengatasi insentif sistemik yang memungkinkan migrasi, koordinasi, dan kemunculan kembali konten ekstremis di seluruh platform, kita akan terus bertanya-tanya, setelah setiap serangan mengerikan: Mengapa ini terus terjadi? Jawabannya adalah bahwa kita telah membangun sistem yang terfragmentasi—di mana setiap platform melawan pertempurannya sendiri, sementara para ekstremis mengeksploitasi celah-celahnya.

Saatnya untuk menuntut tidak hanya agar “Big Tech berbuat lebih banyak,” tetapi agar semua ruang online berkomitmen pada sikap yang lebih terpadu melawan ekstremisme. Hanya dengan begitu kita dapat mulai mengeringkan kebocoran yang tak terhitung jumlahnya yang terus memelihara kebencian digital.