Beginilah Cara Kerja Facebook Menangani Konten Terorisme di Platform Besar Ini

CakapCakap – Cakap People! Facebook melakukan upaya dan memastikan konten teroris teridentifikasi dan dihilangkan dengan cepat. Demikian dijelaskan oleh Erin Saltman, wanita cantik yang bekerja dengan Tim Anti Terorisme dan Organisasi Berbahaya Facebook di London.

Sebagai platform dengan lebih dari 2,32 miliar pengguna, Facebook bertanggung jawab terhadap konten teroris dengan sangat serius. “Kebijakan kami eksplisit,” kata Erin Saltman. “Tidak ada tempat untuk terorisme di Facebook.”

Melansir The Telegraph, Jum’at, 3 Mei 2019, Tim Erin mengenal betul hal-hal yang berbau ancaman. Namun, mereka juga mengakui bahwa ada kebutuhan memahami nuansa dan konteks sebelum melakukan tindakan atas konten terorisme di Facebook. “Kami ingin memastikan bahwa unggahan orang-orang yang memuji dan mendukung terorisme dihapus. Tapi kami juga melihat konten yang mungkin digunakan oleh media atau aktivis untuk mengutuk terorisme, jadi penting untuk mengenali perbedaan itu.”

Konten teroris adalah ancaman yang terus berubah di media sosial. “Pekerjaan kami menunjukkan bahwa teroris dan simpatisan mereka menggunakan alat yang mereka miliki, dengan cara tercepat dan termurah. Jadi kami mungkin lebih baik dalam menangani konten di platform kami, tetapi itu tidak berarti bahwa itu hilang; pada kenyataannya, itu sering menyebar ke platform yang lebih kecil, kurang teregulasi. Jadi kami memiliki tanggung jawab untuk memastikan komunitas lain memahami migrasi itu. “

Inilah Bagaimana Facebook Menggunakan Kecerdasan Buatan (AI) Untuk Mendeteksi Konten Teroris

Pemahaman bahasa: Facebook telah mulai bereksperimen dengan menggunakan kecerdasan buatan (AI) untuk memahami teks yang bisa digunakan untuk mengadvokasi terorisme. 

Facebook bereksperimen dengan menganalisis teks yang telah dihapus untuk memuji atau mendukung organisasi teroris sehingga Facebook dapat mengembangkan sinyal yang mengidentifikasi propaganda teroris potensial lainnya.

Menghapus kluster teroris: Facebook tahu dari studi teroris bahwa mereka cenderung radikal dalam kluster. Jadi ketika Facebook mengidentifikasi halaman, grup, unggahan atau profil sebagai pendukung terorisme, Facebook juga menggunakan algoritma untuk “menyebar” untuk mencoba mengidentifikasi materi terkait yang mungkin juga mendukung terorisme.

Konten secara khusus ditangani di Facebook menggunakan berbagai macam cara. “Ada lebih dari 200 orang yang fokus utamanya adalah kontraterorisme. Untuk benar-benar memahami konteks dan sifat konten teroris yang berubah, tim kami memanfaatkan beragam bakat, pengalaman, dan latar belakang – termasuk penegakan hukum, hak asasi manusia, akademisi, dan LSM.

Selain itu, Facebook juga bekerja sama dengan analis dan insinyur riset untuk mencari solusi teknis, seperti pencocokan foto dan video (yaitu tentang membuat sidik jari digital konten, sehingga setiap unggahan berikutnya segera ditangkap). 

Facebook juga ahli menangani residivisme [kecenderungan untuk kembali], memastikan bahwa ‘pelaku kejahatan’ yang sama [teroris dan simpatisan mereka] tidak diizinkan untuk muncul berulang kali. “Antara keahlian manusia, peralatan pengembangan perangkat lunak, dan pembelajaran mesin, kami mencapai hal-hal luar biasa, yang sangat saya banggakan.”

Seperti diketahui, pada 2018, Facebook menghapus 14,3 juta konten teroris yang sebagian besar difokuskan pada propaganda Daesh dan Al-Qaeda. Jumlah ini termasuk konten yang lebih tua yang ditemukan dengan menggunakan peralatan teknologi yang semakin canggih.

Menyatukan Orang Untuk Membawa Perubahan

Berkat perpaduan antara keahlian manusia, peralatan dan kecanggihan teknologi, Facebook mampu mendeteksi dan menghapus 99 persen teror terkait Daesh dan Al Qaeda sebelum dilaporkan, dan dalam beberapa kasus, bahkan sebelum ditayangkan. Setelah terdeteksi adanya konten teroris, Facebook menghapus 83 persen dari salinan yang diunggah dalam waktu satu jam setelah unggahan.

Tetapi Erin mengakui bahwa masih ada pekerjaan yang harus dilakukan. “Ketika ancaman berkembang, kami berevolusi. Kami terus-menerus menilai kembali pendekatan kami. Kami bekerja dengan sektor lain – pembuat kebijakan di pemerintahan, LSM di masyarakat sipil, atau akademisi, jadi kami sepenuhnya memahami ancaman yang kami hadapi – untuk memastikan kami tetap terdepan dalam masalah ini, dan komunitas pengguna kami terlindungi. “

Mereka juga telah bekerja dengan platform media sosial dan pemimpin digital lainnya untuk memahami sifat ancaman teroris yang berkembang dan bagaimana ia berkembang secara global. 

“Pada 2017, Facebook membentuk Forum Internet Global untuk Menangkal Terorisme dengan Microsoft, Twitter, dan YouTube. Pekerjaan kami di dalam organisasi melibatkan pihak-pihak lain untuk memberikan pelatihan ke berbagai sektor sehingga kami membantu orang lain memahami seperti apa ancamannya bagi mereka, dan bagaimana kami dapat bekerja sama untuk menantangnya secara efektif,” demikian dikatakan Erin.