Facebook mengumumkan akan blokir video deepfake, langkah ini sebagai upaya memerangi hoaks. Deepfake merupakan hoaks berbentuk bentuk video, yang diedit dari video asli dengan teknologi artificial intelligence (AI) atau machine learning (ML).
Dilaporkan The Guardian, upaya Facebook ini dilakukan setelah Mark Zuckerberg dikritik habis-habisan atas segala masalah di Facebook, baik itu pelanggaran data, hoaks, kampanye Rusia, hingga ujaran kebencian.
Facebook sendiri mengambil posisi yang kuat dalam memberantas dengan cara blokir video deepfake. Padahal sebenarnya teknologi untuk membuat deepfake di luar sana belum terlalu canggih untuk menciptakan video misinformasi dengan objek manusia.
Menurut Vice , Monika Bickert, President of Global Policy Management Facebook, untuk bisa memblokir video deepfake, ada dua kriteria yang harus dipenuhi. Pertama, video harus dimanipulasi dengan cara yang tidak terlihat oleh orang biasa dan ada kemungkinan akan menyesatkan. Kedua, video harus merupakan produk hasil editan AI atau ML.
Dikatakan Bickert, deepfake masuk ke dalam konten yang facebook blokir. Konten ini melanggar kebijakan komunitas Facebook lantaran menyajikan unsur ketelanjangan (nudity), ujaran kebencian (hate speech), dan kekerasan (violance).
Pada tahun lalu, para peneliti kecerdasan buatan (artificial intelligence/AI) di Facebook mengaku mereka telah membuat sistem ML yang bisa dipakai untuk mengidentifikasi seseorang dalam sebuah video. Dengan begitu, sistem AI ini mampu mendeteksi apakah sebuah video merupakan deepfake atau tidak.
Startup bernama D-ID dan sejumlah pihak membuat teknologi untuk mengidentifikasi gambar foto, namun ini adalah pertama kalinya identifikasi dilakukan di video. Pada tes awal metode ini mampu menggagalkan sistem pengenalan wajah yang canggih.