Namun, bukan hanya model yang tidak dapat mengenali aksen, bahasa, sintaksis, atau wajah yang kurang umum di negara-negara Barat. “Banyak alat deteksi deepfake awal dilatih pada media berkualitas tinggi,” kata Gregory. Namun, di sebagian besar dunia, termasuk Afrika, merek ponsel pintar murah dari Tiongkok yang menawarkan fitur-fitur yang disederhanakan mendominasi pasar. Foto dan video yang dapat dihasilkan ponsel-ponsel ini memiliki kualitas yang jauh lebih rendah, sehingga semakin membingungkan model deteksi, kata Ngamita.
Gregory mengatakan bahwa beberapa model sangat sensitif sehingga bahkan kebisingan latar belakang dalam sepotong audio, atau mengompresi video untuk media sosial, dapat mengakibatkan hasil positif atau negatif yang salah. “Tetapi itulah keadaan yang Anda hadapi di dunia nyata, deteksi yang kasar dan tidak hati-hati,” katanya. Alat gratis yang dapat diakses publik yang kemungkinan besar dapat diakses oleh sebagian besar jurnalis, pemeriksa fakta, dan anggota masyarakat sipil juga “sangat tidak akurat, dalam hal menangani ketidakadilan siapa yang terwakili dalam data pelatihan dan tantangan dalam menangani materi berkualitas rendah ini.”
AI generatif bukanlah satu-satunya cara untuk menciptakan media yang dimanipulasi. Apa yang disebut cheapfake, atau media yang dimanipulasi dengan menambahkan label yang menyesatkan atau sekadar memperlambat atau mengedit audio dan video, juga sangat umum di negara-negara berkembang, tetapi dapat secara keliru ditandai sebagai hasil manipulasi AI oleh model yang salah atau peneliti yang tidak terlatih.
Diya khawatir bahwa kelompok yang menggunakan alat yang lebih cenderung menandai konten dari luar AS dan Eropa sebagai hasil AI dapat menimbulkan dampak serius pada tingkat kebijakan, yang mendorong legislator untuk menindak masalah imajiner. “Ada risiko besar dalam hal membesar-besarkan angka seperti itu,” katanya. Dan mengembangkan alat baru bukanlah masalah menekan tombol.
Sama seperti bentuk AI lainnya, membangun, menguji, dan menjalankan model deteksi memerlukan akses ke pusat energi dan data yang tidak tersedia di sebagian besar dunia. “Jika Anda berbicara tentang AI dan solusi lokal di sini, hampir mustahil tanpa sisi komputasi bagi kami untuk menjalankan model apa pun yang ingin kami buat,” kata Ngamita, yang berbasis di Ghana. Tanpa alternatif lokal, peneliti seperti Ngamita hanya punya sedikit pilihan: membayar akses ke alat siap pakai seperti yang ditawarkan oleh Reality Defender, yang biayanya bisa jadi mahal; menggunakan alat gratis yang tidak akurat; atau mencoba mendapatkan akses melalui lembaga akademis.
Untuk saat ini, Ngamita mengatakan bahwa timnya harus bermitra dengan universitas Eropa tempat mereka dapat mengirimkan beberapa konten untuk verifikasi. Tim Ngamita telah menyusun kumpulan data dari kemungkinan contoh deepfake dari seluruh benua, yang menurutnya berharga bagi akademisi dan peneliti yang mencoba mendiversifikasi kumpulan data model mereka.
Namun, pengiriman data ke orang lain juga memiliki kekurangan. “Waktu jedanya cukup lama,” kata Diya. “Butuh waktu setidaknya beberapa minggu sebelum seseorang dapat dengan yakin mengatakan bahwa ini adalah hasil AI, dan pada saat itu, konten tersebut, kerusakannya sudah terjadi.”
Gregory mengatakan bahwa Witness, yang menjalankan program deteksi respons cepatnya sendiri, menerima “jumlah besar” kasus. “Sudah sulit untuk menangani kasus-kasus tersebut dalam jangka waktu yang dibutuhkan jurnalis garis depan, dan pada volume yang mulai mereka hadapi,” katanya.
Namun, Diya mengatakan bahwa terlalu berfokus pada deteksi dapat mengalihkan pendanaan dan dukungan dari organisasi dan lembaga yang menciptakan ekosistem informasi yang lebih tangguh secara keseluruhan. Sebaliknya, katanya, pendanaan perlu disalurkan ke kantor berita dan organisasi masyarakat sipil yang dapat menumbuhkan rasa percaya publik. “Saya kira bukan ke sanalah uang itu digunakan,” katanya. “Saya kira lebih banyak digunakan untuk deteksi.”