SAN FRANCISCO, POSNEWS.CO.ID – Video hasil buatan AI yang menggambarkan tentara Amerika Serikat ditawan Iran kini beredar luas di platform X milik Elon Musk. Selain itu, muncul pula visual palsu mengenai kota-kota Israel yang hancur lebur serta kedutaan besar AS yang terbakar hebat. Fenomena ini menandai lonjakan drastis deepfake yang sangat realistis di tengah berkecamuknya perang Iran.
Dalam konteks ini, para peneliti menyebutkan bahwa banjir visual AI ini jauh melampaui konflik-konflik sebelumnya. Akibatnya, pengguna media sosial sering kali gagal membedakan antara fakta lapangan dan fabrikasi digital. Kondisi ini memperparah ketidakpastian informasi di tengah situasi keamanan global yang sedang volatil.
Kebijakan Baru X: Demonetisasi Konten AI
Pihak X akhirnya mengambil langkah tegas untuk melindungi “informasi autentik” selama konflik berlangsung. Pekan lalu, X mengumumkan akan menangguhkan kreator dari program berbagi pendapatan selama 90 hari jika mereka mengunggah video perang buatan AI tanpa label pengenal. Bahkan, pelanggaran berulang akan mengakibatkan suspensi akun secara permanen.
Kepala produk X, Nikita Bier, menegaskan bahwa kebijakan ini bertujuan mengurangi insentif bagi penyebar kebohongan. Namun, para peneliti disinformasi tetap merasa skeptis terhadap efektivitas aturan tersebut. Sebab, banyak akun premium “centang biru” masih terus membagikan klip AI mengenai serangan nuklir Iran ke Israel meskipun aturan baru telah berlaku.
Kegagalan Grok dan Insentif Finansial Disinformasi
Sistem verifikasi internal X pun menunjukkan kelemahan yang signifikan. Chatbot AI milik X, Grok, justru memberikan informasi salah kepada pengguna dengan mengeklaim bahwa visual AI tersebut adalah nyata. Oleh karena itu, teknologi internal X sendiri tampaknya memperburuk masalah disinformasi daripada menyelesaikannya.
Terlebih lagi, model bisnis X yang memungkinkan akun premium mendapatkan bayaran berdasarkan interaksi telah memicu gairah finansial untuk menyebarkan konten sensasional. Sebagai contoh, sebuah akun premium mengunggah video AI gedung Burj Khalifa yang terbakar dan mengabaikan peringatan untuk melabeli konten tersebut. Video tersebut tetap tayang dan berhasil meraih lebih dari dua juta penayangan.
Tantangan Verifikasi dan Kedaulatan Informasi
Lembaga penelitian Tech Transparency Project juga melaporkan bahwa X kemungkinan besar mengambil keuntungan dari akun-akun pejabat pemerintah Iran yang menyebarkan propaganda. Meskipun X telah menghapus beberapa tanda centang biru setelah laporan tersebut, pengaruh narasi palsu tetap meluas. Secara simultan, efektivitas sistem Community Notes terus mendapatkan sorotan karena lebih dari 90 persen catatan tersebut tidak pernah terbit ke publik.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Pada akhirnya, krisis deepfake ini membuktikan bahwa teknologi AI berkembang lebih cepat daripada kemampuan verifikasi manusia. Oleh sebab itu, kedaulatan informasi digital kini berada dalam ancaman serius dari para aktor yang mengejar keuntungan ekonomi di atas tragedi kemanusiaan. Dengan demikian, masa depan platform X sebagai sumber berita terpercaya akan sangat bergantung pada implementasi teknis yang jauh lebih ketat di masa depan.
Penulis : Ahmad Haris Kurnia
Editor : Ahmad Haris Kurnia
