SAN FRANCISCO, POSNEWS.CO.ID – Ambisi Elon Musk di dunia kecerdasan buatan (AI) kembali menabrak tembok etika yang keras. Pada hari Jumat, Grok—alat AI besutan xAI—mengumumkan bahwa mereka sedang berjuang memperbaiki celah keamanan fatal dalam sistem mereka. Langkah darurat ini menyusul laporan pengguna bahwa alat tersebut mengubah foto anak-anak atau perempuan menjadi gambar erotis.
“Kami telah mengidentifikasi kelalaian dalam perlindungan dan sedang memperbaikinya dengan segera,” tulis akun resmi Grok di platform X (sebelumnya Twitter). Mereka menegaskan bahwa Materi Pelecehan Seksual Anak (CSAM) adalah ilegal dan terlarang.
Tombol “Edit” yang Menelanjangi
Badai kritik mulai menghantam X setelah Grok meluncurkan tombol “edit image” pada akhir Desember lalu. Fitur ini memungkinkan pengguna memodifikasi gambar apa pun di platform tersebut. Sayangnya, sejumlah pengguna menyalahgunakannya untuk menghapus sebagian atau seluruh pakaian dari foto perempuan dan anak-anak secara digital.
Respons perusahaan terhadap krisis ini terkesan defensif. Saat AFP meminta konfirmasi, xAI—perusahaan yang Musk jalankan—hanya memberikan balasan otomatis yang ketus: “media arus utama berbohong.”
Namun, chatbot Grok memberikan jawaban berbeda saat seorang pengguna X menanyainya langsung. AI tersebut mengakui bahwa perusahaan di Amerika Serikat dapat menghadapi tuntutan pidana jika secara sadar memfasilitasi atau gagal mencegah pembuatan pornografi anak.
Tekanan Hukum Global: Dari New Delhi hingga Paris
Kontroversi ini memicu alarm internasional. Pejabat pemerintah di India menuntut X memberikan rincian konkret mengenai rencana mereka mencegah pembuatan konten “cabul, telanjang, tidak senonoh, dan menjurus secara seksual” oleh Grok.
Sementara itu, situasi di Eropa lebih genting bagi Musk. Kantor kejaksaan umum di Paris, Prancis, telah memperluas penyelidikan mereka terhadap X. Mereka menambahkan tuduhan baru bahwa alat AI tersebut menjadi sarana pembuatan dan distribusi pornografi anak. Langkah ini menyusul penyelidikan awal pada bulan Juli terkait dugaan manipulasi algoritma untuk campur tangan asing.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Peringatan yang Diabaikan
Para ahli yang memantau kebijakan X menyebut skandal ini sebagai bencana yang sudah terprediksi. Reuters melaporkan bahwa perusahaan telah mengabaikan peringatan keras dari masyarakat sipil dan kelompok keselamatan anak tahun lalu.
Tyler Johnston, direktur eksekutif The Midas Project, kelompok pengawas AI, mengungkapkan kekecewaannya. “Pada bulan Agustus, kami memperingatkan bahwa pembuatan gambar xAI pada dasarnya adalah alat penelanjangan (nudification tool) yang menunggu untuk dijadikan senjata,” ujarnya. “Itulah yang pada dasarnya terjadi sekarang.”
Selanjutnya, Dani Pinter, direktur hukum Pusat Nasional Eksploitasi Seksual, menambahkan kritik tajam. Menurutnya, X gagal menyaring gambar-gambar kasar dari materi pelatihan AI mereka. Seharusnya, X memblokir pengguna yang meminta konten ilegal sejak awal.
“Ini adalah kekejaman yang sepenuhnya dapat diprediksi dan dihindari,” tegas Pinter.
Penulis : Ahmad Haris Kurnia
Editor : Ahmad Haris Kurnia
