SAN FRANCISCO, POSNEWS.CO.ID – Lembaga nirlaba internasional kembali menyoroti kelemahan sistem keamanan teknologi kecerdasan buatan global.
Peringkat Keamanan AI Global Terbaru
Future of Life Institute mengevaluasi sembilan perusahaan AI terkemuka dunia. Anthropic meraih skor keseluruhan terbaik dengan nilai C plus.
Meta naik dua peringkat ke posisi keempat dalam daftar tersebut. Sebaliknya, xAI turun tiga peringkat dan kini menempati posisi ketujuh.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Perusahaan asal Prancis, Mistral, menempati peringkat terbawah bersama DeepSeek dari China. Tujuh peneliti independen menentukan peringkat tersebut menggunakan data publik terkini.
Kegagalan Mengatasi Ancaman Eksistensial
Pakar tata kelola menilai performa perusahaan berdasarkan data publik yang tersedia. Mereka mengevaluasi enam kategori risiko termasuk keamanan eksistensial dan akuntabilitas.
Belum ada satu pun perusahaan yang mendapatkan nilai A dalam evaluasi ini. Laporan menyebut seluruh perusahaan gagal mengatasi ancaman eksistensial kecerdasan umum buatan (AGI).
Kegagalan ini mencakup potensi penyalahgunaan model untuk meluncurkan serangan siber berbahaya. Peneliti menganggap upaya pencegahan risiko saat ini masih sangat tidak memadai.
Kontroversi Model Terbuka dan Kerja Sama Militer
Mistral mengembangkan model terbuka yang memungkinkan modifikasi bebas oleh pengguna. Presiden Future of Life, Max Tegmark, menyayangkan kegagalan Mistral dalam aspek keamanan.
Mistral tidak memberikan respons terhadap survei yang dikirimkan oleh lembaga tersebut. Alasan serupa juga berlaku untuk Alibaba, xAI, dan DeepSeek.
Beberapa perusahaan juga mulai melonggarkan larangan penggunaan teknologi untuk militer. Pemerintah Amerika Serikat menggunakan teknologi Anthropic dalam operasi militer di luar negeri.
Langkah militer ini memicu kritik keras dari berbagai lembaga pengawas keamanan. Pentagon bahkan sempat melarang penggunaan teknologi tersebut akibat perselisihan standar keamanan.
Pembatasan Model AI Mythos demi Keamanan Nasional
Anthropic baru-baru ini merilis model AI paling kuat bernama Mythos. Perusahaan membatasi akses Mythos hanya untuk organisasi tepercaya pada April lalu.
Langkah protektif ini bertujuan mencegah eksploitasi celah keamanan siber oleh peretas. Pemerintah Amerika Serikat sempat memblokir distribusi Mythos ke pihak asing secara ketat.
Pihak berwenang mengkhawatirkan dampak kebocoran teknologi terhadap keamanan nasional. Namun, pemerintahan Presiden Donald Trump mencabut pembatasan tersebut pada akhir Juni.
Penulis : Ahmad Haris Kurnia
Editor : Ahmad Haris Kurnia
