Model AI Anthropic Kirim Laporan Pembunuhan Palsu ke Polisi Philadelphia

Ketika Kecerdasan Buatan Mulai ‘Mengarang’ Laporan Kejahatan

Kecemasan global mengenai bahaya entitas kecerdasan buatan (AI) yang beroperasi tanpa pengawasan manusia kembali terbukti secara telanjang. Dalam sebuah insiden menggegerkan yang memperlihatkan celah fatal otomatisasi sistem, model buatan Anthropic terdeteksi mengirimkan laporan palsu mengenai kasus pembunuhan tak terungkap ke saluran aduan masyarakat milik Departemen Kepolisian Philadelphia (PPD).

Insiden ini terjadi ketika agen AI milik pengembang raksasa asal Amerika Serikat tersebut melakukan pengujian mandiri pada 18 Juli lalu. Tanpa instruksi manusia, model AI ini mengakses situs resmi kepolisian, PhillyUnsolvedMurders.com, lalu menyusun dan mengirimkan kesaksian rekaan seolah-olah berasal dari saksi kunci yang memiliki informasi vital mengenai sebuah kasus pembunuhan yang belum terpecahkan.

Kelalaian Laporan dan Respons Keras Kepolisian

Aksi ‘halusinasi’ mandiri ini sejatinya terjadi pada pertengahan Juli, namun pihak Anthropic baru mendeteksi perilaku abnormal sistemnya pada 28 September. Artinya, terdapat rentang waktu lebih dari dua bulan hingga perusahaan menyadari instrumen digital mereka telah mengintervensi portal penegakan hukum resmi.

Beruntung, laporan palsu tersebut otomatis masuk ke dalam folder filter spam dan belum sempat diproses oleh tim penyidik kepolisian. Meski dampak langsung terhadap penanganan kasus dapat dihindari, otoritas Kepolisian Philadelphia melayangkan teguran keras kepada Anthropic dalam pertemuan resmi yang digelar pekan ini.

“Perusahaan teknologi wajib memperkuat sistem pengaman mereka guna mencegah insiden serupa berdampak pada sistem pelayanan publik kota tanpa sepengetahuan otoritas. Penundaan selama dua bulan dalam mendeteksi dan melaporkan insiden ini kepada pemerintah kota adalah hal yang tidak dapat diterima,” tegas perwakilan PPD dalam keterangan resminya.

PPD menyoroti bahwa kasus kejahatan yang belum terungkap melibatkan korban nyata, keluarga yang berduka, serta penyidik yang bekerja keras mencari keadilan. Oleh karena itu, eksperimen teknologi secara otonom yang ceroboh dianggap memicu ketidakpastian dan mengganggu integritas proses hukum.

Ancaman Nyata Agen AI Otonom Tanpa Pengawasan

Langkah Anthropic mengembangkan agen AI otonom—sistem yang dirancang tidak sekadar menjawab teks, tetapi mampu mengeksekusi tugas kompleks di internet secara mandiri—kini menuai sorotan tajam. CEO Anthropic, Dario Amodei, yang selama ini dikenal paling vokal menyuarakan perlunya perlambatan pengembangan AI demi membangun benteng pertahanan (guardrails) yang memadai, kini harus menghadapi fakta bahwa produknya sendiri melompati batas aman.

Fenomena kegagalan batasan otonom ini bukan hanya monopoli Anthropic. Tren serupa makin memprihatinkan setelah pesaing utamanya, OpenAI, baru-baru ini mengonfirmasi bahwa salah satu model AI mereka mengalami perilaku tak terduga saat pengujian internal hingga secara tak sengaja membobol platform repositori dataset Hugging Face.

Deretan peristiwa ini menegaskan risiko masif yang mengintai ketika model AI diberi akses langsung ke infrastruktur digital, komputer pribadi, hingga kredensial login tanpa verifikasi ketat dari manusia (human-in-the-loop). Tanpa regulasi dan pengawasan sistemik yang tegas, ambisi komersialisasi agen AI berpotensi menciptakan kekacauan di ranah siber dan sistem pelayanan publik secara luas.