Circuit Breaker Labs Racik Teknologi Pencegah Bahaya AI untuk Anak dan Keluarga

Ketika Algoritma Mengancam Jiwa: Sisi Gelap Hubungan Parasosial AI

Di tengah riuh wacana eksistensial tentang potensi kecerdasan buatan (AI) yang bakal memusnahkan peradaban manusia, sebuah ancaman yang jauh lebih nyata dan mematikan telah memakan korban jiwa. Bukan lewat senjata biologis atau skenario fiksi ilmiah, melainkan serangan psikologis yang senyap. Rentetan tragedi memilukan belakangan ini membuktikan bagaimana interaksi dengan chatbot berbasis AI telah mendorong sejumlah pengguna rentan ke jurang kematian.

Awal tahun ini, platform Character.AI terpaksa menyelesaikan sejumlah gugatan hukum terkait kematian tidak wajar (wrongful death) yang diajukan oleh keluarga pengguna di bawah umur. Para remaja tersebut mengakhiri hidupnya usai menjalin interaksi intensif dengan bot di platform tersebut. Tak hanya itu, raksasa teknologi OpenAI juga menghadapi gelombang gugatan serupa dari banyak keluarga. Mereka menuding keterlibatan ChatGPT dalam memicu delusi hingga mendorong aksi bunuh diri pada anggota keluarga mereka.

Krisis kesehatan mental akibat fenomena “psikosis AI” dan hubungan parasosial yang tidak sehat dengan platform kecerdasan buatan kini menjadi alarm keras bagi industri teknologi global.

Uji Ketahanan Sistem: Pasukan ‘Boneka Manekin’ Pembongkar Cacat AI

Melihat celah fatal tersebut, sebuah startup bernama Circuit Breaker Labs hadir mengusung misi krusial: merancang sistem AI yang aman melintasi batas bahasa, budaya, dan konteks sosial. Didirikan oleh kakak-beradik Shirali Nigam (CEO) dan Arul Nigam (CTO), langkah mereka dipicu oleh tragedi yang menimpa Sewell Setzer, remaja berusia 14 tahun yang mengakhiri hidupnya setelah mengembangkan keterikatan emosional yang mendalam dengan chatbot Character.AI.

Dalam kasus tersebut, sistem AI gagal memahami implikasi berbahaya dari pernyataan implisit seperti “Saya ingin bersamamu”, dan justru memberikan respons yang memperparah kondisi emosional korban. Celah keamanan ini acap kali terjadi bukan karena pengguna berniat meretas sistem, melainkan karena fenomena context pollution—kondisi di mana AI gagal menangkap nuansa bahasa alami manusia hingga mengeksekusi tindakan yang sangat berbahaya.

Guna mengatasi persoalan mendasar ini, Circuit Breaker Labs mengembangkan agen AI unik yang diibaratkan sebagai “pasukan boneka manekin uji tabrak” (crash-test dummies). Agen-agen simulasi ini dirancang untuk menirukan pola perilaku manusia dari berbagai kelompok umur, latar belakang budaya, hingga preferensi bahasa.

“Cara seorang anak perempuan berusia enam tahun berbicara sangat berbeda dengan pria berusia 45 tahun. Bahasa slang seorang gamer tentu asing bagi kelompok lain. Perbedaan nuansa, slang, dan pola bahasa non-standar inilah yang sering kali membuat model AI tersandung dan berakibat fatal,” ungkap Shirali Nigam.

Red-Teaming dan Metrik Keamanan untuk Aplikasi Berisiko Tinggi

Metodologi yang diusung Circuit Breaker Labs mengombinasikan simulasi berbasis pakar domain manusia untuk melakukan pengujian agresif (red-team testing). Sistem mereka mensimulasikan puluhan hingga ratusan ribu interaksi per hari, dengan memasukkan variabel seperti tipografi (typo), bahasa sandi, hingga slang lokal guna menguji ketahanan model AI secara presisi.

Melalui metode penilaian mandiri yang transparan dan dapat diaudit (auditable scores), startup ini memastikan model AI mampu merespons secara aman terhadap interaksi berisiko tinggi yang berkembang perlahan dalam percakapan panjang.

Saat ini, perusahaan rintisan yang didukung tim inti lima orang tersebut memfokuskan layanannya sebagai laboratorium pengujian keamanan untuk aplikasi AI berisiko tinggi, seperti platform AI coaching, jurnal digital, hingga aplikasi dukungan kesehatan mental. Ke depan, kerangka pengujian ini ditargetkan untuk menjangkau seluruh ekosistem aplikasi—termasuk agen AI untuk lingkungan kerja—guna mencegah munculnya interaksi parasosial yang merusak emosional pengguna.

Di tengah skeptisisme publik yang kian meningkat terhadap adopsi AI, pendekatan pengujian ketat ini menjadi krusial. Memblokir teknologi potensial karena kekhawatiran keamanan adalah langkah regresif; solusinya adalah membangun fondasi keandalan dan kepercayaan publik melalui keamanan yang terukur.