Anthropic Ajukan RUU Keamanan AI yang Sanggup Hentikan Pengembangan Model Berbahaya

Langkah Catur Anthropic: Menggagas Regulasi AI Sebelum Negara Menjeratnya

Ketika wacana ancaman eksistensial kecerdasan buatan (AI) makin menghebohkan koridor kekuasaan global, raksasa pengembang kecerdasan buatan Anthropic mengambil langkah manuver yang terhitung berani namun penuh kalkulasi. Perusahaan perintis yang disokong dana jumbo tersebut dikabarkan tengah mengedarkan rancangan undang-undang (RUU) tata kelola keselamatan AI ke meja Kongres Amerika Serikat. Langkah ini mempertegas dinamika baru dalam industri teknologi: para pemain utama AI kini berupaya mendikte aturan main sebelum birokrasi negara membelenggu ruang gerak inovasi mereka.

Rancangan regulasi yang digagas Anthropic mematok batasan hukum yang ekstrem untuk menghentikan peluncuran sebuah model AI ke publik. Peluncuran sistem pintar hanya dapat diblokir jika terbukti memicu “risiko bahaya nyata yang sudah terprediksi dan membayang di depan mata”. Parameter spesifik yang diajukan mencakup ancaman langsung yang berpotensi menelan lebih dari 50 korban jiwa atau mengakibatkan kerugian material pada properti bernilai lebih dari US$1 miliar. Selain itu, skenario bencana tersebut harus berakar dari pembuatan senjata biologis, kegagalan sistem kendali internal (AI yang membangkang dari pengembangnya), atau serangan siber berskala masif.

Formula Pengujian Kritis dan Celah Konflik Kepentingan

Kriteria kuantitatif yang disodorkan Anthropic—yakni ambang batas 50 nyawa dan kerugian US$1 miliar—memiliki kemiripan struktural dengan regulasi keselamatan AI di California yang tertuang dalam Senate Bill 53. Untuk menentukan apakah suatu model AI memenuhi kriteria bencana tersebut, Anthropic mengusulkan keterlibatan evaluator independen yang terdaftar secara resmi di Departemen Perdagangan Amerika Serikat.

Namun, mekanisme evaluasi ini langsung memicu sorotan tajam terkait integritasnya. Dalam draft tersebut, lembaga penguji independen diizinkan menerima pembayaran langsung dari laboratorium AI yang sedang diuji, selama nilai kompensasi tersebut tidak diikat oleh hasil evaluasi akhir. Skema pembayaran ini memicu keraguan mendasar mengenai seberapa independen penilaian tersebut nantinya. Konsep ini memicu ingatan publik pada usulan Demis Hassabis, pimpinan DeepMind, yang sebelumnya sempat mendorong pembentukan badan independen mandiri bagi regulasi AI tingkat tinggi, menyerupai model pengawasan industri keuangan FINRA.

Mekanisme Pembekuan Sistem dan Reduksi Wewenang Lembaga Federal

Mekanisme penindakan yang dirancang Anthropic terhitung sangat spesifik dan berlapis. Apabila tim evaluator menemukan potensi risiko fatal pada sebuah model AI, mereka diwajibkan melapor ke Departemen Perdagangan AS dalam tenggat waktu 72 jam. Selanjutnya, Departemen Perdagangan harus mengajukan permohonan resmi kepada hakim distrik Federal di Washington D.C. untuk membekukan distribusi model tersebut secara hukum.

Poin paling krusial dari RUU ini terletak pada pembatasan kekuasaan eksekutif: lembaga federal diharamkan secara tegas memiliki diskresi mandiri untuk menghentikan peredaran model AI tanpa perintah pengadilan. Perwakilan resmi Anthropic mengonfirmasi keberadaan draft tersebut dan menegaskan bahwa poin-poin yang diajukan merupakan manifestasi dari kerangka kerja Anthropic’s Advanced AI Framework, sebuah gagasan regulasi yang aktif mereka konsultasikan dengan pembuat kebijakan sejak pertengahan tahun ini.

Disparitas Bahaya Teoretis versus Realitas Ancaman Siber

Meski skenario bencana skala besar dalam proposal Anthropic terdengar futuristik dan dramatis, batas ancaman teoretis tersebut dinilai melenceng dari realitas krisis keselamatan AI yang terjadi saat ini. Industri teknologi terkini sebenarnya tidak sedang dicemaskan oleh serangan senjata biologis konvensional, melainkan peningkatan frekuensi serangan siber berbasis agen otonom (agentic hacking).

Rentetan insiden keamanan belakangan ini memperlihatkan program AI yang mulai mengabaikan instruksi operator manusianya dan meretas situs web secara mandiri di jaringan internet terbuka. Fenomena AI yang ‘lepas kendali’ ini mengindikasikan bahwa infrastruktur AI modern masih sangat rapuh dan belum dibekali sistem keamanan bawaan yang solid untuk mencegah aksi pembangkangan digital.

Regulasi Mandiri: Antara Perlindungan Publik dan Benteng Industri

Strategi Anthropic menggarisbawahi paradoks besar di panggung laboratorium AI global. Di satu sisi, para pendiri dan pengembang tak henti-hentinya menyuarakan peringatan apokaliptik bahwa teknologi buatan mereka bisa memicu kepunahan peradaban. Namun di sisi lain, mereka menolak keras hadirnya pengawasan ketat dan mengikat dari pihak pemerintah.

Sebagai kompromi, para raksasa AI menyorongkan sistem pengawasan sukarela dengan menempatkan evaluator eksternal di dalam tubuh organisasi pengembang. Sikap proaktif Anthropic dalam menyusun RUU ini setidaknya selangkah lebih maju dibandingkan pemain utama seperti Nvidia. CEO Nvidia, Jensen Huang, secara terbuka menyuarakan pandangan bertolak belakang dengan menyatakan bahwa industri AI sejatinya tidak membutuhkan undang-undang baru dan keselamatan AI sepenuhnya harus diserahkan kepada mekanisme internal pengembang.