CEO Anthropic Beberkan Strategi Atur Laju Pengembangan AI Tercanggih

Gelombang kekhawatiran terhadap masa depan kecerdasan buatan (AI) tidak lagi datang dari luar, melainkan bergaung kencang dari dalam episentrum industri itu sendiri. Setelah CEO OpenAI, Sam Altman, sempat mengisyaratkan perlunya mengatur ritme pengembangan teknologi ini, kini giliran bos Anthropic, Dario Amodei, yang mengambil langkah konkret. Melalui esai terbarunya, Amodei mendesak industri untuk segera memperlambat laju pengembangan model AI pionir (frontier AI) guna menghindari risiko katastrofe yang tidak dapat dipulihkan.

Desakan ini muncul di tengah ketegangan internal yang kian memuncak di Silicon Valley. Baru-baru ini, peneliti AI terkemuka Jacob Coxon memutuskan mundur dari Anthropic. Coxon melayangkan kritik tajam bahwa para pemimpin industri teknologi saat ini tengah “mempertaruhkan nyawa umat manusia” demi mengejar keunggulan teknologi yang mereka sendiri yakini berpotensi memicu kepunahan massal sebelum dekade ini berakhir. Di sisi lain, insiden kebocoran keamanan sistem serta lompatan eksponensial kemampuan AI dalam “membangun dirinya sendiri” menjadi alarm keras bagi Amodei bahwa rem darurat harus segera ditarik.

Langkah Radikal: Menanam ‘Auditor Independen’ di Jantung Perusahaan

Untuk membuktikan bahwa seruannya bukan sekadar retorika humas, Amodei mengumumkan bahwa Anthropic secara sepihak berkomitmen menerapkan strategi pertama: menyambut evaluator pihak ketiga di dalam operasional harian mereka. Lembaga independen seperti METR (Model Evaluation and Threat Research) akan diberikan akses fisik dan digital yang setara dengan tim risiko internal perusahaan.

Para evaluator eksternal ini akan dibekali tanda pengenal, meja kerja, laptop perusahaan, hingga akses mendalam ke sistem untuk memverifikasi apakah komitmen keselamatan benar-benar dijalankan. Langkah ini mirip dengan regulasi sektor keuangan yang menempatkan pengawas independen langsung di dalam internal perbankan. Amodei juga mendesak pemerintah global untuk mewajibkan seluruh perusahaan AI pionir menerapkan standar transparansi yang sama, terutama setelah adanya insiden di mana agen AI milik salah satu raksasa teknologi sempat mengambil alih sistem eksternal tanpa adanya laporan formal kepada publik.

Kartel Keselamatan dan Bayang-Bayang Hegemoni Tiongkok

Strategi kedua yang ditawarkan Amodei adalah koordinasi ketat antar-perusahaan AI di negara-negara demokratis untuk menetapkan standar keselamatan bersama serta batasan kecepatan pengembangan. Namun, langkah ini menghadapi tembok tebal regulasi antimonopoli (antitrust). Banyak pihak khawatir kolaborasi semacam ini akan dicurigai sebagai upaya kartel untuk menjegal kompetitor baru.

Menyikapi hal tersebut, Amodei meminta pemerintah Amerika Serikat untuk memediasi atau setidaknya memberikan dispensasi hukum (waiver) khusus untuk diskusi yang berfokus pada keselamatan AI. Selain itu, ia juga menepis kekhawatiran klasik bahwa memperlambat pengembangan AI di Barat hanya akan memberikan kemenangan mudah bagi Tiongkok. Menurutnya, dominasi Barat dapat dipertahankan melalui kontrol ekspor cip semikonduktor yang ketat serta pengetatan transfer teknologi (model distillation), yang dinilai mampu memperlebar jarak keunggulan teknologi Barat atas Tiongkok hingga 3 hingga 5 tahun ke depan.

Membendung Senjata Biologis Hingga Tuduhan ‘Regulatory Capture’

Sebagai pilar ketiga, Amodei menyerukan adanya koordinasi global, termasuk membuka ruang dialog dengan pemerintahan otoriter seperti Tiongkok. Meskipun menyadari adanya batasan ideologis yang sangat kontras, ia menilai konsensus minimal harus dicapai untuk melarang penggunaan AI dalam skenario paling berbahaya, seperti pengembangan senjata biologis atau integrasi AI pada sistem persenjataan pemusnah massal.

Kendati demikian, visi Amodei ini tidak lepas dari skeptisisme. Para pendukung akselerasi AI menuding Amodei sebagai penganut mazhab kiamat teknologi (doomer) yang justru memperkeruh sentimen negatif publik terhadap inovasi. Di sisi lain, para kritikus industri menilai narasi “kiamat kemanusiaan” ini hanyalah taktik pengalihan isu (distraksi) dari dampak buruk AI yang sudah nyata terjadi saat ini, seperti bias algoritma, eksploitasi hak cipta, dan disinformasi massal.

Jurnalis teknologi senior Brian Merchant bahkan menilai proposal Amodei dan OpenAI berbau taktik regulatory capture—sebuah upaya sistematis dari para raksasa teknologi untuk merancang regulasi ketat yang hanya bisa dipenuhi oleh mereka sendiri, sekaligus menutup pintu bagi startup baru yang ingin menantang dominasi mereka. Merchant menekankan bahwa hingga kini belum ada dokumentasi ilmiah yang kredibel mengenai bagaimana sebuah AI yang berkembang secara mandiri dapat secara instan memusnahkan peradaban manusia.

Menghadapi badai kritik tersebut, Amodei tetap bergeming. Ia menegaskan bahwa keyakinannya terhadap potensi AI untuk merevolusi kualitas hidup manusia tidak pernah pudar. Namun, ia mengingatkan bahwa lompatan teknologi ini hanya akan membawa berkah jika dibangun dengan kehati-hatian yang luar biasa. Memperlambat tempo demi memastikan keselamatan, menurutnya, adalah harga mutlak yang harus dibayar hari ini.