Gandeng Accenture, Anthropic Tunjuk Evaluator AI Pertama untuk Penetrasi Skala Enterprise

Independensi di Pertaruhan: Anthropic Rangkul Accenture Kaji Risiko Keselamatan Kecerdasan Buatan

Langkah ambisius CEO Anthropic, Dario Amodei, untuk menempatkan pengawas keselamatan independen dari pihak ketiga di dalam laboratorium kecerdasan buatan (AI) kini resmi bergulir. Anthropic secara terbuka mengonfirmasi bahwa konsultan teknologi raksasa, Accenture, akan segera menerjunkan tim ahlinya untuk membedah, menguji, dan mengawasi pengembangan model AI serta aktivitas para pakar di dalam laboratorium Anthropic.

Melalui unit bisnis AI miliknya, Faculty—perusahaan spesialis kecerdasan buatan yang diakuisisi Accenture pada awal tahun ini—tim pengawas akan bertugas melakukan evaluasi mendalam, simulasi serangan (red-teaming), penilaian keselarasan nilai (alignment assessment), hingga pengujian benteng pertahanan (safeguards) pada model AI milik Anthropic. Tidak main-main, kedua korporasi ini berkomitmen mengucurkan investasi bersama sedikitnya USD 1 miliar (sekitar Rp15,8 triliun) selama lima tahun ke depan demi menyukseskan proyek pengawasan melekat ini.

Kejutan Pasar dan Teka-Teki Independensi Evaluator Eksternal

Penunjukan Accenture sontak mengejutkan para pengamat industri dan pelaku pasar modal. Saham Accenture bahkan mencatatkan lonjakan drastis hingga 8% pada perdagangan pasca-penutupan bursa. Kejutan ini wajar terjadi, mengingat wacana pengawasan melekat yang diusung Amodei sebelumnya lebih banyak mengarah pada lembaga riset nirlaba spesialis keselamatan AI, seperti METR, Redwood Research, maupun Apollo Research—terutama bagi Anthropic yang selama ini membangun reputasi dengan menempatkan etika dan keselamatan AI sebagai core mission mereka.

Menanggapi keraguan publik, Anthropic menegaskan bahwa kerja sama ini hanyalah langkah awal. Pihaknya berjanji akan mengumumkan nama-nama evaluator independen lainnya dalam beberapa pekan mendatang, serta mengonfirmasi sedang berdiskusi intensif dengan METR dan organisasi nirlaba lain untuk menjalankan proyek percontohan uji keselamatan serupa.

Kendati Accenture kerap dinilai tak berada di garis depan riset deep learning akademis, Anthropic menilai raksasa konsultan tersebut memiliki keunggulan krusial: pengalaman empiris dalam mengimplementasikan sistem AI skala besar di korporasi global dan lembaga pemerintah. Selain itu, status Accenture sebagai perusahaan publik mapan yang berdiri jauh sebelum demam AI memberikan derajat independensi operasional yang lebih tinggi dari ekosistem rapat para startup AI.

Mengikis Ancaman AI Agent dan Bayang-Bayang Pembelaan Diri Industri

Urgensi pengawasan independen ini makin mengemuka menyusul belum tersedianya standar baku industri terkait akses data maupun protokol komunikasi bagi tim penilai luar. Risikonya pun kian nyata. Belakangan ini, industri dihebohkan oleh insiden di mana sistem AI otonom (AI agents) yang dikembangkan oleh laboratorium AI terkemuka mampu menembus dan meretas situs web luar tanpa memicu alarm bahaya internal di laboratorium tempat mereka diciptakan.

Meski demikian, skema evaluasi mandiri yang digagas Amodei ini tak lepas dari kritik tajam. Sejumlah pengamat dan aktivis tata kelola AI menilai langkah penempatan evaluator eksternal yang didanai sendiri oleh industri tak lebih dari taktik untuk menghindar dari jerat regulasi pemerintah dan akuntabilitas publik atas potensi bahaya model AI di masa depan.

Menepis tudingan tersebut, pihak Anthropic menegaskan bahwa kehadiran tim pengawas eksternal tidak serta-merta mengalihkan tanggung jawab hukum dan etis dari pundak mereka. “Kehadiran para evaluator ini tidak mengurangi akuntabilitas kami, melainkan membantu agar akuntabilitas tersebut dapat diverifikasi secara obyektif. Keselamatan dan dampak model AI yang kami ciptakan tetap sepenuhnya menjadi tanggung jawab Anthropic,” tegas manajemen dalam pernyataan resminya.