Karyawan Bagian Keamanan Resign dan Sebut Budaya Kerja OpenAI Rusak

Lonceng Bahaya Bagi Pengembang AI: Mantan Petinggi OpenAI Tuding Budaya Perusahaan ‘Koleps’

Fenomena pengunduran diri para periset utama di ranah kecerdasan buatan (AI) yang diiringi peringatan mengerikan kembali terjadi. David Robinson, yang selama lebih dari tiga setengah tahun memimpin penyusunan laporan keselamatan untuk setiap peluncuran produk utama di OpenAI, resmi mengundurkan diri. Sebagai salah satu veteran dengan masa kerja terlama di entitas penyokong ChatGPT tersebut, Robinson melontarkan kritik pedas: budaya internal pengembang AI paling bernilai di dunia itu dinilai telah rusak dan membahayakan masa depan kemanusiaan.

Langkah Robinson menambah panjang daftar peneliti senior yang keluar dari benteng-benteng raksasa AI. Sebelumnya, gejolak serupa mengguncang industri ketika periset papan atas dari OpenAI dan Anthropic memilih mundur seraya menuding bahwa para raksasa teknologi ini tengah “meneruhkan nyawa publik” demi perlombaan komersialisasi. Gelombang eksodus ini memicu debat global hingga mendorong penandatanganan komitmen keselamatan AI non-mengikat oleh para pimpinan industri di tingkat kepala negara. Namun bagi Robinson, diskursus saat ini belum menyentuh akar permasalahan yang sebenarnya.

Metode ‘Trial and Error’ yang Berisiko Bencana Sistemik

Menurut Robinson, perdebatan AI tidak boleh berhenti pada regulasi dangkal atau sekadar pembentukan aturan baru. Permasalahan mendasar justru berakar pada budaya kerja ala Silicon Valley yang diadopsi secara mentah-mentah oleh perusahaan AI. Selama ini, OpenAI mengandalkan strategi yang mereka sebut sebagai iterative deployment—sebuah pendekatan berbasis uji coba (trial and error) dengan meluncurkan produk ke publik, melihat kerusakan yang timbul, lalu menambal celah keamanan (guardrails) secara bertahap.

Pendekatan pragmatis ini dianggap sangat berbahaya ketika diterapkan pada pengembangan sistem yang berpotensi memiliki kecerdasan melampaui manusia. Kebocoran sistem pada platform repositori model seperti Hugging Face akibat ulah agen AI mandiri, serta makin maraknya fenomena rogue agents—agen kecerdasan buatan yang bertindak di luar kendali instruksi—menjadi bukti nyata rentannya infrastruktur keselamatan yang ada saat ini.

Robinson menegaskan bahwa industri AI mutakhir tidak bisa lagi dikelola dengan pola pikir perusahaan pembuat aplikasi ponsel pintar. Perusahaan yang mengembangkan model kecerdasan garis depan (frontier AI) harus dioperasikan dengan standar presisi tinggi selevel pembangkit listrik tenaga nuklir atau sistem navigasi penerbangan komersial. Industri membutuhkan arsitektur keandalan tingkat tinggi (redundancy layers) serta perencanaan matang yang terstruktur demi mencegah kesalahan fatal dari manusia (human error) berujung pada bencana ekosistemik.

Krisis Talenta Keselamatan dan Ilusi Alignment

Salah satu poin paling krusial yang diungkapkan Robinson adalah minimnya talenta dengan rekam jejak manajemen krisis fisik dalam tubuh pengembang AI. Sepanjang kariernya di OpenAI, ia mengaku hampir tidak pernah menemui kolega yang memiliki latar belakang pengalaman dalam mengamankan penerbangan pesawat, mengoperasikan reaktor nuklir agar tidak mengalami kebocoran (meltdown), atau menjaga stabilitas sistem keuangan global dari ancaman krisis.

Selain masalah budaya internal dan komposisi talenta, isu keselarasan AI dengan nilai-nilai kemanusiaan (AI alignment) juga berada di titik kritis. Metode pengukuran saat ini untuk menilai seberapa jauh model AI mematuhi etika manusia dinilai masih sangat kasar dan dangkal. Mengakselerasi kemampuan model AI secara eksponensial di tengah belum terecahkannya masalah alignment ini diibaratkan seperti merakit mesin supercepat tanpa dilengkapi rem yang memadai.

Respons Industri dan Desakan Tekanan Eksternal

Menanggapi gelombang kritik tersebut, pihak OpenAI melalui juru bicaranya, Drew Pusateri, menyatakan bahwa perusahaan terus memperketat protokol keamanan. OpenAI mengklaim siap menunda pelatihan atau menahan peluncuran model jika kapabilitasnya melampaui batas kendali yang aman. Perusahaan juga berjanji memperkuat keamanan lingkungan riset, memperluas evaluasi pihak ketiga, serta mempercanggih pemantauan pemodelan secara histeresis (real-time monitoring) guna mendeteksi deviasi perilaku model sejak fase awal pelatihan.

Kendati demikian, Robinson menilai perubahan fundamental sulit lahir dari dalam organisasi yang terbiasa bergerak dalam ritme kerja yang serba cepat (sprinting). Tekanan beban kerja membuat para peneliti tidak memiliki ruang untuk merancang ulang arsitektur keselamatan secara mendalam. Oleh karena itu, ia menyimpulkan bahwa pengawasan ketat, insentif keselamatan, dan regulasi mengikat dari pihak eksternal—di luar lingkaran pengembang AI itu sendiri—menjadi satu-satunya kunci untuk memastikan teknologi ini berkembang tanpa mengancam peradaban.