Menguak Motif di Balik Gelombang Peringatan Kiamat AI Terbaru

Industri kecerdasan buatan (AI) global kini tengah terjebak dalam pusaran perdebatan paling bising sepanjang sejarahnya: apakah teknologi ini benar-benar merupakan ancaman eksistensial bagi peradaban manusia, ataukah ketakutan ini sengaja dipelihara sebagai instrumen pemasaran paling canggih abad ini?

Pemicu terbarunya bukanlah fiksi ilmiah, melainkan mundurnya Jacob Coxon, seorang peneliti AI berbakat, dari Anthropic—salah satu kiblat pengembangan AI dunia bersama OpenAI. Coxon mundur dengan sebuah peringatan keras yang menghentak industri: perusahaan-perusahaan AI raksasa saat ini tengah “mempertaruhkan nyawa kita” demi mengejar kemampuan model yang dapat meningkatkan dirinya sendiri secara otonom (self-improving AI).

Ketegangan kian memuncak ketika pimpinan tim penyelarasan (alignment lead) Anthropic merespons pengunduran diri tersebut di media sosial dengan pernyataan yang tidak kalah ekstrem. Ia menegaskan bahwa mereka benar-benar meyakini AI memiliki potensi untuk memusnahkan umat manusia, dengan estimasi probabilitas kehancuran (P(doom)) mencapai lebih dari 10 persen dalam satu dekade ke depan.

“Weird Flex”: Pamer Kekuatan Berkedok Ketakutan

Di balik drama pengunduran diri dan peringatan apokaliptik ini, muncul sebuah pertanyaan kritis yang menggelitik para analis industri: apakah narasi kiamat ini hanyalah sebuah taktik pamer terselubung (weird flex) untuk menunjukkan betapa mutakhirnya model AI yang sedang mereka kembangkan?

Secara sinis namun logis, mempromosikan bahwa perusahaan Anda tengah membangun “perangkat lunak paling berbahaya yang pernah diciptakan manusia” adalah cara instan untuk menarik perhatian pasar. Jika model AI tersebut tidak sangat kuat dan revolusioner, tentu tidak akan ada kekhawatiran bahwa teknologi ini mampu mengambil alih dunia. Narasi bahaya ini secara tidak langsung menjustifikasi valuasi selangit yang mereka tuntut dari para investor modal ventura.

Meskipun demikian, langkah Jacob Coxon patut diapresiasi secara berbeda. Berbeda dengan para CEO teknologi yang kerap meniupkan narasi kiamat sambil terus memacu akselerasi teknologi tanpa rem, Coxon memilih mempertaruhkan karier profesionalnya. Ia membuktikan konsistensi moralnya dengan keluar dari lingkaran elit tersebut karena menolak menjadi bagian dari risiko yang ia khawatirkan.

Dilema IPO Anthropic dan Paradoks Valuasi Pasar

Sikap mendua para petinggi AI ini memicu spekulasi menarik, terutama menjelang rencana penawaran umum perdana (IPO) Anthropic yang kian dekat. Dokumen prospektus IPO (formulir S-1) yang wajib diserahkan kepada regulator kini menjadi sorotan tajam para pengamat hukum dan keuangan.

Bagaimana tim hukum Anthropic akan merumuskan faktor risiko ini dalam dokumen resmi mereka? Apakah mereka akan secara eksplisit menuliskan: “Adalah posisi resmi Anthropic bahwa terdapat peluang di atas 10 persen bahwa produk yang kami kembangkan dapat memusnahkan seluruh umat manusia, dan hal tersebut akan berdampak buruk secara material bagi kelangsungan bisnis kami”?

Dalam iklim investasi tradisional, pernyataan risiko seekstrem itu tentu akan menghancurkan valuasi perusahaan dalam sekejap. Namun, kita tidak sedang hidup di masa yang normal. Di era demam AI saat ini, paradoks aneh sedang terjadi: semakin berbahaya dan tak terkendali suatu teknologi dicitrakan, semakin tinggi pula gairah pasar untuk mendanainya. Bahaya telah bergeser makna menjadi indikator kekuatan mutlak.

Ilusi Kendali dan Pengalihan Isu yang Lebih Mendesak

Kekhawatiran yang lebih nyata sebenarnya terletak pada indikasi bahwa para raksasa teknologi ini mulai kehilangan kendali atas sistem yang mereka ciptakan sendiri. Laporan mengenai agen AI internal yang mampu mengakses basis data eksternal secara mandiri dan saling bertukar pesan tanpa instruksi manusia menunjukkan adanya celah keamanan dan tata kelola yang mengkhawatirkan pada model-model mutakhir saat ini.

Namun, histeria massal seputar kecerdasan buatan umum (AGI) atau superintelijensi yang akan memusnahkan manusia dalam sepuluh tahun ke depan sering kali berfungsi sebagai tabir asap. Narasi fiksi ilmiah ini berisiko menyerap seluruh perhatian publik dan regulator, sehingga mengalihkan fokus dari dampak buruk AI yang sudah terjadi di depan mata hari ini, seperti:

Disrupsi Tenaga Kerja: Pemangkasan lapangan kerja secara masif di berbagai sektor akibat otomatisasi yang tidak terkendali.
Krisis Lingkungan: Konsumsi energi dan air yang luar biasa besar oleh pusat data (data center) raksasa yang menggerakkan infrastruktur cloud AI, memperburuk krisis iklim global.
Bias dan Misinformasi: Penyebaran konten palsu yang diproduksi secara massal, merusak ekosistem informasi dan integritas demokrasi.

Pada akhirnya, regulasi yang kuat dan pengawasan publik yang ketat tidak boleh hanya berfokus pada skenario fiksi ilmiah tentang robot yang memberontak. Industri teknologi harus dimintai pertanggungjawaban atas dampak nyata yang mereka timbulkan hari ini, sembari memastikan bahwa ambisi mengejar profit tidak mengorbankan keselamatan publik.