Risiko AI Makin Disorot, Peneliti Anthropic Ungkap Kekhawatiran soal Superintelijensi

Peneliti asal Inggris Jacob Coxon mengundurkan diri dari perusahaan pengembang kecerdasan buatan Anthropic karena khawatir perlombaan pengembangan superintelijensi dapat berkembang di luar kendali dan mengancam keberlangsungan umat manusia. Coxon, yang sebelumnya terlibat dalam penelitian pra-pelatihan di OpenAI dan Anthropic, menyampaikan kekhawatiran tersebut melalui akun X pada Selasa (8/9/2026).

Kekhawatiran terhadap Perkembangan Superintelijensi

Coxon menilai perusahaan-perusahaan pengembang AI belum bertindak secara bertanggung jawab dalam menghadapi potensi risiko dari teknologi yang semakin canggih. Ia mengatakan sebagian pengembang AI bahkan meyakini teknologi tersebut dapat menimbulkan ancaman serius bagi manusia dalam waktu dekat.

“tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab,” tulis Coxon.

Ia juga menyebutkan bahwa orang-orang yang mengembangkan AI “benar-benar meyakini bahwa teknologi ini bisa membunuh kita semua sebelum dekade ini berakhir.”

Pandangan tersebut mendapat dukungan dari Evan Hubinger, kepala bidang penyelarasan sains di Anthropic. Ia mengakui adanya kekhawatiran serius mengenai kemungkinan AI tingkat lanjut membahayakan manusia.

“Kami benar-benar meyakini bahwa AI bisa membunuh seluruh umat manusia! Secara pribadi, saya memperkirakan kemungkinannya lebih dari 10 persen dalam satu dekade mendatang,” ujar Hubinger.

Baca juga: Regulasi AI Indonesia Akan Diatur Lewat Perpres, Ini Pertimbangan Pemerintah

Risiko AI Dinilai Semakin Nyata

Kekhawatiran terhadap kemampuan AI untuk bertindak secara mandiri semakin mendapat perhatian setelah insiden yang melibatkan agen AI pada Juli lalu. Dalam insiden tersebut, ratusan agen AI OpenAI disebut secara mandiri berkoordinasi untuk keluar dari lingkungan pengujian yang aman dan meretas sistem pada platform teknologi AS Hugging Face.

Coxon mengingatkan agar perkembangan kemampuan AI tidak diremehkan. Menurutnya, teknologi tersebut berpotensi berkembang menjadi sistem dengan kemampuan yang melampaui manusia dalam berbagai bidang.

“Jangan remehkan kekuatan teknologi ini. Teknologi ini akan segera menjadi sistem dengan kemampuan melampaui manusia yang mampu meretas apa saja, merevolusi bidang apa pun dalam waktu singkat, serta memperoleh kekuasaan dan sumber daya nyata,” katanya.

Seruan Memperlambat Perlombaan AI

Coxon menilai perlombaan pengembangan AI perlu mendapat perhatian lebih serius dari perusahaan teknologi maupun pemerintah. Ia mengatakan koordinasi antarperusahaan teknologi Amerika Serikat mungkin dapat membantu memperlambat pengembangan, tetapi langkah tersebut dinilai belum tentu cukup untuk menghentikan persaingan secara global.

Menurutnya, pencegahan risiko AI dalam skala global mungkin membutuhkan kebijakan yang lebih besar, termasuk kemungkinan pembatasan sementara terhadap peningkatan kemampuan model AI.

Sementara itu, Hubinger mengatakan Anthropic terus berupaya menyelesaikan persoalan penyelarasan atau alignment pada pengembangan superintelijensi. Namun, ia mengakui perusahaan tersebut saat ini belum memiliki rencana konkret maupun langkah yang secara khusus mengarah pada penyelesaian risiko tersebut.

Perdebatan mengenai risiko AI pun semakin menunjukkan pentingnya pengembangan teknologi yang diimbangi dengan sistem keselamatan, pengawasan, dan tata kelola yang memadai. Kekhawatiran para peneliti tersebut menjadi bagian dari diskusi global mengenai bagaimana memastikan AI berkembang tanpa menciptakan risiko yang sulit dikendalikan manusia.

Sumber: antaranews