Peneliti AI Khawatir Kehilangan Kendali, Bos Anthropic Minta Pengembangan Diperlambat

TANJUNGPINANG, — Perlombaan menciptakan kecerdasan buatan yang semakin pintar memunculkan pertanyaan di dalam industri teknologi: apakah kemampuan manusia mengawasinya bisa mengikuti laju perkembangannya?

Kekhawatiran itu mengemuka dalam pernyataan sejumlah peneliti, termasuk Jacob Coxon, yang mengumumkan pengunduran dirinya dari Anthropic pada September 2026. Ia menyoroti persaingan membangun AI yang mampu membantu meningkatkan kemampuan generasi AI berikutnya.

Dalam unggahannya di X, Coxon menyebut pernah menjalani riset pelatihan awal model di OpenAI dan Anthropic selama tiga tahun terakhir. Ia menilai kedua perusahaan bergerak terlalu cepat menuju superintelijensi yang mampu memperbaiki dirinya sendiri, sementara risikonya belum tertangani secara memadai.

Pernyataannya mendapat tanggapan dari peneliti Anthropic, Evan Hubinger. Dalam unggahan pada 9 September, Hubinger menyampaikan bahwa dirinya memperkirakan peluang AI menyebabkan kepunahan manusia lebih dari 10 persen dalam satu dekade mendatang.

“Saya pribadi menilainya lebih dari 10 persen dalam satu dekade mendatang,” tulis Hubinger, diterjemahkan dari unggahannya di X.

Angka tersebut merupakan perkiraan pribadi Hubinger. Unggahan itu tidak menyajikan perhitungan statistik yang dapat diperlakukan sebagai probabilitas pasti, ataupun kesepakatan seluruh peneliti AI.

Hubinger juga menyatakan bahwa Anthropic berusaha menangani persoalan keselamatan. Namun, menurut penilaiannya, perusahaan belum memiliki rencana yang memadai untuk memastikan superintelijensi tetap selaras dengan kepentingan manusia.

Persoalan keselarasan atau *alignment* menjadi bagian penting dalam perdebatan ini. Tantangannya adalah memastikan sistem yang semakin canggih tetap mengikuti tujuan dan batasan yang ditetapkan manusia, termasuk ketika mendapat tugas rumit.

Kekhawatiran serupa disampaikan CEO Anthropic, Dario Amodei, melalui esai berjudul *We Must Pace the Frontier* pada September 2026. Ia berpendapat bahwa peningkatan kemampuan AI perlu diperlambat agar upaya pengamanan memiliki waktu untuk mengejar ketertinggalan.

Amodei menyoroti penggunaan AI untuk membantu membangun generasi AI berikutnya. Menurutnya, proses yang dikenal sebagai *recursive self-improvement* tersebut berisiko melaju melampaui kemampuan manusia memahami dan mengendalikannya apabila tidak ditangani dengan hati-hati.

Ia mengusulkan tiga langkah: pemeriksa independen yang mendapat akses berkelanjutan ke perusahaan, koordinasi standar keselamatan di negara-negara demokratis, serta kerja sama global. Anthropic menyatakan berkomitmen menjalankan langkah pertama.

Usulan itu tidak berarti seluruh riset AI harus dihentikan. Amodei menginginkan perusahaan menyediakan waktu yang cukup untuk pengamanan dan pemeriksaan pihak ketiga sebelum kemampuan sistem terus ditingkatkan.

Rangkaian pernyataan tersebut menunjukkan adanya kekhawatiran serius dari sebagian pelaku industri. Namun, peringatan tentang kemungkinan bencana tetap perlu dibedakan dari bukti bahwa bencana itu pasti terjadi.

Bagi masyarakat, pertanyaan yang layak diajukan semakin konkret: siapa yang menguji keamanan sebuah sistem AI, seberapa luas kewenangannya, dan siapa yang bertanggung jawab ketika sistem tersebut bertindak di luar tujuan pengguna?

Jadikan sumber pilihan pencarian Google