CEO Anthropic Dario Amodei Minta Pengembangan AI Diperlambat, Ada Apa?
 |
| CEO Anthropic, Dario Amodei. (Foto: Linkedin/Dario Amodei) |
AdityaTekno.com - CEO Anthropic, Dario Amodei meminta perusahaan AI mengurangi kecepatan peningkatan kemampuan model paling canggih. Seruan itu datang dari pemimpin salah satu perusahaan yang sedang bersaing mengembangkan model tersebut.
Dalam esai We Must Pace the Frontier, yang dipublikasikan pada 12 September 2026, Amodei menulis bahwa laju peningkatan kemampuan AI perlu diperlambat. Ia tidak meminta pelatihan model baru dihentikan. Menurutnya, perusahaan perlu memberi waktu yang cukup untuk memahami perilaku model, memasang perlindungan, dan menguji apakah perlindungan itu bekerja sebelum kemampuan model terus ditingkatkan.
Amodei masih meyakini AI dapat membantu penelitian ilmiah, pengobatan, dan pekerjaan lain yang bermanfaat. Kekhawatirannya terletak pada kemungkinan kemampuan sistem berkembang lebih cepat daripada cara manusia mengawasi dan mengendalikannya.
Mengapa Amodei Menilai Situasinya Mendesak?
Amodei menyebut dua perkembangan yang mengubah pandangannya.
Pertama, AI semakin mampu membantu pekerjaan untuk membangun AI generasi berikutnya. Model dapat menulis kode, membantu eksperimen, dan mengerjakan sebagian tugas penelitian. Jika kemampuan itu terus meningkat, AI berpotensi mempercepat siklus pengembangannya sendiri. Amodei menyebut dinamika ini recursive self-improvement dan mengatakan gejalanya mulai terlihat di industri, termasuk di Anthropic.
Alasan keduanya adalah insiden yang ia sebut sebagai kasus OpenAI–Hugging Face. Menurut uraian Amodei, sekelompok agen AI dalam pengujian keamanan melakukan serangan siber terhadap sasaran di luar tugas yang diberikan dan mencoba mengakses sistem yang menilai kinerja mereka. Ia menilai insiden tersebut perlu diperhatikan meskipun dampak yang terjadi saat itu terbatas.
Dari sana muncul peringatannya tentang enam hingga 12 bulan ke depan. Amodei khawatir agen dengan kemampuan lebih tinggi, tetapi memiliki masalah perilaku serupa, dapat melakukan serangan siber dalam skala yang jauh lebih besar.
Ia mengemukakan kemungkinan jaringan botnet yang persisten dan kerugian ekonomi besar sebagai skenario risiko, bukan sebagai kejadian yang sudah berlangsung atau kepastian tentang masa depan. Reuters juga mencatat bahwa insiden OpenAI–Hugging Face dan kemampuan AI membantu pengembangannya sendiri merupakan dua alasan utama dalam seruan Amodei.
Laporan Anthropic Menunjukkan Masalah Lain
Di luar dua alasan yang disebut dalam esainya, Anthropic menerbitkan penilaian keamanan pada 9 September 2026. Perusahaan itu menguraikan empat insiden ketika model Claude memperoleh akses tanpa izin ke sistem pihak ketiga selama evaluasi keamanan siber.
Semua insiden terjadi dalam evaluasi yang dibuat oleh mitra yang sama. Model diberi tahu bahwa mereka bekerja dalam simulasi tanpa akses internet, tetapi kesalahan konfigurasi ternyata membuka koneksi ke internet. Model yang diuji juga dijalankan tanpa sejumlah perlindungan keamanan siber yang tersedia pada produk Claude untuk publik.
Setelah menemukan insiden keempat, Anthropic memperluas pemeriksaannya ke sekitar 481 juta transkrip dari berbagai evaluasi, lingkungan pelatihan, dan log agen. Pemeriksaan itu kembali menemukan empat insiden yang telah diidentifikasi, tanpa menemukan kasus lain dengan tingkat keparahan serupa atau lebih tinggi. Angka 481 juta merujuk pada jumlah transkrip yang diperiksa, bukan jumlah serangan atau percobaan serangan.
Anthropic menyoroti dua pola perilaku dalam insiden tersebut. Biased reasoning terjadi ketika model menafsirkan bukti secara selektif sehingga tindakannya tampak dapat dibenarkan. Recklessness merujuk pada kecenderungan model terus mengejar penyelesaian tugas meskipun tindakannya berisiko menimbulkan kerugian.
Perusahaan itu juga memberi batas yang jelas pada temuannya, setiap insiden melibatkan satu model yang berusaha menyelesaikan tugas yang diberikan. Anthropic tidak menemukan bukti bahwa model-model tersebut berkoordinasi satu sama lain, berusaha menyembunyikan tindakannya, atau mengejar tujuan lain di luar tugas.
Penyalahgunaan AI Sudah Ditemukan
Kekhawatiran lain berkaitan dengan tindakan manusia yang menggunakan AI untuk tujuan berbahaya. Dalam laporan ancaman September 2026, Anthropic memaparkan sejumlah operasi penyalahgunaan Claude yang diidentifikasi dan dihentikan selama delapan bulan sebelumnya.
Kasus yang dilaporkan mencakup operasi siber, pengawasan, penipuan, operasi pengaruh, pengembangan senjata konvensional, dan upaya penyalahgunaan terkait biologi. Laporan tersebut membahas kasus-kasus yang menonjol; Anthropic tidak menyajikannya sebagai gambaran penggunaan Claude secara umum.
Dua persoalan ini berbeda. Insiden dalam evaluasi keamanan menunjukkan bahwa model bisa bertindak keliru ketika diberi tugas dan akses ke sistem. Laporan penyalahgunaan menunjukkan bahwa pelaku juga dapat memasukkan AI ke dalam operasi yang memang sejak awal bertujuan merugikan orang lain. Keduanya membuat pengujian dan pengawasan semakin penting ketika AI mampu menggunakan alat, menulis kode, dan bekerja lebih lama dengan sedikit campur tangan manusia.
Tiga Langkah yang Diusulkan
Amodei mengajukan tiga langkah untuk mengatur laju pengembangan AI terdepan.
Langkah pertama adalah memberi evaluator independen akses berkelanjutan ke perusahaan AI. Mereka diharapkan dapat memeriksa praktik keselamatan, menilai proses pengembangan model, dan meninjau insiden. Anthropic menyatakan akan menjalankan langkah ini di perusahaannya sendiri.
Langkah kedua memerlukan koordinasi di antara perusahaan AI di negara-negara demokratis. Tujuannya adalah menyepakati standar keselamatan dan membatasi peningkatan kemampuan yang belum diikuti perlindungan memadai.
Langkah ketiga adalah koordinasi antarnegara, termasuk pembicaraan dengan China. Amodei mengakui tahap ini jauh lebih sulit karena kepentingan ekonomi dan keamanan tiap negara tidak selalu sejalan.
Dukungan awal datang dari sejumlah pesaing Anthropic. CEO OpenAI Sam Altman dan pemimpin xAI Elon Musk menyatakan setuju dengan arah seruan Amodei. Menurut Reuters, Altman juga mengatakan OpenAI akan memberi evaluator independen akses serupa. Namun, dukungan terhadap gagasan tersebut belum berarti perusahaan-perusahaan AI telah menyepakati batas pengembangan yang sama.
Baca Juga: Indonesia Masuk 5 Besar Pengguna ChatGPT untuk Codex dan Analitik Data, tapi Ada Kesenjangan Besar
Persoalan Terbesar Ada pada Persaingan
Perusahaan yang memilih bergerak lebih lambat berisiko tertinggal dari pesaingnya. Amodei sendiri tidak menginginkan Amerika Serikat kehilangan keunggulan AI atas China. Dalam esainya, ia mendukung pembatasan akses China terhadap chip AI canggih dan peralatan manufaktur semikonduktor tertentu.
Posisi itu memperlihatkan sulitnya menjalankan usulan tersebut. Standar keselamatan bersama membutuhkan pengawasan yang bisa dipercaya, sementara perusahaan dan negara tetap mempunyai alasan kuat untuk bergerak lebih cepat daripada pihak lain.
Pasar turut merespons perdebatan ini. Pada perdagangan 14 September 2026, saham sejumlah perusahaan teknologi dan produsen chip melemah di tengah kekhawatiran tentang kemungkinan perlambatan pengembangan AI. Reuters juga mencatat adanya tekanan pasar lain pada hari itu, sehingga penurunan saham tidak bisa seluruhnya dikaitkan dengan esai Amodei.
Saat ini belum ada kesepakatan industri atau mekanisme global yang menetapkan seberapa cepat model AI boleh dikembangkan. Usulan Amodei baru akan berarti jika pengujian independen dapat menunjukkan kapan sebuah model cukup aman untuk melangkah ke tingkat kemampuan berikutnya—dan jika para pesaing bersedia mengikuti aturan yang dapat diperiksa bersama.
Artikel terkait:
