CEO Anthropic Minta Industri AI "Injak Rem", Sam Altman & Elon Musk Setuju
Ringkasan: Dario Amodei (CEO Anthropic) menuntut perlambatan AI. Sam Altman (OpenAI) & Elon Musk (xAI) mendukung. Tiga langkah utama: evaluator independen, standar keselamatan bersama, koordinasi internasional.
Seruan Dario Amodei
Dalam esai berjudul "We Must Pace the Frontier", Amodei menulis: "Kita membutuhkan kehati-hatian lebih besar... mengatur laju peningkatan kemampuan sehingga upaya pencegahan risiko punya waktu untuk mengejarnya."
Alasan utama
- AI berkembang lebih cepat daripada mekanisme keamanan.
- Recursive Self-Improvement (RSI) dapat memicu siklus eksponensial yang melampaui kontrol manusia.
- Insiden internal OpenAI yang membobol Hugging Face menyoroti celah keamanan.
Langkah-langkah yang Diusulkan
- Evaluator Independen: Akses setingkat karyawan ke sistem AI untuk audit keamanan.
- Standar Keselamatan Bersama: Kolaborasi antar perusahaan AI dalam merumuskan batas keamanan.
- Koordinasi Internasional: Regulasi global untuk mengelola risiko AI.
Dukungan dari Pemimpin AI Lain
Sam Altman menanggapi di X (Twitter): "I agree with Dario that we need to pace the frontier." Elon Musk menulis singkat: "Dario benar." Demis Hassabis (Google DeepMind) juga menyatakan langkah ini ke arah yang tepat.
Risiko RSI dan Contoh Nyata
RSI memungkinkan AI menciptakan versi diri yang lebih pintar secara otomatis. Jika tidak dibatasi, AI dapat mengambil alih sistem dalam skala besar, berpotensi menimbulkan kerugian ratusan miliar dolar.
Kesimpulan
AI harus tetap berada dalam kendali manusia. Perlambatan, evaluasi independen, dan regulasi internasional menjadi kunci menuju AI yang aman.
