Google DeepMind meluncurkan DeepMind Institute pada Kamis (17/9) untuk memperluas debat global mengenai kecerdasan buatan umum (AGI). Inisiatif ini bertujuan mempublikasikan perspektif beragam dari internal Google dan komunitas riset internasional guna mengidentifikasi risiko serta peluang teknologi kecerdasan buatan masa depan.
Transparansi Penalaran AI yang Menyusut
Dalam salah satu makalah perdana, peneliti Rohin Shah dan Anca Dragan menyoroti masalah "opaque serial depth". Arsitektur AI terbaru semakin sulit dipantau karena proses komputasi sekuensial yang tidak terbaca oleh manusia. Mereka mengusulkan pembatasan kedalaman komputasi yang tidak transparan atau kewajiban bagi pengembang untuk membuktikan bahwa sistem mereka tetap dapat diawasi secara efektif.
Kerangka Kerja Frontier AI: Standar Keamanan Baru
CEO DeepMind, Demis Hassabis, mengusulkan pembentukan badan standar yang dipimpin Amerika Serikat untuk mengevaluasi model AI tingkat lanjut. Prosedur ini mencakup peninjauan sukarela selama 30 hari sebelum rilis produk. Skema ini direncanakan berevolusi menjadi pengujian wajib setelah metode evaluasi terbukti efektif secara teknis.
Sistem keamanan ini akan menggunakan "held-out tests" atau pengujian tertutup. Tujuannya agar laboratorium AI tidak dapat memanipulasi hasil evaluasi dengan melatih model pada data pengujian. Jika risiko terdeteksi meningkat, badan ini berwenang mengoordinasikan perlambatan pengembangan antar perusahaan teknologi.
Dampak Ekonomi dan Kebijakan Publik
Selain aspek teknis, DeepMind Institute juga merilis kajian mengenai kebijakan ekonomi untuk mengelola gangguan pasar tenaga kerja akibat AGI. Fokus utama adalah menciptakan prinsip integrasi AI yang mendukung kesejahteraan manusia tanpa mengorbankan keamanan data global. Kepemimpinan institut ini dipegang oleh tokoh kunci seperti Shane Legg, James Manyika, dan Demis Hassabis sendiri.
Langkah Google ini menandai pergeseran debat keamanan AI dari kekhawatiran teoretis menuju proposal regulasi yang konkret. Hal ini sejalan dengan rencana "pacing" pengembangan yang sebelumnya juga didorong oleh pimpinan industri lain seperti CEO Anthropic, Dario Amodei.
Sumber: TechCrunch (17 September 2026)