Foto: Schäferle / Pixabay
Fenomena 'shadow AI Goldman Sachs' kini merujuk pada upaya proaktif bank untuk memblokir penggunaan alat koding AI tertentu di kalangan non-engineer guna mencegah risiko keamanan dan produktivitas yang tidak terkendali. Langkah ini bukan sekadar kepatuhan sumber daya manusia, melainkan perubahan fundamental di mana kontrol akses pada model LLM menjadi bagian tak terpisahkan dari arsitektur DevOps dan kerangka kerja keamanan data perusahaan.
Apa Itu Shadow AI dalam Konteks Goldman Sachs?
Istilah 'shadow AI' secara historis mengacu pada penggunaan alat AI tidak resmi oleh karyawan di luar kendali TI perusahaan. Namun, dalam kasus Goldman Sachs, definisi ini berbalik. Perusahaan justru menerapkan kebijakan internal yang ketat untuk membatasi penggunaan alat koding AI canggih seperti Claude Code dari Anthropic dan tools GitHub dari Microsoft. Kebijakan ini, yang terbit dari pedoman internal berbulan Oktober, secara spesifik membatasi akses alat-alat tersebut hanya untuk engineer, sementara melarang trader dan banker menggunakannya Menurut The Decoder dan ExplainX. Perubahan ini sangat signifikan karena mengindikasikan bahwa batas antara pengembangan teknis dan operasi bisnis kini diatur oleh parameter keamanan siber, bukan hanya peran fungsional.
Mengapa Larangan Tool AI Mengubah Arsitektur DevOps
Implikasi dari kebijakan 'shadow AI Goldman Sachs' ini langsung berdampak pada cara tim teknis membangun pipeline. Ketika akses ke LLM canggih dibatasi, tim DevOps tidak lagi bisa mengandalkan integrasi tanpa batas model AI eksternal. Mereka harus membangun lapisan gatekeeping yang memverifikasi apakah setiap interaksi dengan model AI berasal dari akun engineer yang terautorisasi. Ini mengubah arsitektur pipeline dari sekadar otomasi CI/CD menjadi sistem kontrol akses berbasis peran (RBAC) yang ketat untuk aset AI. Dalam praktiknya, berarti setiap deployment yang dihasilkan oleh kode AI harus melalui validasi tambahan untuk memastikan tidak ada 'hallucination' atau kebocoran data sensitif yang lolos ke produksi.
Selain itu, keterbatasan akses ini mendorong terciptanya standar baru dalam pengelolaan 'prompt' dan konteks. Engineer kini dituntut untuk lebih disiplin dalam mengisolasi data konteks saat menggunakan tools seperti Claude Code. Hal ini berarti arsitektur DevOps harus mengakomodasi mekanisme enkripsi dan audit trail yang lebih ketat khusus untuk log interaksi manusia-machine. Jika sebelumnya fokus utama adalah kecepatan delivery, kini fokus bergeser ke keamanan dan kepatuhan di setiap stage pipeline, dari staging hingga produksi.
Dari GS AI Assistant ke Pembatasan Claude Code
Ironi dalam narasi ini terlihat jelas melalui perbandingan antara peluncuran GS AI Assistant dan kebijakan pembatasan koding AI. Goldman Sachs baru saja mengumumkan peluncuran skala perusahaan untuk GS AI Assistant, yang diklaim sebagai tool generatif pertama yang mencapai skala penuh di perusahaan tersebut Foxtrot Business. Tool ini dirancang untuk memanfaatkan berbagai LLM yang telah disetujui perusahaan secara aman. Namun, di sisi lain, pedoman internal yang sama justru membatasi tools koding eksternal yang dianggap lebih 'liar' dan sulit diotaki untuk non-teknisi. Ini menciptakan paradoks: di satu sisi perusahaan mendorong adopsi AI internal yang terkurasi, di sisi lain mereka membendung AI eksternal yang dianggap membawa risiko 'shadow IT'.
Juru bicara Goldman Sachs, Nick Carcaterra, menjelaskan bahwa pembatasan ini didorong oleh 'berbagai faktor termasuk produktivitas dan manajemen risiko' ExplainX. Alasan ini menunjukkan bahwa produktivitas bukan lagi sekadar tentang kecepatan coding, tetapi tentang kualitas dan keamanan kode yang dihasilkan. Bagi bank, risiko satu baris kode yang salah diinject ke sistem perbankan oleh AI tanpa pengawasan engineer bersertifikat bisa berujung pada kerugian miliaran dolar atau pelanggaran regulasi.
Perubahan Sikap CIO: Dari Vibe Coding ke Kontrol Ketat
Salah satu aspek paling menarik dari kasus 'shadow AI Goldman Sachs' ini adalah perubahan sikap internal perusahaan dalam waktu singkat. Pada bulan Juli, CIO Goldman Sachs, Marco Argenti, sempat memuji praktik 'vibe coding' oleh staf non-teknis, di mana mereka menggunakan AI untuk membangun aplikasi sederhana tanpa menulis kode tradisional ExplainX. Sikap ini mencerminkan tren 'demokratisasi' pengembangan perangkat lunak yang populer saat itu. Namun, bulan November kemudian, sikap ini dibalik total. Akses ke tools canggih seperti Claude Code dibatasi ketat untuk engineer.
Pembalikan pendirian ini menggarisbawahi betapa cepatnya siklus evaluasi risiko di industri keuangan. Konsep 'vibe coding' yang dianggap inovatif di Juli tiba-tiba menjadi vektor serangan potensial atau sumber inefisiensi di bulan Oktober/November. Ini mengajarkan satu hal penting bagi arsitek DevOps: arsitektur harus cukup fleksibel untuk membatasi akses secara dinamis. Kebijakan static yang mengizinkan akses luas tidak lagi aman. Perusahaan harus memiliki kemampuan untuk 'memutus' akses ke LLM tertentu berdasarkan metrik risiko real-time, tanpa mengganggu pipeline inti lainnya.
Dampak Nyata bagi Tim Engineering dan Infrastruktur
Bagi tim engineering, kebijakan ini membawa konsekuensi teknis yang harus diantisipasi. Pertama, kebutuhan akan proxy AI terpusat. Engineer tidak lagi bisa langsung memanggil API Claude Code atau GitHub Copilot dari lingkungan lokal mereka jika data sensitif terlibat. Mereka harus menggunakan endpoint internal yang ditenagai oleh LLM yang disetujui perusahaan, seperti yang diintegrasikan dalam GS AI Assistant. Ini mengubah konfigurasi tools pengembangan menjadi lebih kompleks.
Kedua, proses review kode menjadi lebih berlapis. Jika kode dihasilkan dengan bantuan AI oleh engineer, proses peer review harus memperhitungkan bias model AI. Tim QA mungkin perlu menggunakan LLM lain (yang berbeda dan lebih ringan) untuk audit otomatis terhadap output coding assistant tersebut. Ini menambah tahap baru dalam pipeline DevOps yang sebelumnya tidak ada. Ketiga, pelatihan keamanan. Engineer kini perlu memahami tidak hanya sintaksis, tetapi juga batas-batas keamanan dari tools AI yang mereka gunakan, termasuk apa data yang boleh dan tidak boleh di-input ke dalam model.
Tabel berikut merangkum pergeseran kebijakan dan dampaknya:
| Aspek | Kebijakan Sebelumnya (Juli) | Kebijakan Baru (Oktober/November) | Dampak DevOps |
|---|---|---|---|
| Pengguna Tools AI | Terbuka untuk non-engineer (vibe coding) | Dibatasi hanya untuk engineer | Integrasi RBAC ketat di pipeline |
| Alat yang Dipakai | Bebas (termasuk eksternal) | Claude Code & GitHub tools dibatasi | Kebutuhan proxy internal/audit trail |
| Fokus Utama | Inovasi & Kecepatan | Keamanan & Manajemen Risiko | Penambahan tahap audit keamanan |
Langkah Praktis bagi Perusahaan Lain
Kasus 'shadow AI Goldman Sachs' memberikan pelajaran berharga bagi perusahaan di sektor lain yang ingin mengadopsi AI coding tools. Pelajaran utamanya adalah jangan pernah mengizinkan akses LLM eksternal tanpa lapisan kontrol. Langkah praktis pertama adalah membangun 'allowlist' model yang disetujui. Hanya model yang telah melewati uji keamanan dan kepatuhan yang boleh diintegrasikan ke dalam IDE atau pipeline CI/CD. Langkah kedua adalah implementasi logging granular. Setiap interaksi engineer dengan AI coding tool harus terlog dengan metadata, termasuk apa prompt yang diberikan dan apa output yang diterima. Log ini harus dapat diotaki dan dianalisis untuk mendeteksi pola anomali atau potensi kebocoran data. Terakhir, buatlah skenario fallback. Jika akses ke AI coding tool eksternal dihentikan mendadak (seperti dalam kasus Goldman), pipeline tetap harus berjalan menggunakan LLM internal atau manual. Arsitektur DevOps masa depan bukan lagi hanya tentang otomasi, tetapi tentang otonomi yang terkontrol secara ketat di lingkungan komputasi yang semakin kompleks dan berisiko.