IBM resmi memperkenalkan perangkat lunak pertama di industri yang menyatukan sistem tata kelola dan keamanan untuk Agentic AI.
Inovasi ini menandai langkah penting dalam menjaga sistem kecerdasan buatan tetap aman, patuh, dan bertanggung jawab, khususnya di tengah pesatnya adopsi agen AI oleh perusahaan di berbagai sektor.
Langkah strategis IBM ini mengintegrasikan dua solusi andalan: watsonx.governance, platform tata kelola AI milik IBM, dan Guardium AI Security, sistem keamanan khusus untuk melindungi model, data, dan penggunaan AI.
Baca juga: IBM dan Scuderia Ferrari HP Hadirkan Aplikasi untuk Penggemar Formula 1 Global
Tujuannya adalah memberikan visibilitas menyeluruh terhadap risiko-risiko yang muncul dalam ekosistem Agentic AI yang semakin kompleks dan tersebar.
Solusi Terpadu untuk Risiko Agentic AI
Agentic AI, sistem AI yang mampu bertindak secara otonom memang menjanjikan peningkatan produktivitas bisnis yang signifikan.
Namun menurut Ritika Gunnar, General Manager Data and AI IBM, jika tidak dikelola dan diamankan dengan benar, dampaknya bisa sangat merugikan perusahaan.
“Agen AI diperkirakan akan merevolusi produktivitas perusahaan, namun manfaat besar dari agen AI juga bisa menjadi tantangan. Ketika sistem otonom seperti ini tidak dikelola atau diamankan dengan baik, konsekuensinya bisa sangat besar,” ujar Ritika Gunnar, General Manager, Data and AI, IBM.
Melalui integrasi watsonx.governance dan Guardium AI Security, IBM menghadirkan pendekatan holistik bagi perusahaan dalam mengelola dan mengamankan penggunaan AI secara menyeluruh.
Pengguna kini dapat memantau risiko keamanan sekaligus memastikan kepatuhan terhadap regulasi internasional seperti EU AI Act, ISO 42001, hingga standar lokal seperti NYC Law 144 dan SR 11-7 dari Federal Reserve AS.
Red Teaming dan Deteksi AI Baru
Salah satu fitur unggulan dari Guardium AI Security adalah kemampuan automated red teaming, metode simulasi serangan yang dirancang untuk menguji kerentanan sistem AI.
Fitur ini memungkinkan perusahaan mendeteksi potensi celah keamanan dan kesalahan konfigurasi sebelum dimanfaatkan oleh pihak tak bertanggung jawab.
Lewat kerja sama dengan AllTrue.ai, Guardium kini juga bisa mendeteksi penggunaan AI baru yang tersembunyi di lingkungan cloud, kode aplikasi, dan sistem embedded.
Setelah terdeteksi, sistem secara otomatis akan memicu alur tata kelola di watsonx.governance untuk menilai dan menindak lanjuti risiko.
Pengguna juga dapat menetapkan kebijakan keamanan spesifik untuk menganalisis input-output AI, yang sangat penting dalam mitigasi risiko injeksi prompt, kebocoran data sensitif, atau penyalahgunaan akses.
Baca juga: Studi IBM: Mayoritas Bisnis Indonesia Siap Adopsi AI, Tapi Masih Gagal di Infrastruktur, Keamanan dan Talenta
Evaluasi Sepanjang Siklus Hidup Agen AI
IBM memperluas cakupan pengawasan AI dengan kemampuan pemantauan siklus hidup agentic AI dari pengembangan hingga implementasi. Fitur evaluation nodes kini bisa disematkan langsung dalam agen, memberikan analisis terhadap akurasi, konteks jawaban, dan kesesuaian dengan sumber data.
IBM juga merilis fitur baru seperti jejak audit agen, penilaian risiko onboarding, serta katalog tools untuk agentic AI. Semua kemampuan ini membantu perusahaan dalam membangun AI yang tidak hanya fungsional, tetapi juga aman dan bisa dipertanggungjawabkan.
Satu lagi keunggulan IBM adalah watsonx.governance Compliance Accelerators. Fitur tambahan ini menyajikan daftar regulasi, standar, dan kerangka kerja global yang sudah disiapkan sebelumnya, sehingga pengguna lebih mudah memetakan kewajiban hukum terhadap skenario penggunaan AI mereka.
Untuk melengkapi solusinya, IBM Consulting Cybersecurity Services juga meluncurkan rangkaian layanan profesional yang dirancang khusus bagi perusahaan yang ingin membangun sistem AI secure-by-design.
Layanan ini menggabungkan teknologi IBM Guardium AI Security dengan keahlian sektor industri dalam implementasi tata kelola dan regulasi.
IBM menyebut layanan ini sudah digunakan oleh berbagai organisasi global seperti Nationwide Building Society dan e& dalam menyusun strategi tata kelola AI yang kokoh dan adaptif terhadap perubahan regulasi.
