Wahyu Dwi Anggoro
IDXChannel - Nvidia merilis serangkaian perangkat lunak (software) untuk mencegah peretasan oleh agen kecerdasan buatan (AI) yang lepas kendali.
Dilansir dari CNA pada Sabtu (3/10/2026), Nvidia mengembangkan alat-alat ini bersama dengan puluhan mitra.
Sederet perangkat lunak ini diluncurkan setelah munculnya sejumlah kasus peretasan oleh model atau agen AI yang lepas kendali. Salah satu yang paling besar ialah serangan terhadap Hugging Face, platform berbagi AI yang baru-baru ini diakuisisi Nvidia seharga USD13 miliar (Rp234 triliun).
Kasus peretasan oleh agen AI memicu seruan untuk meregulasi teknologi tersebut dan mengawasinya dengan ketat. Namun, CEO Nvidia Jensen Huang menentang usulan tersebut. Menurutnya, masalah keamanan AI dapat diselesaikan dengan solusi teknis, termasuk mengembangkan alat pengamanan.
Salah satu perangkat lunak yang dirilis Nvidia disebut OpenShell, yang dirancang untuk membatasi gerak agen AI. Nvidia bekerja sama dengan Arm Holdings dan Intel agar prosesor mereka juga dapat menjalankan software ini.
Software lain yang disebut Sentry, jika dijalankan bersama dengan OpenShell dapat menahan agen AI yang mencoba keluar dari lokasi penyimpanannya tanpa izin.
Alat-alat Nvidia menggunakan rumus matematika untuk mendeteksi kapan agen mencoba menggunakan jalan pintas, seperti ketika agen membuat beberapa sub-agen dalam upaya untuk menghindari pemblokiran agen utama.
Agen AI adalah program yang dapat mengambil tindakan secara mandiri untuk menyelesaikan suatu tugas. Jika chatbot hanya bisa merespons atau menjawab teks, agen AI bertindak seperti asisten virtual. (Wahyu Dwi Anggoro)
