Nvidia merilis tiga layanan mikro NIM baru, atau layanan independen kecil yang merupakan bagian dari aplikasi yang lebih besar, untuk membantu perusahaan memberikan kontrol tambahan dan langkah-langkah keamanan pada agen AI mereka.
Salah satu layanan NIM baru ini menargetkan keamanan konten dan berupaya mencegah agen AI menghasilkan keluaran yang berbahaya atau bias. Layanan lain berfungsi untuk menjaga percakapan tetap terfokus pada topik yang disetujui saja, sedangkan layanan baru ketiga membantu mencegah agen AI dari upaya jailbreak, atau menghilangkan batasan perangkat lunak.
Ketiga layanan mikro NIM baru ini adalah bagian dari Nvidia NeMo Guardrails, kumpulan perangkat lunak dan layanan mikro sumber terbuka Nvidia yang dimaksudkan untuk membantu perusahaan meningkatkan aplikasi AI mereka.
“Dengan menerapkan beberapa model yang ringan dan terspesialisasi sebagai pagar pembatas, pengembang dapat menutupi kesenjangan yang mungkin terjadi jika hanya ada kebijakan dan perlindungan global yang lebih umum — karena pendekatan yang bersifat universal tidak dapat mengamankan dan mengendalikan alur kerja AI agen yang kompleks dengan baik. ” itu siaran pers dikatakan.
Tampaknya perusahaan-perusahaan AI mulai menyadari bahwa membuat perusahaan mengadopsi teknologi agen AI mereka tidak akan semudah yang mereka bayangkan sebelumnya. Meskipun orang-orang seperti CEO Salesforce Marc Benioff baru-baru ini memperkirakan akan ada lebih dari satu miliar agen yang meninggalkan Salesforce saja dalam 12 bulan ke depan, kenyataannya mungkin akan terlihat sedikit berbeda.
Sebuah studi terbaru dari Deloitte diprediksi bahwa sekitar 25% perusahaan sudah menggunakan agen AI atau diperkirakan akan menggunakan agen tersebut pada tahun 2025. Laporan tersebut juga memperkirakan bahwa pada tahun 2027 sekitar setengah perusahaan akan menggunakan agen. Hal ini menunjukkan bahwa meskipun perusahaan jelas-jelas tertarik pada agen AI, mereka tidak mengadopsi teknologi AI bersamaan dengan munculnya inovasi di bidang AI.
Nvidia mungkin berharap inisiatif seperti ini akan membuat penggunaan agen AI tampak lebih aman dan kurang eksperimental. Waktu akan membuktikan apakah itu benar.
