Home Teknologi Noma sedang mengembangkan alat untuk menemukan masalah keamanan pada aplikasi AI

Noma sedang mengembangkan alat untuk menemukan masalah keamanan pada aplikasi AI

21
0
Noma sedang mengembangkan alat untuk menemukan masalah keamanan pada aplikasi AI


Perusahaan-perusahaan khawatir bahwa keinginan mereka untuk mengadopsi AI telah membuat mereka lebih rentan terhadap ancaman siber. Per baru-baru ini pemilihan Dari lebih dari 350 pemimpin TI, lebih dari separuh eksekutif yang disurvei mengatakan kompleksitas aplikasi AI melemahkan postur keamanan siber organisasi mereka. Lebih dari dua perlima eksekutif percaya bahwa tim keamanan mereka tidak memiliki keterampilan yang dibutuhkan untuk melindungi aplikasi dan beban kerja AI mereka, berdasarkan survei lainnya.

Permintaan akan solusi untuk mengamankan aplikasi AI telah melahirkan banyak startup. HiddenLayer dan Protect AI, misalnya, fokus pada pertahanan sistem AI dari serangan musuh, sementara Cranium memberikan visibilitas ke sistem AI pada tingkat aplikasi.

Sebuah usaha baru yang muncul dari sembunyi-sembunyi hari ini, Keamanan Nomamelakukan semua ini dan lebih banyak lagi, klaim salah satu pendiri dan CEO Niv Braun. Startup ini sedang mengembangkan alat untuk mengidentifikasi jalur data dan kode yang rentan di lingkungan ilmu data, serta ancaman seperti serangan injeksi cepat.

Braun meluncurkan Noma bersama Alon Tron setelah meninggalkan perusahaan otomasi pengalaman pelanggan Verint, di mana ia melihat “titik buta yang signifikan” bagi tim keamanan dalam siklus hidup data dan AI.

“Alat yang ada dirancang untuk siklus hidup perangkat lunak tradisional,” kata Braun. “Namun, siklus hidup data dan AI pada dasarnya berbeda. Hal ini melibatkan proses penelitian dan pengembangan yang berbeda, bergantung pada teknologi yang berbeda, dan menghadapi kerentanan teknis yang unik dalam model AI.”

Noma dirancang untuk membantu menemukan — dan memperbaiki — kesalahan konfigurasi pada komponen yang digunakan untuk mengembangkan dan menjalankan aplikasi AI. Misalnya, platform memindai data “sensitif” dalam kumpulan data pelatihan model, seperti teks yang berisi informasi identitas pribadi.

Braun berpendapat bahwa perusahaan dapat lebih siap menghadapi ancaman jika mereka dapat mengkonsolidasikan fungsi keamanan aplikasi AI dalam satu dasbor yang dapat diterapkan di lingkungan berbasis cloud dan dihosting sendiri.

“Banyak solusi keamanan dengan fungsi tunggal membanjiri pasar, mencoba memanfaatkan sensasi AI,” katanya. “Dengan membantu perusahaan memahami jejak aplikasi AI mereka dan memberi mereka kontrol tata kelola, Noma tidak hanya membantu organisasi meminimalkan dan memitigasi risiko, namun juga memberi mereka kepercayaan diri yang mereka butuhkan untuk memperluas penggunaan AI mereka lebih cepat dan ke bagian bisnis yang bernilai lebih tinggi. .”

Noma, yang didirikan pada tahun 2023, telah memiliki pelanggan yang membayar, kata Braun, termasuk klien Fortune 500 di bidang perangkat lunak B2B, layanan keuangan, dan ritel. Startup tersebut baru-baru ini menyelesaikan putaran pendanaan Seri A senilai $25 juta yang menurut Braun telah didahului oleh investor; Noma punya sisa uang tunai.

“Kami memutuskan untuk menerima [$25 million]bahkan dengan dana besar yang masih ada di bank, untuk mempercepat pengembangan kami dan terutama tim dan upaya masuk ke pasar kami,” katanya, seraya menambahkan bahwa Noma berencana menggandakan jumlah tim yang beranggotakan 20 orang di tahun mendatang.

Ballistic Ventures memimpin Seri A Noma, sehingga total modal perusahaan meningkat menjadi $32 juta. Noma mengumpulkan $7 juta dalam putaran awal yang sebelumnya dirahasiakan yang dipimpin oleh Glilot Capital Partners dengan partisipasi dari Cyber ​​Club London.


LEAVE A REPLY

Please enter your comment!
Please enter your name here