AI menciptakan dilema bagi perusahaan: Jika Anda tidak menerapkannya dulu, Anda mungkin akan kehilangan peningkatan produktivitas dan potensi manfaat lainnya; namun jika dilakukan dengan salah, bisnis dan klien Anda mungkin akan terkena risiko yang tidak tanggung-tanggung. Di sinilah gelombang baru “keamanan untuk AI” muncul, dengan premis bahwa ancaman ini, seperti jailbreak dan injeksi cepat, tidak dapat diabaikan.
Seperti startup Israel, Noma, dan pesaingnya yang berbasis di AS Lapisan Tersembunyi dan Protect AI, spin-off universitas Inggris Penjaga pikiran adalah salah satunya. “AI masih berupa perangkat lunak, jadi semua risiko dunia maya yang mungkin Anda pernah dengar juga berlaku untuk AI,” kata CEO dan CTO AI, Profesor Peter Garraghan (di sebelah kanan pada gambar di atas). Namun, “jika Anda melihat sifat buram dan perilaku jaringan dan sistem saraf yang secara intrinsik acak,” tambahnya, hal ini juga membenarkan pendekatan baru.
Dalam kasus Mindgard, pendekatan tersebut adalah Pengujian Keamanan Aplikasi Dinamis untuk AI (DAST-AI) yang menargetkan kerentanan yang hanya dapat dideteksi selama runtime. Hal ini melibatkan kerja sama merah yang berkelanjutan dan otomatis, sebuah cara untuk mensimulasikan serangan berdasarkan perpustakaan ancaman Mindgard. Misalnya, ia dapat menguji ketahanan pengklasifikasi gambar terhadap masukan yang bersifat permusuhan.
Dalam hal ini dan seterusnya, teknologi Mindgard bergantung pada latar belakang Garraghan sebagai profesor dan peneliti yang berfokus pada keamanan AI. Bidang ini berkembang pesat — ChatGPT belum ada saat ia memasukinya, namun ia merasakan bahwa NLP dan model gambar dapat menghadapi ancaman baru, katanya kepada TechCrunch.
Sejak itu, apa yang terdengar berwawasan ke depan telah menjadi kenyataan dalam sektor yang berkembang pesat, namun LLM terus berubah, begitu pula ancamannya. Garraghan berpendapat bahwa hubungannya yang berkelanjutan dengan Lancaster University dapat membantu perusahaan tersebut tetap bertahan: Mindgard akan secara otomatis memiliki kekayaan intelektual untuk karya 18 peneliti doktoral tambahan selama beberapa tahun ke depan. “Tidak ada perusahaan di dunia yang mendapatkan kesepakatan seperti ini.”
Meskipun memiliki hubungan dengan penelitian, Mindgard sudah menjadi produk komersial, dan lebih tepatnya, merupakan platform SaaS, dengan salah satu pendiri Steve Street memimpin sebagai COO dan CRO. (Salah satu pendiri awal, Neeraj Suri, yang terlibat dalam penelitian, tidak lagi bekerja di perusahaan.)
Perusahaan adalah klien alami bagi Mindgard, seperti halnya tim merah tradisional dan penguji pena, namun perusahaan juga bekerja dengan startup AI yang perlu menunjukkan kepada pelanggan mereka bahwa mereka melakukan pencegahan risiko AI, kata Garraghan.
Karena banyak dari calon klien ini berbasis di AS, perusahaan menambahkan sedikit cita rasa Amerika ke dalam batasannya. Setelah membesarkan a Putaran benih senilai £3 juta pada tahun 2023, Mindgard kini mengumumkan pendanaan baru senilai $8 juta yang dipimpin oleh .406 Ventures yang berbasis di Boston, dengan partisipasi dari Atlantic Bridge, WillowTree Investments, dan investor lama IQ Capital dan Lakestar.
Pendanaan ini akan membantu “membangun tim, pengembangan produk, penelitian dan pengembangan, dan semua hal yang mungkin Anda harapkan dari sebuah startup,” namun juga akan diperluas ke AS. Wakil Presiden Pemasaran yang baru ditunjuk, mantan CMO DLP Berikutnya Fergal Glynn, bermarkas di Boston. Namun, perusahaan juga berencana untuk mempertahankan penelitian dan pengembangan di London.
Dengan jumlah anggota 15 orang, tim Mindgard relatif kecil, dan akan tetap demikian, dengan rencana untuk mencapai 20 hingga 25 orang pada akhir tahun depan. Hal ini karena keamanan AI “bahkan belum mencapai puncaknya.” Namun ketika AI mulai diterapkan di mana-mana, dan ancaman keamanan pun menyusul, Mindgard akan siap. Garraghan berkata: “Kami membangun perusahaan ini untuk melakukan hal positif bagi dunia, dan hal positifnya adalah masyarakat dapat mempercayai dan menggunakan AI dengan aman dan terjamin.”
