CEO OpenAI Sam Altman meninggalkan komisi internal yang dibentuk OpenAI pada bulan Mei untuk mengawasi keputusan keselamatan “kritis” yang terkait dengan proyek dan operasi perusahaan.
Di sebuah postingan blog hari ini, OpenAI mengatakan komite tersebut, Komite Keselamatan dan Keamanan, akan menjadi kelompok pengawas dewan “independen” yang diketuai oleh profesor Carnegie Mellon Zico Kolter, dan termasuk CEO Quora Adam D'Angelo, pensiunan Jenderal Angkatan Darat AS Paul Nakasone, dan mantan EVP Sony Nicole Seligman. Semuanya adalah anggota dewan direksi OpenAI yang ada.
OpenAI mencatat dalam postingannya bahwa komisi tersebut melakukan tinjauan keamanan o1, model AI terbaru OpenAI, setelah Altman mengundurkan diri. Kelompok tersebut akan terus menerima pengarahan rutin dari tim keamanan dan keselamatan OpenAI, kata perusahaan tersebut, dan tetap memiliki kewenangan untuk menunda rilis hingga masalah keamanan ditangani.
“Sebagai bagian dari pekerjaannya, Komite Keselamatan dan Keamanan … akan terus menerima laporan berkala tentang penilaian teknis untuk model saat ini dan masa mendatang, serta laporan pemantauan pasca-rilis yang sedang berlangsung,” tulis OpenAI dalam postingan tersebut. “[W]Kami membangun proses dan praktik peluncuran model kami untuk membangun kerangka kerja keselamatan dan keamanan terpadu dengan kriteria keberhasilan yang ditetapkan dengan jelas untuk peluncuran model.”
Pengunduran diri Altman dari Komite Keselamatan dan Keamanan terjadi setelah lima senator AS mengajukan pertanyaan tentang kebijakan OpenAI dalam surat yang ditujukan kepada Altman musim panas ini. Hampir setengah dari staf OpenAI yang dulunya berfokus pada risiko jangka panjang AI kini kiridan mantan peneliti OpenAI memiliki dituduh Altman menentang regulasi AI “nyata” dan mendukung kebijakan yang memajukan tujuan korporat OpenAI.
Terkait hal tersebut, OpenAI telah meningkatkan pengeluarannya untuk lobi federal secara drastis, dengan menganggarkan $800.000 untuk enam bulan pertama tahun 2024 dibandingkan dengan $260.000 untuk keseluruhan tahun lalu. Altman juga pada awal musim semi ini bergabung dengan Dewan Keamanan dan Keselamatan Kecerdasan Buatan Departemen Keamanan Dalam Negeri AS, yang memberikan rekomendasi untuk pengembangan dan penerapan AI di seluruh infrastruktur penting AS.
Bahkan dengan Altman yang disingkirkan, tidak banyak yang menunjukkan bahwa Komite Keamanan dan Keselamatan akan membuat keputusan sulit yang berdampak serius pada peta jalan komersial OpenAI. Yang perlu diperhatikan, OpenAI dikatakan pada bulan Mei bahwa mereka akan berupaya untuk mengatasi “kritik yang valid” atas pekerjaannya melalui komisi — “kritik yang valid” tentu saja tergantung pada pandangan masing-masing orang.
Dalam sebuah opini-ed untuk The Economist pada bulan Meimantan anggota dewan OpenAI Helen Toner dan Tasha McCauley mengatakan bahwa mereka tidak yakin OpenAI seperti yang ada saat ini dapat dipercaya untuk bertanggung jawab. “[B]“Berdasarkan pengalaman kami, kami percaya bahwa pemerintahan sendiri tidak dapat secara andal menahan tekanan insentif keuntungan,” tulis mereka.
Dan insentif keuntungan OpenAI makin berkembang.
Perusahaan tersebut dikabarkan tengah mengumpulkan dana $6,5 miliar dalam putaran pendanaan yang akan membuat OpenAI bernilai lebih dari $150 miliar. Untuk mencapai kesepakatan tersebut, OpenAI dilaporkan dapat meninggalkan struktur perusahaan nirlaba hibridanya, yang berupaya membatasi keuntungan investor untuk memastikan OpenAI tetap sejalan dengan misi pendiriannya: mengembangkan kecerdasan umum buatan yang “memberikan manfaat bagi seluruh umat manusia.”
