Dalam postingannya blog pribadiCEO OpenAI Sam Altman mengatakan bahwa dia yakin OpenAI “tahu[s] bagaimana membangun [artificial general intelligence]” seperti yang dipahami secara tradisional oleh perusahaan, dan mulai mengubah tujuannya menjadi “superintelligence.”
“Kami menyukai produk kami saat ini, tapi kami di sini untuk masa depan yang gemilang,” tulis Altman dalam postingannya. “Alat-alat super cerdas dapat secara besar-besaran mempercepat penemuan dan inovasi ilmiah melampaui apa yang mampu kita lakukan sendiri, dan pada gilirannya akan meningkatkan kelimpahan dan kesejahteraan secara besar-besaran.”
Altman sebelumnya mengatakan bahwa kecerdasan super mungkin hanya tinggal “beberapa ribu hari lagi”, dan itu kedatangannya akan menjadi “lebih intens dari yang diperkirakan orang.”
AGI, atau kecerdasan umum buatan, adalah istilah yang samar-samar, namun OpenAI memiliki definisinya sendiri: “sistem yang sangat otonom yang mengungguli manusia dalam pekerjaan yang paling bernilai ekonomi.” OpenAI dan Microsoft, kolaborator dan investor dekat startup tersebut, juga memiliki definisi AGI: sistem AI yang dapat menghasilkan keuntungan setidaknya $100 miliar. Ketika OpenAI mencapai hal ini, Microsoft akan kehilangan akses ke teknologinya, sesuai perjanjian antara kedua perusahaan.
Jadi definisi manakah yang dimaksud Altman? Dia tidak menjelaskan secara spesifik, namun kemungkinan yang pertama adalah yang paling mungkin terjadi. Altman menulis bahwa menurutnya agen AI – sistem AI yang dapat melakukan tugas tertentu secara mandiri – dapat “bergabung dengan dunia kerja,” dan “secara signifikan mengubah output perusahaan” tahun ini.
“Kami terus percaya bahwa memberikan alat-alat hebat ke tangan orang-orang secara terus-menerus akan menghasilkan hasil yang luar biasa dan terdistribusi secara luas,” tulisnya.
Hal ini mungkin saja terjadi, namun juga benar bahwa teknologi AI saat ini sangat terbatas. Ia berhalusinasi, misalnya; itu berhasil kesalahan yang jelas bagi manusia mana pun; dan itu bisa sangat mahal.
Altman tampaknya yakin semua ini bisa diatasi — dan dengan cepat. Namun, jika ada hal yang telah kita pelajari tentang AI dalam beberapa tahun terakhir, hal tersebut adalah bahwa garis waktu dapat berubah.
“Kami cukup yakin bahwa dalam beberapa tahun ke depan, semua orang akan melihat apa yang kami lihat, dan kebutuhan untuk bertindak dengan sangat hati-hati, sambil tetap memaksimalkan manfaat dan pemberdayaan secara luas, sangatlah penting,” tulis Altman. “Mengingat kemungkinan pekerjaan kami, OpenAI tidak bisa menjadi perusahaan biasa. Betapa beruntung dan rendah hati bisa berperan dalam pekerjaan ini.”
Kita mungkin berharap bahwa ketika OpenAI mengalihkan fokusnya ke apa yang mereka anggap sebagai superintelligence, perusahaan tersebut akan mencurahkan sumber daya yang cukup untuk memastikan sistem superintelligent berperilaku aman.
OpenAI punya tertulis beberapa kali tentang betapa suksesnya transisi ke dunia dengan kecerdasan super “masih jauh dari jaminan,” dan bahwa tidak semua jawabannya dapat terjawab. “[W]Kami tidak memiliki solusi untuk mengarahkan atau mengendalikan AI yang berpotensi super cerdas, dan mencegahnya menjadi jahat,” tulis perusahaan itu dalam sebuah pernyataan. postingan blog tanggal Juli 2023.”[H]manusia tidak akan mampu mengawasi sistem AI yang jauh lebih pintar dari kita, sehingga teknik penyelarasan kita saat ini tidak akan mencapai tingkat superintelligence.”
Namun, sejak jabatan tersebut, OpenAI telah membubarkan tim yang berfokus pada keselamatan AI, termasuk keselamatan sistem super cerdas, dan menyebabkan beberapa peneliti berpengaruh yang berfokus pada keselamatan mengundurkan diri. Beberapa staf ini menyebut ambisi OpenAI yang semakin komersial sebagai alasan kepergian mereka. Saat ini perseroan sedang melakukan restrukturisasi perusahaan agar lebih menarik bagi investor luar.
Ditanyakan dalam a wawancara baru-baru ini mengenai kritik yang mengatakan OpenAI tidak cukup fokus pada keselamatan, Altman menjawab, “Saya akan menunjukkan rekam jejak kami.”
