Pendiri perusahaan AI memiliki reputasi untuk membuat klaim berani tentang potensi teknologi untuk membentuk kembali bidang, khususnya sains. Tapi Thomas Wolf, co-founder dan chief science officer Face, memiliki pengambilan yang lebih terukur.
Dalam an Esai yang diterbitkan untuk x Pada hari Kamis, Wolf mengatakan bahwa dia takut AI menjadi “ya-men di server” tidak ada terobosan dalam penelitian AI. Dia menguraikan bahwa paradigma pengembangan AI saat ini tidak akan menghasilkan AI yang mampu memecahkan masalah di luar kotak, pemecahan masalah-jenis pemecahan masalah yang memenangkan hadiah Nobel.
“Kesalahan utama yang biasanya dilakukan orang adalah berpikir [people like] Newton atau Einstein baru saja ditingkatkan siswa yang baik, bahwa seorang jenius menjadi hidup ketika Anda secara linear mengekstrapolasi siswa top-10%, ”tulis Wolf. “Untuk membuat Einstein di pusat data, kita tidak hanya membutuhkan sistem yang mengetahui semua jawaban, tetapi lebih tepatnya yang dapat mengajukan pertanyaan yang tidak ada yang pikirkan atau berani bertanya.”
Pernyataan Wolf berbeda dengan yang dari CEO OpenAI Sam Altman, yang dalam sebuah esai awal tahun ini mengatakan bahwa “superintelligent” AI dapat “secara besar -besaran mempercepat penemuan ilmiah.” Demikian pula, CEO antropik Dario Amodei telah memperkirakan AI dapat membantu merumuskan obat untuk sebagian besar jenis kanker.
Masalah Wolf dengan AI hari ini – dan ke mana ia pikir teknologi sedang menuju – adalah bahwa ia tidak menghasilkan pengetahuan baru dengan menghubungkan fakta -fakta yang sebelumnya tidak terkait. Bahkan dengan sebagian besar internet yang tersedia, AI karena saat ini kami memahaminya sebagian besar mengisi celah antara apa yang sudah diketahui manusia, kata Wolf.
Beberapa ahli AI, termasuk mantan insinyur GOOGLE Francois Chollet, telah menyatakan pandangan yang sama, dengan alasan bahwa sementara AI mungkin mampu menghafal pola penalaran, tidak mungkin dapat menghasilkan “penalaran baru” berdasarkan situasi baru.
Wolf berpikir bahwa AI Labs sedang membangun apa yang pada dasarnya “siswa yang sangat patuh” – bukan revolusioner ilmiah dalam arti frasa apa pun. AI hari ini tidak diberi insentif untuk mempertanyakan dan mengusulkan ide -ide yang berpotensi bertentangan dengan data pelatihannya, katanya, membatasi untuk menjawab pertanyaan yang diketahui.
“Untuk membuat Einstein di pusat data, kami tidak hanya membutuhkan sistem yang mengetahui semua jawaban, tetapi lebih tepatnya yang dapat mengajukan pertanyaan yang tidak ada yang pikirkan atau berani bertanya,” kata Wolf. “Salah satu yang menulis 'Bagaimana jika semua orang salah tentang ini?' Ketika semua buku teks, ahli, dan pengetahuan umum menyarankan sebaliknya. “
Wolf berpikir bahwa “krisis evaluasi” di AI sebagian harus disalahkan atas keadaan yang mengecewakan ini. Dia menunjuk pada tolok ukur yang biasa digunakan untuk mengukur peningkatan sistem AI, yang sebagian besar terdiri dari pertanyaan yang memiliki jawaban yang jelas, jelas, dan “tertutup”.
Sebagai solusi, Wolf mengusulkan bahwa industri AI “beralih ke ukuran pengetahuan dan penalaran” yang mampu menjelaskan apakah AI dapat mengambil “pendekatan kontrafaktual yang berani,” membuat proposal umum berdasarkan “petunjuk kecil,” dan mengajukan “pertanyaan tidak jelas” yang mengarah pada “jalur penelitian baru.”
Triknya adalah mencari tahu seperti apa ukuran ini, Wolf mengakui. Tapi dia pikir itu bisa sepadan dengan usaha.
“[T]Dia sangat penting dari sains [is] Keterampilan untuk mengajukan pertanyaan yang tepat dan menantang bahkan apa yang telah dipelajari, ”kata Wolf. “Kami tidak membutuhkan A+ [AI] Siswa yang dapat menjawab setiap pertanyaan dengan pengetahuan umum. Kami membutuhkan siswa B yang melihat dan mempertanyakan apa yang dilewatkan orang lain. ”
