Noam Brown, yang memimpin penelitian penalaran AI di Openai, mengatakan bentuk -bentuk tertentu dari model AI “penalaran” bisa tiba 20 tahun sebelumnya membuat para peneliti “dikenal [the right] pendekatan ”dan algoritma.
“Ada berbagai alasan mengapa arah penelitian ini diabaikan,” kata Brown saat panel di konferensi GTC Nvidia di San Jose pada hari Rabu. “Saya perhatikan selama penelitian saya bahwa, oke, ada sesuatu yang hilang. Manusia menghabiskan banyak waktu untuk berpikir sebelum mereka bertindak dalam situasi yang sulit. Mungkin ini akan sangat berguna [in AI]. “
Brown merujuk pada karyanya di AI bermain game di Carnegie Mellon University, termasuk Pluribus, yang mengalahkan profesional manusia elit di Poker. AI yang diciptakan Brown adalah unik pada saat itu dalam arti bahwa itu “beralasan” melalui masalah daripada mencoba pendekatan yang lebih kasar.
Dia juga salah satu arsitek di belakang O1, model AI Openai yang menggunakan teknik yang disebut inferensi waktu tes untuk “berpikir” sebelum merespons pertanyaan. Inferensi waktu tes memerlukan menerapkan komputasi tambahan untuk menjalankan model untuk mendorong bentuk “penalaran.” Secara umum, model penalaran lebih akurat dan dapat diandalkan daripada model tradisional, terutama dalam domain seperti matematika dan sains.
Selama panel, Brown ditanya apakah akademisi dapat berharap untuk melakukan eksperimen pada skala laboratorium AI seperti Openai, mengingat kurangnya akses umum institusi ke sumber daya komputasi. Dia mengakui bahwa itu menjadi lebih sulit dalam beberapa tahun terakhir karena model menjadi lebih intensif komputasi tetapi akademisi dapat berdampak dengan mengeksplorasi bidang-bidang yang membutuhkan lebih sedikit komputasi, seperti desain arsitektur model.
“[T]Berikut adalah peluang untuk kolaborasi antara Frontier Labs [and academia]”Kata Brown.” Tentu saja, Lab Frontier sedang melihat publikasi akademik dan memikirkan dengan cermat, OK, apakah ini membuat argumen yang meyakinkan bahwa, jika ini ditingkatkan lebih jauh, itu akan sangat efektif. Jika ada argumen yang meyakinkan dari kertas, Anda tahu, kami akan menyelidiki itu di lab ini. “
Komentar Brown datang pada saat administrasi Trump membuat potongan dalam untuk pembuatan hibah ilmiah. Pakar AI, termasuk pemenang Nobel Geoffrey Hinton, telah mengkritik pemotongan ini, mengatakan bahwa mereka mungkin mengancam upaya penelitian AI baik domestik maupun di luar negeri.
Brown memanggil pembandingan AI sebagai area di mana akademisi dapat membuat dampak yang signifikan. “Keadaan tolok ukur di AI benar -benar buruk, dan itu tidak memerlukan banyak komputasi untuk dilakukan,” katanya.
Seperti yang telah kami tulis sebelumnya, tolok ukur AI populer saat ini cenderung menguji pengetahuan esoterik dan memberikan skor yang berkorelasi buruk dengan kemahiran pada tugas yang sebagian besar orang pedulikan. Itu menyebabkan kebingungan luas tentang kemampuan dan peningkatan model.
Diperbarui 16:06 PT: Versi sebelumnya dari karya ini menyiratkan bahwa Brown mengacu pada model penalaran seperti O1 dalam sambutan awalnya. Bahkan, ia merujuk pada karyanya di AI bermain game sebelum waktunya di Openai. Kami menyesali kesalahannya.
