Nvidia meraup laba bersih lebih dari $19 miliar selama kuartal terakhir perusahaan melaporkan pada hari Rabu, namun hal tersebut tidak memberikan jaminan kepada investor bahwa pertumbuhan pesatnya akan terus berlanjut. Dalam laporan pendapatannya, para analis mendesak CEO Jensen Huang tentang bagaimana nasib Nvidia jika perusahaan teknologi mulai menggunakan metode baru untuk meningkatkan model AI mereka.
Metode yang mendasari model o1 OpenAI, atau “penskalaan waktu pengujian”, muncul cukup banyak. Idenya adalah bahwa model AI akan memberikan jawaban yang lebih baik jika Anda memberi mereka lebih banyak waktu dan daya komputasi untuk “berpikir” melalui pertanyaan. Secara khusus, ini menambahkan lebih banyak komputasi ke fase inferensi AI, yaitu segala sesuatu yang terjadi setelah pengguna menekan enter pada perintahnya.
CEO Nvidia ditanya apakah dia melihat pengembang model AI beralih ke metode baru ini, dan bagaimana chip lama Nvidia akan bekerja untuk inferensi AI.
Huang mengatakan kepada investor bahwa o1, dan penskalaan waktu pengujian yang lebih luas, dapat memainkan peran yang lebih besar dalam bisnis Nvidia di masa depan, dan menyebutnya sebagai “salah satu perkembangan paling menarik” dan “undang-undang penskalaan baru.” Huang melakukan yang terbaik untuk memastikan investor bahwa Nvidia berada pada posisi yang tepat untuk perubahan tersebut.
Ucapan CEO Nvidia tersebut selaras dengan apa yang disampaikan CEO Microsoft Satya Nadella di atas panggung di acara Microsoft pada hari Selasa: o1 mewakili cara baru bagi industri AI untuk meningkatkan modelnya.
Ini adalah masalah besar bagi industri chip karena lebih menekankan pada inferensi AI. Meskipun chip Nvidia adalah standar emas untuk melatih model AI, ada banyak startup yang memiliki pendanaan besar yang menciptakan chip inferensi AI secepat kilat, seperti Groq dan Cerebras. Ini bisa menjadi ruang yang lebih kompetitif bagi Nvidia untuk beroperasi.
Meskipun laporan terbaru bahwa perbaikan dalam model generatif melambat, Huang mengatakan kepada analis bahwa pengembang model AI masih meningkatkan model mereka dengan menambahkan lebih banyak komputasi dan data selama fase pra-pelatihan.
CEO Anthropic Dario Amodei juga mengatakan pada hari Rabu saat wawancara di atas panggung pada pertemuan puncak Cerebral Valley di San Francisco bahwa dia tidak melihat adanya perlambatan dalam pengembangan model.
“Penskalaan pra-pelatihan model dasar masih utuh dan terus berlanjut,” kata Huang pada hari Rabu. “Seperti yang Anda ketahui, ini adalah hukum empiris, bukan hukum fisika fundamental, namun buktinya terus berkembang. Namun yang kami pelajari adalah hal itu saja tidak cukup,” kata Huang.
Hal ini tentu saja ingin didengar oleh para investor Nvidia, sejak saham pembuat chip tersebut telah melonjak lebih dari 180% pada tahun 2024 dengan menjual chip AI yang digunakan OpenAI, Google, dan Meta untuk melatih model mereka. Namun, mitra Andreessen Horowtiz dan beberapa eksekutif AI lainnya sebelumnya mengatakan bahwa metode ini mulai menunjukkan hasil yang semakin berkurang.
Huang mencatat bahwa sebagian besar beban kerja komputasi Nvidia saat ini adalah seputar pra-pelatihan model AI – bukan inferensi – tetapi ia lebih mengaitkan hal itu dengan dunia AI saat ini. Dia mengatakan bahwa suatu hari, akan ada lebih banyak orang yang menjalankan model AI, yang berarti lebih banyak inferensi AI akan terjadi. Huang mencatat bahwa Nvidia adalah platform inferensi terbesar di dunia saat ini dan skala serta keandalan perusahaan memberikannya keuntungan besar dibandingkan dengan perusahaan rintisan.
“Harapan dan impian kami adalah suatu hari nanti, dunia dapat melakukan banyak inferensi, dan saat itulah AI benar-benar berhasil,” kata Huang. “Semua orang tahu bahwa jika mereka berinovasi berdasarkan arsitektur CUDA dan Nvidia, mereka dapat berinovasi lebih cepat, dan mereka tahu bahwa semuanya akan berhasil.”
