OpenAI menghadirkan o1, model AI yang “beralasan”, ke API-nya — tetapi hanya untuk pengembang tertentu, sebagai permulaan.
Mulai hari Selasa, o1 akan mulai diluncurkan ke pengembang dalam kategori penggunaan “tingkat 5” OpenAI, yaitu perusahaan dikatakan. Agar memenuhi syarat untuk tingkat 5, pengembang harus mengeluarkan setidaknya $1.000 dengan OpenAI dan memiliki akun yang lebih lama dari 30 hari sejak pembayaran pertama mereka berhasil.
O1 menggantikan model o1-preview yang sudah tersedia di API.
Tidak seperti kebanyakan AI, model penalaran seperti o1 secara efektif memeriksa fakta sendiri, yang membantu mereka menghindari beberapa kendala yang biasanya membuat model tersandung. Kelemahannya, mereka seringkali membutuhkan waktu lebih lama untuk sampai pada solusi.
Harganya juga cukup mahal — sebagian karena memerlukan banyak sumber daya komputasi untuk menjalankannya. OpenAI mengenakan biaya $15 untuk setiap ~750.000 kata o1 analisis dan $60 untuk setiap ~750.000 kata yang dihasilkan model. Itu 6x biayanya model “non-penalaran” terbaru OpenAI, GPT-4o.
O1 di OpenAI API jauh lebih dapat disesuaikan dibandingkan o1-preview, berkat fitur-fitur baru seperti pemanggilan fungsi (yang memungkinkan model dihubungkan ke data eksternal), pesan pengembang (yang memungkinkan pengembang menginstruksikan model tentang nada dan gaya), dan analisis gambar. Sebagai tambahan keluaran terstrukturo1 juga memiliki parameter API, “reasoning_effort,” yang memungkinkan kontrol atas berapa lama model “berpikir” sebelum merespons kueri.
OpenAI mengatakan bahwa versi o1 di API – dan, segera, platform chatbot AI perusahaan, ChatGPT – adalah versi o1 “baru pasca-pelatihan”. Dibandingkan dengan model o1 yang dirilis di ChatGPT dua minggu lalu, model ini, “o1-2024-12-17,” meningkatkan “area perilaku model berdasarkan umpan balik,” jelas OpenAI.
“Kami meluncurkan akses secara bertahap sambil berupaya memperluas akses ke tingkat penggunaan tambahan dan meningkatkan batas tarif,” tulis perusahaan itu dalam sebuah pernyataan. postingan blog.
Di sebuah catatan di situs webnya, OpenAI mengatakan bahwa o1 terbaru harus memberikan “respon yang lebih komprehensif dan akurat,” terutama untuk pertanyaan yang berkaitan dengan pemrograman dan bisnis, dan kecil kemungkinannya untuk menolak permintaan secara salah.
Dalam berita terkait pengembang lainnya pada hari Selasa, OpenAI mengumumkan versi baru model mini GPT-4o dan GPT-4o sebagai bagian dari Realtime API, API OpenAI untuk membangun aplikasi dengan latensi rendah, respons suara yang dihasilkan AI. Model baru (“gpt-4o-realtime-preview-2024-12-17” dan “gpt-4o-mini-realtime-preview-2024-12-17”), yang menawarkan peningkatan efisiensi dan keandalan data, juga lebih murah untuk digunakan, kata OpenAI.
Berbicara tentang Realtime API (tidak ada kata-kata yang dimaksudkan), ini masih dalam versi beta, tetapi ia memperoleh beberapa kemampuan baru, seperti respons out-of-band secara bersamaan, yang memungkinkan tugas latar belakang seperti moderasi konten berjalan tanpa mengganggu interaksi. API tersebut kini juga mendukung WebRTC, standar terbuka untuk membangun aplikasi suara real-time untuk klien berbasis browser, ponsel cerdas, dan perangkat Internet of Things.
Tentu saja bukan suatu kebetulan, OpenAI mempekerjakan pencipta dari WebRTC, Justin Uberti, pada awal Desember.
“Integrasi WebRTC kami dirancang untuk memungkinkan interaksi yang lancar dan responsif dalam kondisi dunia nyata, bahkan dengan kualitas jaringan yang bervariasi,” tulis OpenAI dalam blognya. “Ini menangani pengkodean audio, streaming, peredam bising, dan kontrol kemacetan.”
Dalam pembaruan terakhirnya pada hari Selasa, OpenAI menghadirkan penyesuaian preferensi pada API penyesuaiannya; penyempurnaan preferensi membandingkan pasangan respons model untuk “mengajarkan” model membedakan antara jawaban yang disukai dan “tidak disukai” terhadap pertanyaan. Dan perusahaan meluncurkan “akses awal” beta untuk perangkat pengembang perangkat lunak resmi di Go dan Java.
