Lebih dari dua tahun setelah Google ditangkap secara datar oleh rilis Openai's ChatGPT, perusahaan telah secara dramatis mengambil langkah.
Pada akhir Maret, Google meluncurkan model penalaran AI, Gemini 2.5 Pro, itu memimpin industri pada beberapa tolok ukur yang mengukur kemampuan pengkodean dan matematika. Peluncuran itu datang hanya tiga bulan setelah raksasa teknologi debut model lain, Gemini 2.0 Flash, itu adalah canggih untuk saat itu.
Direktur dan kepala produk Google untuk Gemini, Tulsee Doshi, mengatakan kepada TechCrunch dalam sebuah wawancara bahwa peningkatan irama peluncuran model perusahaan adalah bagian dari upaya bersama untuk mengikuti industri AI yang berkembang pesat.
“Kami masih mencoba mencari tahu apa cara yang tepat untuk mengeluarkan model -model ini adalah – apa cara yang benar untuk mendapatkan umpan balik,” kata Doshi.
Tetapi kerangka waktu rilis yang meningkat tampaknya telah dikenakan biaya. Google belum mempublikasikan laporan keselamatan untuk model terbarunyatermasuk Gemini 2.5 Pro dan Gemini 2.0 Flash, meningkatkan kekhawatiran bahwa perusahaan memprioritaskan kecepatan daripada transparansi.
Hari ini, ini cukup standar untuk Laboratorium AI Frontier – termasuk OpenAi, Antropik, dan Meta – untuk melaporkan pengujian keselamatan, evaluasi kinerja, dan menggunakan kasus setiap kali mereka meluncurkan model baru. Laporan -laporan ini, kadang -kadang disebut “kartu sistem” atau “kartu model,” diusulkan bertahun -tahun yang lalu oleh para peneliti di industri dan akademisi. Google sebenarnya adalah salah satu yang pertama menyarankan kartu model di a Makalah Penelitian 2019, Menyebut mereka “pendekatan untuk praktik yang bertanggung jawab, transparan, dan bertanggung jawab dalam pembelajaran mesin.”
Doshi mengatakan kepada TechCrunch bahwa perusahaan belum menerbitkan kartu model untuk Gemini 2.5 Pro karena menganggap model tersebut sebagai rilis “eksperimental”. Tujuan dari rilis eksperimental ini adalah untuk menempatkan model AI dengan cara yang terbatas, mendapatkan umpan balik, dan mengulangi model sebelum peluncuran produksi, katanya.
Google bermaksud untuk menerbitkan kartu model Gemini 2.5 Pro ketika membuat model secara umum tersedia, menurut Doshi, menambahkan bahwa perusahaan telah melakukan pengujian keselamatan dan tim merah permusuhan.
Dalam pesan tindak lanjut, seorang juru bicara Google mengatakan kepada TechCrunch bahwa keselamatan terus menjadi “prioritas utama” bagi perusahaan dan berencana untuk merilis lebih banyak dokumentasi di sekitar model AI-nya, termasuk Flash Gemini 2.0, bergerak maju. Gemini 2.0 Flash, yang umumnya tersedia, juga tidak memiliki kartu model. Kartu model terakhir yang dirilis Google adalah untuk Gemini 1.5 Proyang keluar lebih dari setahun yang lalu.
Kartu sistem dan kartu model memberikan info yang bermanfaat – dan tidak menarik, kadang -kadang – bahwa perusahaan tidak selalu beriklan secara luas tentang AI mereka. Misalnya, kartu sistem OpenAI dirilis untuk model penalaran O1 mengungkapkan bahwa model perusahaan memiliki kecenderungan untuk “skema” terhadap manusia dan diam -diam mengejar tujuannya sendiri.
Pada umumnya, komunitas AI menganggap laporan ini sebagai upaya itikad baik untuk mendukung evaluasi penelitian dan keselamatan independen, tetapi laporan tersebut telah mengambil kepentingan tambahan dalam beberapa tahun terakhir. Sebagai Transformator Sebelumnya mencatat, Google mengatakan kepada pemerintah AS pada tahun 2023 bahwa mereka akan menerbitkan laporan keselamatan untuk semua “signifikan,” model AI publik merilis “dalam ruang lingkup.” Perusahaan membuat komitmen yang sama ke pemerintah lainberjanji untuk “memberikan transparansi publik.”
Ada upaya peraturan di tingkat federal dan negara bagian di AS untuk menciptakan standar pelaporan keselamatan untuk pengembang model AI. Namun, mereka telah bertemu dengan adopsi dan kesuksesan yang terbatas. Salah satu upaya yang lebih menonjol adalah California Bill SB 1047 yang diveto, yang ditentang oleh industri teknologi. Anggota parlemen juga telah mengajukan undang-undang yang akan mengesahkan Lembaga Keselamatan AI AS, badan penetapan standar AI AS, untuk menetapkan pedoman untuk rilis model. Namun, Institut Keselamatan sekarang menghadapi kemungkinan pemotongan di bawah pemerintahan Trump.
Dari semua penampilan, Google tertinggal pada beberapa janjinya untuk melaporkan pengujian model sementara pada saat yang sama pengiriman model lebih cepat dari sebelumnya. Itu preseden yang buruk, banyak ahli Berdebat – terutama ketika model -model ini menjadi lebih mampu dan canggih.
