Dalam sebuah makalah kebijakan yang diterbitkan pada hari Rabu, mantan CEO Google Eric Schmidt, CEO AI Scale Alexandr Wang, dan Pusat Direktur Keselamatan AI Dan Hendrycks mengatakan bahwa AS tidak boleh mengejar dorongan gaya proyek Manhattan untuk mengembangkan sistem AI dengan kecerdasan “manusia super”, juga dikenal sebagai AGI.
Kertas, berjudul “Strategi Superintelligence”Menegaskan bahwa tawaran agresif oleh AS untuk secara eksklusif mengontrol sistem AI yang diaweta dapat mendorong pembalasan sengit dari Cina, berpotensi dalam bentuk serangan siber, yang dapat mengacaukan hubungan internasional.
“[A] Proyek Manhattan [for AGI] mengasumsikan bahwa saingan akan menyetujui ketidakseimbangan yang abadi atau omnicide daripada bergerak untuk mencegahnya, ”tulis rekan penulis. “Apa yang dimulai sebagai dorongan untuk superweapon dan kontrol global yang mendorong penanggulangan yang bermusuhan dan meningkatkan ketegangan, sehingga merusak stabilitas strategi yang dimaksudkan untuk diamankan.”
Ditulis bersama oleh tiga tokoh yang sangat berpengaruh di industri AI Amerika, makalah ini datang hanya beberapa bulan setelah sebuah komisi kongres AS mengusulkan upaya 'gaya proyek Manhattan' untuk mendanai pengembangan AGI, yang menjadi model setelah program bom atom Amerika pada tahun 1940-an. Sekretaris Energi AS Chris Wright baru -baru ini mengatakan AS ada di “Awal dari proyek Manhattan baru”Di AI sambil berdiri di depan situs superkomputer bersama co-founder OpenAI Greg Brockman.
Makalah strategi superintelligensi menantang gagasan itu, yang diperjuangkan oleh beberapa pemimpin kebijakan dan industri Amerika dalam beberapa bulan terakhir, bahwa program yang didukung pemerintah yang mengejar AGI adalah cara terbaik untuk bersaing dengan Cina.
Menurut pendapat Schmidt, Wang, dan Hendrycks, AS berada dalam sesuatu yang tidak ada bandingannya Penghancuran yang saling memastikan. Dengan cara yang sama bahwa kekuatan global tidak mencari monopoli atas senjata nuklir-yang dapat memicu pemogokan preemptive dari musuh-Schmidt dan rekan penulisnya berpendapat bahwa AS harus berhati-hati tentang balapan menuju mendominasi sistem AI yang sangat kuat.
Sementara menyamakan sistem AI dengan senjata nuklir mungkin terdengar ekstrem, para pemimpin dunia sudah menganggap AI sebagai keuntungan militer utama. Sudah, Pentagon mengatakan bahwa AI membantu mempercepat rantai pembunuhan militer.
Schmidt et al. memperkenalkan konsep yang mereka sebut kerusakan AI yang diyakinkan (MAIM), di mana pemerintah dapat secara proaktif menonaktifkan proyek AI yang mengancam daripada menunggu musuh untuk mempersenjatai AGI.
Schmidt, Wang, dan Hendrycks mengusulkan agar AS mengalihkan fokusnya dari “memenangkan perlombaan ke pengawasan atas” menjadi mengembangkan metode itu menghalangi negara lain dari membuat AI yang superintelligent. Rekan penulis berpendapat bahwa pemerintah harus “berkembang [its] Arsenal of Cybertacks untuk menonaktifkan proyek AI yang mengancam ”dikendalikan oleh negara-negara lain serta membatasi akses musuh ke chip AI canggih dan model open-source.
Rekan penulis mengidentifikasi dikotomi yang telah dimainkan di dunia kebijakan AI. Ada “Doomers,” yang percaya bahwa hasil bencana dari pembangunan AI adalah kesimpulan dan advokat untuk negara -negara yang memperlambat kemajuan AI. Di sisi lain, ada “burung unta,” yang percaya bahwa negara harus mempercepat pengembangan AI dan pada dasarnya hanya berharap semuanya akan berhasil.
Makalah ini mengusulkan cara ketiga: pendekatan terukur untuk mengembangkan AGI yang memprioritaskan strategi defensif.
Strategi itu sangat penting datang dari Schmidt, yang sebelumnya vokal tentang perlunya AS untuk bersaing secara agresif dengan China dalam mengembangkan sistem AI canggih. Hanya beberapa bulan yang lalu, Schmidt merilis sebuah ed ed yang mengatakan Deepseek menandai titik balik dalam perlombaan AI Amerika dengan Cina.
Pemerintahan Trump tampaknya Deadset untuk maju dalam pengembangan AI Amerika. Namun, seperti yang dicatat oleh penulis, keputusan Amerika di sekitar AGI tidak ada dalam ruang hampa.
Ketika dunia menyaksikan Amerika mendorong batas AI, Schmidt dan rekan penulisnya menyarankan lebih bijaksana untuk mengambil pendekatan defensif.
