Institut Kosmossebuah lembaga nirlaba yang rekan-rekan pendirinya termasuk salah seorang pendiri Anthropic, Jack Clark, dan mantan teknolog Departemen Pertahanan, Brendan McCord, telah mengumumkan program usaha dan inisiatif penelitian untuk — dalam kata-kata organisasi tersebut — “menumbuhkan generasi baru teknolog dan wirausahawan yang dilengkapi dengan pemikiran filosofis mendalam untuk menjelajahi wilayah yang belum dipetakan di era AI kita.”
Di sebuah postingan blogMcCord, ketua Cosmos, mengatakan bahwa Institut tersebut akan mendirikan laboratorium AI di Universitas Oxford yang disebut Laboratorium AI Berpusat pada Manusia, atau singkatnya “Laboratorium HAI”. Laboratorium tersebut akan dipimpin oleh filsuf Oxford Philipp Koralus — salah satu pendiri Institut tersebut — dan bertujuan untuk “menerjemahkan prinsip-prinsip filosofis tentang perkembangan manusia ke dalam perangkat lunak sumber terbuka dan sistem AI.”
Apa sebenarnya yang dimaksud dengan “menerjemahkan prinsip-prinsip filosofis tentang kemakmuran manusia”? Tidak jelas. Namun, inti permasalahannya adalah untuk mendorong terciptanya teknologi AI yang menghargai martabat manusia sekaligus menghindari promosi disrupsi yang merugikan (misalnya otomatisasi yang menyebabkan hilangnya pekerjaan). Sebuah standar yang tinggi dan samar, tentu saja — tetapi HAI Lab akan berusaha keras untuk mencapainya.
Institut ini juga tengah mempersiapkan beasiswa — Beasiswa Cosmos — dengan empat orang rekan untuk memulai. Bekerja di Lab HAI atau lembaga mitra lainnya selama “satu semester dan satu tahun,” para rekan akan berkolaborasi dengan mentor Cosmos dan menjalankan proyek independen untuk “[explore the] persimpangan keahlian AI dan wawasan filosofis yang mendalam,” kata McCord.
Ada komponen investasi dalam rencana Institut, dan diluncurkan dalam bentuk organisasi ventura: Cosmos Ventures. Dipimpin oleh mantan pimpinan produk DeepMind Jason Zhao, mantan kepala strategi korporat Stripe Alex Komoroske, Darren Zhu, dan Zoe Weinberg, Cosmos Ventures akan mendukung “prototipe baru yang provokatif, esai, dan proyek kreatif yang mengeksplorasi pertanyaan mendasar seputar filosofi teknologi,” kata McCord.
McCord menggambarkan Cosmos Ventures sebagai “biaya operasional rendah,” yang dimodelkan berdasarkan Emergent Ventures milik Tyler Cowen, rekan sesama Institut. Investasi akan berkisar antara $1.000 dan $10.000 per proyek, dan proyek — yang dapat berupa proyek baru atau yang sudah ada — harus menghasilkan “hasil utama” dalam waktu tiga bulan.
Kelompok pertama telah didanai, kata McCord.
Cosmos Institute bukanlah yang pertama kali mencoba memajukan visi AI yang lebih etis dan humanis. OpenAI, yang didirikan dengan misi memberikan manfaat AI tingkat lanjut kepada seluruh umat manusia, telah membubarkan seluruh tim keselamatan. Anthropic milik Clark sendiri pernah memposisikan dirinya sebagai vendor yang lebih aman dan lebih etis, tetapi bulan terakhir telah menolak regulasi AI dan secara agresif mengumpulkan data tanpa izin.
Mungkin Institut Kosmos akan lebih berhasil jika menganut apa yang disebut McCord sebagai “akselerasionisme”: gagasan bahwa masa depan tidak ditentukan sebelumnya dan oleh karena itu manusia bertanggung jawab atas apa yang dimilikinya.
“Kita harus membangun AI yang mendorong penyelidikan ketimbang rasa puas diri dan mempromosikan keterlibatan aktif ketimbang ketergantungan pasif, khususnya dalam bidang pendidikan, kedokteran, ruang publik, dan domain vital lainnya,” tulis McCord. “Kita memperjuangkan AI yang mendesentralisasikan kekuasaan dan memungkinkan solusi dari bawah ke atas, yang memungkinkan individu dan komunitas untuk bersama-sama menciptakan masyarakat yang lebih kaya dan lebih beragam.”
Posisi-posisi itu mengagumkan. Reporter ini hanya berharap agar uang, pengaruh, dan kekuasaan tidak membuat godaan untuk meninggalkannya menjadi tak tertahankan.
