Regulator privasi utama Google di Uni Eropa telah membuka penyelidikan mengenai apakah perusahaan itu telah mematuhi undang-undang perlindungan data blok tersebut terkait penggunaan informasi orang untuk pelatihan AI generatif.
Secara khusus, penelitian ini menyelidiki apakah raksasa teknologi itu perlu melakukan penilaian dampak perlindungan data (DPIA) untuk secara proaktif mempertimbangkan risiko yang mungkin ditimbulkan oleh teknologi AI-nya terhadap hak dan kebebasan individu yang informasinya digunakan untuk melatih model.
Alat AI generatif terkenal karena menghasilkan kepalsuan yang kedengarannya masuk akal. Kecenderungan itu, dikombinasikan dengan kemampuan untuk menyajikan informasi pribadi sesuai permintaan, menciptakan banyak risiko hukum bagi pembuatnya. Komisi Perlindungan Data Irlandia (DPC), yang mengawasi kepatuhan Google terhadap Peraturan Perlindungan Data Umum (GDPR) blok tersebut, memiliki kewenangan untuk mengenakan denda hingga 4% dari omzet tahunan global Alphabet (entitas induk Google) untuk setiap pelanggaran yang dikonfirmasi.
Google telah mengembangkan beberapa alat AI generatif, termasuk seluruh keluarga model bahasa besar (LLM) serbaguna yang diberi merek Gemini (sebelumnya Bard). Google menggunakan teknologi tersebut untuk mendukung chatbot AI, termasuk untuk meningkatkan pencarian web. Yang mendasari alat AI yang ditujukan bagi konsumen ini adalah LLM Google yang disebut PaLM2, yang diluncurkan tahun lalu pada konferensi pengembang I/O.
Bagaimana Google mengembangkan model AI mendasar ini adalah apa yang sedang diselidiki oleh DPC Irlandia, berdasarkan Bagian 110 Undang-Undang Perlindungan Data Irlandia tahun 2018 yang mengubah GDPR menjadi hukum nasional.
Pelatihan model GenAI biasanya membutuhkan data dalam jumlah besar, dan jenis informasi yang diperoleh pembuat LLM, serta bagaimana dan di mana mereka mendapatkannya, semakin diteliti terkait dengan berbagai masalah hukum, termasuk hak cipta dan privasi.
Dalam kasus terakhir, informasi yang digunakan sebagai bahan pelatihan AI yang berisi informasi pribadi warga Uni Eropa tunduk pada aturan perlindungan data blok tersebut, baik informasi tersebut diambil dari internet publik atau diperoleh langsung dari pengguna. Inilah sebabnya sejumlah LLM telah menghadapi pertanyaan — dan beberapa penegakan GDPR — terkait kepatuhan privasi, termasuk OpenAI, pembuat GPT (dan ChatGPT); dan Meta, yang mengembangkan model AI Llama.
X yang dimiliki Elon Musk juga telah menarik keluhan GDPR dan kemarahan DPC atas penggunaan data orang untuk pelatihan AI — yang menyebabkan proses pengadilan dan komitmen X untuk membatasi pemrosesan datanya tetapi tidak ada sanksi. Meskipun X masih dapat menghadapi hukuman GDPR jika DPC memutuskan pemrosesan data pengguna untuk melatih alat AI-nya Grok melanggar aturan.
Penyelidikan DPIA DPC pada GenAI Google adalah tindakan regulasi terkini dalam area ini.
“Penyelidikan berdasarkan undang-undang ini menyangkut pertanyaan apakah Google telah mematuhi kewajiban apa pun yang mungkin dimilikinya untuk melakukan penilaian, sesuai dengan Pasal 35 Peraturan Perlindungan Data Umum (Penilaian Dampak Perlindungan Data), sebelum terlibat dalam pemrosesan data pribadi subjek data UE/EEA yang terkait dengan pengembangan Model AI mendasarnya, Pathways Language Model 2 (PaLM 2),” tulis DPC dalam siaran pers.
Hal ini menunjukkan bahwa DPIA dapat menjadi “sangat penting dalam memastikan bahwa hak-hak dasar dan kebebasan individu dipertimbangkan dan dilindungi secara memadai ketika pemrosesan data pribadi kemungkinan akan mengakibatkan risiko tinggi.”
“Penyelidikan berdasarkan undang-undang ini merupakan bagian dari upaya DPC yang lebih luas, yang bekerja sama dengan Komisi Eropa/EEA [European Economic Area] regulator sejawat, dalam mengatur pemrosesan data pribadi subjek data UE/EEA dalam pengembangan model dan sistem AI,” DPC menambahkan, merujuk pada upaya berkelanjutan oleh jaringan penegak GDPR blok tersebut untuk mencapai semacam konsensus tentang cara terbaik menerapkan hukum privasi pada perangkat GenAI.
Google telah dihubungi untuk memberikan tanggapan atas pertanyaan DPC.
