Berikut ini pengingat singkat sebelum Anda memulai hari Anda: Berpikirlah dua kali sebelum Anda mengunggah data medis pribadi Anda ke chatbot AI.
Orang-orang sering kali beralih ke chatbot AI generatif, seperti ChatGPT OpenAI dan Gemini Google, untuk mengajukan pertanyaan tentang masalah medis mereka dan untuk lebih memahami kesehatan mereka. Beberapa diantaranya mengandalkan aplikasi yang meragukan yang menggunakan AI untuk memutuskan apakah alat kelamin seseorang bersih dari penyakit, misalnya. Dan yang terbaru, sejak bulan Oktober, pengguna situs media sosial X didorong untuk mengunggah hasil rontgen, MRI, dan PET scan mereka ke chatbot AI platform Grok untuk membantu menafsirkan hasilnya.
Data medis adalah kategori khusus dengan perlindungan federal yang, sebagian besar, hanya Anda yang dapat memilih untuk menghindarinya. Namun hanya karena Anda bisa, bukan berarti Anda harus melakukannya. Pendukung keamanan dan privasi telah lama memperingatkan bahwa data sensitif apa pun yang diunggah dapat digunakan untuk melatih model AI, dan berisiko mengungkap informasi pribadi dan sensitif Anda.
Model AI generatif sering kali dilatih berdasarkan data yang diterimanya, dengan asumsi bahwa data yang diunggah membantu membangun informasi dan keakuratan keluaran model. Namun tidak selalu jelas bagaimana dan untuk tujuan apa data yang diunggah digunakan, atau kepada siapa data tersebut dibagikan – dan perusahaan dapat berubah pikiran. Anda harus mempercayai kata-kata perusahaan.
Orang-orang telah menemukan catatan medis pribadi mereka sendiri dalam kumpulan data pelatihan AI — dan itu berarti semua orang bisa melakukannya, termasuk penyedia layanan kesehatan, calon pemberi kerja di masa depan, atau lembaga pemerintah. Dan, sebagian besar aplikasi konsumen tidak tercakup dalam undang-undang privasi layanan kesehatan AS HIPAA, sehingga tidak memberikan perlindungan terhadap data yang Anda unggah.
Pemilik X Elon Musk, siapa dalam sebuah postingan mendorong pengguna untuk mengunggah citra medisnya ke Grok, mengakui bahwa hasil dari Grok “masih dalam tahap awal”, namun model AI “akan menjadi sangat bagus”. Dengan meminta pengguna mengirimkan citra medis mereka ke Grok, tujuannya adalah agar model AI akan meningkat seiring waktu dan mampu menafsirkan pemindaian medis dengan akurasi yang konsisten. Adapun siapa yang memiliki akses ke data Grok ini tidak jelas; sebagai dicatat di tempat lainmilik Grok kebijakan privasi mengatakan bahwa X membagikan informasi pribadi beberapa pengguna dengan perusahaan “terkait” dalam jumlah yang tidak ditentukan.
Perlu diingat bahwa apa yang ada di internet tidak pernah lepas dari internet.
