Dorongan Kesehatan ChatGPT OpenAI Menimbulkan Pertanyaan tentang Keamanan Data

Singkatnya

• OpenAI mengatakan ChatGPT Health akan diluncurkan ke pengguna terpilih mulai minggu ini, dengan akses yang lebih luas direncanakan dalam beberapa minggu mendatang.
• Fitur ini menyimpan percakapan kesehatan secara terpisah dari obrolan lain dan tidak menggunakannya untuk melatih model OpenAI.
• Para advokat privasi memperingatkan bahwa data kesehatan yang dibagikan dengan alat AI sering kali berada di luar hukum privasi medis AS.

Pada hari Rabu, OpenAI mengumumkan fitur baru di ChatGPT, memungkinkan pengguna menghubungkan catatan medis dan data kesejahteraan, menimbulkan kekhawatiran di antara beberapa ahli dan kelompok advokasi tentang penggunaan data pribadi. Raksasa AI yang berbasis di San Francisco, California ini mengatakan alat tersebut, yang diberi nama ChatGPT Health, dikembangkan bersama dengan dokter, dirancang untuk mendukung perawatan daripada mendiagnosis atau mengobati penyakit. Perusahaan memposisikan ini sebagai cara untuk membantu pengguna memahami kesehatan mereka dengan lebih baik. Bagi banyak pengguna, ChatGPT telah menjadi platform utama untuk pertanyaan tentang perawatan medis dan kesehatan mental. 

OpenAI memberi tahu Decrypt bahwa ChatGPT Health hanya membagikan “informasi kesehatan faktual” secara umum dan tidak memberikan “nasihat medis yang dipersonalisasi atau berbahaya.” Untuk pertanyaan dengan risiko lebih tinggi, alat ini akan memberikan informasi tingkat tinggi, menandai potensi risiko, dan mendorong orang untuk berbicara dengan apoteker atau penyedia layanan kesehatan yang mengetahui situasi spesifik mereka. Langkah ini diambil tak lama setelah perusahaan melaporkan pada bulan Oktober bahwa lebih dari 1 juta pengguna membahas bunuh diri dengan chatbot setiap minggu. Itu sekitar 0,15% dari semua pengguna ChatGPT saat itu. Meskipun angka-angka tersebut mewakili bagian yang relatif kecil dari keseluruhan populasi pengguna, para ahli mengatakan bahwa sebagian besar akan perlu mengatasi kekhawatiran tentang keamanan dan privasi data.

“Bahkan ketika perusahaan mengklaim memiliki perlindungan privasi, konsumen sering kali kekurangan persetujuan yang bermakna, transparansi, atau kontrol atas bagaimana data mereka digunakan, disimpan, atau digunakan kembali,” kata advokat akuntabilitas teknologi besar Public Citizen, J.B. Branch, kepada Decrypt. “Data kesehatan sangat sensitif, dan tanpa batasan hukum yang jelas serta pengawasan yang dapat ditegakkan, perlindungan yang dilakukan sendiri saja tidak cukup untuk melindungi orang dari penyalahgunaan, re-identifikasi, atau bahaya di masa depan.” OpenAI mengatakan dalam pernyataannya bahwa data kesehatan di ChatGPT Health dienkripsi secara default, disimpan secara terpisah dari obrolan lain, dan tidak digunakan untuk melatih model dasar mereka. Menurut penasihat kebijakan senior Center for Democracy and Technology, Andrew Crawford, banyak pengguna secara keliru menganggap bahwa data kesehatan dilindungi berdasarkan tingkat sensitivitasnya, bukan berdasarkan siapa yang memegangnya. “Ketika data kesehatan Anda dipegang oleh dokter atau perusahaan asuransi Anda, aturan privasi HIPAA berlaku,” kata Crawford kepada Decrypt. “Hal yang sama tidak berlaku untuk entitas yang tidak tercakup HIPAA, seperti pengembang aplikasi kesehatan, pelacak kesehatan yang dapat dikenakan, atau perusahaan AI.” Crawford mengatakan peluncuran ChatGPT Health juga menegaskan bagaimana beban tanggung jawab jatuh pada konsumen dalam ketiadaan undang-undang privasi federal yang komprehensif yang mengatur data kesehatan yang dimiliki oleh perusahaan teknologi. “Sangat disayangkan bahwa undang-undang dan regulasi federal kita saat ini menempatkan beban tersebut pada individu untuk menganalisis apakah mereka nyaman dengan bagaimana teknologi yang mereka gunakan setiap hari menangani dan berbagi data mereka,” katanya. OpenAI mengatakan ChatGPT Health akan diluncurkan terlebih dahulu kepada sekelompok kecil pengguna. Daftar tunggu terbuka untuk pengguna ChatGPT di luar Uni Eropa dan Inggris, dengan akses yang lebih luas direncanakan dalam beberapa minggu mendatang melalui web dan iOS. Pengumuman OpenAI tidak menyebutkan Google atau perangkat Android.