Meskipun optimisme terhadap pemanfaatan AI semakin menyeruak, ia mengingatkan bahwa terdapat beberapa risiko yang harus diantisipasi, salah satunya adalah bias algoritma yang mengancam kelompok rentan.
AI yang dilatih pada data yang tidak representatif dapat menghasilkan rekomendasi yang merugikan pasien dari kelompok miskin, pedesaan, perempuan, atau minoritas etnis. Risiko lainnya yang perlu diperhatikan adalah kualitas data yang rendah (yang dapat menyebabkan diagnosis salah), serta kesenjangan digital dan infrastruktur.
“Dalam konteks kesehatan, keadilan bukan sekadar soal akses, tapi juga kualitas dan kesetaraan hasil pelayanan. Keadilan digital harus menjadi fondasi utama dalam adopsi AI di sektor kesehatan. Kita tidak boleh membiarkan teknologi menjadi alat diskriminasi baru dalam sistem pelayanan publik,” tegas alumni S1 Fakultas Kesehatan Masyarakat Universitas Indonesia ini.
“Di sisi lain, banyak fasilitas kesehatan kita, terutama di daerah 3T — tertinggal, terdepan, dan terluar — belum memiliki data medis yang lengkap dan terstruktur. Kalau AI dipaksa berjalan dengan data yang buruk, maka hasil diagnosisnya bisa menyesatkan dan membahayakan pasien,” tambah Sri Gusni.