Bayangkan seorang pasien lanjut usia yang pulang dari rumah sakit dengan membawa sejumlah obat. Ia mungkin menderita hipertensi, diabetes, penyakit jantung, dan pernah mengalami stroke. Satu obat diberikan untuk satu kondisi, obat lain untuk penyakit yang berbeda. Masalahnya, semakin banyak obat yang dikonsumsi, semakin besar pula kemungkinan munculnya penggunaan obat yang sebenarnya kurang tepat.
Di sinilah teknologi mulai menawarkan bantuan. Machine learning dapat mempelajari pola dari data pasien dan membantu memperkirakan risiko penggunaan obat yang tidak tepat, atau yang dalam dunia farmasi dikenal sebagai potentially inappropriate medication (PIM). Bagi tenaga kesehatan, kemampuan seperti ini tentu menjanjikan. Tetapi ada pertanyaan yang sering kali justru terlupakan:
Jika mesin ikut menilai obat seorang pasien, siapa yang bertanggung jawab atas keputusan akhirnya?
Pertanyaan tersebut membawa kita pada persoalan yang lebih luas daripada sekadar kecanggihan teknologi. Ini adalah persoalan tentang bagaimana manusia memperoleh pengetahuan dan bagaimana pengetahuan itu seharusnya digunakan.
Sebuah model machine learning dapat menunjukkan bahwa seorang pasien memiliki risiko tinggi mengalami PIM. Namun, prediksi tetaplah prediksi. Ia dibangun dari data, dipengaruhi oleh variabel yang dipilih, metode yang digunakan, serta karakteristik pasien yang menjadi dasar pembelajarannya. Karena itu, hasil algoritma tidak semestinya diperlakukan sebagai keputusan yang sudah selesai.
Seorang dokter atau apoteker tetap perlu melihat manusia di balik angka tersebut. Ada kondisi klinis, riwayat pengobatan, kemampuan pasien memahami obat, kondisi keluarga, bahkan pertimbangan lain yang mungkin tidak seluruhnya tercatat dalam dataset. Di sinilah saya melihat pentingnya etika dalam pengembangan ilmu. Ilmu tidak cukup hanya menjawab pertanyaan “apakah model ini akurat?”. Kita juga perlu bertanya, “untuk apa model ini dibuat?” dan “apa akibatnya jika hasilnya digunakan?”
Pandangan semacam ini sebenarnya tidak asing dalam pemikiran Islam. Prof. M. Quraish Shihab pernah mengingatkan bahwa Al-Qur’an mengajarkan manusia membaca “demi Tuhan-mu, demi kemanusiaan, demi nilai-nilainya.” Dalam konteks teknologi, ia juga menegaskan bahwa hasil yang dikembangkan manusia harus membawa manfaat, bukan justru membahayakan. Pesan tersebut menjadi sangat relevan ketika teknologi masuk ke ruang kesehatan. AI boleh membantu manusia membaca pola yang sulit dilihat. Tetapi manusia tidak boleh kehilangan perannya sebagai pihak yang menimbang, memahami, dan bertanggung jawab.
Pasien lansia bukan sekadar kumpulan angka: usia, tekanan darah, jumlah obat, diagnosis, dan hasil laboratorium. Di balik semua data itu ada manusia yang memiliki rasa takut, harapan, keluarga, dan hak untuk mendapatkan pelayanan yang aman. Karena itu, mungkin persoalan terpenting dalam pengembangan AI kesehatan bukanlah apakah mesin suatu hari akan lebih pintar daripada manusia. Pertanyaan yang lebih penting adalah apakah manusia tetap cukup bijaksana untuk menentukan bagaimana kecerdasan itu digunakan.
Jika machine learning dapat membantu mencegah penggunaan obat yang berisiko, maka teknologi tersebut memiliki nilai yang besar. Namun, nilai itu baru benar-benar berarti ketika kecanggihan algoritma berjalan bersama tanggung jawab, kehati-hatian, dan penghormatan terhadap martabat manusia.
Pada akhirnya, mesin boleh ikut menilai risiko. Tetapi yang bertanggung jawab tetap manusia.
Disclaimer: Tulisan ini merupakan opini pribadi penulis dan tidak selalu merepresentasikan keputusan atau kebijakan resmi yayasan.
Profil Penulis
Anis Akhwan Dhafin merupakan salah satu pengelola Yayasan Pendidikan dan Sosial Islamic Al-Markazi Bengkulu yang saat ini menempuh pendidikan doktoral di bidang Farmasi di Universitas Islam Indonesia. Ia memiliki perhatian pada manajemen farmasi, pelayanan kefarmasian, pengelolaan obat dan perbekalan kesehatan, serta transformasi digital dalam pelayanan kesehatan. Minat akademiknya mencakup berbagai persoalan terkait tata kelola kefarmasian, keselamatan pasien, pengambilan keputusan klinis, dan pemanfaatan teknologi secara bertanggung jawab dalam meningkatkan kualitas pelayanan kesehatan.