SiaranJabodetabek – yang baru-baru ini diterbitkan Nature Medicine menyebutkan saran kesehatan dari chatbot kecerdasan buatan atau AI sering kali tidak akurat dan bisa menimbulkan risiko unik dalam menyajikan informasi tergantung pada sedikit perubahan dalam susunan kata pertanyaan.
Ditulis laman Channel News Asia, Minggu (22/2) waktu setempat, studi ini meneliti 1.200 peserta asal Inggris, yang sebagian besar tidak memiliki pelatihan medis, diberi skenario medis terperinci, lengkap dengan gejala, detail gaya hidup umum, dan riwayat medis.
Para peneliti meminta peserta untuk mengobrol dengan bot untuk mengetahui langkah selanjutnya yang tepat, seperti apakah harus memanggil ambulans atau melakukan perawatan sendiri di rumah.
Para peneliti menemukan bahwa peserta memilih tindakan yang “benar” – yang telah ditentukan sebelumnya oleh panel dokter – kurang dari setengah waktu. Dan pengguna mengidentifikasi kondisi yang benar, seperti batu empedu atau perdarahan subarachnoid, sekitar 34 persen dari waktu.
Penelitian lebih dalam dilakukan dengan melihat interaksi dengan chatbot, mereka menemukan bahwa sekitar setengah dari kesalahan tampaknya disebabkan oleh kesalahan pengguna.
Para peserta tidak memasukkan informasi yang cukup atau gejala yang paling relevan, dan chatbot dibiarkan memberikan saran dengan gambaran masalah yang tidak lengkap.
Sebaliknya, ketika para peneliti memasukkan skenario medis lengkap langsung ke dalam chatbot, mereka berhasil mendiagnosis masalah tersebut dengan benar sebanyak 94 persen.
