Penggunaan AI dalam penjagaan kesihatan membawa risiko ‘kesilapan serius,’ kata WHO

GENEVA: Penyelidikan mendapati kecerdasan buatan (AI) sudah lebih baik daripada manusia dalam memilih organ penderma untuk pemindahan dan juga lebih baik dalam menjawab soalan berkaitan kesihatan daripada pesakit.

Namun pakar di Pertubuhan Kesihatan Sedunia mengatakan bahawa memperkenalkan AI ke dalam prosedur penjagaan kesihatan membawa risiko maklumat “salah sama sekali”.

WHO mengeluarkan panggilan pada hari Selasa untuk berhati-hati dalam penggunaan model bahasa besar (LLM) dalam penjagaan kesihatan, memberi amaran bahawa penggunaannya boleh membawa kepada kesilapan penjagaan kesihatan dan menghakis kepercayaan terhadap AI.

Organisasi itu berkata mereka bersemangat tentang penggunaan teknologi yang sesuai, termasuk LLM, untuk menyokong penjagaan kesihatan, tetapi terdapat kebimbangan bahawa piawaian berhati-hati biasa tidak digunakan dengan LLM.

Penyokong percaya bahawa doktor tidak lama lagi akan menggunakan sistem sembang AI perubatan untuk menjawab soalan pesakit dengan lebih pantas tentang kesihatan mereka, manakala AI juga mungkin digunakan dalam sesetengah diagnosis pesakit.

Walau bagaimanapun, kedua-dua chatbot AI yang ditolak oleh Microsoft dan Google (ChatGPT dan Bard) kedua-duanya telah menunjukkan respons mereka tidak boleh dipercayai sepenuhnya apabila ia berkaitan dengan fakta. Fakta bahawa tindak balas ini kelihatan boleh dipercayai, bagaimanapun, adalah yang membimbangkan WHO.

“LLM menjana respons yang boleh kelihatan berwibawa dan munasabah kepada pengguna akhir; namun, respons ini mungkin tidak betul sama sekali atau mengandungi ralat yang serius, terutamanya untuk tindak balas yang berkaitan dengan kesihatan,” kata WHO.

Antara kebimbangan WHO ialah data yang digunakan untuk melatih AI mungkin berat sebelah dan boleh menjana maklumat mengelirukan yang menimbulkan risiko kepada kesihatan, ekuiti dan keterangkuman serta LLM boleh disalahgunakan untuk menghasilkan maklumat salah yang sangat meyakinkan yang sukar untuk orang ramai membezakan daripada kesihatan yang boleh dipercayai. kandungan.

WHO mencadangkan agar kebimbangan ini ditangani dan bukti manfaat yang jelas diukur sebelum digunakan secara meluas. – dpa