Studi Baru Menunjukkan Penggunaan AI Membuat Dokter Kurang Terampil dalam Mendeteksi Kanker

(SeaPRwire) –   Praktisi kesehatan, perusahaan, dan pihak lain selama bertahun-tahun telah memuji penerapan AI dalam bidang kedokteran, mulai dari peningkatan efisiensi hingga mengungguli dokter dalam diagnosis. Teknologi transformatif ini bahkan diprediksi oleh para penggemar AI suatu hari nanti dapat membantu menemukan “obat untuk kanker”.

Namun, sebuah studi baru menemukan bahwa dokter yang secara teratur menggunakan AI justru menjadi kurang terampil dalam beberapa bulan.

Studi tersebut, yang diterbitkan pada hari Rabu di jurnal The Lancet Digital Health, menemukan bahwa selama enam bulan, para klinisi menjadi terlalu bergantung pada rekomendasi AI dan menjadi “kurang termotivasi, kurang fokus, dan kurang bertanggung jawab ketika membuat keputusan kognitif tanpa bantuan AI.”

Ini adalah studi terbaru yang menunjukkan potensi hasil yang merugikan pada pengguna AI. Sebuah studi sebelumnya oleh Massachusetts Institute of Technology menemukan bahwa ChatGPT menyebarkan informasi yang salah.

Bagaimana studi ini dilakukan

Para peneliti dari berbagai institusi Eropa melakukan studi observasional dengan mensurvei empat pusat endoskopi di Polandia yang berpartisipasi dalam uji coba Artificial Intelligence in Colonoscopy for Cancer Prevention (AI-Colon).

Sebagai bagian dari uji coba, pusat-pusat tersebut telah memperkenalkan alat AI untuk deteksi polip—pertumbuhan yang bisa jinak atau ganas—pada akhir tahun 2021. Studi ini melihat 1.443 kolonoskopi yang tidak dibantu AI dari total 2.177 kolonoskopi yang dilakukan antara September 2021 dan Maret 2022. Kolonoskopi dilakukan oleh 19 endoskopis berpengalaman.

Para peneliti membandingkan kualitas kolonoskopi yang dilakukan tiga bulan sebelum dan tiga bulan setelah AI diterapkan. Kolonoskopi dilakukan dengan atau tanpa bantuan AI, secara acak. Dari mereka yang dilakukan tanpa bantuan AI, 795 dilakukan sebelum penggunaan AI reguler diterapkan dan 648 dilakukan setelah alat AI diperkenalkan.

Apa yang ditemukan dalam studi ini

Tiga bulan sebelum AI diperkenalkan, angka deteksi adenoma (ADR) sekitar 28%. Tiga bulan setelah AI diperkenalkan, angka tersebut turun menjadi 22% ketika klinisi tidak dibantu oleh AI. ADR adalah indikator kualitas yang umum digunakan untuk kolonoskopi dan mengukur “proporsi kolonoskopi skrining yang dilakukan oleh seorang dokter yang mendeteksi setidaknya satu adenoma atau adenokarsinoma kolorektal yang dikonfirmasi secara histologis.” Adenoma adalah pertumbuhan prakanker, dan ADR yang lebih tinggi dikaitkan dengan risiko kanker kolorektal yang lebih rendah.

Studi ini menemukan bahwa AI memang membantu endoskopis dengan deteksi ketika digunakan, tetapi begitu bantuan dihilangkan, klinisi menjadi lebih buruk dalam deteksi.

Para peneliti menghubungkannya dengan “kecenderungan alami manusia untuk terlalu bergantung” pada rekomendasi sistem pendukung keputusan seperti AI.

“Bayangkan jika Anda ingin bepergian ke mana saja, dan Anda tidak dapat menggunakan Google Maps,” kata Marcin Romańczyk, salah satu penulis studi dan asisten profesor di Medical University of Silesia, kepada TIME. “Kami menyebutnya efek Google Maps. Kami mencoba untuk sampai ke suatu tempat, dan tidak mungkin menggunakan peta biasa. Cara kerjanya sangat mirip.”

Implikasi dari studi ini

Omer Ahmad, seorang konsultan gastroenterologi di University College Hospital London yang menulis editorial bersama studi tersebut tetapi tidak terlibat dalam penelitiannya, mengatakan kepada TIME bahwa kemungkinan paparan AI melemahkan kebiasaan pencarian visual dan pola tatapan peringatan dokter, yang sangat penting untuk mendeteksi polip.

“Intinya, ketergantungan pada deteksi AI dapat menumpulkan pengenalan pola manusia,” kata Ahmad. Dia menambahkan bahwa penggunaan AI secara teratur juga dapat “mengurangi kepercayaan diri diagnostik” ketika bantuan AI ditarik, atau bahwa keterampilan endoskopis dalam menggerakkan kolonoskop dapat berkurang.

Dalam komentar kepada Science Media Centre, Catherine Menon, dosen utama di Department of Computer Science University of Hertfordshire, mengatakan: “Meskipun penurunan keterampilan akibat penggunaan AI telah diajukan sebagai risiko teoretis dalam studi sebelumnya, studi ini adalah yang pertama yang menyajikan data dunia nyata yang berpotensi menunjukkan penurunan keterampilan yang timbul dari penggunaan AI dalam kolonoskopi diagnostik.” Menon mengangkat kekhawatiran bahwa ketergantungan berlebihan pada AI dapat membuat praktisi kesehatan berisiko terhadap kompromi teknologi.

Para ahli lain lebih berhati-hati dalam menarik kesimpulan dari satu studi.

Venet Osmani, seorang profesor AI klinis dan pembelajaran mesin di Queen Mary University of London, mencatat kepada SMC bahwa jumlah total kolonoskopi—termasuk yang dibantu AI dan tidak dibantu AI—meningkat selama studi. Peningkatan beban kerja, Osmani menyarankan, dapat menyebabkan kelelahan klinisi dan tingkat deteksi yang lebih buruk.

Allan Tucker, seorang profesor kecerdasan buatan di Brunel University of London, juga mencatat bahwa dengan bantuan AI, kinerja klinisi meningkat secara keseluruhan. Kekhawatiran tentang penurunan keterampilan karena bias otomatisasi, tambah Tucker ke SMC, “tidak unik untuk sistem AI dan merupakan risiko dengan pengenalan teknologi baru apa pun.”

“Pertanyaan etisnya kemudian adalah apakah kita mempercayai AI daripada manusia,” kata Tucker. “Seringkali, kita berharap ada manusia yang mengawasi semua pengambilan keputusan AI, tetapi jika para ahli manusia kurang berusaha dalam keputusan mereka sendiri sebagai akibat dari memperkenalkan sistem AI, ini bisa menjadi masalah.”

“Ini bukan hanya tentang memantau teknologi,” kata Ahmad. “Ini tentang menavigasi kompleksitas ekosistem klinis manusia-AI yang baru.” Membangun perlindungan sangat penting, tambahnya, menyarankan bahwa di luar studi ini, orang mungkin perlu fokus pada “melestarikan keterampilan penting di dunia di mana AI menjadi ada di mana-mana.”

“`