Ahli Etika AI Mengusulkan Kerangka Kerja AI Generatif dalam Perawatan Kesehatan

itechnobuzz.com – Saat alat AI Generatif berkembang, kerangka kerja etis penggunaannya dalam perawatan kesehatan telah diusulkan.

Ahli etika AI Australia Stefan Harrer, Ph.D., telah mengusulkan kerangka kerja etis untuk penggunaan AI Generatif
dalam perawatan kesehatan, yang bertujuan untuk mengatasi potensi risiko dan memastikan penerapan yang bertanggung jawab di lapangan.

Model Bahasa Besar (LLM), sejenis AI Generatif, memiliki kekuatan untuk merevolusi manajemen informasi
kesehatan, pendidikan, dan komunikasi, tetapi mereka juga menimbulkan bahaya yang signifikan jika tidak diatur dengan benar.

Peraturan Etis untuk AI dalam Perawatan Kesehatan

Dr. Harrer, yang menjabat sebagai Chief Innovation Officer Digital Health Cooperative Research Center (DHCRC)
dan merupakan anggota Coalition for Health AI (CHAI), menekankan perlunya peraturan etika untuk mengatur pengembangan dan penyebaran AI generatif teknologi.

Studinya menyoroti pentingnya panduan teknis dan tata kelola bagi pengembang, pengguna, dan regulator dalam
ekosistem kesehatan digital untuk memastikan bahwa potensi AIgeneratif dimanfaatkan dengan aman.

Makalah ini menarik perhatian pada berbagai aplikasi AI generatif dalam perawatan kesehatan, seperti membantu
dokter dalam menghasilkan laporan medis, menyederhanakan jargon medis untuk komunikasi dokter-pasien yang
efektif, dan meningkatkan efisiensi desain uji klinis dan proses penemuan obat.Namun, penelitian ini juga menyoroti
bahaya yang terkait dengan AIgeneratif yang digerakkan oleh LLM, terutama kemampuannya untuk memproduksi
dan menyebarkan konten palsu, tidak pantas, dan berpotensi berbahaya dalam skala besar.

Dr. Harrer memperingatkan terhadap rilis tergesa-gesa alat bertenaga LLM oleh beberapa entitas, yang dapat
membahayakan kesejahteraan pengguna dan integritas AI dan basis data pengetahuan.

Untuk mengatasi risiko ini, Dr. Harrer mengusulkan serangkaian jalur mitigasi risiko yang disesuaikan dengan
penggunaan teknologi LLM dalam kesehatan dan kedokteran.

Peraturan Etis untuk AI dalam Perawatan Kesehatan

Dr. Harrer, yang menjabat sebagai Chief Innovation Officer Digital Health Cooperative Research Center (DHCRC)
dan merupakan anggota Coalition for Health AI (CHAI), menekankan perlunya peraturan etika untuk mengatur pengembangan dan penyebaran AI generatif teknologi.

Studinya menyoroti pentingnya panduan teknis dan tata kelola bagi pengembang, pengguna, dan regulator dalam
ekosistem kesehatan digital untuk memastikan bahwa potensi AI generatif dimanfaatkan dengan aman. Makalah ini
menarik perhatian pada berbagai aplikasi AI generatif dalam perawatan kesehatan, seperti membantu dokter dalam
menghasilkan laporan medis, menyederhanakan jargon medis untuk komunikasi dokter-pasien yang efektif, dan meningkatkan efisiensi desain uji klinis dan proses penemuan obat.

Namun, penelitian ini juga menyoroti bahaya yang terkait dengan AI generatif yang digerakkan oleh LLM, terutama kemampuannya untuk memproduksi dan menyebarkan konten palsu, tidak pantas, dan berpotensi berbahaya dalam skala besar.

Dr. Harrer memperingatkan terhadap rilis tergesa-gesa alat bertenaga LLM oleh beberapa entitas, yang dapat membahayakan kesejahteraan pengguna dan integritas AI dan basis data pengetahuan. Untuk mengatasi risiko ini, Dr. Harrer mengusulkan serangkaian jalur mitigasi risiko yang disesuaikan dengan penggunaan teknologi LLM dalam kesehatan dan kedokteran. Studi ini menyarankan pendekatan alternatif untuk mendesain ulang aplikasi AI generatif, membentuk kerangka peraturan, dan mengarahkan upaya penelitian untuk menerapkan dan menegakkan desain etis dan prinsip penggunaan.

Memitigasi Risiko AI

Kerangka peraturan yang diusulkan Dr. Harrer terdiri dari sepuluh prinsip yang ditujukan untuk mengurangi risiko yang terkait dengan AI generatif dalam perawatan kesehatan.

Prinsip-prinsip ini mencakup bidang-bidang seperti pengawasan manusia, transparansi data, perlindungan privasi, dan kerangka kerja akuntabilitas untuk data pelatihan dan konten yang dihasilkan AI. Studi ini diakhiri dengan menyoroti pentingnya mengembangkan dan mengoperasikan aplikasi AI generatif bertenaga LLM secara bertanggung jawab.

Dr. Harrer memperkirakan adanya transisi dari lingkungan kompetitif saat ini ke fase eksperimen yang hati-hati yang mempertimbangkan risiko, yang mengarah ke pengenalan aplikasi khusus dalam manajemen data kesehatan digital dalam dua tahun ke depan. Menyadari peran penting etika, pemangku kepentingan seperti DCRC dan CHAI mengakui perlunya pedoman dan perlindungan untuk memastikan penggunaan AI generatif yang aman dan etis. Mereka menekankan pentingnya melindungi pasien, mengurangi bias, dan mencegah konsekuensi yang tidak diinginkan di bidang kesehatan.