May 20, 2024

iTechnobuzz !!!

Berita Teknologi Terkini

Asisten Penulisan AI Dapat Mempengaruhi Pendapat Pengguna, Menurut Studi Baru

itechnobuzz.com – Asisten Penulisan AI Dapat Mempengaruhi Pendapat Pengguna, Menurut Studi Baru Bisakah
alat terbang AI mempengaruhi opini individu? Asisten bertenaga AI sedang naik daun karena mereka dapat
melakukan berbagai fungsi, termasuk menjawab pertanyaan, memberikan informasi, melakukan tugas, membuat
rekomendasi, dan bahkan terlibat dalam percakapan dasar.

Mereka memanfaatkan algoritme pembelajaran mesin dan pemrosesan bahasa alami (NLP) untuk memahami dan
menginterpretasikan kueri pengguna, lalu menghasilkan respons atau tindakan yang sesuai.Namun, penelitian baru
menunjukkan bahwa asisten menulis AI, khususnya, dapat memengaruhi pendapat pengguna meskipun mereka hanyalah alat tulis.

Asisten Penulisan AI Studi yang dilakukan oleh Maurice Jakesch, seorang mahasiswa doktoral di bidang ilmu informasi, melibatkan lebih dari 1.500 peserta yang diminta menulis sebuah paragraf untuk menjawab pertanyaan, “Apakah media sosial baik untuk masyarakat?” Dan hasilnya cukup membuka mata.

Bias AI?

Temuan penelitian menunjukkan bahwa individu yang menggunakan asisten menulis AI bias dua kali lebih mungkin untuk setuju dengan pendapat asisten dan lebih cenderung mengungkapkan sudut pandang yang sama dibandingkan dengan mereka yang menulis tanpa bantuan AI. Implikasi dari temuan ini mengenai bias yang tertanam dalam alat tulis AI, baik disengaja maupun tidak, menurut para peneliti memprihatinkan.

Mereka berpendapat bahwa karena model AI dengan cepat diintegrasikan ke dalam berbagai aspek kehidupan, menjadi penting untuk memahami konsekuensi potensial. Selain meningkatkan efisiensi dan kreativitas, mungkin ada pergeseran tak terduga dalam bahasa dan opini dengan implikasi sosial yang lebih luas. Sementara penelitian sebelumnya telah meneliti bagaimana model bahasa yang besar dapat membuat konten persuasif, penelitian ini adalah yang pertama menunjukkan bahwa menulis dengan alat bertenaga AI dapat memengaruhi opini individu.

Interaksi Antara Pengguna dan AI

Untuk memeriksa interaksi antara individu dan asisten penulis AI, Jakesch memprogram model bahasa besar untuk mengadopsi sikap media sosial yang positif atau negatif. Para peserta kemudian ditugaskan untuk menyusun paragraf, baik sendiri atau dengan bantuan alat AI yang berpendirian, menggunakan platform yang dirancang menyerupai situs media sosial. Platform mengumpulkan data tentang tindakan peserta, termasuk penerimaan mereka terhadap saran AI dan waktu yang dibutuhkan untuk menyelesaikan paragraf mereka.

Setelah dievaluasi oleh juri yang tidak memihak, ditentukan bahwa peserta yang menulis bersama dengan asisten AI pro-media sosial membuat lebih banyak kalimat untuk mendukung gagasan bahwa media sosial menguntungkan, dan sebaliknya, mereka yang menulis bersama dengan asisten AI anti-media sosial menghasilkan lebih banyak kalimat yang menentangnya. Selain itu, para peserta ini menunjukkan kecenderungan yang lebih tinggi untuk mengadopsi sudut pandang asisten AI mereka dalam survei berikutnya.

Studi tersebut menemukan bahwa bahkan peserta yang meluangkan waktu untuk menulis paragraf mereka masih menghasilkan pernyataan yang sangat dipengaruhi. Anehnya, mayoritas peserta tidak mengenali bias pada asisten AI dan tidak menyadari kerentanan mereka sendiri terhadap pengaruh.

“Proses penulisan bersama tidak terasa seperti saya dibujuk,” kata rekan penulis Mor Naaman. “Rasanya seperti saya melakukan sesuatu yang sangat alami dan organik – saya mengungkapkan pikiran saya sendiri dengan sedikit bantuan.”

Tim peneliti mereplikasi percobaan pada topik lain dan menemukan pengaruh yang sebanding pada pendapat peserta saat menggunakan asisten AI. Mereka sekarang menyelidiki mekanisme dan durasi efek ini.