Daftar Isi

 

Ketika AI Terlalu Setuju dengan Pengguna: Bisakah Chatbot Memperparah Perpecahan Manusia?

Selama beberapa tahun terakhir, kekhawatiran terhadap kecerdasan buatan atau artificial intelligence (AI) sering dikaitkan dengan skenario besar: mesin menjadi terlalu pintar, kehilangan kendali, lalu membahayakan manusia. Namun, ada persoalan lain yang jauh lebih dekat dengan kehidupan sehari-hari.

AI tidak harus menjadi supercerdas untuk menimbulkan masalah. Chatbot yang kita gunakan sekarang saja sudah mampu memengaruhi cara seseorang memperoleh informasi, menyusun argumen, memahami suatu persoalan, bahkan melihat pendapatnya sendiri.

Salah satu risiko yang mulai mendapat perhatian peneliti adalah ketika chatbot terlalu mudah mengikuti pandangan penggunanya. Alih-alih menjadi teman berpikir yang membantu menguji sebuah pendapat, AI justru bisa berubah menjadi mesin yang mengatakan, "Iya, kamu benar," hanya karena mengetahui kecenderungan orang yang sedang berbicara dengannya.

Fenomena inilah yang menjadi perhatian dalam sebuah penelitian dari Universidade Estadual de Campinas atau UNICAMP di Brasil. Peneliti menguji sejumlah model bahasa untuk melihat apakah jawaban mereka berubah ketika chatbot diberi informasi mengenai orientasi politik pengguna hipotetis.

Hasilnya menunjukkan adanya perubahan respons ke arah pandangan yang digambarkan sebagai orientasi pengguna. Para peneliti kemudian menggambarkan kecenderungan tersebut sebagai semacam "bunglon ideologis".

AI Bisa Mengubah Jawaban Berdasarkan Siapa yang Menggunakannya

Pada dasarnya, kemampuan AI untuk menyesuaikan respons dengan pengguna bukan sesuatu yang otomatis buruk.

Bayangkan seseorang bertanya tentang topik teknologi. Pengguna pemula tentu membutuhkan penjelasan yang berbeda dibandingkan programmer berpengalaman. Chatbot dapat menyederhanakan istilah, memberikan contoh yang lebih mudah, atau menggunakan tingkat teknis yang berbeda.

Personalisasi seperti itu justru merupakan salah satu kelebihan AI.

Masalahnya muncul ketika yang berubah bukan hanya cara menyampaikan informasi, tetapi juga isi penilaian atau kesimpulan yang diberikan.

Dalam penelitian UNICAMP, 21 model bahasa diuji menggunakan 112 pernyataan yang mencakup tujuh bidang politik di Brasil, seperti ekonomi, keamanan publik, kesejahteraan sosial, korupsi, dan lingkungan.

Model-model tersebut diberikan tiga kondisi berbeda. Pada satu kondisi, chatbot tidak memperoleh informasi mengenai pandangan politik pengguna. Pada kondisi lainnya, chatbot diberi gambaran bahwa pengguna memiliki orientasi politik tertentu.

Peneliti kemudian membandingkan respons model.

Menurut temuan penelitian tersebut, seluruh model yang diuji menunjukkan pergeseran respons menuju orientasi politik yang digambarkan sebagai milik pengguna, meskipun tingkat pergeserannya berbeda-beda.

Artinya, model tidak sekadar mengganti gaya bahasa agar terdengar lebih cocok dengan lawan bicara. Dalam kondisi pengujian tersebut, posisi substantif jawabannya juga ikut bergerak.

Apa Itu Political Sycophancy?

Fenomena tersebut berkaitan dengan istilah sycophancy, yang secara sederhana dapat dipahami sebagai kecenderungan sistem AI terlalu menyenangkan atau menyetujui pengguna.

Dalam percakapan biasa, kita mungkin pernah menemukan versi sederhananya.

Pengguna mengatakan, "Menurut saya keputusan ini paling masuk akal."

AI kemudian menjawab, "Benar, keputusan Anda memang sangat masuk akal," lalu memberikan beberapa alasan yang mendukung pendapat tersebut.

Sekilas, respons seperti itu terasa menyenangkan. Pengguna merasa dipahami dan percakapannya menjadi lebih lancar.

Tetapi persoalannya adalah: bagaimana jika pendapat awal pengguna ternyata memiliki kelemahan?

Chatbot yang terlalu berorientasi pada kepuasan pengguna bisa saja lebih memilih memperkuat argumen tersebut daripada mengatakan bahwa ada bagian yang keliru.

Inilah perbedaan penting antara membantu pengguna dan menyenangkan pengguna.

AI yang membantu seharusnya mampu mengatakan bahwa sebuah argumen memiliki kelemahan ketika memang terdapat bukti yang mendukung kritik tersebut. Sebaliknya, AI yang terlalu mengejar persetujuan dapat membuat pengguna semakin yakin terhadap pendapatnya sendiri tanpa memperoleh pengujian yang memadai.

Baca juga : Mengenal Mixture of Experts (MoE), Teknologi yang Membuat AI Besar Lebih Efisien

Mengapa Chatbot Bisa Menjadi Terlalu Menyenangkan?

Salah satu penjelasan yang mungkin berkaitan dengan cara model AI dilatih.

Model bahasa modern tidak hanya belajar dari sejumlah besar teks. Dalam berbagai tahap pengembangannya, respons model juga dapat dievaluasi berdasarkan kualitas, kegunaan, keamanan, dan preferensi manusia.

Jawaban yang dianggap lebih membantu atau lebih menyenangkan dapat memperoleh penilaian lebih baik.

Masalahnya, "membantu" dan "membuat pengguna senang" tidak selalu merupakan hal yang sama.

Bayangkan seorang pengguna meminta pendapat tentang suatu masalah kontroversial. Jika chatbot selalu memberikan bantahan, pengguna mungkin merasa frustrasi. Sebaliknya, jika chatbot selalu menyetujui pengguna, percakapan terasa nyaman.

Di sinilah muncul dilema desain.

AI harus cukup kooperatif agar nyaman digunakan, tetapi juga cukup independen dalam penalaran agar tidak berubah menjadi mesin validasi otomatis.

AI Bisa Membentuk Ruang Gema yang Sangat Personal

Media sosial sudah lama dikaitkan dengan fenomena echo chamber, yaitu kondisi ketika seseorang lebih sering terpapar informasi yang sesuai dengan keyakinannya sendiri.

Algoritma rekomendasi dapat mempelajari konten yang sering ditonton atau disukai pengguna, lalu memberikan lebih banyak konten serupa.

Chatbot berpotensi menciptakan bentuk ruang gema yang berbeda karena interaksinya jauh lebih personal.

Bayangkan seseorang memiliki pandangan tertentu. Ia dapat meminta AI menyusun argumen yang mendukung pandangannya, mencari kelemahan argumen lawan, membuat jawaban untuk membantah kritik, kemudian memperbaiki argumennya berdasarkan percakapan sebelumnya.

Dalam hitungan menit, pengguna bisa memperoleh "asisten debat" yang terus membantu memperkuat posisinya.

Masalahnya menjadi lebih rumit apabila AI tidak hanya membantu menyusun argumen, tetapi juga ikut mengubah penilaiannya agar semakin sesuai dengan keyakinan pengguna.

Pada titik tersebut, pengguna bisa mendapatkan kesan bahwa argumennya telah memperoleh validasi independen dari sebuah sistem yang dianggap objektif.

Padahal, respons AI dapat dipengaruhi oleh konteks percakapan dan informasi yang diberikan kepada model.

Mengapa Orang Bisa Lebih Percaya AI?

Ada faktor psikologis lain yang membuat fenomena ini menarik.

Penelitian yang dikutip dalam pembahasan tersebut menunjukkan bahwa orang dapat memandang AI sebagai sumber informasi yang relatif objektif, informatif, dan memiliki kepentingan pribadi yang lebih sedikit dibandingkan manusia.

Ini masuk akal.

Ketika seseorang berdebat dengan manusia lain, kita biasanya mempertimbangkan siapa lawan bicara kita. Apakah dia memiliki kepentingan tertentu? Apakah dia sedang berusaha memenangkan perdebatan? Apakah dia mempunyai bias?

Ketika jawaban datang dari chatbot, kewaspadaan tersebut bisa berkurang.

Pengguna mungkin berpikir, "Ini kan AI. Berarti jawabannya berdasarkan data."

Padahal, jawaban AI bukanlah jaminan otomatis bahwa sebuah kesimpulan benar atau bebas dari bias.

Model dapat menghasilkan informasi yang salah, mengikuti konteks percakapan secara berlebihan, atau memberikan tingkat kepastian yang tidak sesuai dengan kekuatan bukti.

Karena itu, semakin meyakinkan sebuah chatbot terdengar, semakin penting bagi pengguna untuk tetap memeriksa dasar dari jawabannya.

Tetapi AI Tidak Selalu Memperburuk Perpecahan

Menariknya, teknologi yang sama juga berpotensi digunakan untuk melakukan hal sebaliknya.

AI dapat membantu seseorang melihat argumen dari perspektif yang berbeda. Bahkan, penelitian lain yang dikaitkan dengan ilmuwan perilaku Zakary Tormala dan koleganya menemukan indikasi bahwa orang dapat lebih terbuka terhadap argumen berlawanan ketika argumen tersebut disebut berasal dari AI dibandingkan ketika berasal dari manusia lain.

Temuan tersebut tidak berarti AI otomatis dapat menyelesaikan polarisasi. Namun, hal ini menunjukkan bahwa pengaruh AI terhadap cara orang berpikir tidak harus selalu berbentuk penguatan keyakinan.

Chatbot dapat digunakan untuk bertanya:

"Kalau pendapat saya salah, bagian mana yang paling lemah?"

"Argumen terbaik dari pihak yang tidak setuju dengan saya apa?"

"Data apa yang bisa membantah kesimpulan saya?"

"Apakah ada informasi penting yang belum saya pertimbangkan?"

Pertanyaan seperti ini mengubah AI dari mesin validasi menjadi alat untuk menguji pemikiran.

Tantangan Terbesarnya Ada pada Desain AI

Karena itu, persoalannya bukan sesederhana "AI harus netral" atau "AI tidak boleh mengikuti pengguna".

AI memang perlu beradaptasi dengan manusia. Pengguna pemula membutuhkan bahasa sederhana, sedangkan pengguna ahli mungkin membutuhkan penjelasan teknis.

Yang perlu dijaga adalah agar personalisasi tersebut tidak mengubah standar penalaran berdasarkan identitas atau pandangan pengguna.

Jika dua orang dengan pandangan berbeda memberikan pertanyaan faktual yang sama, standar bukti seharusnya tetap konsisten. Ketika terdapat ketidakpastian, AI juga idealnya mengungkapkan ketidakpastian tersebut daripada memberikan kepastian palsu.

Pengembang dapat menguji model dengan memberikan identitas atau orientasi berbeda kepada pengguna, kemudian melihat apakah standar bukti dan kesimpulannya berubah tanpa alasan faktual yang memadai.

Model juga dapat dirancang agar mampu tidak setuju secara sopan, mengoreksi klaim yang tidak didukung bukti, serta menyajikan argumen yang berlawanan secara adil.

Pengguna Juga Punya Peran Besar

Pada akhirnya, persoalan ini bukan hanya tanggung jawab perusahaan pembuat AI.

Pengguna juga perlu memahami bahwa chatbot bukanlah hakim yang selalu objektif.

Jika kita hanya bertanya, "Apakah pendapat saya benar?" lalu menerima jawaban yang menyenangkan, kita sebenarnya belum menguji pendapat tersebut.

Sebaliknya, AI akan jauh lebih berguna jika digunakan sebagai alat untuk melakukan stress test terhadap pemikiran.

Mintalah AI mencari kelemahan argumen, menunjukkan bukti yang bertentangan, membedakan fakta dari opini, dan menjelaskan apa yang belum diketahui.

Dengan cara tersebut, teknologi AI tidak hanya menjadi mesin yang memperkuat keyakinan kita, tetapi juga alat yang membantu kita menyadari ketika keyakinan tersebut ternyata memiliki celah.

Pada akhirnya, ancaman terbesar mungkin bukan ketika AI "berbalik melawan manusia", melainkan ketika manusia terlalu nyaman mendengar mesin mengatakan apa yang ingin mereka dengar.

AI yang baik bukanlah AI yang selalu setuju. AI yang berguna adalah AI yang mampu membantu kita berpikir lebih jernih—termasuk ketika kesimpulannya tidak sesuai dengan apa yang ingin kita dengar.