1 bulan yang lalu
Telset.id – Sebuah studi terbaru dari University of Pennsylvania mengungkap temyata mengejutkan: memberikan perintah nan kasar alias apalagi menghina kepada ChatGPT justru dapat meningkatkan kecermatan jawabannya. Temuan ini bertolak belakang dengan kebiasaan banyak orang tua nan mengajarkan anak-anak untuk bersikap sopan kepada asisten digital seperti Alexa alias Siri.
Dalam penelitian nan belum melalui proses peer-review tersebut, dua peneliti menemukan bahwa saat perintah (prompt) untuk model ChatGPT-4o OpenAI semakin tidak sopan, output nan dihasilkan menjadi lebih tepat. Mereka merancang 50 pertanyaan dasar dari beragam subjek, lampau menulis ulang setiap pertanyaan lima kali dengan nada nan berbeda, mulai dari “sangat sopan” hingga “sangat kasar”.
“Kontra dari ekspektasi, prompt nan tidak sopan secara konsisten mengungguli nan sopan, dengan kecermatan berkisar dari 80,8 persen untuk prompt Sangat Sopan hingga 84,8 persen untuk prompt Sangat Kasar,” tulis para peneliti dalam makalahnya, seperti dilansir Fortune. Sementara itu, kecermatan untuk prompt paling sopan hanya mencapai 75,8 persen.
Konflik dengan Temuan Sebelumnya
Hasil penelitian ini tampak bertentangan dengan studi sebelumnya nan menyimpulkan bahwa bersikap lebih santun terhadap model bahasa besar (LLM) justru lebih efektif. Misalnya, sebuah makalah tahun 2024 oleh peneliti dari RIKEN Center for Advanced Intelligence Project dan Waseda University di Tokyo menemukan bahwa “prompt nan tidak sopan sering kali menghasilkan keahlian nan buruk.”
Penelitian lain dari Google DeepMind juga menunjukkan bahwa menggunakan prompt nan suportif dapat meningkatkan keahlian LLM dalam memecahkan soal matematika tingkat sekolah, mengisyaratkan info pelatihannya mungkin menangkap isyarat sosial, seperti seorang tutor online nan membimbing murid.
Perbedaan hasil ini menyoroti kompleksitas dan ketidakpastian dalam hubungan manusia-AI. Temuan dari Penn State juga menunjukkan bahwa perubahan sangat mini dalam pemilihan kata pada prompt dapat memberikan pengaruh dramatis pada kualitas output AI, nan berpotensi besar merusak prediktabilitas dan keandalan mereka nan sudah diragukan. Chatbot AI juga dikenal dapat memberikan jawaban nan sama sekali berbeda untuk prompt nan persis sama.
Peringatan dari Para Peneliti
Meski info menunjukkan untung dari sikap kasar, para peneliti dengan tegas tidak menganjurkannya. “Sementara temuan ini menarik secara ilmiah, kami tidak menganjurkan penerapan antarmuka nan berbeda alias toksik dalam aplikasi bumi nyata,” tulis mereka. “Menggunakan bahasa nan menghina alias merendahkan dalam hubungan manusia-AI dapat mempunyai pengaruh negatif pada pengalaman pengguna, aksesibilitas, dan inklusivitas, serta dapat berkontribusi pada norma komunikasi nan berbahaya.”
Pernyataan ini sejalan dengan kekhawatiran nan berkembang seputar akibat sosial dan psikologis dari teknologi AI generatif. Beberapa insiden fatal nan diduga dipicu oleh hubungan dengan ChatGPT telah memicu gugatan norma terhadap OpenAI, menyoroti potensi akibat dari sistem nan belum sepenuhnya dipahami.
Co-author studi sekaligus guru besar IT Penn State, Akhil Kumar, menekankan nilai dari antarmuka nan terstruktur. “Untuk waktu nan sangat lama, kita manusia menginginkan antarmuka percakapan untuk berinteraksi dengan mesin. Tetapi sekarang kita menyadari bahwa ada kerugian untuk antarmuka seperti itu juga, dan ada beberapa nilai dalam
