2 hari yang lalu
Telset.id – OpenAI mengumumkan fitur keamanan baru untuk remaja pengguna ChatGPT pada Selasa (17/9) sebagai respons atas kekhawatiran mengenai hubungan anak di bawah umur dengan chatbot AI. Perusahaan tengah membangun sistem prediksi usia nan dapat mengidentifikasi pengguna di bawah 18 tahun dan mengarahkan mereka ke sistem “yang sesuai usia” nan memblokir konten seksual grafis.
Jika sistem mendeteksi pengguna sedang mempertimbangkan bunuh diri alias melukai diri sendiri, OpenAI bakal menghubungi orang tua. Dalam situasi ancaman nan menakut-nakuti jiwa, jika orang tua tidak dapat dihubungi, sistem dapat menunjukkan pihak berwenang. CEO Sam Altman menegaskan dalam blog post bahwa perusahaan berupaya menyeimbangkan kebebasan, privasi, dan keselamatan remaja.
“Kami menyadari prinsip-prinsip ini saling bertentangan, dan tidak semua orang bakal setuju dengan langkah kami menyelesaikan bentrok tersebut,” tulis Altman. “Ini adalah keputusan sulit, tetapi setelah berbincang dengan para ahli, inilah nan kami anggap terbaik dan kami mau transparan dengan niat kami.”
OpenAI condong memprioritaskan privasi dan kebebasan bagi pengguna dewasa, tetapi untuk remaja, perusahaan menempatkan keselamatan sebagai prioritas utama. Pada akhir September, OpenAI bakal meluncurkan kontrol orang tua nan memungkinkan orang tua menghubungkan akun anak mereka dengan akun milik sendiri. Fitur ini memungkinkan orang tua mengelola percakapan dan menonaktifkan fitur tertentu.
Orang tua juga dapat menerima notifikasi ketika “sistem mendeteksi remaja mereka berada dalam momen tekanan akut,” menurut blog post perusahaan, serta membatasi waktu penggunaan ChatGPT anak-anak mereka dalam sehari.
Langkah ini muncul seiring dengan buletin mengkhawatirkan tentang orang nan meninggal lantaran bunuh diri alias melakukan kekerasan terhadap personil family setelah terlibat dalam percakapan panjang dengan chatbot AI. Para kreator kebijakan telah menyadari perihal ini, dan baik Meta maupun OpenAI sedang diawasi ketat.
Bulan ini, Komisi Perdagangan Federal (FTC) meminta Meta, OpenAI, Google, dan perusahaan AI lainnya untuk menyerahkan info tentang gimana teknologi mereka memengaruhi anak-anak, menurut Bloomberg. FTC juga sedang melakukan investigasi terhadap chatbot AI pendamping untuk melindungi anak dan remaja.
Pada saat nan sama, OpenAI tetap berada di bawah perintah pengadilan nan mewajibkan mereka menyimpan percakapan konsumen tanpa pemisah waktu—fakta nan sangat tidak disukai perusahaan, menurut sumber nan diwawancarai.
Berita hari ini merupakan langkah krusial menuju perlindungan anak di bawah umur dan juga langkah hubungan masyarakat nan pandai untuk memperkuat pendapat bahwa percakapan dengan chatbot sangat pribadi sehingga privasi konsumen hanya boleh dilanggar dalam keadaan paling ekstrem.
Dari sumber-sumber di OpenAI nan diwawancarai, beban melindungi pengguna sangat membebani banyak peneliti. Mereka mau menciptakan pengalaman pengguna nan menyenangkan dan menarik, tetapi perihal itu dapat dengan sigap berubah menjadi sikap menjilat nan berbahaya.
Positif bahwa perusahaan seperti OpenAI mengambil langkah untuk melindungi anak di bawah umur. Namun, tanpa izin federal, tetap belum ada nan memaksa perusahaan-perusahaan ini melakukan perihal nan benar. Dalam wawancara baru-baru ini, Tucker Carlson mendesak Altman untuk menjawab tepatnya siapa nan membikin keputusan ini nan memengaruhi kita semua.
CEO OpenAI menunjuk pada tim perilaku model, nan bertanggung jawab untuk menyetel model untuk atribut tertentu. “Orang nan saya pikir kudu Anda pertanggungjawabkan untuk panggilan tersebut adalah saya,” tambah Altman. “Saya adalah wajah publik. Pada akhirnya, sayalah nan dapat membatalkan salah satu dari keputusan tersebut alias majelis kami.”
Dia benar, namun beberapa ancaman nan menakut-nakuti tampaknya luput darinya. Dalam wawancara podcast lain dengan YouTuber Cleo Abrams, Altman mengatakan bahwa “terkadang kami memang tergoda” untuk meluncurkan produk “yang betul-betul bakal mendorong pertumbuhan.” Dia menambahkan: “Kami belum memasukkan avatar sexbot ke ChatGPT.”
OpenAI baru-baru ini merilis penelitian tentang siapa nan menggunakan ChatGPT, dan gimana mereka menggunakannya. Penelitian itu mengesampingkan pengguna nan berumur di bawah 18 tahun. Kita belum sepenuhnya memahami gimana remaja menggunakan AI, dan itu adalah pertanyaan krusial nan kudu dijawab sebelum situasi menjadi lebih buruk.
Platform lain seperti TikTok juga telah meluncurkan fitur meditasi untuk remaja, sementara platform game seperti Roblox meningkatkan keamanan untuk anak di bawah 13 tahun, menunjukkan tren industri nan semakin memperhatikan keselamatan pengguna muda.
