1 bulan yang lalu
Pernahkah Anda membayangkan dengan siapa anak remaja Anda berbincang berjam-jam di ponsel mereka? Di era digital ini, kawan bicara tersebut tidak selalu manusia, melainkan kepintaran buatan alias AI nan dirancang menyerupai karakter tertentu. Fenomena ini membawa kekhawatiran baru bagi para orang tua, terutama ketika percakapan tersebut melampaui pemisah kewajaran. Menanggapi keresahan nan memuncak, raksasa teknologi Meta akhirnya mengambil langkah tegas nan mungkin bakal mengubah langkah remaja berinteraksi dengan teknologi di masa depan.
Meta secara resmi mengumumkan bahwa mereka menangguhkan akses remaja terhadap karakter chatbot AI mereka untuk sementara waktu. Keputusan ini bukan tanpa alasan, melainkan respons langsung terhadap serangkaian laporan nan menyoroti hubungan nan tidak layak antara chatbot dengan pengguna di bawah umur. Perusahaan nan dipimpin Mark Zuckerberg ini menyatakan bakal “menjeda sementara akses remaja ke karakter AI nan ada secara global” hingga perbaikan sistem keamanan selesai dilakukan.
Langkah ini diambil beberapa bulan setelah Meta berjanji untuk meningkatkan fitur keselamatan. Sebelumnya, muncul laporan nan cukup meresahkan di mana beberapa karakter chatbot Meta terlibat dalam percakapan seksual dan hubungan nan mengkhawatirkan dengan remaja. Kini, Meta memilih untuk menarik rem darurat, memastikan bahwa tidak ada lagi akibat nan mengintai pengguna muda mereka sampai sistem nan lebih aman, termasuk kontrol orang tua nan lebih ketat, betul-betul siap diluncurkan.
Alasan Utama Penangguhan Akses
Keputusan Meta untuk memblokir akses ini dipicu oleh temuan internal dan laporan media nan mengejutkan. Reuters melaporkan adanya arsip kebijakan internal Meta nan sempat mengizinkan chatbot untuk melakukan percakapan “sensual” dengan pengguna di bawah umur. Meskipun Meta kemudian menjelaskan bahwa bahasa dalam arsip tersebut “keliru dan tidak konsisten dengan kebijakan kami,” kerusakan reputasi dan kekhawatiran publik sudah terlanjur menyebar.
Isu ini menjadi sorotan tajam lantaran melibatkan keselamatan mental dan emosional remaja. Meta sebelumnya telah meluncurkan beragam persona AI, termasuk Chatbot Selebritas nan meniru style bicara tokoh terkenal. Namun, tanpa pagar pengaman nan kuat, teknologi ini justru menjadi pedang bermata dua. Pada bulan Agustus lalu, perusahaan sebenarnya telah mengumumkan upaya training ulang chatbot mereka untuk menambahkan “pagar pembatas sebagai tindakan pencegahan ekstra”.
Tujuan utama dari training ulang tersebut adalah mencegah remaja mendiskusikan topik-topik sensitif dan berbahaya, seperti menyakiti diri sendiri, gangguan makan, hingga bunuh diri. Namun, tampaknya langkah tersebut belum cukup memadai sehingga penangguhan total menjadi opsi terbaik saat ini. Meta menegaskan bahwa akses tidak bakal dibuka kembali sampai “pengalaman nan diperbarui siap.”
Pemberlakuan Kontrol Orang Tua nan Lebih Ketat
Pembaruan nan sedang digodok oleh Meta nantinya bakal menyertakan kontrol orang tua nan lebih komprehensif. Menurut ahli bicara Meta, pembatasan baru ini bakal mulai bertindak “dalam beberapa minggu mendatang.” Aturan ini tidak hanya bertindak bagi akun nan terdaftar sebagai remaja, tetapi juga bagi pengguna nan mengaku dewasa namun dicurigai sebagai remaja berasas teknologi prediksi usia nan dimiliki Meta.
Langkah ini sejalan dengan upaya Meta sebelumnya untuk memberikan kendali lebih kepada wali. Anda mungkin ingat ketika Meta mulai mengembangkan fitur untuk Blokir Chatbot bagi orang tua, sebuah fitur nan sangat dinantikan demi ketenangan pikiran keluarga. Meskipun karakter chatbot ditangguhkan, remaja tetap tetap dapat mengakses chatbot Meta AI resmi nan standar. Perusahaan menyatakan bahwa jenis standar ini sudah mempunyai “perlindungan nan sesuai dengan usia.”
Tekanan Hukum dan Investigasi Regulator
Keputusan Meta ini tidak lepas dari tekanan eksternal nan semakin kuat. Meta dan perusahaan AI lain nan membikin karakter “pendamping” sekarang menghadapi pengawasan ketat mengenai akibat keselamatan nan ditimbulkan chatbot ini terhadap kaum muda. Komisi Perdagangan Federal (FTC) dan Jaksa Agung Texas baru-baru ini telah memulai penyelidikan terhadap Meta dan perusahaan sejenis dalam beberapa bulan terakhir.
Isu mengenai keamanan chatbot ini juga muncul dalam konteks gugatan norma nan diajukan oleh Jaksa Agung New Mexico. Persidangan dijadwalkan bakal dimulai awal bulan depan. Menariknya, pengacara Meta telah berupaya untuk mengecualikan kesaksian nan berangkaian dengan chatbot AI perusahaan, sebagaimana dilaporkan oleh Wired minggu ini. Hal ini menunjukkan sungguh sensitifnya rumor AI dalam ranah norma saat ini, apalagi ketika Meta terus berinovasi mengembangkan Chatbot Multibahasa untuk menjangkau pasar global.
Pada akhirnya, langkah Meta untuk menekan tombol “pause” adalah peringatan bagi kita semua bahwa teknologi, secanggih apa pun, kudu selalu menempatkan keselamatan manusia—terutama anak-anak—di atas segalanya. Sambil menunggu fitur keamanan baru diluncurkan, peran Anda sebagai orang tua tetaplah nan utama dalam mengawasi aktivitas digital buah hati.
