1 bulan yang lalu
Dunia kepintaran buatan alias Artificial Intelligence (AI) memang menawarkan pesona tersendiri, terutama bagi generasi muda nan tumbuh berdampingan dengan teknologi. Namun, pernahkah Anda merasa cemas dengan siapa sebenarnya anak remaja Anda berinteraksi di bumi maya, apalagi jika musuh bicaranya hanyalah sebuah mesin? Kekhawatiran ini tampaknya terjawab dengan langkah drastis nan baru saja diambil oleh raksasa teknologi, Meta. Perusahaan induk FB dan IG ini secara resmi mengumumkan penangguhan akses bagi remaja terhadap chatbot karakter AI mereka.
Keputusan ini bukanlah langkah kecil, melainkan sebuah kebijakan dunia nan bertindak efektif segera. Meta menyatakan bahwa mereka tidak bakal lagi mengizinkan remaja untuk mengobrol dengan karakter chatbot AI dalam bentuknya nan sekarang. Pengumuman nan dirilis pada hari Jumat lampau menegaskan bahwa perusahaan bakal “menghentikan sementara akses remaja ke karakter AI nan ada secara global.” Langkah ini diambil di tengah meningkatnya sorotan terhadap keamanan digital bagi pengguna di bawah umur, sebuah rumor nan belakangan ini menjadi duri dalam daging bagi perusahaan teknologi besar.
Penangguhan ini datang beberapa bulan setelah Meta mengindikasikan sedang menggodok fitur kontrol orang tua nan berfokus pada chatbot. Hal ini dipicu oleh rentetan laporan nan menyebut bahwa beberapa karakter chatbot Meta terlibat dalam percakapan nan tidak pantas, mulai dari hubungan seksual hingga topik nan membahayakan. Bagi Anda para orang tua, ini adalah momen krusial untuk memahami bahwa teknologi pendamping virtual, secanggih apa pun itu, tetap menyisakan celah keamanan nan serius bagi buah hati Anda.
Langkah Meta untuk menarik rem darurat ini tidak terjadi dalam ruang hampa. Sebelumnya, Reuters melaporkan adanya arsip kebijakan internal Meta nan menyebut bahwa chatbot diizinkan untuk melakukan percakapan “sensual” dengan pengguna di bawah umur. Meskipun Meta kemudian membantah dan menyebut bahasa dalam arsip tersebut “salah dan tidak konsisten dengan kebijakan kami,” kerusakan persepsi publik mungkin sudah terjadi. Ini menjadi peringatan keras mengenai gimana kontroversi chatbot dapat memengaruhi kepercayaan pengguna.
Sebagai respons atas kekhawatiran tersebut, pada bulan Agustus lalu, Meta mengumumkan sedang melatih ulang karakter chatbot mereka. Tujuannya adalah menambahkan “pagar pembatas sebagai tindakan pencegahan ekstra.” Pagar pembatas ini dirancang unik untuk mencegah remaja mendiskusikan topik-topik sensitif dan berbahaya, seperti menyakiti diri sendiri (self-harm), gangguan makan, hingga bunuh diri. Kini, Meta menegaskan bakal memblokir total akses remaja ke chatbot karakter ini hingga “pengalaman nan diperbarui siap.”
Pembaruan Fitur dan Teknologi Prediksi Usia
Pembaruan nan sedang disiapkan Meta tidak main-main. Menurut ahli bicara perusahaan, pembaruan tersebut nantinya bakal mencakup kontrol orang tua nan lebih komprehensif. Ini sejalan dengan upaya kontrol orang tua nan memang sangat dibutuhkan di era digital saat ini. Pembatasan baru ini dijadwalkan bakal mulai bertindak “dalam beberapa minggu mendatang.”
Menariknya, kebijakan ini tidak hanya menyasar akun nan terdaftar secara resmi sebagai remaja. Meta bakal menerapkan patokan ini kepada mereka nan mempunyai akun remaja, serta orang-orang nan menyatakan sebagai orang dewasa namun dicurigai sebagai remaja berasas teknologi prediksi usia milik Meta. Meskipun demikian, remaja tetap bakal mempunyai akses ke chatbot resmi Meta AI, nan diklaim perusahaan telah mempunyai “perlindungan nan sesuai usia.” Ini menunjukkan bahwa Meta tetap mau mempertahankan teknologi chatbot mereka tetap relevan namun lebih aman.
Tekanan Hukum dan Investigasi Regulator
Keputusan Meta untuk “menekan tombol pause” ini juga tidak lepas dari tekanan eksternal nan semakin kuat. Meta dan perusahaan AI lain nan membikin karakter “pendamping” sekarang menghadapi pengawasan ketat mengenai akibat keselamatan nan mungkin ditimbulkan chatbot ini terhadap anak muda. Komisi Perdagangan Federal (FTC) dan Jaksa Agung Texas telah memulai penyelidikan terhadap Meta dan perusahaan sejenis dalam beberapa bulan terakhir.
Isu mengenai keamanan chatbot ini juga mencuat dalam konteks gugatan keselamatan nan diajukan oleh Jaksa Agung New Mexico. Persidangan dijadwalkan bakal dimulai awal bulan depan. Laporan dari Wired minggu ini menyebut bahwa pengacara Meta telah berupaya untuk mengecualikan kesaksian nan mengenai dengan chatbot AI perusahaan dari persidangan tersebut. Hal ini memperlihatkan sungguh sensitifnya posisi karakter AI dalam ranah norma saat ini.
Pada akhirnya, langkah Meta ini merupakan pengakuan tersirat bahwa teknologi AI generatif, khususnya nan dirancang sebagai “teman” alias karakter, belum sepenuhnya kondusif untuk dikonsumsi oleh remaja tanpa pengawasan ketat. Bagi Anda para orang tua, jarak waktu ini adalah kesempatan baik untuk meninjau kembali gimana anak-anak Anda berinteraksi dengan teknologi, sembari menunggu fitur keamanan nan dijanjikan Meta betul-betul siap diimplementasikan.
