5 hari yang lalu
Telset.id – Platform media sosial X milik Elon Musk mengambil langkah kontroversial pasca maraknya penyalahgunaan Grok AI untuk membikin gambar asusila. Alih-alih memperbaiki sistem keamanan secara menyeluruh, X sekarang membatasi fitur pembuatan gambar pada chatbot tersebut hanya untuk pengguna berbayar.
Perubahan ini muncul setelah gelombang kritik dan investigasi regulator dunia mengenai keahlian Grok menghasilkan gambar “undressing” alias deepfake seksual tanpa izin, termasuk nan melibatkan anak di bawah umur. Kini, pengguna cuma-cuma nan mencoba membikin gambar bakal menerima pesan bahwa fitur tersebut “saat ini terbatas untuk pengguna berbayar,” disertai tautan untuk berlangganan jasa premium tahunan seharga $395.
Langkah ini menuai sorotan tajam lantaran dianggap tidak menyelesaikan akar masalah, melainkan hanya memonetisasi celah keamanan nan ada. Para mahir keamanan siber menilai bahwa X hanya memasang “plester” pada luka menganga, membiarkan potensi Deepfake Asusila tetap terjadi di kalangan pengguna berdompet tebal.
Monetisasi Konten Berbahaya?
Meskipun X menyatakan mengambil tindakan terhadap konten ilegal, kebenaran di lapangan menunjukkan perihal berbeda. Paul Bouchaud, peneliti utama dari organisasi nirlaba AI Forensics, mengungkapkan kepada WIRED bahwa meskipun jumlah gambar cabul di feed publik berkurang, keahlian model AI tersebut belum sepenuhnya diperbaiki.
Bouchaud mencatat bahwa pengguna dengan akun terverifikasi (berbayar) tetap bisa menghasilkan gambar seksualisasi wanita dengan perintah (prompt) tertentu. “Kami mengawasi jenis prompt nan sama, kami mengawasi jenis hasil nan sama, hanya jumlahnya lebih sedikit dari sebelumnya,” ujar Bouchaud. Ia menegaskan bahwa Penyalahgunaan Grok untuk membikin gambar berbikini alias berbalut lateks tetap sangat mungkin dilakukan oleh pengguna berbayar.
Dalam sebuah pengujian, Grok tetap menghasilkan gambar wanita dengan penjelasan seksual spesifik seperti “latex lingerie” alias “plastic bikini” namun gambar tersebut muncul di kembali peringatan konten dewasa. Ironisnya, pembatasan ini tampaknya belum bertindak merata di seluruh ekosistem xAI.
Celah di Aplikasi Terpisah
Yang lebih mengkhawatirkan, pembatasan nan diterapkan di platform X tampaknya tidak sinkron dengan aplikasi berdikari (standalone app) Grok. Laporan menyebut bahwa pengguna akun cuma-cuma di aplikasi dan situs web terpisah Grok tetap bisa menghasilkan konten video seksual nan sangat skematis dan terkadang mengandung unsur kekerasan, tanpa batas nan berarti.
Bouchaud menambahkan, “Saya bisa menghasilkan video dengan konten seksual definitif tanpa batas apa pun dari akun nan tidak terverifikasi.” Hal ini menunjukkan inkonsistensi penanganan Konten Asusila di ekosistem produk milik Musk.
Emma Pickering, kepala penyalahgunaan teknologi di badan kebaikan Refuge Inggris, menyebut keputusan X ini sebagai “monetisasi kekerasan”. Menurutnya, membatasi pembuatan gambar AI hanya untuk pengguna berbayar mungkin sedikit mengurangi volume, tetapi tidak menghentikan penyalahgunaan itu sendiri. “Penyalahgunaan itu hanya ditempatkan di kembali paywall, memungkinkan X mengambil untung dari kerugian orang lain,” tegasnya.
Pemerintah Inggris apalagi menyebut langkah ini “menghina” para korban, lantaran mengubah fitur nan memungkinkan pembuatan gambar melanggar norma menjadi sebuah jasa premium. Henry Ajder, master deepfake, menambahkan bahwa pelaku kejahatan siber tetap bisa dengan mudah membikin konten tersebut menggunakan nama tiruan dan metode pembayaran sekali pakai.
Hingga buletin ini diturunkan, baik X maupun xAI belum memberikan konfirmasi resmi apakah fitur pembuatan gambar ini bakal selamanya menjadi fitur berbayar alias hanya langkah sementara. Namun, satu perihal nan pasti: keahlian model AI ini untuk menghasilkan konten rawan belum dimatikan sepenuhnya.
