1 minggu yang lalu
Bayangkan sebuah platform media sosial nan dalam kurun waktu kurang dari dua minggu, bisa memproduksi sekitar tiga juta gambar seksual tanpa izin. Angka nan dahsyat sekaligus mengerikan ini bukan sekadar statistik fiksi, melainkan tuduhan serius nan sekarang dihadapi oleh X (sebelumnya Twitter) mengenai performa kepintaran buatan mereka, Grok. Situasi ini memicu kekhawatiran dunia mengenai gimana teknologi AI generatif dikelola tanpa pengawasan nan ketat, terutama ketika melibatkan privasi individu.
Komisi Perlindungan Data Irlandia (DPC) baru saja mengumumkan langkah tegas dengan membuka penyelidikan resmi terhadap X. Fokus utamanya adalah dugaan pembuatan gambar intim nan rawan serta pemrosesan info pribadi perseorangan di Uni Eropa (UE) dan Wilayah Ekonomi Eropa (EEA). nan membikin kasus ini semakin sensitif adalah keterlibatan info anak-anak di dalamnya. Langkah DPC ini menjadi sinyal keras bahwa regulator Eropa tidak bakal tinggal tak bersuara memandang potensi pelanggaran privasi skala besar.
Penyelidikan ini tidak muncul begitu saja tanpa asap. Laporan dari organisasi nirlaba asal Inggris, Center for Countering Digital Hate (CCDH), menjadi pemantik utamanya. Investigasi ini bakal menelisik apakah X telah melanggar undang-undang perlindungan info nan sangat ketat di Eropa, ialah GDPR. Bagi Anda pengguna setia X, ini adalah momen krusial untuk memandang apakah platform kesayangan Anda betul-betul menjaga keamanan info alias justru mengeksploitasinya demi kecanggihan fitur semata.
Skandal Jutaan Gambar Ilegal
Data nan diungkap oleh CCDH sungguh mencengangkan. Dalam periode tinjauan singkat antara 29 Desember hingga 9 Januari lalu, Grok dilaporkan telah menghasilkan jutaan gambar seksual. Dari total tersebut, diperkirakan ada 23.000 gambar nan merupakan materi pelecehan seksual terhadap anak (CSAM). Angka ini bukan sekadar pelanggaran etika, melainkan potensi tindak pidana serius nan melibatkan keselamatan anak di ranah digital.
Graham Doyle, wakil komisaris DPC, menyatakan bahwa pihaknya telah berkomunikasi intensif dengan X Internet Unlimited Company (XIUC)—nama entitas X di Eropa—sejak laporan media pertama kali mencuat beberapa minggu lalu. Kekhawatiran utamanya adalah keahlian pengguna X untuk memerintahkan akun @Grok agar membikin gambar seksual dari orang sungguhan, termasuk anak-anak. Ini memunculkan pertanyaan besar mengenai kontroversi Grok nan seolah tak ada habisnya.
Sebagai otoritas pengawas utama untuk XIUC di seluruh UE dan EEA, DPC tidak main-main. Doyle menegaskan bahwa mereka telah memulai penyelidikan berskala besar. Tujuannya adalah memeriksa kepatuhan XIUC terhadap tanggungjawab esensial mereka di bawah GDPR. Jika terbukti bersalah, implikasinya bisa sangat luas bagi operasional X di seluruh benua biru tersebut, mengingat GDPR mempunyai sistem hukuman denda nan sangat besar.
Janji Perbaikan nan Dipertanyakan
X sebenarnya sempat merespons rumor ini pada pertengahan Januari lalu. Mereka menyatakan telah mengambil langkah preventif dengan mencegah Grok mengedit foto orang sungguhan menjadi berpakaian terbuka alias vulgar. Namun, klaim tersebut tampaknya jauh panggang dari api. Realitas di lapangan menunjukkan bahwa sistem filter keamanan pada Grok tetap mempunyai celah nan menganga lebar.
Fakta mengejutkan ditemukan oleh seorang reporter laki-laki awal bulan ini. Ia mendapati bahwa Grok tetap bisa memanipulasi fotonya menjadi mengenakan busana terbuka, apalagi menambahkan perangkat kelamin nan terlihat jelas. Temuan ini meruntuhkan argumen pertahanan X dan menunjukkan bahwa akses Grok AI tetap sangat rentan disalahgunakan untuk membikin konten deepfake pornografi tanpa persetujuan (nonconsensual), sebuah masalah nan semestinya sudah dimitigasi sejak awal.
Tekanan Ganda dari Uni Eropa
Masalah X tidak berakhir pada GDPR saja. Penyelidikan DPC ini justru memperkuat tekanan izin nan sudah ada sebelumnya. Pada bulan Januari, Komisi Eropa juga telah meluncurkan penyelidikan terpisah untuk menentukan apakah X melanggar Undang-Undang Layanan Digital (Digital Services Act/DSA). Fokusnya adalah apakah X telah melakukan penilaian dan mitigasi akibat nan memadai mengenai Grok.
Penyebaran konten terlarangan seperti gambar seksual definitif tanpa persetujuan—terutama nan melibatkan anak-anak—menjadi poin krusial dalam penyelidikan DSA tersebut. Kegagalan dalam membendung penyebaran konten semacam ini bisa berakibat fatal bagi reputasi dan legalitas X di Eropa. Fenomena ini mengingatkan kita pada maraknya aplikasi AI Nudify nan juga meresahkan banyak pihak.
Investigasi berlapis ini menunjukkan sungguh seriusnya regulator Eropa memandang ancaman AI nan tidak terkendali. Bagi X, ini adalah ujian berat untuk membuktikan bahwa penemuan teknologi mereka tidak mengorbankan keamanan dan martabat manusia. Publik sekarang menanti, apakah langkah norma ini bakal memaksa X melakukan perombakan total pada sistem keamanan AI mereka, alias hanya berhujung dengan pembayaran denda tanpa perubahan berarti.
