1 bulan yang lalu
Pernahkah Anda membayangkan bahwa toko aplikasi resmi nan selama ini dianggap sebagai tembok keamanan digital, justru menjadi sarang bagi teknologi nan bisa melucuti privasi Anda dalam sekejap? Ironi ini sedang terjadi tepat di depan mata kita. Di kembali klaim keamanan nan ketat dan proses kurasi nan berlapis, gerbang digital raksasa milik Apple dan Google rupanya kebobolan oleh serbuan aplikasi rawan nan mengeksploitasi kepintaran buatan.
Sebuah investigasi mendalam nan dilakukan oleh Tech Transparency Project (TTP) baru-baru ini membuka kotak pandora nan mengejutkan. Laporan tersebut mengungkap bahwa Apple App Store dan Google Play Store sekarang dipenuhi oleh aplikasi “nudify”. Ini adalah jenis aplikasi berbasis AI nan dirancang untuk membikin gambar seksual tanpa persetujuan (nonconsensual), alias secara digital “menelanjangi” seseorang dari foto berpakaian. Temuan ini jelas menampar wajah kedua raksasa teknologi tersebut nan selama ini vokal mengenai kebijakan anti-pelecehan di platform mereka.
Yang lebih meresahkan, aplikasi-aplikasi ini bukan sekadar ada, tetapi tumbuh subur dan menghasilkan untung masif. TTP menemukan kebenaran bahwa puluhan aplikasi semacam ini telah lolos dari sistem penyaringan dan apalagi dikategorikan kondusif untuk anak-anak. Michelle Kuppersmith, kepala pelaksana di TTP, menegaskan bahwa kegagalan Apple dan Google dalam memverifikasi aplikasi ini membikin platform mereka sangat rentan terhadap penyalahgunaan, di mana siapa saja bisa menjadi korban manipulasi gambar dengan minim alias tanpa busana.
Bisnis Kotor Bernilai Ratusan Juta Dolar
Investigasi TTP menemukan nomor nan mencengangkan: terdapat 55 aplikasi jenis ini di Google Play Store dan 47 di Apple App Store. Secara kolektif, aplikasi-aplikasi nan melanggar kebijakan toko ini telah diunduh lebih dari 700 juta kali. Fenomena ini bukan hanya soal pelanggaran privasi, tetapi juga ladang upaya nan sangat menguntungkan. Laporan tersebut mencatat bahwa aplikasi-aplikasi ini telah menghasilkan pendapatan lebih dari USD 117 juta (sekitar Rp 1,8 triliun). Mirisnya, Google dan Apple turut menikmati potongan komisi dari pendapatan “haram” nan dihasilkan oleh Situs AI Nudify berkedok aplikasi ini.
Fakta nan paling mengganggu nurani adalah gimana aplikasi ini dipasarkan. Beberapa di antaranya secara terang-terangan disetujui untuk pengguna di bawah umur. Apple mencantumkan beberapa aplikasi ini dengan rating usia 4+ alias 9+, sementara Google memberi label 13+. Padahal, kegunaan utama aplikasi tersebut jelas melanggar kebijakan perusahaan, apalagi untuk pengguna dewasa sekalipun. Salah satu contohnya adalah aplikasi berjulukan DreamFace, nan di Google Play Store diberi rating untuk usia 13 tahun ke atas, dan di Apple App Store untuk usia sembilan tahun ke atas.
Respon Raksasa Teknologi nan Belum Maksimal
Menanggapi laporan nan menyudutkan ini, kedua perusahaan telah memberikan respon, meski langkah nan diambil dinilai belum sepenuhnya menuntaskan masalah. Apple menyatakan telah menghapus 24 aplikasi dari tokonya. Namun, jumlah ini tetap jauh di bawah temuan TTP nan mengidentifikasi 47 aplikasi bermasalah. Hal ini menimbulkan pertanyaan besar mengenai efektivitas sistem kurasi App Store nan selama ini dibanggakan sebagai ekosistem paling aman.
Di sisi lain, ahli bicara Google menyatakan bahwa perusahaan telah menangguhkan beberapa aplikasi nan dirujuk dalam laporan tersebut lantaran melanggar kebijakan toko. Sayangnya, raksasa pencarian ini menolak untuk merinci berapa banyak aplikasi nan sebenarnya telah mereka hapus. Ketertutupan info ini tentu tidak membantu memulihkan kepercayaan publik terhadap komitmen mereka dalam melindungi pengguna dari konten pelecehan seksual berbasis AI.
Grok dan Ancaman Deepfake Nonkonsensual
Laporan TTP tidak hanya menyoroti aplikasi mobile, tetapi juga menyinggung platform besar lainnya. Kedua toko aplikasi tersebut tetap menyediakan akses ke Grok, chatbot AI milik xAI (perusahaan Elon Musk), nan disebut-sebut sebagai salah satu kreator deepfake nonkonsensual paling terkenal di dunia. Dalam periode hanya 11 hari, chatbot ini dilaporkan menghasilkan sekitar tiga juta gambar seksual, di mana 22.000 di antaranya melibatkan anak-anak. Lonjakan konten terlarangan ini tentu menambah daftar panjang Kontroversi Deepfake nan sedang melanda bumi teknologi.
Respon dari pihak Elon Musk pun terkesan defensif. Ketika dimintai konfirmasi oleh jurnalis, perwakilan perusahaan hanya mengirimkan email otomatis bertuliskan “Legacy Media Lies”. Musk sendiri menyangkal dengan mengatakan bahwa dirinya tidak menyadari adanya gambar bugil di bawah umur nan dihasilkan oleh Grok, menyebut angkanya “benar-benar nol”. Akun keamanan X (Twitter) kemudian memposting peringatan bahwa siapa pun nan menggunakan Grok untuk membikin konten terlarangan bakal menghadapi akibat berat. Namun, ironisnya, chatbot Grok sendiri justru lebih jujur dibanding manusianya, dengan “meminta maaf” lantaran telah membikin gambar seksual anak di bawah umur.
Kasus ini menjadi peringatan keras bagi kita semua. Teknologi AI nan semestinya memudahkan hidup, sekarang mempunyai sisi gelap nan mengintai di saku celana kita dan anak-anak kita. Pengawasan orang tua dan ketegasan regulator sekarang menjadi tembok terakhir ketika raksasa teknologi kandas membersihkan rumah mereka sendiri.
