6 jam yang lalu
Telset.id – Bayangkan wajah Anda tiba-tiba muncul dalam video nan tidak pernah Anda buat, mengatakan hal-hal nan tidak pernah Anda ucapkan. Itulah kengerian nan dihadapi banyak orang di era deepfake AI nan semakin canggih. Kini, YouTube mengambil langkah tegas dengan meluncurkan fitur penemuan wajah untuk melindungi perseorangan dari penyalahgunaan teknologi ini.
Ketika alat-alat AI mulai merajalela di internet, kekhawatiran tentang deepfake tumbuh bersamanya. Kini, dengan teknologi seperti Sora 2 dari OpenAI nan baru saja dirilis menjadi lebih bisa dan lebih mudah diakses – dan digunakan secara tidak bertanggung jawab seperti nan bisa Anda tebak – baik orang terkenal maupun biasa mungkin menginginkan lebih banyak kendali untuk melindungi gambaran mereka. Setelah mengisyaratkan fitur ini tahun lalu, YouTube mulai meluncurkan perangkat penemuan kemiripan untuk memerangi deepfake nan tidak diinginkan dan menghapusnya dari platform video.
Fitur penemuan kemiripan saat ini sedang diluncurkan untuk personil YouTube Partner Program. Ini juga hanya bisa mencakup kasus di mana wajah seseorang telah dimodifikasi dengan AI; kasus di mana bunyi seseorang telah diubah oleh AI tanpa persetujuan mereka mungkin tidak tertangkap oleh fitur ini. Untuk berpartisipasi, orang perlu mengirimkan KTP dan video selfie singkat ke YouTube untuk memastikan mereka adalah orang nan mereka klaim dan memberikan materi sumber untuk fitur ini dalam tinjauannya.
Dari sana, langkah kerjanya mirip dengan fitur Content ID YouTube untuk menemukan audio nan dilindungi kewenangan cipta, memindai video nan diunggah untuk kemungkinan kecocokan nan kemudian dapat ditinjau orang tersebut dan menandai video nan melanggar untuk dihapus. Pendekatan ini menunjukkan gimana platform mulai mengangkat sistem nan sebelumnya digunakan untuk kewenangan cipta ke ranah perlindungan identitas pribadi.
Namun, pertanyaannya tetap: seberapa efektif sistem ini dalam menghadapi deepfake nan semakin susah dibedakan? Seperti nan pernah kami laporkan, deepfake semakin susah dibedakan, penemuan degub nadi pun bisa dipalsukan. Ini menunjukkan bahwa perlombaan antara kreator dan pendeteksi deepfake semakin intens.
Proses Verifikasi nan Ketat: Perlindungan alias Hambatan?
Persyaratan verifikasi nan ketat – termasuk pengiriman KTP dan video selfie – menimbulkan pertanyaan tentang keseimbangan antara perlindungan dan aksesibilitas. Di satu sisi, ini memastikan bahwa hanya perseorangan nan sah nan dapat melaporkan pelanggaran. Di sisi lain, ini bisa menjadi penghalang bagi mereka nan tidak nyaman membagikan info pribadi nan sensitif.
Proses ini mengingatkan kita pada inisiatif serupa dari platform lain. Seperti nan kami laporkan sebelumnya, Facebook dan Microsoft menggelar lomba penemuan deepfake, menunjukkan bahwa industri teknologi menyadari urgensi masalah ini. Namun, pendekatan YouTube lebih langsung dengan menerapkan solusi praktis daripada sekadar kejuaraan penelitian.
Yang menarik, fitur ini saat ini hanya tersedia untuk personil YouTube Partner Program – golongan pembuat nan sudah menghasilkan pendapatan dari platform. Ini menimbulkan pertanyaan tentang keadilan akses: haruskah perlindungan dari deepfake hanya tersedia untuk mereka nan sudah mempunyai status unik di platform?
Batasan Teknologi: Suara Masih Jadi Area Abu-abu
Salah satu keterbatasan signifikan dari sistem ini adalah ketidakmampuannya mendeteksi deepfake suara. Dalam bumi di mana teknologi AI dapat meniru bunyi seseorang dengan kecermatan nan mengkhawatirkan, ini merupakan celah besar. Bayangkan bunyi Anda digunakan untuk menyebarkan info tiruan alias melakukan penipuan – sistem YouTube saat ini tidak bakal menangkapnya.
Ini mengingatkan kita pada perangkat seperti TwinsOrNot nan membandingkan kemiripan wajah, tetapi dengan implikasi nan jauh lebih serius. Sementara perangkat tersebut untuk hiburan, teknologi penemuan YouTube mempunyai akibat nyata bagi privasi dan reputasi individu.
Pertanyaannya adalah: kapan YouTube bakal mengembangkan penemuan untuk deepfake suara? Mengingat kecepatan perkembangan teknologi AI, penundaan dalam mengatasi aspek ini bisa berakibat fatal. Banyak master memperkirakan bahwa deepfake bunyi mungkin menjadi masalah nan lebih besar daripada deepfake visual dalam perihal potensi penyalahgunaan.
Masa Depan Perlindungan Identitas Digital
Langkah YouTube ini menandai babak baru dalam perlindungan identitas digital. Seperti Content ID merevolusi langkah kewenangan cipta dikelola di platform video, sistem penemuan kemiripan berpotensi mengubah langkah kita melindungi identitas pribadi di bumi digital.
Namun, ini baru permulaan. Teknologi deepfake terus berkembang, dan sistem penemuan kudu terus ditingkatkan untuk mengimbanginya. nan kita saksikan sekarang mungkin hanya jenis pertama dari apa nan bakal menjadi sistem perlindungan identitas nan komprehensif di masa depan.
Sebagai pengguna internet, kita semua mempunyai kepentingan dalam perkembangan ini. Apakah Anda seorang pembuat konten alias sekadar pengguna biasa, keahlian untuk melindungi gambaran dan identitas Anda online menjadi semakin penting. Langkah YouTube ini mungkin menjadi preseden bagi platform lain untuk mengikuti, menciptakan ekosistem nan lebih kondusif untuk semua.
Pertanyaan terbesar nan tersisa adalah: apakah ini cukup? Dalam perlombaan senjata teknologi antara kreator dan pendeteksi deepfake, siapa nan akhirnya bakal menang? Hanya waktu nan bakal menjawab, tetapi setidaknya sekarang ada perangkat baru di penyimpanan senjata untuk melawan penyalahgunaan AI nan menakut-nakuti identitas kita.
