1 bulan yang lalu
Telset.id – Penerapan teknologi kepintaran buatan alias Artificial Intelligence (AI) dalam sistem keamanan sekolah di Amerika Serikat sekarang menjadi sorotan tajam setelah terbukti memicu gelombang penangkapan siswa nan tidak perlu. Alih-alih menciptakan lingkungan belajar nan aman, sistem pengawasan canggih ini justru kerap kandas memahami konteks percakapan remaja, menyebabkan trauma psikologis mendalam bagi para siswa nan menjadi korban “salah tangkap” akibat algoritma nan terlalu sensitif.
Fenomena ini menyoroti sisi gelap dari ketergantungan lembaga pendidikan pada teknologi pemantauan otomatis. Di era modern ini, sistem pengawasan AI memang telah menjamur di mana-mana, mulai dari memantau jalan raya, melacak pembelian kita di toko kelontong, hingga mengawasi toilet sekolah. Namun, laporan terbaru mengungkapkan bahwa sistem ini mempunyai kelemahan fatal: mereka terlalu garang dalam menandai perilaku nan dianggap buruk, nan berujung pada tingginya nomor penahanan paksa terhadap anak di bawah umur.
Investigasi mendalam nan dilakukan oleh Milwaukee Independent menemukan kebenaran mengejutkan bahwa sekolah-sekolah nan menggunakan sistem pengawasan untuk memantau obrolan online mengenai kekerasan telah mencatat jumlah “hits” alias peringatan positif nan mencengangkan. Sayangnya, sebagian besar dari peringatan tersebut bukanlah ancaman nyata nan dapat ditindaklanjuti, namun tetap berujung pada interogasi dan penahanan.
Kegagalan Algoritma Memahami Konteks
Salah satu contoh paling mencolok dari kegagalan sistem ini terjadi di distrik sekolah Lawrence, Kansas. Di wilayah ini, sebuah perangkat pemantauan keamanan online berjulukan Gaggle menandai lebih dari 1.200 kejadian online hanya dalam periode 10 bulan. Angka ini mungkin terdengar mengerikan pada awalnya, seolah-olah sekolah tersebut berada dalam area perang.
Namun, setelah ditelusuri lebih lanjut oleh Independent, ditemukan bahwa dua pertiga dari ribuan peringatan tersebut adalah masalah sepele alias “non-isu”. Sistem tersebut kandas membedakan antara ancaman serius dengan percakapan remaja biasa, lelucon, alias sarkasme. Meskipun teknologi seperti ini sering digadang-gadang mempunyai spesifikasi lengkap dan canggih dalam mendeteksi pola kata, kenyataannya keahlian mereka dalam memahami nuansa bahasa manusia tetap sangat terbatas.
Masalah ini menjadi semakin pelik ketika diterapkan di negara bagian nan mempunyai undang-undang pelaporan “nol toleransi” (zero-tolerance) seperti Tennessee alias Florida. Di wilayah-wilayah ini, pihak sekolah diwajibkan secara norma untuk melaporkan kepada polisi setiap kali ada siswa nan mengisyaratkan kekerasan dalam corak apa pun, tanpa memandang konteks alias niat di kembali ucapan tersebut.
Di Distrik Sekolah Polk County, Florida, dampaknya sangat nyata dan meresahkan. Selama empat tahun penggunaan, sistem Gaggle menandai sekitar 500 siswa. Akibat dari undang-undang nan kaku tersebut, setidaknya 72 anak sejauh ini telah ditangkap alias dirawat di rumah sakit secara paksa di bawah undang-undang kesehatan mental negara bagian nan dikenal sebagai Baker Act.
Trauma Psikologis Akibat Teknologi
Dampak dari penangkapan dan pemeriksaan paksa ini jauh melampaui sekadar catatan disipliner sekolah. Sam Boyd, seorang pengacara dari Southern Poverty Law Center, menegaskan kepada Independent bahwa pengalaman ini meninggalkan jejak luka psikologis nan dalam bagi anak-anak.
“Jumlah anak nan sangat tinggi nan mengalami pemeriksaan paksa mengingatnya sebagai pengalaman nan sangat traumatis dan merusak—bukan sesuatu nan membantu perawatan kesehatan mental mereka,” ujar Boyd. Ironisnya, teknologi nan semestinya melindungi siswa justru menjadi sumber trauma baru. Hal ini mengingatkan kita pada risiko diskriminasi nan sering menghantui penerapan AI dalam ranah sosial.
Banyak dari siswa ini apalagi tidak menyadari bahwa email, obrolan online, dan pencarian Google mereka di peralatan sekolah sedang dipantau secara real-time. Mereka juga sering kali tidak merasa telah melakukan kesalahan apa pun. Ketidaktahuan ini menambah rasa syok ketika tiba-tiba mereka kudu berhadapan dengan abdi negara penegak hukum.
Kasus memilukan dialami oleh seorang ibu di Tennessee berjulukan Lesley Mathis. Ia menceritakan gimana putrinya nan duduk di kelas delapan ditangkap, diinterogasi, digeledah (strip-searched), dan ditahan di penjara selama satu malam hanya lantaran lelucon online.
Secara spesifik, teman-teman siswa tersebut telah mengejeknya tentang kulitnya nan berwarna “Meksiko”, meskipun dia mempunyai garis keturunan nan berbeda. Sebagai respons melindungi unik remaja, siswi kelas delapan itu membalas dengan gurauan, “Pada hari Kamis kita bunuh semua orang Meksiko
