LONDON – Sebuah kelompok pengawas anak mengatakan kecerdasan buatan (AI) meningkatkan jumlah kasus pelecehan seksual terhadap anak.
Kelompok pengawas Internet Watch Foundation (IWF) mengatakan pembuatan dan distribusi pornografi yang dihasilkan oleh AI juga menjadi lebih canggih.
Berbeda dengan dulu, gambar dan video tersebut kini ada di platform online publik dan tidak lagi ada di Dark Web, dunia Internet yang hanya bisa diakses melalui browser khusus seperti Tor.
Foto-realisme visual yang dihasilkan AI semakin menyulitkan pihak berwenang dan lembaga pengawas untuk mengetahui apakah gambar tersebut benar-benar menampilkan anak-anak yang berada dalam kesusahan, sebuah situasi yang digambarkan oleh analis IWF sebagai “titik nyala”.
Banyak orang khawatir bahwa dalam enam bulan terakhir, jumlah insiden gambar pelecehan seksual terhadap anak yang dihasilkan oleh AI melebihi jumlah yang tercatat sepanjang tahun sebelumnya.
Selama periode ini, IWF menindaklanjuti 74 laporan dengan konten serupa, dibandingkan 70 laporan pada 12 bulan sebelumnya.
Yang lebih mengkhawatirkan, alat AI yang menghasilkan gambar-gambar ini dilatih berdasarkan konten korban sebenarnya, sehingga sulit untuk mengidentifikasi kasus nyata yang memerlukan intervensi, menurut direktur jenderal sementara IWF Derek Ray-Hill.
“Beberapa bulan terakhir menunjukkan bahwa masalah ini tidak kunjung hilang dan semakin memburuk,” lapor The Guardian.
Konten berlebihan mulai dari video palsu yang tampak realistis hingga gambar anak-anak yang diubah pakaiannya.
Lebih dari separuh materi yang ditandai dihosting di server di Rusia dan Amerika Serikat, serta Jepang dan Belanda, menurut IWF.
Berita meresahkan ini muncul di tengah meningkatnya kritik terhadap aplikasi media sosial karena menyediakan tempat yang aman bagi pelaku pelecehan seksual dan pemeras.
Pengguna platform seperti Instagram diperas setelah ditipu untuk membagikan rekaman intim, lapor Guardian.
Platform berbagi gambar Meta telah mengumumkan bahwa mereka telah memperkenalkan langkah-langkah untuk memerangi kejahatan semacam itu.
Platform tersebut akan secara otomatis memburamkan gambar telanjang yang dikirim melalui pesan langsung dan memperingatkan pengguna untuk tidak membukanya. Mereka juga memiliki opsi untuk memblokir atau melaporkan pengirim gambar tersebut.
Fitur ini akan diaktifkan secara default untuk akun remaja, sedangkan orang dewasa dapat masuk.
