JAKARTA – Kecerdasan buatan digunakan untuk foto atau video palsu yakni deep fake. Ini termasuk aplikasi Telegram.
Pada awal tahun 2020, ilmuwan Henry Ajder menemukan salah satu bot Telegram pertama yang membuat lebih dari 100.000 gambar anak-anak. Informasi ini mewakili masa ketika layanan serupa menjadi penting dan tersebar luas. Sejak itu, penyelaman dalam menjadi lebih umum, lebih invasif, dan lebih mudah dilakukan.
Situs Wired melaporkan pada Jumat (18/10/2024) bahwa komunitas Telegram yang terhubung tanpa izin diidentifikasi sebagai 50 bot yang mengklaim mampu membuat gambar atau video orang dengan tekanan darah rendah. Bot-bot ini memiliki kemampuan yang beragam, mulai dari melepas pakaian dari galeri foto hingga menampilkan konten aktivitas seksual.
Puluhan ribu bot ini mendaftarkan lebih dari 4 juta pengguna setiap bulannya. Sebanyak dua bot mencantumkan lebih dari 400.000 pengguna per bulan, sementara 14 bot lainnya memiliki lebih dari 100.000 anggota.
Temuan ini menunjukkan prevalensi alat pembelajaran mendalam dan mengamankan tempat Telegram sebagai situs jejaring sosial terpopuler. Namun, galeri foto, yang sebagian besar berisi bot berbahasa Inggris, mewakili persentase yang sangat kecil dari bot di Telegram.
“Kita berbicara tentang peningkatan besar-besaran dalam jumlah orang yang menggunakan jenis data ini,” kata Ajder tentang bot Telegram.
Dia khawatir bot ini merusak kehidupan dan menciptakan situasi buruk, terutama bagi perempuan.
Pelanggaran gambar tidak sah, sering disebut sebagai pelanggaran gambar tidak sah (NCII) mulai muncul pada akhir tahun 2017, dengan munculnya pengembangan AI. Di luar internet, ada situs yang mencari “kurus” dan “telanjang” dengan alat sederhana dan bot Telegram, dan digunakan untuk mendata ribuan perempuan dan anak perempuan di seluruh dunia.
Dalam survei terbaru, terungkap bahwa 40 persen siswa Amerika sangat kecewa dengan sekolah K-12 mereka dalam satu tahun terakhir.
Bot Telegram yang ditemukan Wired didukung oleh 25 saluran Telegram. Saluran Telegram memberi tahu orang-orang tentang teknologi terbaru yang ditawarkan oleh bot dan penawaran khusus untuk token yang dapat dibeli untuk digunakan.
Setelah menghubungi Telegram dengan pertanyaan tentang izin perusahaan untuk membuat konten mendalam di platformnya, perusahaan tersebut menghapus 75 bot dan saluran. Perusahaan tidak menanggapi pertanyaan atau komentar tentang alasan pembukaan saluran tersebut.
Bot ini merupakan aplikasi kecil yang ada di dalam aplikasi Telegram. Pemilik saluran memposting pesan ke jumlah pelanggan yang tidak terbatas. Kelompok hingga 200.000 orang dapat berkomunikasi. Pengembang membuat bot yang memungkinkan orang mengajukan pertanyaan sederhana, menafsirkan pesan, membuat peringatan, dan memulai forum Zoom.
Banyak bot palsu memiliki nama dan deskripsi yang merujuk pada ketelanjangan dan penari telanjang wanita. “Saya bisa melakukan apapun yang Anda inginkan dengan wajah atau pakaian dari gambar yang Anda berikan kepada saya,” kata pembuat bot tersebut.
Hampir semua bot mengharuskan orang membeli token untuk membuat gambar, dan tidak jelas apakah mereka melakukan apa yang mereka katakan. Seiring berkembangnya ekosistem seputar pembelajaran mendalam dalam beberapa tahun terakhir, ekosistem ini telah menjadi sumber pendapatan bagi pembuat situs web, aplikasi, dan bot.
Jadi, banyak orang yang mencoba menggunakan situs web “spoiler” sehingga penjahat dunia maya Rusia, seperti dilansir 404Media, mulai membuat situs web palsu untuk menginfeksi orang dengan malware.
Terlepas dari kesederhanaan bot Telegram pertama, yang muncul beberapa tahun lalu, teknologi yang diperlukan untuk membuat gambar yang dihasilkan AI telah meningkat – dan beberapa masih menyembunyikan bot di depan mata.
Satu bot dengan lebih dari 300.000 pengguna per bulan tidak mengungkapkan sesuatu yang spesifik dalam nama atau tingkat situsnya. Namun, ketika pengguna mengklik untuk menggunakan bot, dikatakan ada lebih dari 40 pilihan gambar, yang sebagian besar sangat feminin.
“Gambar-gambar palsu ini dapat membahayakan kesehatan dan kesejahteraan seseorang dengan menyebabkan trauma emosional dan perasaan malu, takut, malu dan malu,” kata Emma Pickering, direktur operasi dan teknologi di Refuge, yang terbesar di Inggris. kelompok kekerasan. Halo
Ketika penyelaman mendalam menjadi lebih mudah dilakukan dan disebarkan, pembuat undang-undang dan perusahaan teknologi lamban dalam membendung gelombang ini. Di seluruh Amerika Serikat, 23 negara bagian telah mengeluarkan undang-undang yang menjadikan deep vaping ilegal, dan kelompok teknologi telah meluncurkan kebijakan lain.
Namun, aplikasi yang mampu melakukan penyelaman mendalam telah muncul di Apple dan Google Store, penyelaman mendalam Taylor Swift dilaporkan pada X pada bulan Januari, dan keterlibatan Big Tech telah menyediakan infrastruktur bagi orang-orang untuk membuat artikel dengan mudah di web dalam.
Kate Ruane, direktur Pusat Demokrasi dan Teknologi, mengatakan bahwa sebagian besar teknologi besar kini memiliki kebijakan yang mencegah penyebaran gambar yang tidak pantas, termasuk protokol utama yang disetujui untuk kontak psikis.
“Menurut saya, tidak terlalu jelas apakah dilarang membuat atau membagikan gambar yang tidak pantas di platform,” kata Ruane tentang ketentuan Telegram, yang rinciannya bukan yang pertama dalam perkembangan teknologi besar.
Kelompok masyarakat sipil telah lama mengkritik pendekatan Telegram dalam menyebarkan konten, karena platform tersebut memiliki sejarah menyembunyikan penipu, kelompok sayap kanan, dan mereka yang terkait dengan terorisme. Sejak CEO dan pendiri Telegram Pavel Durov ditangkap dan dijatuhi hukuman di Prancis pada bulan Agustus sehubungan dengan serangkaian kejahatan, Telegram telah mulai melakukan beberapa perubahan pada persyaratan layanannya dan memberikan informasi kepada lembaga penegak hukum.
