JAKARTA – Dalam studi terbaru, ditemukan jutaan pengguna menggunakan chat bertenaga AI di Telegram untuk membuat gambar telanjang dan transparan dari orang sungguhan.
Bot tersebut memungkinkan pengguna untuk mengubah foto dengan beberapa klik dan membuat foto palsu yang menghilangkan pakaian dari gambar atau menciptakan aktivitas seksual, menurut laporan yang diterbitkan oleh Wired.
Seperti dilansir Wion News, laporan tersebut juga menyebutkan bahwa 4 juta pengguna menggunakan chatbot ini setiap minggunya untuk menghasilkan wawasan.
Para ahli seperti Henry Ajder telah menunjukkan bahwa ada risiko besar yang terkait dengan robot semacam itu, terutama bagi anak perempuan dan perempuan muda.
Ajder menemukan chatbot virtual empat tahun lalu di platform media sosial. Ia menegaskan, situasinya “mengerikan” mengingat banyaknya orang yang aktif menggunakannya.
“Sangat mengerikan bahwa alat-alat yang menghancurkan kehidupan dan menciptakan situasi yang mengerikan terutama bagi anak perempuan dan perempuan – masih tersedia dan ditemukan di permukaan, di salah satu sumber daya terbesar di dunia,” jelasnya.
Telegram, yang terutama dikenal karena layanan terjemahan dan peringatannya, telah berubah menjadi pusat bagi bot jahat tersebut.
Wired mengatakan bahwa ketika mereka menghubungi perusahaan tersebut, mereka tidak mendapat tanggapan, tetapi bot tersebut menghilang dari platform.
Menurut laporan, bot palsu memiliki informasi tentang apa yang harus dilakukan. Nama dan deskripsi bot tersebut jelas mengacu pada ketelanjangan dan pakaian wanita.
“Saya bisa melakukan apapun yang Anda inginkan pada wajah atau pakaian di foto yang Anda berikan kepada saya,” tulis Wired, seperti yang ditulis salah satu pengembang bot. Rasakan keajaiban AI (Artificial Intelligence),” sahut yang lain.
Berbicara tentang dampak gambar palsu ini pada Wired, dalam bab pengungsi tentang eksploitasi yang difasilitasi teknologi dan pemberdayaan ekonomi, Emma Pickering berkata, “Jenis gambar palsu ini dapat membahayakan kesehatan dan kesejahteraan masyarakat dengan menciptakan trauma psikologis dan perasaan malu. , ketakutan, rasa malu, dan rasa bersalah.”
“Meski jenis kekerasan ini biasa terjadi, namun pelakunya tidak dihakimi, dan kita tahu bahwa jenis kekerasan ini semakin meningkat dalam hubungan intim pasangan,” ujarnya.
Awal bulan ini, CEO Telegram Pavel Durov menghadapi tuduhan memfasilitasi pornografi anak, namun layanan platform tersebut tidak banyak berubah.
