NEW YORK – Aktor di balik video AI palsu Synthesias angkat bicara: Dalam beberapa tahun terakhir, avatar yang dihasilkan AI telah menjadi tren, memberikan teks yang diperlukan dengan cara yang meyakinkan.
Baca juga – Meningkatnya penyebaran narasi menentang propaganda radikal
Namun, video-video ini juga digunakan untuk propaganda dan promosi para pemimpin junta dan kediktatoran. Kini beberapa aktor asli di balik video tersebut angkat bicara. Inilah yang mereka katakan
Avatar manusia yang dihasilkan AI dapat menyampaikan teks Anda dengan diksi sempurna dan terlihat sangat alami.
Namun bagaimana jika video tersebut digunakan untuk mendukung rezim yang menindas dan perusahaan kriminal? Itulah yang terjadi dengan avatar yang dibuat melalui aplikasi AI Synthesia, dan sekarang orang-orang yang digunakan untuk membuat model AI angkat bicara.
Menurut laporan di The Guardian, teknologi startup yang berbasis di London, yang baru-baru ini mencapai status unicorn (kapitalisasi pasar US$1 miliar), digunakan untuk mendukung Ibrahim Traore, yang memimpin kudeta militer tahun 2023 di Burkina Faso.
Penyiar AI yang terlatih digunakan dalam video yang muncul di platform seperti Telegram, mendesak masyarakat untuk mendukung pemimpin junta yang kemudian menjadi presiden.
Synthesia terutama ditujukan untuk membuat video pemasaran. Namun, teknologi deepfake digunakan untuk membuat video promosi di platform, sehingga melanggar persyaratan layanannya.
Para aktor yang bahasa tubuhnya digunakan untuk melatih model AI merasa dikhianati dan kesehatan mentalnya terpengaruh oleh asosiasi negatif tersebut.
Synthesia, yang mengklaim telah meningkatkan moderasi kontennya, membantah bahwa The Guardian masih dapat memproduksi video dengan memberikan teks kontroversial.
Video sintetis digunakan untuk menyebarkan disinformasi oleh negara-negara termasuk Rusia dan Tiongkok.
Dua video Venezuela yang menampilkan klip berita palsu yang disajikan oleh avatar Sinthesia muncul di YouTube dan Facebook. Salah satu pembawa berita palsu mengutuk “klaim media Barat” tentang ketidakstabilan ekonomi dan kemiskinan di Venezuela.
Dalam salah satu video, avatar AI mengatakan bahwa dia adalah CEO dari platform cryptocurrency.
Marc Torres, aktor di balik video di Burkina Faso, mengatakan kepada The Guardian bahwa dia merasa dilecehkan dan rentan saat melihat fotonya dihapus.
“Saya merasa terkejut, tidak ada kata-kata yang bisa saya ucapkan saat ini… Saya tidak pernah merasa begitu terhina dan rentan,” kata Torres, seperti dikutip The Guardian.
“Saya tidak ingin ada orang yang melihat saya seperti itu,” tambah Torres. “Fakta bahwa foto saya ada di sana menjelaskan semuanya… Orang-orang akan mengira saya ikut serta dalam kudeta.”
“Mengetahui bahwa perusahaan yang citranya saya percayai akan lolos membuat saya sangat marah sehingga bisa mengorbankan nyawa saya dan membunuh saya ketika saya melintasi perbatasan imigrasi.”
“Bukan aku, itu hanya wajahku. Tapi mereka akan mengira saya menyetujuinya,” kata Dan Dewhurst, yang berperan dalam menciptakan penyiar asli yang digunakan dalam video Venezuela.
“Banyak orang telah menghubungiku mengenai hal ini… Namun, mungkin ada orang lain yang melihat ini dan tidak mengatakan apa pun atau diam-diam menghakimiku karenanya.”
“Saya sangat marah. Hal ini berdampak pada kesehatan mental saya,” katanya, seraya menambahkan bahwa hal tersebut menimbulkan kecemasan yang sangat besar.
The Guardian juga mengutip mantan karyawan Synthesia yang tidak disebutkan namanya yang mengatakan bahwa AI tidak bisa melupakan apa yang dilatih untuk membuat model berdasarkan bahasa tubuh orang sungguhan.
Hal ini memerlukan penghapusan total model AI, katanya.
Synthesia mengatakan kepada surat kabar tersebut bahwa mereka tidak mengizinkan avatar untuk konten politik, termasuk “konten yang akurat secara faktual tetapi dapat menciptakan polarisasi.”
Didirikan pada tahun 2017 oleh tim Victor Riparbelli dan Steven Tegereld, klien Synthesia meliputi Microsoft, Zoom, Xerox, dan Ernst & Young.
