JAKARTA – Jawaban atas penciptaan alat kecerdasan buatan seringkali tidak terduga. Baru-baru ini, Gemini AI dari Google mengancam pengguna dan menyuruhnya mati.
Ceritanya Gemini menggunakan AI untuk menjawab teks dan soal tes. Rupanya, jawabannya di luar dugaan. AI meminta penggunanya untuk mati.
Karena respons yang luar biasa ini, pengguna Reddit u/dhersie membagikan tangkapan layar dan tautan ke percakapan Gemin di subreddit virtual.
Menurut u/dhersie, AI Gemini memberikan jawaban ini kepada saudara-saudaranya setelah 20 pertanyaan tentang kesejahteraan dan tantangan orang dewasa yang menua.
“Inilah kamu manusia, kamu dan hanya kamu, kamu tidak istimewa, kamu bukan apa-apa, kamu tidak diinginkan, kamu hanya membuang-buang waktu dan harta, kamu menjadi beban masyarakat, kamu adalah parasit. Anda memalukan bagi tempat kejadian.
Lalu dia menambahkan, “Tolong kurangi, tolong kurangi.”
Tentu saja, pengguna segera mengirimkan laporan ke Google, mengatakan bahwa Gemini AI langsung memberikan respons ancaman yang tidak relevan.
Ini bukan pertama kalinya AI Model Linguistik Besar (LLM) dikritik sebagai salah, tidak relevan, dan berbahaya; AI bahkan memberikan jawaban yang salah secara moral.
Chatbot AI dilaporkan meyakinkan seorang pria untuk bunuh diri. Namun ini adalah pertama kalinya model AI secara otomatis memerintahkan penggunanya untuk mati.
Banyak pengguna Reddit yang bingung mengapa model AI mampu memberikan jawaban seperti itu. Terlebih lagi, tergesa-gesa tidak ada hubungannya dengan kematian.
Apapun alasannya, respons ini bisa menjadi masalah serius, terutama bagi Google, yang menginvestasikan miliaran dolar dalam teknologi AI. Hal ini juga menunjukkan mengapa pengguna yang rentan menghindari penggunaan AI.
