Jakarta, tiradar.id – Sebuah penyelidikan baru mengungkapkan bahwa jutaan pengguna memanfaatkan chatbot bertenaga AI di platform Telegram untuk menciptakan gambar telanjang dan eksplisit dari orang sungguhan.
Menurut laporan dari Wired, pengguna dapat dengan mudah memanipulasi foto hanya dengan beberapa klik untuk menghapus pakaian atau membuat adegan seksual yang tidak nyata. Teknologi ini disebut sebagai “deepfake,” dan penggunaannya telah mencapai angka empat juta orang setiap bulan.
Para ahli mengingatkan akan bahaya serius yang ditimbulkan oleh teknologi ini, terutama bagi wanita muda dan gadis remaja. Henry Ajder, seorang peneliti yang telah menemukan chatbot semacam ini empat tahun lalu, menyuarakan kekhawatirannya.
“Ini sangat mengerikan, terutama dengan jumlah pengguna yang aktif di platform ini,” katanya. Ajder menekankan bahwa chatbot semacam ini dengan mudah diakses di web permukaan dan melalui salah satu aplikasi terbesar di dunia, Telegram.
Telegram, yang awalnya dikenal sebagai platform untuk layanan pesan, kini menjadi pusat distribusi bot berbahaya tersebut. Ketika Wired mencoba menghubungi perusahaan Telegram terkait masalah ini, mereka tidak menerima respons. Namun, beberapa bot yang terlibat dalam penyebaran gambar palsu tersebut menghilang dari platform tak lama setelah itu.
Bot-bot ini dengan jelas menyebutkan tujuan mereka dalam deskripsinya, yang secara eksplisit merujuk pada penghilangan pakaian dari foto wanita. Para kreator bot tersebut bahkan menulis promosi yang mendorong pengguna untuk memanfaatkan kecanggihan AI untuk “mengedit” foto sesuai keinginan mereka.
Emma Pickering, kepala penyalahgunaan yang difasilitasi teknologi di organisasi amal Refuge, menyatakan bahwa gambar-gambar palsu ini dapat menimbulkan trauma psikologis bagi korbannya. Mereka sering kali merasa terhina, takut, dan bersalah akibat penyalahgunaan gambar pribadi. Sayangnya, pelaku kekerasan melalui gambar palsu ini jarang dimintai pertanggungjawaban.
Meskipun CEO Telegram, Pavel Durov, baru-baru ini menghadapi tuduhan memfasilitasi pornografi anak, perubahan dalam operasi platform tersebut masih sangat minim. Situasi ini menimbulkan kekhawatiran global terkait penggunaan teknologi AI untuk kejahatan siber, terutama yang berdampak pada perempuan dan anak-anak.
