Penelitian dari Trend Micro menunjukkan bahwa pelaku kejahatan siber kini semakin memanfaatkan kecanggihan AI di dunia bisnis, salah satunya dengan menggunakan teknologi deepfake. Penggunaan AI untuk kejahatan ini semakin mudah diakses dan biaya yang diperlukan pun lebih murah daripada sebelumnya. Hal ini membuat penjahat dengan berbagai tingkat keahlian dapat dengan mudah melancarkan serangan dalam skala besar untuk mengecoh korban, dengan tujuan pemerasan, pencurian identitas, penipuan, atau penyebaran informasi palsu.

Kevin Simzer, COO Trend Micro, mengungkapkan bahwa penelitian terbaru mereka telah menemukan beberapa tools deepfake terbaru yang memudahkan pelaku kejahatan siber untuk melakukan scam, rekayasa sosial, dan upaya menerobos keamanan dengan lebih efektif. Untuk melindungi pelanggan mereka, baik dari kalangan enterprise maupun konsumen, Trend Micro memimpin industri dalam upaya melawan balik dengan kemampuan baru mendeteksi deepfake dan berbagai bentuk penipuan berbasis AI lainnya.

Menurut Kevin, mendeteksi dan mengatasi metode kejahatan berbasis AI ini menjadi sangat penting agar kita dapat mengelola risiko serangan yang ada di dunia bisnis dengan lebih baik, serta menurunkan risiko online secara keseluruhan bagi konsumen. Riset Trend Micro juga menunjukkan bahwa 71% konsumen sudah menganggap deepfake sebagai hal yang negatif, terutama karena penggunaannya yang seringkali untuk tujuan penipuan.

Analisis dari Gartner, Dan Ayoub, juga menyatakan bahwa aplikasi generative AI berkualitas tinggi saat ini sudah sangat canggih dan mampu menciptakan konten yang sangat realistis sehingga dapat mengecoh audiens dengan mudah. Hal ini menunjukkan bahwa deepfake memiliki risiko signifikan bagi enterprise modern dan individu, mulai dari dampak finansial hingga potensi bahaya terhadap kesehatan mental atau fisik.