Pilkada 2024, Pakar Komunikasi Stikosa AWS Ingatkan Potensi Hoaks Berbasis AI

“Dengan menggunakan algoritma, seseorang dapat mengganti wajah atau suara dalam video asli dengan yang lain, sehingga tampak seolah-olah orang tersebut melakukan atau mengatakan sesuatu yang sebenarnya tidak pernah mereka lakukan atau katakan,” pesannya.

Kedua, pembuatan suara sintetis. Riesta melihat, produksi konten ini memanfaatkan teknologi Text-to-Speech (TTS) yang dapat menghasilkan suara manusia yang sangat alami dengan meniru nada, intonasi, dan emosi.

AI dapat dilatih untuk meniru suara individu tertentu dengan cukup akurat, yang memungkinkan pembuat hoaks untuk menghasilkan rekaman suara yang seolah-olah berasal dari orang terkenal atau pejabat publik.

Dengan mengumpulkan data suara dari rekaman yang ada, AI dapat menganalisis dan menciptakan pola suara yang mirip dengan suara target, sehingga memungkinkan pembuatan audio yang sangat meyakinkan.

“Ketiga adalah manipulasi gambar. Teknologi generatif seperti DALL-E atau Stable Diffusion dapat digunakan untuk menciptakan gambar yang sepenuhnya baru atau memanipulasi gambar yang sudah ada. Ini dapat mencakup pembuatan gambar palsu dari tokoh publik dalam situasi yang merugikan atau menyesatkan,” urainya.

Saat teknologi AI berkembang pesat, deteksi hoaks berbasis AI menjadi semakin sulit. Meskipun ada alat yang dirancang untuk mendeteksi deepfake dan konten palsu lainnya, teknologi juga terus berkembang, sehingga menciptakan tantangan bagi pakar keamanan dan media untuk mengidentifikasi konten yang sebenarnya.