Penggunaan kecerdasan buatan dalam kampanye pengaruh online semakin meningkat, tetapi memiliki efek terbatas – perusahaan elektronik AS

Perusahaan keamanan siber AS Mandiant, yang dimiliki oleh Google, mengatakan pada hari Kamis bahwa mereka telah melihat peningkatan penggunaan kecerdasan buatan (AI) untuk melakukan kampanye informasi manipulatif online dalam beberapa tahun terakhir, meskipun teknologi tersebut telah digunakan untuk intrusi digital lainnya sejauh ini. terbatas pada.

Para peneliti di perusahaan yang berbasis di Virginia menemukan “banyak kasus” sejak 2019 di mana konten buatan AI, seperti gambar profil buatan, digunakan dalam kampanye pengaruh online bermotivasi politik.

Laporan tersebut mengatakan bahwa kampanye tersebut termasuk kampanye yang diluncurkan oleh kelompok yang bersekutu dengan pemerintah Rusia, China, Iran, Ethiopia, Indonesia, Kuba, Argentina, Meksiko, Ekuador, dan El Salvador.

Ini terjadi di tengah ledakan baru-baru ini dalam model AI generatif seperti ChatGPT, yang membuatnya sangat mudah untuk membuat video, gambar, teks, dan kode komputer palsu yang disamarkan. Pejabat keamanan telah memperingatkan bahwa formulir semacam itu digunakan oleh penjahat dunia maya.

AI generatif dapat memungkinkan kelompok dengan sumber daya terbatas untuk menghasilkan konten berkualitas tinggi dalam skala besar, menurut peneliti Mandiant.

Misalnya, kampanye media terkait negara China yang disebut Dragonbridge telah menyebar “sangat” di 30 platform sosial dan 10 bahasa berbeda sejak mulai menargetkan pengunjuk rasa pro-demokrasi di Hong Kong pada 2019, kata Sandra Joyce, wakil presiden Mandian Intelligence .

Namun, dampak kampanye semacam itu terbatas. “Dari segi efikasi, belum banyak yang tercapai,” ujarnya. “Mereka belum benar-benar mengubah lintasan lanskap ancaman.”

China telah membantah tuduhan AS sebelumnya tentang keterlibatan dalam kampanye semacam itu.

Mandiant, yang membantu organisasi publik dan swasta menanggapi pelanggaran digital, mengatakan belum melihat AI memainkan peran penting dalam ancaman dari Rusia, Iran, China, atau Korea Utara.

“Sejauh ini, kami belum melihat reaksi apa pun terkait AI,” kata Joyce. “Mereka tidak benar-benar dikerahkan untuk tujuan praktis di luar apa yang bisa dilakukan dengan alat biasa yang telah kita lihat.”

Namun, dia menambahkan, “kami sangat yakin bahwa ini akan menjadi masalah yang hanya akan menjadi lebih buruk dari waktu ke waktu.” (Laporan oleh Zeba Siddiqui di San Francisco; Disunting oleh Alexandra Hudson)