Di tengah era perkembangan kecerdasan buatan (AI) generatif, para pakar digital mengkhawatirkan masa depan politik yang diliputi oleh disinformasi. Ini bisa dilihat dari banyaknya konten manipulatif yang murah dan dibuat dalam skala besar.

Pemilu Amerika Serikat (AS) di 2016, nyata-nyata dibanjiri situs berita palsu yang menimbulkan perpecahan. Empat tahun kemudian, keadaan tetap tidak berkembang menjadi lebih baik. Malahan dipenuhi dengan teori konspirasi dan klaim tidak berdasar sehingga memicu gerakan antidemokrasi untuk membatalkan Pemilu.

Kini, menjelang Pemilu 2024, para ahli memperingatkan kemajuan AI berpotensi mengambil taktik disinformasi pada masa lalu. Disinformasi yang dihasilkan oleh AI, tidak hanya mengancam untuk menipu khalayak, tetapi juga mengikis ekosistem informasi yang sudah diperangi dengan membanjirinya dengan ketidakakuratan dan penipuan.

“Tingkat kepercayaan akan turun, pekerjaan jurnalis dan pihak lain yang mencoba menyebarkan informasi aktual akan menjadi lebih sulit. Ini tidak akan berdampak positif pada ekosistem informasi,” kata penasihat senior di Electronic Privacy Information Center, Ben Winters.

Alat Baru untuk Taktik Lama

Masa depan pemilu di era kecerdasan buatan (ilustrasi) - (Unsplash/Dan Dennis)

SHARE    

Dilansir The Guardian, Rabu (13/9/2023), alat AI yang dapat membuat gambar fotorealistik, meniru audio suara, dan menulis teks telah meningkat penggunaannya tahun ini karena perusahaan seperti OpenAI telah merilis produk mereka ke pasar massal. Teknologi yang telah mengancam akan merugikan banyak industri ini, sayangnya makin banyak digunakan untuk menciptakan konten politik.

Contohnya, parodi audio AI dari Presiden AS yang sedang bermain video gim menjadi tren viral dan gambar yang menunjukkan Donald Trump melawan petugas polisi yang mencoba menangkapnya. Semua konten itu adalah konten manipulasi yang berisi pesan menyesatkan.

Kehadiran AI generatif telah membuat semua orang bisa mengaksesnya. Untuk dampak potensialnya, para ahli memperingatkan demokratisasi dan percepatan propaganda menjelang Pemilu.

Turunnya Standar Disinformasi

Ancaman disinformasi di pemilu 2024 (ilustrasi) - (Freepik)

SHARE    

Potensi dampak buruk AI pada Pemilu bisa menjadi kekhawatiran terbesar akibat campur tangan pemilu selama beberapa dekade terakhir. Bot media sosial yang berpura-pura menjadi pemilih sungguhan, terus memanipulasi video atau gambar.

Selain itu, ada pula robocall yang menipu, semuanya lebih mudah dibuat dan lebih sulit dideteksi dengan bantuan alat AI. Robocall adalah modus kejahatan yang menggunakan nomor telepon samaran dengan memalsukan nomor ponsel orang lain yang masih aktif.

Teknologi AI juga dapat mengintensifkan kampanye penindasan pemilih untuk menargetkan komunitas yang terpinggirkan. Dua aktivis sayap kanan tahun lalu mengakui bahwa mereka melakukan lebih dari 67 ribu robocall yang menargetkan pemilih kulit hitam di wilayah barat tengah, dengan informasi yang salah mengenai pemilu.

Para ahli seperti Winters mencatat, AI secara hipotetis dapat digunakan untuk mereplikasi kampanye semacam itu dalam skala yang lebih besar dengan informasi yang lebih personal. Audio yang meniru pemimpin terpilih atau tokoh tepercaya dapat memberikan informasi menyesatkan kepada kelompok pemilih tertentu tentang pemilu dan pemungutan suara atau menyebabkan kebingungan umum.

Kampanye Menguji Keadaan

Pemilu 2024 dan eratnya penggunaan AI (ILUSTRASI) - (Unsplash/Element5 digital)

SHARE    

Kampanye sudah mulai mencoba menggunakan konten yang dihasilkan AI untuk tujuan politik. Setelah gubernur Florida, Ron DeSantis, mengumumkan pencalonannya melalui siaran langsung di Twitter pada bulan Mei, Donald Trump mengejek lawannya dengan video parodi pengumuman yang menampilkan suara DeSantis, Elon Musk, dan Adolf Hitler yang dihasilkan oleh AI.

Ini dibalas dengan kampanye DeSantis membagikan gambar Trump yang sedang memeluk dan mencium Anthony Fauci yang dibuat oleh AI. Selama pemilu 2016 dan 2020, kampanye Trump sangat bergantung pada mim dan video yang dibuat oleh para pendukungnya.

Seiring dengan meningkatnya penggunaan AI generatif, banyak platform media sosial yang diandalkan pelaku kejahatan untuk menyebarkan disinformasi, mulai membatalkan beberapa langkah moderasi konten mereka. Salah satunya, YouTube yang membatalkan kebijakan integritas pemilu, Instagram mengizinkan ahli teori konspirasi antivaksin Robert F Kennedy Jr, kembali menggunakan platformnya dan kepala moderasi konten Twitter meninggalkan perusahaan.

Masih harus dilihat seberapa efektif literasi media dan cara-cara pengecekan fakta tradisional dalam melawan banjirnya teks dan gambar yang menyesatkan karena potensi skala konten yang dihasilkan merupakan tantangan baru. “Gambar dan video yang dihasilkan oleh AI dapat dibuat jauh lebih cepat dibandingkan dengan yang dapat ditinjau dan dibantah oleh pemeriksa fakta. Hype mengenai AI juga dapat merusak kepercayaan dengan membuat masyarakat percaya bahwa segala sesuatu dapat dibuat secara artifisial,” kata Peneliti di Pusat Keamanan dan Teknologi Georgetown University, Josh Goldstein. 

Pembenahan di Platform

  ​

Google milik Alphabet Inc, akan mewajibkan semua pengiklan untuk transparan jika mereka membuat iklan politik atau kampanye berbasis kecerdasan buatan (AI). Kebijakan ini dinilai krusial, mengingat saat ini Amerika Serikat akan memasuki tahun politik jelang pemilihan umum (pemilu).

Dalam sebuah pernyataan belum lama ini, Google mengungkapkan, aturan ini akan berlaku mulai pertengahan November 2023 untuk konten gambar, video, dan audio, di seluruh platformnya. Alat AI telah dimanfaatkan oleh individu, bahkan perusahaan untuk mempermudah pekerjaan.

Termasuk dalam membuat skrip, mengedit video, gambar, dan bahkan audio untuk iklan politik. Ironisnya, alat AI seperti deepfakes, berpotensi mengaburkan batas antara fakta dan fiksi, sehingga menyulitkan para pemilih untuk membedakan yang asli dan yang palsu.

Iklan kampanye dengan bantuan AI juga dapat membuat seseorang seolah-olah mengatakan atau melakukan sesuatu yang tidak dikatakan atau dilakukan. Tidak hanya itu, alat AI juga dapat mengedit cuplikan peristiwa nyata untuk kemudian dipelintir.

“Mengingat semakin maraknya alat yang menghasilkan konten sintetis, kami memperluas kebijakan dengan mewajibkan pengiklan untuk mengungkapkan jika iklan pemilu mereka menyertakan materi yang telah diedit atau dibuat dengan AI,” kata Google seperti dilansir Reuters, Ahad (10/9/2023).

Bulan lalu, perusahaan keamanan siber milik Google, Mandiant, melihat peningkatan penggunaan AI untuk melakukan kampanye manipulatif secara daring. Meskipun sejauh ini, penggunaan teknologi tersebut dalam gangguan digital lainnya masih terbatas.

Menurut Mandiant, AI generatif juga akan memungkinkan kelompok-kelompok dengan sumber daya terbatas untuk menghasilkan konten berkualitas lebih tinggi dalam skala besar. Itu artinya, iklan politik yang muncul nanti kemungkinan akan lebih manipulatif. Karena itulah aturan Google ini sangat dibutuhkan. “Setiap konten sintetis yang tidak relevan dengan klaim yang dibuat dalam iklan akan dikecualikan dari persyaratan disclosure,” kata Mandiant dan Google.

Google dan platform iklan digital lain, seperti Facebook dan Instagram (Meta) saat ini, sudah memiliki beberapa kebijakan seputar iklan pemilu dan unggahan yang diubah secara digital. Pada 2018, misalnya, Google mulai mewajibkan proses verifikasi identitas untuk menjalankan iklan pemilu di platformnya. 

 

Pekerjaan jurnalis dan pihak lain yang mencoba menyebarkan informasi aktual akan menjadi lebih sulit.

 

BEN WINTERS, Penasihat senior di Electronic Privacy Information Center. 

 

 

SHARE    

Gerakan “Literasi Umat” merupakan ikhtiar untuk memudahkan masyarakat mengakses informasi. Gerakan bersama untuk menebarkan informasi yang sehat ke masyarakat luas. Oleh karena informasi yang sehat akan membentuk masyarakat yang sehat.

Donasi Literasi Umat