AI Jadi Ancaman Maut di Afrika

"Deepfake, video, audio - sangat mudah untuk memproduksi disinformasi secara cuma-cuma di rumah menggunakan kecerdasan buatan (AI). Apa yang mungkin terjadi dalam lima atau sepuluh tahun? Itu benar-benar menakutkan," ujar Kepala Program Media Konrad Adenauer Foundation (KAS) di Afrika sub-Sahara, Hendrik Sittig. Yayasan tersebut didirikan oleh Partai Uni Demokratik Kristen Jerman (CDU) dan baru saja menerbitkan studi tentang disinformasi dengan menggunakan AI.

Disinformasi bertenaga AI dinobatkan sebagai risiko global nomor satu, demikian tercatat dalam Laporan Risiko Global 2024 Forum Ekonomi Dunia. Disinformasi dan berita palsu bertujuan untuk merusak prinsip-prinsip demokrasi dan memecah belah masyarakat, papar Sittig kepada DW.

Penulis studi tersebut - Karen Allen dari Institut Studi Keamanan di Pretoria dan Christopher Nehring dari cyberintelligence.institute (CII) di Frankfurt - mendokumentasikan disinformasi AI di Afrika, terutama yang berkaitan dengan pemilu nasional. Seringkali tujuannya adalah untuk melemahkan otoritas dan proses pemilu. Namun, penelitian tersebut menambahkan peringatannya: Di luar pemilu, disinformasi AI jarang dipelajari di Afrika.

Studi: Rusia menggunakan kampanye sebagai "alat permanen"

Allen dan Nehring membandingkan tantangan di Eropa dan Afrika - dan menemukan kesamaan: "Kami dapat mengidentifikasi banyak aktor yang sama di belakang mereka yang juga menggunakan aplikasi AI yang sama," papar Nehring kepada DW.

Menurut Nehring, partai politik ekstremis sayap kanan sangat aktif menggunakan AI untuk kampanye dan disinformasi. Satu negara menonjol dalam hal penyebaran berita palsu: "Rusia telah menjadikan permainan kotor ini sebagai instrumen permanen kebijakannya di tingkat internasional," tulis studi tersebut. Namun, di Afrika, aktor lain seperti Cina atau negara Arab juga mencoba menyebarkan narasi mereka melalui propaganda, imbuh laporan itu.

Aktor yang memiliki hubungan dengan negara lain, tetapi juga organisasi teror, ekstremis dan penjahat dunia maya menggunakan AI dalam kampanye disinformasi daring terutama untuk menghasilkan konten, ujar Nehring.

Di banyak negara Afrika, ada satu faktor yang secara tidak sengaja membatasi jangkauan disinformasi yang dihasilkan AI, yakni: Akses ke internet dan jejaring sosial seringkali mahal di Afrika dan di beberapa tempat tidak ada sama sekali.

Para penulis menemukan bahwa penyebaran apa yang disebut ”deepfake” (konten hasil manipulasi yang tampak realistis, misalnya wajah selebritas dimasukkan ke dalam rekaman atau suaranya dipalsukan menggunakan AI) atau "cheapfake" yang produksi kontennya lebih murah dan mudah dideteksi masih relatif belum matang.

Namun, yang dipertaruhkan, menurut Karen Allen, adalah akses "ke informasi yang jelas, dapat diverifikasi, dan jujur ​​yang dapat dijadikan dasar penilaian politik masyarakat," ungkapnya kepada DW.

Studi kasus di Kongo

Konflik berkepanjangan di timur laut Republik Demokratik Kongo antara pasukan pemerintah, pemberontak M23 dan pasukan negara tetangga Rwanda telah menciptakan lahan subur bagi disinformasi dan ujaran kebencian.

Konflik kekerasan telah meningkat dalam beberapa minggu terakhir. Allen mengatakan bahwa opini publik dipengaruhi oleh gambar dan konten teks yang dikaitkan dengan sejumlah akun media sosial di Rwanda. "Hal ini memperkuat kecurigaan bahwa tokoh politik tertentu memperburuk ketegangan antara kedua belah pihak."

Dalam kasus Rwanda, kata Allen, kecerdasan buatan digunakan untuk membanjiri platform media sosial dengan konten untuk meminggirkan pendapat yang berbeda. Taktik jenis ini terutama digunakan di tempat-tempat yang berada dalam fase transisi atau situasi konflik, tetapi juga selama pemilihan umum.

Lebih banyak berita palsu di wilayah yang tidak stabil

Pengaruh melalui AI telah meningkat pesat di Afrika selama bertahun-tahun, seperti yang ditunjukkan berbagai penelitian. Namun, pada saat bersamaan, jumlah organisasi pemeriksa fakta terakreditasi di Afrika yang secara aktif mencari konten AI juga bertambah. Hal ini mungkin juga mencerminkan kepentingan negara donor.

Misalnya, platform Real 411 didirikan di Afrika Selatan. Hal ini memungkinkan pemilih untuk melaporkan kekhawatiran tentang konten politik secara daring, termasuk kemungkinan penggunaan AI.

Dengan sekitar 26 juta pengguna media sosial, Afrika Selatan menawarkan khalayak luas untuk manipulasi informasi bertenaga AI selama pemilihan umum 2024. Partai Umkhonto we Sizwe (MK) yang baru dibentuk mantan Presiden Jacob Zuma mendistribusikan video deepfake Presiden AS Donald Trump yang menyatakan dukungannya terhadap partai MK. Menurut penelitian, ini adalah konten AI yang paling sering dibagikan selama pemilu.

Salah satu penggunaan deepfake AI pertama yang terdokumentasikan di Afrika dianggap sebagai video yang diambil setelah kudeta di Burkina Faso pada September 2022 - yang kedua dalam satu tahun - di mana Ibrahim Traoré menjadi kepala negara. Saat itu, serangkaian video buatan AI beredar yang mengajak warga untuk mendukung junta militer.

Avatar memengaruhi pemilu

Video palsu tersebut, pertama kali ditemukan di Facebook dan kemudian disebarkan di grup-grup WhatsApp dan di Twitter/X, memperlihatkan orang-orang yang menggambarkan diri mereka sebagai Pan-Afrikanis. Dugaan hubungan dengan kelompok Wagner Rusia, yang masih ada saat itu, ternyata ambigu.

"Ternyata mereka adalah avatar yang diciptakan untuk mendukung narasi politik, dalam hal ini kudeta," tandas Allen. Materi tersebut dibuat menggunakan alat AI Synthesia.

"Kami telah melihat platform yang sama digunakan oleh aktor lain, termasuk yang berbasis di Cina, untuk menciptakan jenis distorsi serupa," kata Allen.

Bagaimana warga negara Afrika dapat melindungi diri mereka dari manipulasi semacam itu? "Dengan memiliki berbagai sumber berbeda untuk memperoleh berita dan akses informasi yang lebih baik," tegas Allen.

Eropa memiliki peraturan perlindungan data yang sangat ketat: "Kami belum memilikinya di Afrika." Namun Allen mengatakan, meningkatkan penyebaran praktik pengecekan fakta atau platform tempat orang dapat melaporkan dugaan disinformasi merupakan langkah awal yang baik.

Diadaptasi dari artikel DW bahasa Jerman