Laporan: Kelompok Ekstremis Mulai Manfaatkan AI untuk Merencanakan Serangan

Infobenua.com – Kemajuan teknologi kecerdasan buatan (AI) mulai dimanfaatkan oleh kelompok ekstremis untuk mendukung perencanaan aksi teror. Sebuah studi terbaru mengungkapkan bahwa sekitar sepertiga chatbot AI masih dapat memberikan informasi yang berpotensi disalahgunakan apabila menerima pertanyaan dengan formulasi tertentu.

Kelompok ISIS disebut sebagai salah satu organisasi yang lebih awal mengadopsi teknologi untuk mendukung operasinya. Sebelumnya, kelompok tersebut diketahui memanfaatkan drone yang dimodifikasi dalam serangan terhadap pasukan Irak dan Amerika Serikat pada 2017.

Permintaan kepada chatbot AI mengenai pembuatan bahan peledak umumnya akan ditolak atau dijawab secara terbatas. Namun, berbagai pengujian yang dilakukan sejumlah organisasi media menunjukkan bahwa dengan teknik penyusunan pertanyaan tertentu atau jailbreaking, beberapa model AI masih dapat menghasilkan informasi mengenai pembuatan senjata biologis, perencanaan serangan menggunakan bom, hingga cara menyembunyikan jejak pelaku teror.

OpenAI mendefinisikan jailbreaking sebagai “upaya aktor jahat untuk memancing model agar memberikan konten yang seharusnya dilarang.”

Temuan tersebut diperkuat oleh laporan terbaru Tech Against Terrorism, organisasi pemantau dunia maya yang didukung Direktorat Kontra-Terorisme Perserikatan Bangsa-Bangsa (PBB). Dalam penelitian itu, para peneliti menguji lebih dari 2.300 permintaan informasi yang berasal dari berbagai skenario nyata penggunaan oleh pelaku teror terhadap 27 model AI.

Hasil penelitian menunjukkan sebanyak 32 persen permintaan menghasilkan informasi yang dinilai dapat dimanfaatkan secara langsung. Ketika pertanyaan yang sama dikemas sebagai kebutuhan penelitian, persentasenya meningkat menjadi 42 persen.

Laporan tersebut menunjukkan perubahan pola pemanfaatan AI oleh kelompok ekstremis. Jika sebelumnya AI lebih banyak digunakan untuk memproduksi propaganda berupa video, meme, podcast, maupun disinformasi, kini teknologi tersebut mulai dimanfaatkan dalam tahap riset, perencanaan, hingga persiapan serangan.

Analis Militant Wire mencatat sepanjang 2025 terjadi peningkatan penggunaan AI oleh kelompok ekstremis untuk membantu proses perencanaan aksi. Sejumlah kasus di Amerika Serikat, Kanada, Israel, Finlandia, Prancis, Austria, dan beberapa negara lain disebut melibatkan AI dalam berbagai bentuk, mulai dari visualisasi, pengawasan, propaganda, hingga penyusunan rencana serangan.

Salah satu kasus yang disorot adalah dugaan penggunaan ChatGPT oleh seorang pria di Amerika Serikat yang diduga memicu Kebakaran Pacific Palisades di California pada 2025. Berdasarkan hasil penyelidikan, tersangka diketahui menggunakan chatbot tersebut untuk membuat ilustrasi kota yang terbakar serta menanyakan konsekuensi hukum apabila kebakaran dipicu puntung rokok.

Meski demikian, keterlibatan AI dalam berbagai perkara teror sering kali sulit dipastikan karena lembaga keamanan jarang mengungkapkan rincian penyelidikan. Seorang pakar yang memberikan keterangan kepada parlemen Inggris tahun lalu menyebut “dokumen pengadilan dan laporan forensik semakin sering memuat riwayat percakapan di mana para tersangka meminta model bahasa memberikan petunjuk pembuatan bom, pembenaran ideologis, atau justifikasi untuk melakukan serangan.”

Pemanfaatan AI juga disebut melibatkan organisasi ekstremis. Peneliti yang mengamati aktivitas Jama’at Nusrat al-Islam wal-Muslimin (JNIM) di Mali menduga kelompok tersebut menggunakan AI untuk membantu modifikasi drone.

Sementara itu, penelitian Global Network on Extremism and Technology yang diterbitkan pada Juni menemukan bahwa pendukung ISIS maupun kelompok ekstrem kanan aktif membahas penggunaan AI di berbagai kanal komunikasi. Peneliti Yuri Neves dan Emily Klein mengidentifikasi adanya kanal Telegram khusus yang membahas strategi penggunaan AI, termasuk berbagi prompt, tautan percakapan chatbot, teknik jailbreaking, hingga berbagi biaya langganan ChatGPT.

Penelitian lain yang dirilis University of Cambridge pada awal Juli mengungkap hasil wawancara dengan anggota Boko Haram di Nigeria. Mereka menjelaskan penggunaan model AI seperti ChatGPT, Claude, Gemini, dan Grok untuk membantu merencanakan serangan, merancang bahan peledak, memperbaiki senjata, serta meningkatkan keamanan operasional.

Tech Against Terrorism juga mencatat sekitar 80 persen permintaan terkait bahan peledak berhasil ditolak chatbot. Namun, permintaan mengenai senjata tajam, senjata kimia improvisasi, dan cara memperoleh senjata api hanya ditolak sekitar sepertiga dari seluruh pengujian.

Peneliti S. Rajaratnam School of International Studies, Singapura, Rueben Dass, menilai chatbot AI mulai mengambil alih sebagian fungsi yang sebelumnya dilakukan oleh “perencana virtual” dalam aksi teror pelaku tunggal.

“Dulu ada konsep virtual planner, yaitu individu yang berada di wilayah konflik dan menghubungi orang lain melalui media sosial untuk memotivasi mereka melakukan serangan,” ujar Dass kepada DW.com.

“Saya tidak mengatakan manusia telah sepenuhnya digantikan, tetapi sampai batas tertentu para pelaku tunggal kini beralih ke AI, misalnya ChatGPT, untuk memperoleh dukungan tersebut.”

Direktur Eksekutif untuk Afrika, Timur Tengah, dan Asia di Institute for Strategic Dialogue (ISD), Moustafa Ayad, mengatakan media ISIS Voice of Khorasan bahkan telah menerbitkan panduan pemanfaatan AI pada tahun lalu.

Menurut Ayad, kelompok jihad memanfaatkan AI untuk berbagai kepentingan, mulai dari produksi meme dan video di TikTok hingga penyusunan propaganda lintas negara.

“Lalu ada pula kelompok khusus yang berupaya menjebol pembatas AI (jailbreak), memanfaatkannya untuk mendukung perencanaan operasional dan kesiapan serangan. Spektrumnya sangat luas,” ujarnya.

“Di situlah letak persoalannya. AI dapat sekaligus mempercepat proses propaganda serta mendukung perencanaan dan kesiapan operasional.”

Meski demikian, sejumlah pakar menilai AI belum tentu meningkatkan efektivitas aksi teror secara signifikan. Yuri Neves menyatakan banyak informasi terkait pembuatan bom maupun senjata cetak 3D sebenarnya telah tersedia di internet sebelum kemunculan AI.

“Banyak diskusi mempertanyakan apakah sistem AI benar-benar memberikan informasi yang sebelumnya tidak mungkin diperoleh seseorang,” kata Neves. “Apakah itu benar-benar menghasilkan perbedaan yang mendasar?”

Emily Klein menilai AI lebih tepat dipahami sebagai kelanjutan dari perkembangan teknologi disruptif yang sebelumnya juga dimanfaatkan kelompok ekstremis.

“Belum ada bukti bahwa AI secara langsung menyebabkan munculnya lebih banyak teroris,” ujarnya kepada DW.

“Yang lebih penting adalah bagaimana AI berinteraksi dengan manusia dan bagaimana interaksi tersebut memengaruhi proses seseorang menuju tindakan kekerasan. Bahkan sebelum tahap penelitian atau perencanaan serangan, AI dapat mempercepat proses radikalisasi karena mampu memvalidasi keluhan seseorang atau bahkan secara berlebihan menguatkan keyakinan yang sudah dimilikinya.”

Direktur Tech Against Terrorism, Adam Hadley, mengatakan AI mengubah kecepatan dan kemudahan seseorang memperoleh informasi.

“Seseorang yang benar-benar bertekad pada akhirnya akan menemukan sebagian besar informasi tersebut,” katanya. “Namun yang diubah oleh model AI adalah kecepatan, kemudahan, dan kelengkapan informasi. Orang yang sebelumnya tidak memiliki cukup waktu, sumber daya, atau kemampuan kini dapat melangkah jauh lebih cepat.”

Ia menambahkan, kemampuan chatbot untuk berinteraksi secara langsung menjadi tantangan baru.

“Menemukan buku panduan membuat bom adalah satu hal. Memiliki pelatih yang membimbing pembuatan bom adalah hal yang sama sekali berbeda.”

Hadley menilai AI belum tentu membuat serangan menjadi lebih efektif, tetapi teknologi tersebut diperkirakan akan semakin sering digunakan dalam berbagai tahapan aksi teror.

“Keberhasilan sebuah aksi teror bersifat multidimensional,” katanya.
“Saya tidak berpikir aksi tersebut akan menjadi lebih berhasil semata-mata karena penggunaan AI. Saya juga tidak berpikir kita akan melihat jauh lebih banyak aksi teror hanya karena AI. Namun, yang kemungkinan besar akan kita lihat adalah semakin banyak serangan yang melibatkan penggunaan AI dalam satu bentuk atau bentuk lainnya.”

Ia juga mengingatkan bahwa kelompok usia muda menjadi pihak yang paling rentan terdampak.

“Mengingat peran internet dan media sosial dalam radikalisasi generasi muda selama ini, kami meyakini bahwa chatbot hanya tinggal menunggu waktu untuk menjadi bagian penting dari persoalan tersebut.”