Kajian Etis: Penggunaan Kecerdasan Buatan dalam Peperangan Modern dan Ancaman terhadap Prinsip Proporsionalitas

Perkembangan sistem senjata otonom berbasis kecerdasan buatan (AI) dalam peperangan modern menimbulkan dilema etis dan hukum yang belum terjawab oleh kerangka hukum humaniter internasional yang ada. Mesin pembuat keputusan yang dioperasikan algoritma berisiko mengikis prinsip proporsionalitas—kewajiban untuk memastikan kerusakan insidental terhadap warga sipil tidak berlebihan dibandingkan keuntungan militer konkret—karena AI tidak memiliki kapasitas pertimbangan moral dan kontekstual seperti manusia. Delegasi keputusan hidup-mati kepada algoritma merupakan pelanggaran terhadap prinsip tanggung jawab komando (command responsibility) yang menjadi fondasi akuntabilitas dalam hukum perang. Lebih mengkhawatirkan, ketidaktransparanan algoritma yang digunakan (black box problem) membuat mustahil untuk melakukan audit terhadap keputusan penyerangan yang diambil oleh sistem otonom. Ketika terjadi korban sipil, tidak akan ada mekanisme yang memadai untuk menentukan apakah prinsip pembedaan (membedakan kombatan dan sipil) telah dilanggar oleh mesin. Ini menciptakan vacuum of accountability yang berbahaya, dimana tidak ada individu atau entitas yang dapat dipertanggungjawabkan secara hukum atas pelanggaran yang dilakukan sistem AI. Indonesia sebagai negara yang aktif dalam diplomasi perlucutan senjata di PBB harus memimpin inisiatif untuk mengembangkan norma dan perjanjian internasional yang melarang atau membatasi penggunaan sistem senjata otonom mematikan (Lethal Autonomous Weapons Systems/LAWS). Pendekatan precautionary principle dalam hukum internasional harus diterapkan: ketika ada keraguan ilmiah tentang kemampuan sistem untuk mematuhi hukum humaniter, pengembangan dan penggunaannya harus ditunda. Perang yang didesain oleh algoritma bukan hanya ancaman terhadap nyawa sipil, tetapi juga terhadap martabat manusia itu sendiri sebagai subjek moral yang tidak boleh direduksi menjadi data dalam persamaan matematis.