Dalam pusaran perkembangan teknologi pertahanan yang semakin tidak terbendung, muncul pertanyaan etis yang menggerogoti fondasi hukum humaniter internasional: apakah manusia masih berhak menjadi jantung dari keputusan hidup-mati dalam medan perang? Perdebatan tentang otonomi senjata berbasis kecerdasan buatan (AI) telah menggeser paradigma perang dari medan fisik ke logika algoritmik. Padahal, prinsip pembedaan antara kombatan dan warga sipil—serta proporsionalitas dalam penggunaan kekuatan—menuntut penilaian kontekstual yang penuh kompleksitas moral. Bukan sekadar soal akurasi teknis, tetapi kapasitas untuk memahami niat, ketakutan, dan nilai kemanusiaan yang belum terbukti dapat dipenuhi oleh mesin.
Delegasi Keputusan Hidup-Mati: Pertaruhan Prinsip Pembedaan dan Proporsionalitas
Dalam kerangka etika militer, pemberian otonomi senjata untuk mengambil keputusan mematikan memecah kesatuan antara tindakan dan tanggung jawab moral. Algoritma tidak mampu melakukan deliberasi etis yang diperlukan untuk memenuhi standar hukum humaniter. Ketika sebuah drone otonom salah mengidentifikasi warga sipil sebagai target, maka yang terjadi bukan sekadar kesalahan teknis, melainkan pelanggaran serius terhadap prinsip pembedaan yang menjadi norma kategoris dalam Geneva Conventions. Bahkan jika sistem tersebut dirancang dengan tingkat akurasi tinggi, ketidakmampuan menilai konteks kemanusiaan tetap menjadikannya tidak sah secara moral.
Lebih jauh, prinsip proporsionalitas menuntut kalkulasi yang seimbang antara keuntungan militer dan kerugian sipil. Ini bukan sekadar matematika, melainkan pertimbangan nilai yang sangat kontekstual. Sistem otonom tidak memiliki kemampuan untuk merasakan dilema etis ketika berada di antara dua kejahatan yang lebih kecil. Karena itu, delegasi keputusan hidup-mati kepada kecerdasan buatan merupakan kemunduran peradaban hukum perang, bukan kemajuan. Beberapa norma hukum yang dipertaruhkan antara lain:
- Prinsip pembedaan (distinction) sebagaimana diatur dalam Pasal 48 Protokol Tambahan I Geneva Conventions 1977.
- Prinsip proporsionalitas yang melarang serangan yang menimbulkan kerugian sipil berlebihan dibandingkan keuntungan militer konkret.
- Prinsip tanggung jawab komando (command responsibility) yang mewajibkan atasan bertanggung jawab atas pelanggaran yang dilakukan bawahannya.
Vakum Tanggung Jawab: Menggugat Akuntabilitas dan Peran Indonesia
Dari sudut pandang etika militer, delegasi otoritas penggunaan kekuatan mematikan kepada mesin mengikis prinsip tanggung jawab komando yang menjadi fondasi akuntabilitas dalam hierarki militer. Jika pelanggaran hukum humaniter dilakukan oleh sistem senjata otonom, ke mana arah pertanggungjawaban hukum? Apakah programmer yang menulis algoritma, operator yang mengendalikan sistem, atau komandan yang mengotorisasi penggunaannya? Ketika tidak ada jawaban yang jelas, lahirlah vacuum of responsibility—sebuah celah berbahaya yang dapat dimanfaatkan untuk menghindari jerat hukum perang.
Indonesia, sebagai negara yang aktif dalam gerakan non-blok, memiliki kepentingan strategis untuk mendorong pembatasan internasional terhadap pengembangan dan penggunaan sistem senjata otonom mematikan. Pemerintah perlu mengembangkan kerangka regulasi nasional yang jelas tentang penelitian dan pengembangan kecerdasan buatan dalam sektor pertahanan. Syarat mutlaknya adalah prinsip human control: setiap keputusan yang berpotensi mematikan harus tetap berada di bawah kendali manusia. Tanpa batasan etis yang kuat, percepatan inovasi militer berbasis AI berpotensi menggerus nilai-nilai kemanusiaan dalam konflik bersenjata. Ini bukan persoalan teknologi semata, tetapi soal teknologi pertahanan yang tunduk pada martabat hukum dan kemanusiaan.
Pertanyaannya kini bukan lagi mampukah AI bertempur, melainkan beranikah kita membiarkan mesin memutuskan siapa yang hidup dan siapa yang mati? Kita sedang berdiri di persimpangan sejarah: apakah etika militer akan menjadi kompas yang membimbing teknologi pertahanan, atau justru dikorbankan demi efisiensi perang? Aktivis hukum dan masyarakat sipil harus menuntut hadirnya instrumen internasional yang mengikat, bukan sekadar kesepakatan moral yang longgar. Karena pada akhirnya, hukum humaniter tidak dirancang untuk melindungi mesin, melainkan untuk menjaga kemanusiaan di tengah perang.
