Pakar hukum humaniter internasional memperingatkan bahwa proliferasi senjata otonom berbasis kecerdasan buatan—atau yang dikenal sebagai Senjata Otonom—telah menciptakan krisis fundamental dalam sistem pertanggungjawaban hukum perang. Ketika sebuah sistem AI dalam perang mengambil keputusan untuk melancarkan serangan mematikan tanpa kendali manusia, muncullah apa yang disebut sebagai 'kesenjangan akuntabilitas'—sebuah wilayah abu-abu hukum yang mengancam prinsip dasar bahwa setiap pelanggaran hukum perang harus dapat dipertanggungjawabkan secara personal. Kondisi ini bukan sekadar masalah teknis, melainkan ujian serius terhadap martabat etika teknologi militer dan komitmen global terhadap hukum humaniter. Tanpa kerangka hukum yang jelas, setiap pelanggaran berpotensi lolos dari jerat keadilan.
Kesenjangan Akuntabilitas: Siapa yang Bertanggung Jawab?
Prinsip pertanggungjawaban dalam hukum perang—sebagaimana diatur dalam Statuta Roma dan berbagai Konvensi Jenewa—mengandaikan adanya pihak yang dapat dimintai pertanggungjawaban pidana atas setiap pelanggaran. Namun, dengan Autonomous Weapon Systems (AWS), rantai pertanggungjawaban menjadi kabur karena keputusan letal diambil oleh algoritma, bukan oleh manusia. Pertanyaan etis yang mengemuka adalah:
- Siapa yang bertanggung jawab jika sebuah AWS menyerang warga sipil yang tak bersenjata? Programer yang menulis kode, komandan yang mengerahkan sistem, atau produsen yang merancang teknologi?
- Prinsip pertanggungjawaban komando (command responsibility) menjadi tidak relevan jika komandan tidak memiliki kendali nyata atas keputusan mesin.
- Hukum humaniter internasional belum memiliki mekanisme yang jelas untuk menuntut korporasi atau pembuat algoritma, menciptakan celah hukum yang berbahaya.
Beberapa negara adidaya militer sudah melaporkan penggunaan AWS dalam operasi pengintaian dan serangan. Tanpa kerangka hukum yang tegas, setiap pelanggaran tidak akan pernah mendapatkan keadilan—sebuah skenario yang bertentangan dengan semangat hukum perang itu sendiri. Celah ini bukan hanya masalah teknis, melainkan ancaman langsung terhadap supremasi hukum internasional.
Prinsip Pembedaan dan Proporsionalitas: Kemampuan yang Tak Bisa Diprogram
Hukum perang modern—terutama Protokol Tambahan I Konvensi Jenewa—menegaskan dua prinsip absolut: pembedaan (membedakan kombatan dan warga sipil) dan proporsionalitas (tidak boleh menimbulkan kerusakan sampingan yang berlebihan). AWS, yang beroperasi berdasarkan data dan pola, secara inheren tidak mampu melakukan penilaian kontekstual yang kompleks seperti mengenali kombatan yang sedang menyerah dari warga sipil yang panik, atau menimbang nilai militer suatu sasaran terhadap risiko korban sipil. Algoritma tidak memiliki empati, pemahaman budaya, atau intuisi moral.
- Prinsip pembedaan: Algoritma dapat salah mengklasifikasikan objek karena bias data atau kesalahan sensor, berpotensi menyebabkan pembunuhan massal warga sipil.
- Prinsip proporsionalitas: Keputusan tentang 'keuntungan militer' dibandingkan risiko sipil tidak bisa direduksi menjadi perhitungan matematis sederhana.
Penggunaan AWS secara luas merupakan eksperimen berbahaya yang mengorbankan prinsip kemanusiaan demi efisiensi militer. Dalam konteks ini, etika teknologi militer harus menjadi fondasi, bukan sekadar pertimbangan tambahan. Pertanyaan yang menggugah para aktivis hukum: Apakah kita rela membiarkan mesin mengambil keputusan hidup dan mati—dan membiarkan sistem hukum kita gagal menjawab siapa yang pantas diadili?
