Perkembangan Kecerdasan Buatan dalam sistem senjata otonom mematikan (LAWS) telah meluncurkan dunia ke dalam krisis regulasi dan etika yang belum pernah terjadi sebelumnya. Ini bukan lagi sekadar perdebatan teknologi, melainkan pelanggaran mendasar terhadap martabat hukum itu sendiri. Ketika mesin diberi mandat untuk mengambil keputusan hidup-mati, fondasi utama hukum humaniter internasional—seperti prinsip pembedaan antara kombatan dan sipil, serta prinsip proporsionalitas dan pencegahan penderitaan berlebih—terancam diambil alih oleh logika algoritma yang tak memahami konteks, belas kasih, atau pertanggungjawaban. Hukum perang, yang dirancang untuk mengatur perilaku manusia, kini didelegasikan ke entitas non-manusia, menciptakan jurang akuntabilitas yang menganga dan mengancam inti dari tatanan hukum internasional yang dibangun berabad-abad.
Mendehumanisasi Perang dan Mengikis Prinsip-Prinsip Fundamental Hukum Humaniter
Laju teknologi yang mendorong senjata otonom mengancam untuk mengikis prinsip-prinsip inti hukum humaniter yang menjadi pilar etika perang modern. Hukum Jenewa dan Protokol Tambahannya menempatkan penilaian manusia sebagai sentral dalam setiap penggunaan kekuatan mematikan. Dengan LAWS, penilaian ini dialihkan ke algoritma yang diprogram untuk memproses data dalam milidetik, suatu proses yang terlalu mekanistik untuk menangkap kompleksitas moral dari medan tempur. Sistem otonom ini berpotensi melanggar norma dasar secara sistematis:
- Prinsip Pembeda (Distinction): Algoritma, sekalipun canggih, berjuang untuk secara konsisten dan kontekstual membedakan kombatan yang sah dari warga sipil, pengungsi, atau personel medis dalam situasi dinamis dan samar.
- Prinsip Proporsionalitas (Proportionality): Menghitung kerusakan sipil yang ‘diperbolehkan’ memerlukan pertimbangan nilai moral yang dalam—sebuah domain di mana mesin tidak memiliki kompetensi.
- Prinsip Pencegahan Penderitaan Tak Perlu (Precaution): Pengambilan keputusan manusia yang memadai, yang mencakup penangguhan serangan jika ada keraguan, merupakan kewajiban hukum. Delegasi otomatis mereduksi kewajiban ini menjadi pemeriksaan teknis biner.
Evolusi ini tidak hanya mengancam aturan perang tetapi berpotensi menurunkan ambang masuk ke dalam konflik. Ilusi ‘perang bersih’ yang minim korban di pihak pengguna senjata otonom dapat mendorong negara-negara untuk lebih mudah memilih jalan militer, menciptakan siklus instabilitas baru yang justru mengabaikan jalan diplomasi dan penyelesaian sengketa secara damai.
Kesenjangan Akuntabilitas: Tantangan Terbesar bagi Hukum Pidana Internasional
Dampak paling mengkhawatirkan dari sistem senjata otonom yang dioperasikan oleh AI adalah terciptanya ‘kesenjangan akuntabilitas’ (accountability gap). Hukum pidana internasional, dari Statuta Roma Mahkamah Pidana Internasional hingga prinsip komando yang bertanggung jawab (command responsibility), berakar pada akuntabilitas individu manusia. Ketika sebuah senjata otonom melanggar hukum humaniter, pertanyaan kritis muncul: siapa yang bertanggung jawab?
- Programmer atau Pengembang: Sulit dibuktikan adanya mens rea (niat kriminal) dalam kode yang dibuat untuk tujuan umum, apalagi jika perilaku tak terduga muncul dari interaksi kompleks AI dengan lingkungan.
- Komandan yang Mengoperasikan: Jika sistem benar-benar otonom, tingkat kendali dan pengetahuan langsung komandan atas tindakan spesifik senjata menjadi sangat terbatis, melemahkan pilar pertanggungjawaban komando.
- Negara Pengguna: Meskipun negara dapat dimintai pertanggungjawaban secara negara (state responsibility), mekanisme ini seringkali kurang efektif dalam memberikan keadilan kepada korban dan mencegah pengulangan kejahatan dibandingkan pertanggungjawaban pidana individu.
Kesenjangan ini bukan hanya celah hukum teknis; ia merupakan ancaman eksistensial terhadap konsep keadilan dalam perang. Ia menciptakan zona bebas hukum (legal black hole) di mana pelanggaran serius dapat terjadi tanpa ada individu yang dapat diadili, sehingga merusak deterensi dan merendahkan martabat korban.
Dalam konteks geopolitik, Indonesia memiliki mandat moral dan strategis yang kuat. Sebagai anggota aktif Gerakan Non-Blok dengan komitmen terhadap perdamaian dan stabilitas regional, Indonesia harus memimpin advokasi untuk kerangka hukum yang mengikat secara internasional guna melarang atau secara ketat membatasi senjata otonom mematikan. Dukungan terhadap inisiatif seperti kendali manusia yang bermakna (meaningful human control)—yang menegaskan bahwa keputusan akhir untuk menggunakan kekuatan mematikan harus tetap berada di bawah penilaian dan kendali manusia yang memadai—adalah langkah konkret yang selaras dengan nilai-nilai konstitusi dan politik luar negeri bebas-aktif Indonesia.
Tanpa intervensi hukum yang tegas dan kolektif, dunia berisiko menyaksikan degradasi tertinggi dari konflik bersenjata: dari suatu arena di mana kemanusiaan dan hukum berjuang untuk membatasi kekerasan, menjadi sebuah kompetisi dingin antara algoritma-algoritma pembunuh yang tak berperasaan. Pertanyaan etis yang paling mendesak kini bukan lagi apakah kita bisa membangun senjata semacam itu, tetapi apakah kita, sebagai komunitas hukum internasional, memiliki keberanian moral untuk secara tegas mengatakan tidak sebelum titik tidak kembalinya itu terlampaui? Tidakkah kewajiban tertinggi kita adalah memastikan bahwa perang, dalam bentuknya yang paling mengerikan sekalipun, tetap menjadi urusan manusia yang bertanggung jawab—bukan mesin yang tak dapat diadili?
