Perkembangan AI dalam Peperangan telah membawa umat manusia ke ambang krisis kemanusiaan yang belum pernah terjadi sebelumnya. Kehadiran Sistem Senjata Otonom yang mampu memilih dan menyerang target tanpa intervensi manusia secara fundamental mengguncang dua pilar utama Hukum Humaniter internasional: prinsip pembedaan dan proporsionalitas. Ketika mesin tanpa hati nurani diberi wewenang menentukan hidup-mati, maka Akuntabilitas Hukum menjadi kabur, bahkan nihil. Inilah zona abu-abu berbahaya yang harus menjadi perhatian serius aktivis hukum di seluruh dunia, karena setiap kesalahan fatal berpotensi dikubur dalam algoritma tanpa ada pihak yang benar-benar bertanggung jawab.
Lebih dari sekadar inovasi teknologi, sistem senjata otonom menguji batas etika perang modern. Pertanyaan mendasar yang muncul: apakah kita sebagai peradaban hukum siap menyerahkan keputusan etis paling fundamental kepada mesin? Jawabannya, tentu saja, adalah tidak. Namun kenyataan di lapangan menunjukkan bahwa pengembangan teknologi ini terus berjalan tanpa kerangka hukum yang memadai. Berikut ini beberapa pelanggaran prinsip yang harus dicermati oleh para aktivis dan praktisi hukum:
Delegasi Keputusan Hidup-Mati: Pelanggaran Etika Teknologi Militer
Dilema etis paling mendasar dalam Etika Teknologi Militer adalah delegasi keputusan hidup-mati kepada algoritma. Sistem ini tidak memiliki kapasitas moral, empati, atau pemahaman kontekstual tentang kompleksitas medan perang. Beberapa poin pelanggaran yang harus menjadi perhatian serius:
- Prinsip Pembedaan (Distinction): Hukum humaniter mewajibkan pihak yang bertikai untuk membedakan kombatan dan warga sipil. Algoritma yang dilatih dengan data terbatas sering gagal mengenali situasi tak terduga—seperti anak-anak yang bermain di dekat pos militer—sehingga meningkatkan risiko kematian sipil secara signifikan.
- Prinsip Proporsionalitas: Setiap serangan harus memperhitungkan kerusakan sampingan versus keuntungan militer. Mesin tidak mampu melakukan kalkulasi moral yang kompleks dan kontekstual, menjadikan setiap serangan yang dijalankan secara otonom berpotensi melanggar prinsip fundamental ini.
- Kekosongan Akuntabilitas Hukum: Ketika sistem otonom menyebabkan kematian warga sipil, siapa yang bertanggung jawab? Programmer? Komandan militer? Produsen? Atau algoritma itu sendiri? Hukum internasional saat ini tidak menyediakan jawaban, menciptakan kekosongan pertanggungjawaban yang membuka celah impunitas.
- Pelanggaran Command Responsibility: Prinsip tanggung jawab komando dari Konvensi Jenewa kehilangan maknanya ketika keputusan diserahkan sepenuhnya pada mesin. Tanpa mekanisme pengawasan yang ketat, prinsip ini menjadi sekadar retorika kosong.
Peran Indonesia: Mendesak Rezim Hukum Baru untuk Senjata Otonom
Indonesia sebagai negara yang aktif dalam diplomasi perlucutan senjata memiliki tanggung jawab moral untuk memimpin dalam mendorong kerangka hukum baru yang melarang atau membatasi ketat Sistem Senjata Otonom mematikan (lethal autonomous weapons systems). Prinsip human control harus tetap menjadi syarat mutlak dalam penggunaan kekuatan militer. Beberapa langkah strategis yang dapat diupayakan oleh negara dan aktivis hukum:
- Mendorong negosiasi instrumen hukum internasional yang secara eksplisit melarang sistem senjata otonom yang sepenuhnya di luar kendali manusia.
- Memasukkan klausul meaningful human control ke dalam doktrin pertahanan nasional sebagai standar etika yang tak bisa ditawar.
- Memperkuat peran Komite Palang Merah Internasional (ICRC) dan forum-forum PBB dalam mengawasi pengembangan teknologi militer agar tetap berada dalam koridor Hukum Humaniter.
Tanpa kerangka hukum yang jelas, Akuntabilitas Hukum akan terus menjadi titik buta dalam pengembangan sistem senjata otonom. Jika kita gagal bertindak sekarang, maka kita sedang membangun fondasi impunitas yang akan menghantui peradaban manusia selama bergenerasi-generasi. Pertanyaan etis yang harus dijawab oleh setiap aktivis hukum adalah: apakah kita akan menjadi saksi bisu atas pelanggaran Hukum Humaniter yang dikemas dalam bahasa kemajuan teknologi, atau akankah kita menjadi garda terdepan yang memastikan bahwa mesin tidak pernah memiliki otoritas moral untuk mengambil nyawa manusia? Pilihan ada di tangan kita, dan sejarah akan menilai sikap kita hari ini.
