Era perang pintar dengan kecerdasan buatan atau AI bukan lagi sekadar skenario futuristik, melainkan realitas yang mulai menyentuh ranah pertahanan Indonesia. Namun, tanpa kerangka hukum yang kokoh, adopsi teknologi ini berisiko menginjak-injak prinsip dasar etika perang dan menodai martabat hukum internasional. Praktik delegasi keputusan mematikan kepada algoritma, seperti dalam sistem target acquisition, bukan sekadar soal efisiensi, melainkan ancaman serius terhadap prinsip distinction dan proportionality yang menjadi jantung Hukum Humaniter Internasional.
Pelan Menuju Perang Tanpa Jiwa: Ancaman terhadap Distinction dan Akuntabilitas
Integrasi AI dalam sistem militer, terutama untuk mendukung pengambilan keputusan operasional, menyimpan paradoks yang berbahaya. Di satu sisi, ia menjanjikan presisi dan kecepatan. Namun di sisi lain, ia berpotensi melanggar prinsip pembedaan (principle of distinction) sebagaimana diatur dalam Pasal 48 Protokol Tambahan I Konvensi Jenewa 1949. Prinsip ini mewajibkan pihak yang bertikai untuk senantiasa membedakan antara kombatan dengan warga sipil dan objek sipil. Ketidakmampuan algoritma menafsirkan konteks dan nuanse manusia dapat berujung pada:
- Kesalahan Identifikasi Target: Algoritma mungkin gagal membedakan petani dengan senjata tradisional dari kombatan bersenjata, atau salah mengidentifikasi rumah sakit lapangan sebagai markas militer.
- Erosi Akuntabilitas (Responsibility Gap): Siapa yang bertanggung jawab ketika sistem otonom membuat keputusan mematikan yang salah? Komandan, programer, atau institusi? Delegasi ini mengaburkan rantai komando dan prinsip tanggung jawab individu dalam hukum internasional.
- Pelanggaran Prinsip Proporsionalitas: Tanpa penilaian manusiawi, sistem sulit menimbang apakah kerusakan sampingan (collateral damage) terhadap warga sipil dan objek sipil tidak berlebihan dibanding keuntungan militer konkret yang diantisipasi.
Ini bukan sekadar risiko teknis, melainkan krisis etika yang menggerogoti fondasi moral peradaban dalam konflik bersenjata.
Kekosongan Regulasi: Ruang Gelap Tanpa Pengawasan Hukum
Indonesia saat ini berada dalam zona abu-abu yang berbahaya. Minat untuk mengadopsi teknologi AI dalam bidang pertahanan tampaknya tidak diimbangi dengan kesungguhan membangun pagar hukum dan etika yang mengikat. Regulasi nasional yang spesifik mengatur pengembangan, pengujian, dan penggunaan sistem otonom mematikan (Lethal Autonomous Weapons Systems/LAWS) praktis tidak ada. Kekosongan ini menciptakan situasi dimana:
- Penelitian dan pengembangan dapat berjalan tanpa pengawasan lembaga independen atau transparansi publik.
- Pihak militer berpotensi mengoperasionalkan sistem yang belum teruji secara memadai dari segi kepatuhan hukum internasional.
- Tidak ada mekanisme yang jelas untuk menilai dan meminta pertanggungjawaban atas pelanggaran etika dan hukum yang mungkin dilakukan oleh sistem berbasis AI.
Tanpa kerangka hukum domestik yang selaras dengan norma internasional, Indonesia berisiko tidak hanya melanggar komitmennya terhadap Konvensi Jenewa, tetapi juga menciptakan preseden berbahaya dimana teknologi menguasai manusia, bukan sebaliknya.
Pertanyaan paling mendasar yang harus dijawab oleh para aktivis hukum, pembuat kebijakan, dan seluruh masyarakat sipil adalah: Apakah kita rela membiarkan algoritma—yang tak memiliki kesadaran, empati, atau pertimbangan moral—menentukan hidup dan mati manusia dalam konflik? Ketika senjata otonom akhirnya digunakan dan terjadi tragedi kemanusiaan, kepada siapa kita akan menuntut keadilan? Di hadapan mesin, atau di hadapan cermin yang memantulkan kelalaian kita dalam membangun sistem hukum dan etika yang manusiawi? Momentum untuk bertindak dan merumuskan framework hukum yang spesifik dan berprinsip adalah sekarang, sebelum martabat hukum kita benar-benar dikorbankan di altar efisiensi teknologi semata.
