Di tengah percepatan revolusi teknologi militer, dunia hukum internasional menghadapi ujian fundamental: munculnya sistem senjata otonom berbasis Kecerdasan Buatan (AI) yang berpotensi merongrong sendi-sendi utama etika peperangan. Paradigma hukum dan moralitas yang selama ini melekat pada penilaian manusia kini terancam terdistorsi oleh logika algoritmik, menciptakan kekosongan akuntabilitas (responsibility gap) yang membahayakan martabat hukum humaniter. Tanpa kerangka regulasi yang mengikat, penggunaan sistem otonom dalam peperangan bukan lagi sekadar inovasi taktis, melainkan sebuah eksperimen berisiko tinggi yang mengorbankan prinsip perlindungan kemanusiaan di altar efisiensi militer.
Krisis Akuntabilitas Hukum: Ketika Mesin Menjadi Pelaku Tanpa Penanggung Jawab
Inti dilema etika dan hukum dalam sistem senjata otonom mematikan (LAWS) terletak pada keruntuhan mekanisme pertanggungjawaban. Hukum Humaniter Internasional (IHL) dibangun di atas premis adanya pelaku manusia yang dapat dimintai pertanggungjawaban atas pelanggaran. Namun, ketika AI mengambil alih keputusan untuk membunuh, pertanyaan mendasar menjadi siapa subjek hukum yang layak diadili. Opsi-opsi yang ada menunjukkan kelemahan normatif yang serius:
- Programmer/Developer: Menjatuhkan tanggung jawab kepada mereka mengabaikan konteks operasional yang dinamis dan perintah komando di lapangan, serta mengaburkan garis antara kesalahan desain dan penyalahgunaan.
- Komandan Militer: Membebankan tanggung jawab kepada komando dapat menjadi tidak adil jika sistem berperilaku di luar prediksi yang wajar atau memiliki 'pembelajaran' mandiri yang tak terduga.
- Negara Pengguna: Negara sebagai subjek hukum internasional dapat bersembunyi di balik klaim 'kesalahan teknis' atau 'kegagalan sistem' yang tak terantisipasi, menghindari tanggung jawab negara (state responsibility).
Kesenjangan ini bukan hanya masalah teknis, melainkan kegagalan struktural kerangka hukum global dalam mengantisipasi dehumanisasi konflik bersenjata.
Ujian Besar bagi Prinsip-Prinsip Inti Hukum Humaniter
Keberadaan sistem senjata otonom mengancam tiga pilar utama IHL yang mensyaratkan penilaian kontekstual dan moral yang melekat pada manusia. Kemampuan algoritma untuk mematuhi prinsip-prinsip ini dipertanyakan secara mendasar:
- Prinsip Pembedaan (Distinction): Dapatkah AI memahami nuansa untuk membedakan kombatan yang sedang menyerah, warga sipil yang dipaksa menjadi perisai hidup, atau konteks budaya yang mempengaruhi penampilan? Penilaian manusia atas niat dan situasi ambigu tak dapat direduksi menjadi data biner semata.
- Prinsip Proporsionalitas (Proportionality): Prinsip ini memerlukan kalkulasi moral yang kompleks antara keuntungan militer konkret dan kerugian sipil yang mungkin terjadi. Bisakah mesin melakukan penyeimbangan nilai kemanusiaan yang tak terkuantifikasi secara sempurna tanpa reduksionisme matematika yang berbahaya?
- Prinsip Pencegahan (Precaution): Kewajiban untuk mengambil 'semua langkah yang layak' menghindari korban sipil bersifat sangat kontekstual. Dapatkah sistem otonom dinilai telah memenuhi kewajiban ini dalam arti hukum dan moral, atau ia hanya menjalankan protokol yang telah diprogram?
Tanpa jaminan bahwa prinsip-prinsip ini dapat dipatuhi, penggunaan sistem semacam itu sendiri dapat dianggap sebagai pelanggaran terhadap semangat Konvensi Jenewa dan hukum kebiasaan internasional.
Dunia saat ini beroperasi dalam vakum regulasi yang berbahaya. Tidak ada perjanjian internasional yang mengikat secara khusus yang mengatur siklus hidup LAWS. Perbincangan di bawah Kerangka Konvensi Senjata Konvensional Tertentu (CCW) di PBB berjalan tertatih-tatih, terbelenggu oleh perbedaan kepentingan geopolitik dan lobi industri pertahanan. Kekosongan hukum ini menciptakan arena berbahaya dimana negara-negara dengan kemampuan teknologi dapat terlibat dalam perlombaan senjata otonom baru, dengan logika 'pengembangan dulu, regulasi nanti' yang mengabaikan prinsip kehati-hatian (precautionary principle).
Lantas, di manakah posisi komunitas hukum dan aktivis HAM dalam menghadapi kenyataan pahit ini? Apakah kita akan membiarkan narasi kemajuan teknologi dan kebutuhan keamanan nasional mengerdilkan imperatif perlindungan kemanusiaan yang menjadi jantung etika peperangan? Tantangan terbesar bukan hanya pada menciptakan traktat baru, melainkan pada keberanian untuk menegaskan bahwa wilayah tertentu dari kekuasaan untuk mengambil nyawa harus tetap menjadi domain manusia yang bertanggung jawab—sebuah garis batas etis yang tak boleh ditawar demi menjaga martabat kemanusiaan itu sendiri, bahkan di tengah kobaran perang.
