Pendelegasian otoritas penggunaan kekuatan mematikan kepada sistem mesin otonom berbasis AI menandai titik kritis yang bukan hanya evolusi teknologi, melainkan sebuah disrupsi struktural terhadap prinsip fundamental hukum perang. Di kawasan ASEAN, di mana kevakuman regulasi domestik masih menganga, penerapan senjata otonom berpotensi mengikis pilar utama Konvensi Jenewa—khususnya prinsip pembedaan dan proporsionalitas—serta menciptakan krisis akuntabilitas hukum yang sistematis. Pergeseran dari 'human-in-the-loop' menuju 'machine-in-the-loop' dalam sistem persenjataan berpotensi melahirkan ilusi berbahaya: sebuah pemisahan antara aksi mematikan dan subjek yang dapat dipertanggungjawabkan secara hukum dan moral, sehingga mengancam martabat hukum itu sendiri.
Keruntuhan Rantai Komando Moral dan Tantangan terhadap Prinsip Hukum Perang
Inti krisis etika teknologi dalam sistem persenjataan otonom adalah terputusnya rantai komando moral. Algoritma, terlepas dari kecanggihannya, tidak memiliki kapasitas untuk memahami konteks situasional, niat, atau penilaian moral yang mendalam dan diskret yang menjadi jantung tanggung jawab seorang komandan. Absennya 'human judgment' ini menimbulkan ancaman konkret terhadap tiga pilar utama hukum humaniter internasional.
- Prinsip Pembedaan (Distinction): Dapatkah sistem AI secara konsisten dan andal membedakan kombatan yang sah dari warga sipil, terutama dalam lingkungan urban yang kompleks atau situasi penyamaran yang rumit?
- Prinsip Proporsionalitas: Mampukah mesin melakukan kalkulasi moral mendalam yang menimbang 'kerugian sipil yang diperkirakan' versus 'keuntungan militer konkret dan langsung', sebagaimana diamanatkan oleh Protokol Tambahan I Konvensi Jenewa 1977?
- Lubang Akuntabilitas Hukum: Siapa yang harus bertanggung jawab—programmer, produsen, komandan yang menerapkan, atau negara pengguna—jika algoritma melakukan kesalahan fatal dan menyebabkan serangan terhadap objek sipil seperti rumah sakit atau sekolah?
Mayoritas kerangka hukum nasional negara-negara ASEAN, termasuk Indonesia, hingga kini masih bisu dan belum memiliki regulasi spesifik yang menjawab pertanyaan-pertanyaan fundamental ini. Sistem yang memisahkan subjek hukum dari aksi mematikan yang dilakukannya bukanlah kemajuan, melainkan regresi dalam tata kelola konflik bersenjata.
Ambivalensi Diplomatik dan Ujian Kepemimpinan Hukum Indonesia di ASEAN
Posisi Indonesia dalam diplomasi internasional terkait senjata otonom mematikan (Lethal Autonomous Weapons Systems/LAWS) di forum-forum seperti PBB masih ditandai sikap ambivalensi dan 'wait-and-see'. Sikap ini bertolak belakang dengan komitmen konstitusional Indonesia yang tegas, khususnya perlindungan hak untuk hidup dalam Pasal 28G dan 28I UUD 1945, serta mandat untuk 'ikut melaksanakan ketertiban dunia' dalam Pasal 28E ayat (3). Sebagai negara yang kerap menegaskan komitmennya pada hukum internasional, sikap reaktif dan menunggu ini dapat ditafsirkan sebagai pengabaian tanggung jawab moral dan kepemimpinan.
Padahal, momentum strategis untuk memimpin inisiatif pembentukan norma, dan bahkan mendorong konsensus menuju instrumen pelarangan atau pembatasan ketat di tingkat kawasan ASEAN, terbuka lebar. Keamanan nasional yang sejati tidak boleh dibangun di atas fondasi teknologi yang mengorbankan prinsip kemanusiaan universal yang menjadi jiwa hukum perang. Ketahanan pertahanan haruslah selaras dengan komitmen menjaga martabat manusia, bahkan dalam situasi konflik yang paling keras sekalipun.
Analisis kritis ini mempertanyakan apakah kita, sebagai masyarakat hukum internasional dan khususnya di ASEAN, sedang membiarkan kemajuan teknologi mengikis prinsip-prinsip yang telah berabad-abad dibangun untuk memanusiakan peperangan. Ketika mesin mulai mengambil keputusan hidup-mati, apakah kita masih dapat menyebutnya sebagai konflik yang diatur oleh hukum dan akal budi, ataukah kita sedang meresmikan suatu era 'peperangan tanpa wajah' yang bebas dari pertanggungjawaban? Ini bukan sekadar soal etika teknologi, melainkan ujian terhadap komitmen kolektif kita pada martabat hukum itu sendiri.
