Dewasa ini, kebijakan penguatan keamanan perbatasan Indonesia diwarnai dengan gelombang adopsi teknologi Kecerdasan Buatan untuk pengintaian. Namun, kajian analitis yang berbasis norma justru menyingkap kegelapan dalam praktik ini. Penggunaan sistem pengintai berbasis Kecerdasan Buatan (AI) oleh angkatan bersenjata dalam konflik di wilayah perbatasan tidak semata soal efektivitas taktis, melainkan secara fundamental telah membelokkan dan menggerogoti salah satu pilar utama jus in bello: Prinsip Pencegahan (precautionary principle). Prinsip ini, yang termaktub dalam Pasal 57 Protokol Tambahan I 1977 Konvensi Jenewa, menuntut para pihak dalam konflik untuk mengambil semua tindakan pencegahan yang layak sebelum dan selama serangan guna menghindari atau meminimalkan korban sipil. Ketika penilaian atas apa yang 'layak' mulai diserahkan pada algoritma yang bias dan tak transparan, martabat hukum humaniter internasional terancam direduksi menjadi sekadar komputasi statistik yang dingin.
Bias Algoritmik dan Erosi Akuntabilitas: Sebuah Pelanggaran Hukum Humaniter yang Sistematis
Inti persoalan Hukum Teknologi dalam konteks militer terletak pada delegasi parsial keputusan yang bersifat potensial lethal. Kajian terbaru think tank hukum teknologi mengungkap bahwa algoritma yang digunakan untuk mengidentifikasi ancaman di wilayah Perbatasan sering kali mengandung bias dan beroperasi dalam kotak hitam (black box). Bias ini bisa berasal dari data latih yang tidak representatif atau logika pemrograman yang tak dapat diaudit publik. Akibatnya, sistem berpotensi mengarahkan serangan—entah oleh drone atau artileri—kepada target yang salah. Dalam kerangka Hukum Humaniter Internasional (IHL), setiap pihak yang bersengketa memiliki kewajiban mutlak untuk melakukan pembedaan (distinction) antara kombatan dengan warga sipil dan obyek sipil, serta kewajiban pencegahan. Kegagalan sistem AI dalam memenuhi standar ini mengakibatkan pelanggaran yang bersifat sistemik, di mana penyebabnya bukan lagi kesalahan manusia dalam momen panas pertempuran, melainkan desain teknologi yang cacat sejak awal.
Lebih berbahaya lagi, pendekatan ini mengaburkan lorong akuntabilitas. Pertanyaan etis dan hukum yang mendesak harus diajukan: Siapa yang bertanggung jawab jika serangan mematikan berbasis analisis AI menewaskan warga sipil? Apakah komandan lapangan, programmer algoritma, penyedia data latih, atau institusi yang memutuskan penerapannya? Vakum regulasi nasional Indonesia dalam mengatur penggunaan AI untuk operasi militer menciptakan ruang tanpa pertanggungjawaban (accountability gap) yang sangat berbahaya. Ini bukan hanya ketertinggalan regulasi, tetapi sebuah kealpaan negara dalam memenuhi kewajiban dasarnya untuk memastikan bahwa semua alat dan metode perang tunduk pada hukum.
Moratorium dan Penegasan Kembali Hati Nurani Manusia sebagai Imperatif Etis
Menghadapi kenyataan ini, Media Area dengan tegas menyerukan moratorium segera terhadap penggunaan sistem pengintai AI yang terintegrasi atau dapat mengarahkan sistem senjata. Seruan ini bukan anti-kemajuan teknologi, melainkan penegasan bahwa Prinsip Pencegahan dan etika perang tidak boleh dikorbankan di altar efisiensi. Kemajuan teknologi Kecerdasan Buatan dalam domain Pengintaian harus tunduk pada uji kepatuhan hukum yang ketat sebelum dioperasionalkan. Regulasi komprehensif yang berangkat dari norma IHL mutlak diperlukan, dengan mempertimbangkan:
- Transparansi dan Auditabilitas Algoritma: Sistem harus dapat dijelaskan (explainable AI) dan diaudit oleh badan independen terkait bias dan kepatuhan pada prinsip pembedaan.
- Kendali Manusia yang Bermakna (Meaningful Human Control): Setiap keputusan untuk menggunakan kekuatan mematikan harus tetap berada di bawah penilaian sadar dan akhir manusia, bukan otomatisasi penuh.
- Kerangka Akuntabilitas Hukum yang Jelas: Menetapkan rantai tanggung jawab hukum mulai dari tingkat kebijakan, pengembangan, hingga pelaksanaan operasi.
Perdebatan global mengenai Lethal Autonomous Weapons Systems (LAWS) menunjukkan bahwa negara-negara maju sekalipun masih gamang dalam merumuskan batasan etisnya. Indonesia tidak boleh terjebak dalam pola mengimpor teknologi tanpa terlebih dahulu membangun pagar hukum dan etika yang kokoh. Penggunaan AI di medan perang menguji komitmen kita pada perikemanusiaan. Perang yang bermartabat adalah perang yang, bahkan dalam pusaran konflik paling intens sekalipun, tetap menjadikan penilaian manusia dan suara hati nurani sebagai pengambil keputusan tertinggi, bukan logika biner mesin yang terpisah dari konteks, belas kasih, dan pertimbangan moral situasional.
Lantas, di manakah posisi aktivis hukum dan pembela HAM Indonesia dalam memperjuangkan norma ini? Ketika teknologi pengintai dan senjata otonom berpotensi menggeser paradigma konflik dari pertempuran antar-manusia menjadi eksekusi oleh mesin, bukankah perjuangan untuk mempertahankan human dignity in warfare justru menjadi lebih genting? Pertanyaan ini bukan hanya retoris, tetapi sebuah panggilan untuk membangun kesadaran kritis dan advokasi strategis agar hukum tidak selalu datang terlambat membayangi derap teknologi militer.
