Menolak AI untuk Operasi Militer, Sejumlah Peneliti Google DeepMind Pilih Mundur

JAKARTA, NortonNews.com – Penggunaan kecerdasan buatan atau artificial intelligence (AI) untuk kepentingan militer memicu perdebatan etika di industri teknologi global. Sejumlah peneliti dan insinyur riset dari Google DeepMind dilaporkan memilih meninggalkan perusahaan karena menentang perluasan pemanfaatan teknologi AI dalam operasi militer, termasuk kerja sama dengan Departemen Pertahanan Amerika Serikat dan militer Israel.

Di lansir dari CNN Indonesia –  Senin (26/10/2026), keputusan pengunduran diri tersebut memperlihatkan adanya perbedaan pandangan di internal perusahaan teknologi mengenai batas penggunaan AI. Bagi para peneliti yang mengundurkan diri, pengembangan teknologi tidak hanya berkaitan dengan kemampuan sistem dalam mengolah informasi, tetapi juga menyangkut tanggung jawab moral ketika teknologi tersebut digunakan dalam situasi yang berpotensi mengancam keselamatan manusia.

Salah satu peneliti yang menjadi sorotan adalah Sofia Liguori, seorang research engineer Google DeepMind yang bekerja di London. Ia memutuskan meninggalkan perusahaan setelah sekitar tiga tahun bekerja. Liguori mengaku merasa tidak lagi sejalan dengan arah perusahaan yang semakin memperluas keterlibatan AI dalam kegiatan militer.

Selain Liguori, peneliti AI Andreas Kirsch juga dilaporkan mengundurkan diri pada Oktober 2026. Ia menyoroti persoalan pengawasan, tata kelola, dan keterbatasan kendali perusahaan terhadap penggunaan teknologi yang telah diserahkan kepada pihak militer.

Keputusan sejumlah peneliti tersebut kembali memunculkan pertanyaan mengenai sejauh mana perusahaan teknologi dapat memastikan produknya digunakan sesuai dengan prinsip etika yang mereka nyatakan. Persoalan ini menjadi semakin penting karena kemampuan AI terus berkembang dan mulai diterapkan dalam berbagai aktivitas pertahanan, termasuk pengolahan data intelijen dan penentuan sasaran operasi.

Peneliti Menilai Penggunaan AI Militer Bertentangan dengan Prinsip Etika

Sofia Liguori menyampaikan kekhawatirannya terhadap arah pengembangan teknologi di tempat ia bekerja. Ia menilai peningkatan keterlibatan Google dalam proyek AI untuk kepentingan militer membuat dirinya kehilangan kepercayaan terhadap komitmen etika perusahaan.

Dalam keterangannya kepada BBC, Liguori mengungkapkan bahwa perkembangan tersebut membuatnya merasa tidak nyaman menjadi bagian dari perusahaan. Menurutnya, penggunaan AI untuk operasi militer merupakan persoalan yang tidak dapat dipisahkan dari dampak teknologi terhadap kehidupan manusia.

Keputusan Liguori juga menunjukkan adanya perbedaan antara tujuan awal sebagian peneliti ketika bergabung dengan perusahaan dan perkembangan kebijakan bisnis yang mereka hadapi. Sebagian pekerja teknologi tertarik mengembangkan AI karena berharap teknologi tersebut dapat membantu masyarakat, meningkatkan produktivitas, serta menyelesaikan berbagai persoalan.

Namun, ketika teknologi yang sama digunakan dalam lingkungan militer, muncul pertanyaan mengenai dampaknya terhadap keselamatan manusia dan perlindungan hak asasi. AI yang digunakan untuk membantu mengolah informasi dapat memiliki konsekuensi berbeda ketika hasil analisisnya memengaruhi keputusan tentang operasi bersenjata.

Liguori tetap menyampaikan pandangannya meskipun menyadari adanya batasan dalam kontrak kerjanya terkait pernyataan publik. Ia menilai persoalan penggunaan AI dalam peperangan perlu diketahui masyarakat karena berkaitan dengan tanggung jawab perusahaan teknologi terhadap dampak produk yang mereka kembangkan.

Sementara itu, Andreas Kirsch menilai sistem pengawasan Google belum cukup kuat untuk menjamin penggunaan AI secara aman dan bertanggung jawab dalam lingkungan militer yang bersifat rahasia. Ia mempertanyakan kemampuan perusahaan untuk mengendalikan penggunaan teknologinya setelah sistem tersebut diakses oleh pihak militer.

Menurut Kirsch, Google memiliki keterbatasan dalam memantau penerapan AI di lapangan dan tidak selalu mempunyai kewenangan untuk menghentikan penggunaan teknologi tersebut. Kondisi itu menimbulkan kekhawatiran mengenai kemampuan perusahaan dalam memastikan bahwa sistem AI tetap digunakan sesuai dengan tujuan dan batasan yang telah ditetapkan.

Kerja Sama dengan Pentagon Menjadi Sorotan

Pengunduran diri para peneliti tersebut berkaitan dengan perluasan kerja sama perusahaan teknologi dengan Departemen Pertahanan Amerika Serikat atau Pentagon. Pemerintahan Presiden Donald Trump menjadikan pemanfaatan AI sebagai salah satu prioritas dalam modernisasi kemampuan militer.

Menteri Pertahanan Amerika Serikat Pete Hegseth sebelumnya menyampaikan ambisi untuk membangun kekuatan militer yang mengutamakan penggunaan AI. Pendekatan tersebut bertujuan memanfaatkan teknologi dalam pengolahan informasi, analisis intelijen, dan berbagai proses yang mendukung pengambilan keputusan militer.

Google bersama sejumlah perusahaan teknologi lainnya terlibat dalam penyediaan teknologi bagi sektor pemerintahan dan pertahanan. Perkembangan ini membuat teknologi yang awalnya banyak dikenal melalui layanan konsumen dan bisnis juga memiliki peran dalam sistem yang digunakan oleh lembaga militer.

Salah satu sistem yang menjadi perhatian adalah Maven Smart System, platform yang dikembangkan oleh perusahaan teknologi pertahanan Palantir untuk membantu mengorganisasi dan menganalisis data intelijen. Sistem tersebut menggunakan AI untuk mendukung personel militer dalam mengidentifikasi dan menentukan sasaran operasi.

Keterlibatan AI dalam proses semacam ini memunculkan kekhawatiran mengenai bagaimana rekomendasi sistem diterjemahkan menjadi keputusan di lapangan. Apabila AI digunakan untuk menyaring data dalam jumlah besar dan menghasilkan daftar sasaran dalam waktu singkat, operator manusia dapat menghadapi tekanan untuk mengambil keputusan dengan cepat.

Kondisi tersebut menjadi persoalan ketika waktu untuk memeriksa informasi, menilai konteks, dan mengidentifikasi kemungkinan kesalahan menjadi terbatas. Kesalahan analisis AI dalam lingkungan militer berpotensi membawa dampak serius, terutama apabila informasi yang dihasilkan digunakan untuk mendukung tindakan bersenjata.

Para pengkritik tidak selalu menolak seluruh bentuk pemanfaatan AI dalam pertahanan. Perhatian mereka lebih banyak tertuju pada batas penggunaan teknologi, tingkat pengawasan manusia, serta kemampuan perusahaan dan pemerintah untuk mencegah penyalahgunaan.

Pengawasan Manusia Dinilai Belum Tentu Cukup

Salah satu persoalan utama dalam penggunaan AI untuk operasi militer adalah efektivitas pengawasan manusia atau human oversight. Prinsip ini mengharuskan manusia tetap mempunyai peran dalam memantau, mengevaluasi, dan mengendalikan penggunaan teknologi, terutama ketika keputusan yang diambil memiliki konsekuensi besar.

Secara teori, pengawasan manusia dapat membantu mencegah sistem AI mengambil keputusan penting tanpa pemeriksaan. Akan tetapi, penerapannya di lapangan menghadapi tantangan tersendiri, khususnya ketika sistem menghasilkan rekomendasi dalam jumlah besar dan waktu yang sangat singkat.

Mantan Kepala Tim Geopolitik OpenAI, Sarah Shoker, turut menyoroti persoalan tersebut. Ia mengingatkan bahwa kemampuan AI memproses data dengan cepat dapat menimbulkan tekanan terhadap operator manusia. Apabila sistem menghasilkan banyak rekomendasi sasaran dalam waktu singkat, manusia berisiko tidak mempunyai cukup waktu untuk memeriksa setiap hasil secara menyeluruh.

Situasi ini menimbulkan pertanyaan mengenai arti pengawasan manusia jika operator hanya memiliki kesempatan terbatas untuk memverifikasi hasil yang diberikan AI. Keberadaan manusia dalam proses pengambilan keputusan tidak otomatis menjamin bahwa seluruh rekomendasi sistem telah diperiksa dengan memadai.

Kirsch juga menilai model AI saat ini belum cukup tangguh untuk digunakan dalam pengambilan keputusan berisiko tinggi di medan perang. Model AI dapat menghasilkan informasi yang keliru, salah memahami konteks, atau memberikan rekomendasi yang terlihat meyakinkan meskipun tidak sepenuhnya sesuai dengan kondisi sebenarnya.

Dalam lingkungan militer, kekeliruan semacam itu dapat menjadi persoalan serius. Informasi yang tidak akurat mengenai lokasi, identitas, atau kondisi suatu sasaran berpotensi memengaruhi keputusan operasi. Oleh sebab itu, penggunaan AI untuk mendukung kegiatan militer membutuhkan pengujian yang ketat, pembatasan fungsi, serta prosedur verifikasi yang jelas.

Kekhawatiran tersebut juga berkaitan dengan sifat operasi militer yang terkadang berlangsung dalam situasi darurat. Ketika waktu pengambilan keputusan sangat terbatas, operator dapat semakin bergantung pada rekomendasi teknologi. Ketergantungan yang berlebihan dapat mengurangi kesempatan untuk melakukan pemeriksaan kritis terhadap hasil analisis AI.

Kontrak dengan Militer Israel Turut Dipersoalkan

Selain kerja sama dengan Pentagon, keterlibatan Google dalam proyek Project Nimbus bersama Amazon juga menjadi perhatian. Proyek tersebut merupakan kontrak penyediaan infrastruktur komputasi awan atau cloud computing bagi pemerintah Israel, termasuk kebutuhan lembaga publik dan sektor pertahanan.

Nilai kontrak Project Nimbus dilaporkan mencapai sekitar US$1,2 miliar. Kerja sama ini sebelumnya telah menimbulkan perdebatan di kalangan pekerja teknologi karena adanya kekhawatiran mengenai penggunaan layanan digital untuk kepentingan militer dan pengawasan.

Bagi para pengkritik, persoalan utamanya bukan hanya teknologi yang dikembangkan, tetapi juga bagaimana teknologi itu digunakan setelah berada dalam kendali pengguna. Infrastruktur komputasi awan dapat membantu menyimpan dan memproses data dalam jumlah besar. Namun, ketika layanan tersebut mendukung kegiatan militer, muncul pertanyaan mengenai batas tanggung jawab penyedia teknologi terhadap penerapannya.

Kekhawatiran tersebut memperlihatkan bahwa perdebatan mengenai etika AI telah berkembang melampaui persoalan teknis. Perusahaan perlu mempertimbangkan bagaimana produk mereka dapat digunakan dalam berbagai konteks, termasuk situasi yang berkaitan dengan konflik bersenjata dan hak asasi manusia.

Meski demikian, keberadaan kontrak teknologi tidak dengan sendirinya membuktikan bahwa seluruh layanan yang disediakan digunakan untuk tindakan tertentu. Penilaian terhadap penggunaan suatu teknologi tetap memerlukan informasi mengenai ruang lingkup kontrak, kebijakan penggunaan, serta bukti penerapan di lapangan.

Google Membela Kebijakan dan Prosedur Pengawasannya

Menanggapi kritik dari sejumlah pekerja, Google menyatakan bahwa perusahaan memiliki proses peninjauan sebelum menjalin kerja sama dengan organisasi sektor publik. Perusahaan juga menyebut bahwa kontrak dan penggunaan teknologinya harus mengikuti kebijakan penggunaan yang berlaku serta prinsip-prinsip AI internal.

Juru bicara Google mengatakan perusahaan menyediakan saluran khusus agar karyawan dapat menyampaikan kekhawatiran secara aman. Saluran tersebut mencakup persoalan etika bisnis maupun dugaan pelanggaran kebijakan.

Google juga menyatakan mempunyai aturan di lingkungan kerja untuk mencegah tindakan balasan terhadap karyawan yang menyampaikan laporan atau kekhawatiran. Pernyataan ini menjadi bagian dari respons perusahaan terhadap kritik mengenai suasana internal dan kekhawatiran pekerja terhadap risiko karier.

Namun, sejumlah pekerja yang masih aktif maupun yang telah meninggalkan perusahaan mengungkapkan kekhawatiran bahwa kritik terbuka terhadap kebijakan penggunaan AI untuk militer dapat membawa konsekuensi profesional. Mereka menilai pembatasan dalam kontrak kerja berpotensi membuat sebagian karyawan enggan menyampaikan pandangan secara terbuka.

Perbedaan pandangan ini memperlihatkan adanya tantangan dalam membangun tata kelola AI yang dapat dipercaya. Perusahaan tidak hanya dituntut menyusun prinsip etika, tetapi juga perlu menunjukkan bagaimana prinsip tersebut diterapkan dalam proses pengambilan keputusan dan pengawasan penggunaan teknologi.

Perdebatan Etika AI Diperkirakan Terus Berlanjut

Pengunduran diri sejumlah peneliti Google DeepMind menambah panjang perdebatan mengenai hubungan industri teknologi dan sektor pertahanan. Di satu sisi, AI dinilai memiliki kemampuan untuk mempercepat analisis informasi dan membantu manusia mengelola data yang kompleks. Di sisi lain, penggunaan teknologi tersebut dalam operasi militer menimbulkan risiko yang memerlukan pengawasan ketat.

Persoalan ini juga berkaitan dengan transparansi. Ketika sistem AI digunakan dalam lingkungan militer yang bersifat rahasia, pihak luar mungkin kesulitan mengetahui bagaimana teknologi diterapkan, data apa yang digunakan, dan sejauh mana manusia terlibat dalam keputusan akhir.

Karena itu, pengawasan tidak cukup hanya mengandalkan pernyataan bahwa manusia tetap terlibat. Diperlukan prosedur yang jelas untuk memastikan manusia memiliki waktu, informasi, dan kewenangan untuk menilai hasil AI serta menghentikan penggunaan sistem jika ditemukan risiko yang tidak dapat diterima.

Bagi perusahaan teknologi, tantangannya adalah menyeimbangkan pengembangan bisnis dengan tanggung jawab terhadap dampak teknologi. Sementara itu, pemerintah perlu memastikan bahwa pemanfaatan AI dalam pertahanan tetap memperhatikan hukum internasional, hak asasi manusia, dan perlindungan warga sipil.

Kasus Google DeepMind menunjukkan bahwa persoalan etika AI bukan lagi sekadar perdebatan di ruang akademik. Isu tersebut telah memengaruhi keputusan karier para peneliti, hubungan antara perusahaan dan karyawan, serta cara masyarakat menilai tanggung jawab perusahaan teknologi besar.

Pada akhirnya, pengembangan AI untuk kepentingan militer memerlukan batas penggunaan yang transparan, pengawasan manusia yang efektif, dan mekanisme pertanggungjawaban yang dapat dijalankan. Tanpa langkah tersebut, kemajuan teknologi berisiko berjalan lebih cepat daripada kemampuan manusia untuk mengawasi dampaknya.