Laporan terbaru Anthropic memperlihatkan bagaimana AI digunakan untuk kejahatan siber, pengawasan, dan manipulasi politik. Temuan tersebut penting bagi Indonesia menjelang Pemilu 2029, tetapi juga mengundang pertanyaan kritis: sejauh mana perusahaan AI boleh menentukan sendiri apa yang disebut penyalahgunaan dan ancaman?
PERUSAHAAN pemilik layanan AI, Anthropic, merilis laporan tentang berbagai penyalahgunaan Claude yang dideteksinya selama periode Desember 2025-Agustus 2026. Laporan ini berguna pada beberapa tingkat, mulai dari yang paling kentara sampai tidak.
Pertama, yang paling kentara: memberi kita gambaran bagaimana aktor buruk menggunakan LLM untuk mengintai, menipu, meretas, serta memanipulasi opini publik. Selain aktor yang termotivasi finansial, kita juga dapat lihat bagaimana terintegrasinya LLM dalam rangkaian taktik yang diorkestrasi aktor-aktor negara untuk mengawasi dan mengontrol warganya.
Dalam sejumlah operasi terpisah, aktor yang terafiliasi dengan pemerintah China menggunakan Claude untuk mengawasi berbagai elemen masyarakat, termasuk pemimpin agama, aktivis pro-demokrasi Hong Kong, dan kelompok advokasi Uyghur.
Para kriminal juga menggunakan Claude untuk pemerasan dan pencurian data. Anthropic mencatat beberapa operator yang terkoneksi dengan kolektif bernama ShinyHunters. Mereka melakukan pencurian data besar-besaran, mengancam korban lalu meminta tebusan supaya data tak disebar di dark web.
Anthropic juga mengidentifikasi beberapa operator di China — dua di antaranya mahasiswa — yang melakukan spionase terhadap organisasi swasta dan instansi pemerintah di Timur Tengah, Eropa, dan Asia Tenggara.
Betapa AI telah memangkas biaya operasi siber secara signifikan. Operasi besar kini dapat dilakukan oleh satu ataupun segelintir orang.
Namun, perlu diingat bahwa hampir semua operasi serangan yang diidentifikasi Anthropic telah dilakukan sebelum LLM bisa diakses oleh publik. Yang membedakan adalah bagaimana taktik jahat kini dilaksanakan di tingkat kecepatan, skala, dan kedalaman yang jauh lebih besar.
Menurut peneliti Center for Strategic & International Studies (CSIS) Nikita Shah, sebenarnya sangat sedikit jenis ancaman yang benar-benar baru dalam laporan Anthropic. Apalagi, ancaman eksistensial kemusnahan manusia dari model AI yang lepas kontrol.
Dalam kategori peretasan, misalnya, “Tidak ada satu pun operasi dalam laporan ini yang bergantung pada teknik yang benar-benar baru,” tulis Anthropic sendiri dalam laporannya.
Jika dulu serangan peretasan dapat terlihat canggih”karena banyaknya tenaga kerja yang terlibat, maka kini banyak aspek operasi tersebut telah dialihkan ke model AI “…yang beroperasi secara terintegrasi dengan kecepatan mesin dan secara paralel.”
Dengan demikian, perangkat hukum yang sudah ada sebenarnya bisa digunakan dalam menghadapi kasus serupa. Di Indonesia, perbuatan peretasan diancam pidana menurut UU Informasi dan Transaksi Elektronik (UU ITE) serta UU Pelindungan Data Pribadi (UU PDP). Demikian juga dengan perbuatan penipuan.
Ada beberapa kasus dari laporan Anthropic yang cukup mengkhawatirkan bagi Indonesia, utamanya menjelang pemilu 2029 nanti: manipulasi informasi dan persepsi.
Di Malaysia, Claude dimanfaatkan untuk membuat profil dan menargetkan pemilih. Menggunakan data sensus dan data pemilu, pelaku dapat menargetkan pemilih dengan sangat tepat, bahkan hingga ke level daerah.
Para pelaku memiliki jaringan sekitar seribu akun palsu X (Twitter), yang dioptimalkan untuk mendongkrak metrik interaksi sekaligus menghindari sistem deteksi platform media sosial. Selain itu, pelaku juga menjalankan situs berita palsu bernama “Malaysia Pulse”, dan memasok konten melalui penulisan berbasis AI. Mereka kemudian membuat tuduhan-tuduhan palsu tentang politisi oposisi maupun organisasi masyarakat sipil.
Dalam operasi ini, Claude digunakan dalam berbagai tahap: mengelola, menjalankan, dan melacak jaringan akun palsu yang mereka miliki, serta mencatat metrik interaksi yang berhasil mereka cetak.
Di Indonesia, menurut laporan periset Pradipa Rasidi dan Michelle Anindya, sebagian besar lanskap informasi digital kita sudah sangat kotor. Direkayasa oleh algoritma media sosial dan pasukan siber atau pendengung (buzzer) yang menggunakan alat bantu AI. Parahnya lagi, aktivitas rekayasa ini adalah kegiatan business-as-usual, artinya memang sudah berlangsung sehari-hari di luar peristiwa penting seperti pemilu.
Maka tak berlebihan rasanya jika kita ekstra hati-hati menjelang pemilu 2029 nanti, menghadapi lanskap informasi yang sangat mungkin bakal makin keruh.
Citra, Kuasa, dan Posisi Perusahaan
Makin jauh menyelam ke dalam laporan Anthropic, kita dapat bertemu suatu wawasan lain. Yakni bagaimana perusahaan berusaha memposisikan diri sebagai suara otoritas dalam industri pertahanan negara (negara Amerika Serikat, tentu saja).
Dario Amodei, CEO Anthropic, kerap memperingatkan pemerintah negaranya jika AI ‘dimenangkan’ negara-negara musuh AS. Menjadikan AI sebagai pertarungan sengit geopolitik adalah framing strategis bagi perusahaan AI.
Framing ini mendukung hype yang mereka bangun sejak tujuh tahun lalu, bahwa produk-produk mereka luar biasa canggih dan berbahaya, sehingga jangan sampai jatuh ke tangan yang salah. Tangan-tangan yang benar, menurut mereka, hanyalah tangan mereka sendiri.
Maka dalam laporan ini, Anthropic kelihatan berusaha menawarkan analisa aktivitas negara-negara musuh AS dalam Claude dan meletakkan analisa tersebut dalam bingkai geopolitik tertentu.
Masalahnya, menurut peneliti CSIS Nikita Shah, Anthropic belum punya pengetahuan memadai tentang apa yang dianggap bahaya dalam konteks geopolitik. Tanpa konteks yang tepat, publikasi semacam itu justru bisa menyulut kepanikan publik tanpa alasan.
“…tanpa konteks strategis ataupun pemahaman doktrinal dan geopolitik mengenai cara kerja pelaku ancaman, contoh-contoh yang dipublikasikan tampak muncul begitu saja dari udara kosong,” komentar Nikita.
Beberapa contoh kasus memang menunjukkan keterbatasan kemampuan Anthropic dalam menentukan apakah sebuah aktivitas merupakan ancaman atau bukan. Anthropic mengklasifikasikan beberapa kegiatan riset, misalnya, sebagai misuse tanpa bukti lebih jauh akan digunakan untuk keperluan buruk.
Dua dari kasus yang dicantumkan Anthropic berupa penulisan proposal dana hibah riset untuk menyokong penelitian virus chikungunya dan orthopoxvirus. Alasan Anthropic mengintervensi riset-riset tersebut adalah karena para ilmuwan terafiliasi dengan institusi militer (militer negara mana, tak disebut Anthropic).
Padahal, institusi militer di seluruh dunia rutin melakukan riset dalam berbagai area, termasuk area virus untuk mengembangkan vaksin dan menjaga kesehatan prajurit. Tanpa bukti lebih jauh bahwa riset akan berujung pengembangan senjata, Anthropic langsung mendisrupsi kegiatan user.
Ini memberi tahu kita: tak ada kegiatan yang benar-benar privat dalam Claude. Anthropic dapat melihat semuanya dan melakukan intervensi menurut definisi ancaman yang ditentukan sendiri oleh perusahaan.
Dalam laporannya, Anthropic juga menuduh perusahaan-perusahaan AI China ‘mencuri’ jawaban-jawaban Claude untuk melatih dan memperbaiki model mereka sendiri. Praktik ini disebut distilasi, yakni ketika ilmuwan menggunakan model AI yang lebih besar untuk ‘mengajari’ model AI yang lebih kecil.
Sebelum AI diubah menjadi alat monopoli pasar seperti sekarang, praktik ini sebenarnya legal dan lumrah dilakukan dalam banyak laboratorium AI untuk menghemat biaya.
Ingat juga konteks besarnya: China sudah disandung habis-habisan oleh AS dengan sanksi, tarif, dan pembatasan akses ke cip. Sedikit pilihan yang bisa diambil China jika ia ingin menyaingi AS dalam pengembangan LLM serupa (meski di lain waktu, obsesi dunia terhadap LLM bisa juga kita kritik).
Ironi lain, tentu, adalah bahwa Anthropic sendiri mengambil data seisi internet secara besar-besaran, tanpa izin dan tanpa kompensasi, untuk menciptakan Claude yang merupakan produk komersial. Sementara kita tahu, karya yang diunggah di internet secara otomatis mendapat perlindungan hak cipta.
Banyak juga konten berbahaya yang terserap ke dataset LLM, seperti misalnya konten pornografi anak atau gambar dan teks sarat kekerasan. Dataset kemudian juga bisa dilabeli secara rasis dan seksis.
Jadi, sudah banyak tantangan dan kerugian di tingkat hulu, yakni dalam proses insepsi model-model frontier itu sendiri. Kerugian dan bahaya tak hanya di tingkat penggunaan.
Pada akhirnya, laporan Anthropic memang memberikan kita gambaran cukup baik tentang tren ancaman siber yang bakal makin meningkat. Karena sedikit teknik jahat yang benar-benar baru, artinya kita masih punya kemampuan memperkuat segala sisi: baik pengamanan teknis, perangkat hukum, maupun literasi digital masyarakat.
Di sisi lain, Anthropic tetap bukan pihak yang bisa dipercaya untuk meregulasi diri. Ia juga bukan seorang reliable narrator untuk asesmen keamanan dan bahaya AI. Suara pakar dan komite independen masih sangat diperlukan di sini.
Jika definisi keamanan dan penyalahgunaan ditentukan sepihak oleh perusahaan, maka dunia akan dipaksa mengaburkan tingkat presisi yang telah susah payah dibangun selama beberapa dekade terakhir demi mengakomodasi agenda perusahaan semata.
