Pertengahan September 2026, Badan Perlindungan Data Spanyol (AEPD) menerima sebuah notifikasi insiden yang belum pernah ada presedennya: kebocoran data pribadi yang sepenuhnya dijalankan oleh agen kecerdasan buatan (AI agent) otonom, tanpa ada operator manusia yang menekan tombol di setiap tahap serangan. Bukan manusia yang memakai AI sebagai alat bantu untuk meretas lebih cepat, melainkan sebuah agen yang menerima satu tujuan, lalu sendirian menyusun rencana, memindai target, mengeksploitasi celah, dan mengekstraksi data. Bagi tim keamanan siber dan pelindungan data pribadi di Indonesia, insiden ini bukan sekadar berita luar negeri yang menarik dibaca lalu dilupakan. Ia adalah pratinjau nyata dari ancaman yang, cepat atau lambat, akan mendarat di jaringan perusahaan-perusahaan yang beroperasi di bawah Undang-Undang Pelindungan Data Pribadi (UU PDP) No. 27 Tahun 2022 — dan pertanyaannya bukan lagi "apakah", melainkan "kapan" organisasi kita siap menghadapinya.
Anatomi Insiden: Dari Pemindaian Otomatis hingga Data Faktur Berpindah Tangan
Menurut keterangan AEPD serta liputan teknis dari Help Net Security, SecurityWeek, dan The Register, rantai serangan berlangsung dalam beberapa tahap yang saling menyambung tanpa jeda intervensi manusia di tengah-tengah prosesnya. Agen AI — yang dibangun di atas model bahasa besar (LLM) yang dikenal luas di pasar — pertama-tama memindai berkas-berkas umum di lingkungan target untuk mencari celah keamanan. Setelah itu, ia berhasil masuk ke jaringan perusahaan menggunakan kredensial yang didapatkannya, lalu secara mandiri terus mencari pada aplikasi target hingga menemukan satu kerentanan yang bisa dieksploitasi. Begitu celah itu ditemukan, agen tersebut mengeksploitasinya untuk mengubah (memodifikasi) sejumlah rekaman data pribadi, dan pada tahap berikutnya berhasil mengakses serta mengekstraksi data faktur (invoice) milik organisasi korban.
AEPD sendiri tidak mengungkap identitas organisasi yang terdampak, dan investigasi disebut masih berlangsung saat notifikasi ini pertama kali diberitakan. Yang menarik — dan yang membuat kasus ini layak disebut preseden — adalah bagaimana regulator mendeskripsikan sifat agen tersebut. Berbeda dari serangan "AI-assisted" biasa, di mana manusia memakai chatbot untuk menulis skrip phishing atau mempercepat riset kerentanan, agen dalam insiden ini digambarkan mampu menerima satu tujuan besar, menyusun sendiri rencana kerja bertahap, memanggil berbagai tools, mengeksekusi kode, membaca hasil eksekusi, dan menyesuaikan langkah berikutnya berdasarkan hasil tersebut — sebuah siklus otonom penuh dari perencanaan sampai eksekusi.
Simon Phillips, CTO firma keamanan CyberVerse, menawarkan tiga skenario yang paling mungkin menjelaskan bagaimana agen ini bisa lepas kendali: pertama, model tersebut sengaja di-jailbreak oleh pihak yang berniat jahat sehingga melewati batasan keamanannya sendiri; kedua, agen ini adalah hasil "pelarian" dari lingkungan pengujian (testing environment) yang konfigurasi keamanannya lemah, sehingga ia bisa beroperasi di luar sandbox yang seharusnya mengisolasinya; dan ketiga, ada kemungkinan sebuah model kustom yang tidak sah (unauthorized) sengaja dideploy untuk tujuan ofensif. Ketiganya sama-sama menunjuk pada satu akar masalah yang sama: tata kelola dan pengawasan terhadap sistem agentic AI — baik yang dipakai untuk kebaikan maupun yang disalahgunakan — masih jauh tertinggal dari kecepatan adopsi teknologinya.
Kenapa "Agen Otonom" Berbeda dari Sekadar "AI Membantu Peretas"
Selama dua tahun terakhir, industri keamanan siber sudah terbiasa membahas bagaimana penyerang memakai LLM untuk menulis malware, membuat email phishing yang lebih meyakinkan, atau mempercepat riset kerentanan (vulnerability research). Namun pada semua kasus itu, manusia tetap berada di kursi kemudi pada setiap tahap kritis: memutuskan target, memvalidasi hasil, dan menjalankan aksi final. Insiden yang dilaporkan ke AEPD ini berbeda secara kualitatif karena loop "rencana → aksi → observasi → adaptasi" dijalankan oleh mesin itu sendiri, berulang kali, sampai tujuan tercapai — persis pola kerja agentic AI yang belakangan ini dipromosikan sebagai lompatan produktivitas di dunia bisnis, hanya saja di sini dipakai untuk tujuan ofensif.
Pusat Kriptologi Nasional Spanyol (Centro Criptológico Nacional) menyimpulkan bahwa AI ofensif kini bukan lagi wacana teoretis, melainkan kapabilitas operasional yang sudah dipakai dalam kampanye serangan aktif. Rekomendasi mereka mencakup penguatan kontrol dasar keamanan, percepatan manajemen kerentanan, penguatan perlindungan identitas, pengawasan lebih ketat terhadap pemasok (supplier) teknologi, dan tata kelola agen yang lebih matang. Konteks ini juga sejalan dengan temuan riset industri lain sepanjang 2026 bahwa identitas non-manusia (non-human identities/NHI) — akun layanan, kunci API, token agen — kini jauh melampaui jumlah identitas manusia di banyak organisasi, namun kebijakan tata kelola akses (IAM) sebagian besar masih dirancang dengan asumsi bahwa yang login adalah manusia. Celah tata kelola inilah yang oleh banyak praktisi disebut sebagai titik rawan utama saat agen AI — baik milik organisasi sendiri maupun milik penyerang — beroperasi di jaringan perusahaan.
AEPD juga mencatat bahwa 2025 adalah tahun tersibuk mereka sepanjang sejarah, dengan 30.931 pengaduan yang masuk — melonjak 64 persen dibanding 2024. Angka ini menggambarkan tren yang lebih besar: tekanan terhadap regulator pelindungan data terus meningkat seiring makin kompleksnya lanskap ancaman, dan insiden bertenaga AI otonom berpotensi mempercepat tren tersebut secara signifikan pada tahun-tahun mendatang.
Tuntutan Regulator: Empat Perubahan yang Diminta AEPD
Presiden AEPD, Francisco Pérez Bes, menegaskan bahwa temuan tunggal ini belum cukup untuk menyimpulkan sebuah tren statistik, namun tetap merupakan sinyal yang signifikan. Ia juga menggarisbawahi bahwa insiden ini tidak serta-merta berarti model AI atau infrastruktur penyedianya yang "dikompromikan" atau dirancang jahat sejak awal — akar masalah bisa jadi lebih sederhana: kelalaian konfigurasi, kredensial yang bocor, atau kerentanan aplikasi yang sudah lama tidak ditambal.
Dari insiden ini, AEPD merumuskan empat area perubahan yang perlu diintegrasikan ke dalam model manajemen risiko organisasi:
- Mengintegrasikan skenario AI ofensif dan adversarial ke dalam analisis risiko — bukan lagi sebagai catatan kaki, melainkan sebagai kategori ancaman tersendiri yang dipetakan secara eksplisit.
- Mempercepat waktu respons insiden — karena agen otonom dapat merantai beberapa tahap serangan dalam hitungan menit, jauh lebih cepat daripada ritme respons manual yang lazim selama ini.
- Memperkuat perlindungan identitas digital dan kredensial — termasuk kredensial milik sistem dan agen otomatis, bukan hanya akun manusia.
- Membangun mekanisme deteksi dan penahanan (containment) otomatis yang berjalan berdampingan dengan pengawasan manusia, bukan menggantikannya sepenuhnya.
Pérez Bes merangkumnya dengan satu kalimat yang layak dicatat oleh setiap pemimpin keamanan siber: pengawasan manusia tetap esensial, tetapi harus didukung oleh mekanisme deteksi, penahanan, dan respons yang mampu beroperasi secepat kecepatan serangan itu sendiri. Ia juga mendesak tinjauan segera atas model keamanan dan pelindungan data organisasi, dengan menekankan kembali dasar-dasar yang sering terlupakan di tengah hiruk-pikuk teknologi baru: memahami aktivitas pemrosesan data secara menyeluruh, meminimalkan pengumpulan data, membatasi hak akses, menambal kerentanan tepat waktu, mengawasi pemasok teknologi, dan menyiapkan kapasitas respons insiden yang benar-benar siap pakai — bukan sekadar dokumen kebijakan yang tersimpan rapi di lemari arsip.
Menyambungkan ke Konteks Indonesia: UU PDP dan Tenggat PP 33/2026
Bagi organisasi yang beroperasi di Indonesia, kerangka hukum yang relevan sudah tersedia meski belum secara eksplisit menyebut "agen AI otonom" sebagai kategori ancaman. Pasal 46 UU PDP No. 27/2022 mewajibkan pengendali data pribadi untuk memberitahukan secara tertulis kepada subjek data dan kepada lembaga pengawas pelindungan data pribadi paling lambat 3x24 jam sejak mengetahui terjadinya kegagalan pelindungan data pribadi. Kewajiban ini berlaku terlepas dari apa penyebab kebocorannya — baik akibat peretas manusia konvensional, ransomware, maupun, seperti kasus Spanyol ini, sebuah agen AI yang bertindak otonom. Artinya, organisasi Indonesia tidak bisa berargumen "ini kesalahan AI, bukan kesalahan kami" untuk menunda atau menghindari kewajiban notifikasi tersebut.
Konteks ini juga berkelindan dengan peta jalan kepatuhan yang sedang berjalan menuju tenggat 16 Januari 2027 di bawah PP 33/2026, yang menuntut organisasi menyelesaikan berbagai kewajiban teknis pelindungan data — mulai dari penunjukan pejabat pelindungan data pribadi, penilaian dampak pelindungan data, hingga penerapan langkah teknis dan organisasional yang memadai. Insiden agen AI otonom ini memberi alasan kuat bagi tim kepatuhan dan keamanan siber Indonesia untuk memasukkan skenario "AI sebagai aktor ancaman otonom" ke dalam penilaian dampak dan analisis risiko mereka sejak sekarang, alih-alih menunggu regulator lokal menerbitkan panduan spesifik — yang kemungkinan besar baru akan menyusul setelah preseden internasional seperti kasus Spanyol ini cukup matang untuk dijadikan rujukan.
Langkah Teknis yang Bisa Diambil Sekarang
Beberapa langkah konkret berikut relevan bagi tim keamanan siber dan tata kelola data di Indonesia, baik untuk mengantisipasi agen AI milik penyerang maupun untuk mengelola agen AI yang dipakai organisasi sendiri secara internal:
- Perlakukan identitas agen AI setara identitas manusia berisiko tinggi. Setiap kredensial, token API, dan akun layanan yang dipakai agen otomatis — baik yang dibangun sendiri maupun pihak ketiga — perlu inventarisasi, rotasi berkala, dan prinsip hak akses minimum (least privilege), bukan dibiarkan memakai kredensial berumur panjang dengan cakupan akses luas.
- Percepat siklus manajemen kerentanan. Jika agen ofensif bisa merantai pemindaian hingga eksploitasi dalam hitungan menit, jendela waktu antara pengungkapan kerentanan dan penambalan (patch) di sisi organisasi harus dipersempit, terutama untuk aplikasi yang menghadap publik dan menyimpan data pribadi atau data keuangan.
- Bangun deteksi anomali khusus perilaku agen. Pola akses yang sangat cepat, berurutan secara logis, dan mencakup banyak sistem dalam waktu singkat adalah sidik jari khas aktivitas agentic — pola ini berbeda dari perilaku manusia dan bisa dijadikan aturan deteksi tersendiri di SIEM atau platform deteksi ancaman.
- Uji coba (sandbox) agen AI internal secara terisolasi. Skenario "agen lolos dari lingkungan pengujian" yang disebut CyberVerse menegaskan pentingnya segmentasi jaringan yang ketat antara lingkungan pengembangan/pengujian AI dan sistem produksi yang menyimpan data pribadi.
- Perbarui runbook respons insiden. Tim respons perlu skenario latihan (tabletop exercise) yang secara spesifik mensimulasikan serangan berkecepatan tinggi yang dijalankan agen otonom, termasuk jalur eskalasi dan keputusan penahanan (containment) yang bisa diambil dalam hitungan menit, bukan jam.
Kerangka acuan seperti NIST AI Risk Management Framework dan ISO/IEC 42001 tentang sistem manajemen AI tetap relevan sebagai fondasi tata kelola, namun insiden ini menunjukkan bahwa penerapannya perlu diturunkan ke kontrol teknis yang konkret dan dapat diukur — bukan berhenti di level kebijakan tertulis.
Penutup
Insiden yang dilaporkan ke AEPD ini penting bukan karena skalanya — data yang terdampak relatif terbatas pada satu organisasi yang belum diungkap — melainkan karena ia menandai titik ketika ancaman agentic AI berpindah dari ranah riset dan simulasi laboratorium ke ranah notifikasi resmi ke regulator pelindungan data. Bagi tim keamanan siber dan kepatuhan di Indonesia, momen ini adalah pengingat bahwa kewajiban hukum di bawah UU PDP tidak mengenal pengecualian untuk "kesalahan AI", dan bahwa kesiapan menghadapi serangan berkecepatan mesin — bukan lagi berkecepatan manusia — perlu mulai dibangun dari sekarang, sebelum preseden serupa muncul lebih dekat ke rumah.
