Tim Incident Response Punya Skenario AI yang Perlu Dilatih
Tim security sudah terbiasa menginvestigasi compromised account dan suspicious endpoint. Sistem AI membawa jenis evidence, failure mode dan keputusan containment yang mungkin belum pernah mereka latih.

Sebuah AI assistant yang terhubung dengan internal data tiba tiba memberikan informasi yang seharusnya tidak muncul.
Apa yang harus dikumpulkan investigator lebih dulu?
Evidence tradisional tetap dibutuhkan. Namun investigasi mungkin juga harus memeriksa prompt, model output, retrieval source, system instruction, access permission serta catatan tindakan yang dilakukan melalui connected tools. Mematikan satu endpoint belum tentu menjelaskan data apa yang sempat diakses model atau informasi apa yang sudah dihasilkan.
Data workforce terbaru menunjukkan banyak tim belum pernah benar benar melatih situasi seperti ini.
Riset State of Cybersecurity 2026 dari ISACA yang melibatkan lebih dari 1.800 profesional cybersecurity global menemukan hanya 8% organisasi rutin melakukan AI specific response exercise. Pada riset yang sama, 45% responden melihat LLM SecOps sebagai skills gap, naik 12 poin persentase dibanding 2025 dan 21 poin dibanding 2024. ISACA
AI security sudah mulai menjadi pekerjaan operasional.
AI Membawa Jenis Evidence Baru
NIST mengadakan AI Incident Management Workshop pada Mei karena penggunaan AI dalam critical infrastructure, cybersecurity dan operational environment mulai menciptakan kategori insiden baru. Pembahasannya mencakup definisi incident, lifecycle, taxonomy, existing playbook serta gap dalam cybersecurity dan AI risk management guidance. NIST
Bagi security practitioner, kemampuan pertama yang dibutuhkan adalah memahami evidence apa yang tersedia di sekitar sistem AI.
Tergantung implementasinya, investigator mungkin harus memeriksa:
- Prompt, output dan conversation history
- Retrieval source serta data yang diakses sistem
- Model dan application configuration
- Identity serta permission record
- Connected API, tools dan automated action
- Monitoring data sebelum dan sesudah perilaku abnormal
- Human approval atau intervention
Investigasinya bisa melibatkan cybersecurity, AI engineering, data, privacy dan business team sekaligus.
Cukup ramai untuk jenis insiden yang belum pernah dilatih.
Containment Juga Menjadi Lebih Rumit
Bayangkan AI agent yang dapat membaca dokumen, mengirim pesan dan memperbarui business application. Kemudian muncul suspicious behaviour.
Apakah seluruh sistem harus dimatikan? Cukup cabut satu tool permission? Batasi akses ke data tertentu? Rollback configuration? Atau jalankan sistem dalam reduced mode agar investigator masih bisa mengamati perilakunya?
Semua pilihan tersebut memiliki konsekuensi teknis dan bisnis.
ISACA juga menemukan keterlibatan security team dalam AI semakin besar. Sebanyak 51% responden mengatakan mereka atau timnya terlibat dalam development, onboarding atau implementation AI solution, naik dari 40% pada 2025 dan 29% pada 2024. ISACA
Artinya, orang yang menjaga keamanannya semakin perlu memahami cara merespons kegagalan pada sistem yang ikut mereka implementasikan.
Masukkan Insiden AI ke Dalam Simulasi
Latihan bisa dimulai dengan simulated AI assistant yang tiba tiba mengambil confidential information di luar scope normalnya.
Peserta mendapatkan log, prompt, access record dan system configuration. Mereka harus mencari penyebabnya, menentukan kemungkinan blast radius, menjaga evidence lalu memilih containment yang tepat tanpa menghentikan business process secara berlebihan.
Setelah itu, buat situasinya sedikit lebih sulit.
AI mungkin sudah memanggil application lain. Output mungkin sudah disalin user sebelum alert muncul. Perilaku awalnya mungkin tidak langsung bisa direproduksi.
Skenario seperti ini cocok dengan pembelajaran hands on di ITSEC Cyber & AI Academy, tempat kemampuan AI dan cybersecurity dapat dilatih melalui investigasi dan pengambilan keputusan yang mendekati situasi operasional.
Kalau latihan AI incident response pertama dilakukan saat insiden AI pertama benar benar terjadi, jadwal training-nya sudah agak terlambat.
Pelajari program cybersecurity dan AI berbasis praktik di ITSEC Cyber & AI Academy.
.png)


