Logo
Cybersecurity

Tim Incident Response Punya Skenario AI yang Perlu Dilatih

Tim security sudah terbiasa menginvestigasi compromised account dan suspicious endpoint. Sistem AI membawa jenis evidence, failure mode dan keputusan containment yang mungkin belum pernah mereka latih.

ITSEC AsiaITSEC Asia
|
Okt 07, 2026
Tim Incident Response Punya Skenario AI yang Perlu Dilatih

Sebuah AI assistant yang terhubung dengan internal data tiba tiba memberikan informasi yang seharusnya tidak muncul.

Apa yang harus dikumpulkan investigator lebih dulu?

Evidence tradisional tetap dibutuhkan. Namun investigasi mungkin juga harus memeriksa prompt, model output, retrieval source, system instruction, access permission serta catatan tindakan yang dilakukan melalui connected tools. Mematikan satu endpoint belum tentu menjelaskan data apa yang sempat diakses model atau informasi apa yang sudah dihasilkan.

Data workforce terbaru menunjukkan banyak tim belum pernah benar benar melatih situasi seperti ini.

Riset State of Cybersecurity 2026 dari ISACA yang melibatkan lebih dari 1.800 profesional cybersecurity global menemukan hanya 8% organisasi rutin melakukan AI specific response exercise. Pada riset yang sama, 45% responden melihat LLM SecOps sebagai skills gap, naik 12 poin persentase dibanding 2025 dan 21 poin dibanding 2024. ISACA

AI security sudah mulai menjadi pekerjaan operasional.

AI Membawa Jenis Evidence Baru

NIST mengadakan AI Incident Management Workshop pada Mei karena penggunaan AI dalam critical infrastructure, cybersecurity dan operational environment mulai menciptakan kategori insiden baru. Pembahasannya mencakup definisi incident, lifecycle, taxonomy, existing playbook serta gap dalam cybersecurity dan AI risk management guidance. NIST

Bagi security practitioner, kemampuan pertama yang dibutuhkan adalah memahami evidence apa yang tersedia di sekitar sistem AI.

Tergantung implementasinya, investigator mungkin harus memeriksa:

  • Prompt, output dan conversation history
  • Retrieval source serta data yang diakses sistem
  • Model dan application configuration
  • Identity serta permission record
  • Connected API, tools dan automated action
  • Monitoring data sebelum dan sesudah perilaku abnormal
  • Human approval atau intervention

Investigasinya bisa melibatkan cybersecurity, AI engineering, data, privacy dan business team sekaligus.

Cukup ramai untuk jenis insiden yang belum pernah dilatih.

Containment Juga Menjadi Lebih Rumit

Bayangkan AI agent yang dapat membaca dokumen, mengirim pesan dan memperbarui business application. Kemudian muncul suspicious behaviour.

Apakah seluruh sistem harus dimatikan? Cukup cabut satu tool permission? Batasi akses ke data tertentu? Rollback configuration? Atau jalankan sistem dalam reduced mode agar investigator masih bisa mengamati perilakunya?

Semua pilihan tersebut memiliki konsekuensi teknis dan bisnis.

ISACA juga menemukan keterlibatan security team dalam AI semakin besar. Sebanyak 51% responden mengatakan mereka atau timnya terlibat dalam development, onboarding atau implementation AI solution, naik dari 40% pada 2025 dan 29% pada 2024. ISACA

Artinya, orang yang menjaga keamanannya semakin perlu memahami cara merespons kegagalan pada sistem yang ikut mereka implementasikan.

Masukkan Insiden AI ke Dalam Simulasi

Latihan bisa dimulai dengan simulated AI assistant yang tiba tiba mengambil confidential information di luar scope normalnya.

Peserta mendapatkan log, prompt, access record dan system configuration. Mereka harus mencari penyebabnya, menentukan kemungkinan blast radius, menjaga evidence lalu memilih containment yang tepat tanpa menghentikan business process secara berlebihan.

Setelah itu, buat situasinya sedikit lebih sulit.

AI mungkin sudah memanggil application lain. Output mungkin sudah disalin user sebelum alert muncul. Perilaku awalnya mungkin tidak langsung bisa direproduksi.

Skenario seperti ini cocok dengan pembelajaran hands on di ITSEC Cyber & AI Academy, tempat kemampuan AI dan cybersecurity dapat dilatih melalui investigasi dan pengambilan keputusan yang mendekati situasi operasional.

Kalau latihan AI incident response pertama dilakukan saat insiden AI pertama benar benar terjadi, jadwal training-nya sudah agak terlambat.

Pelajari program cybersecurity dan AI berbasis praktik di ITSEC Cyber & AI Academy.

Referensi

  1. ISACA, “Only 8 Percent of Organizations Conduct Regular AI-Specific Response Exercises, ISACA Research Finds,” 22 September 2026
  2. NIST, “NIST Workshop on AI Incident Management,” dibuat 31 Maret 2026, diperbarui 27 Mei 2026
Share this post

You may also like

Post-Quantum Cryptography Readiness with ITSEC
Cybersecurity

Post-Quantum Cryptography Readiness with ITSEC

Selama beberapa dekade, public-key cryptography telah menjadi tulang punggung dalam melindungi informasi sensitif, mulai dari transaksi keuangan, data pribadi, komunikasi korporat, hingga rahasia negara. Saat Anda login ke aplikasi perbankan yang aman, belanja online, atau mengakses situs terenkripsi seperti HTTPS, public key infrastructure (PKI) bekerja di balik layar untuk menjaga data Anda dari kejahatan siber. Namun, kemunculan quantum computing menghadirkan tantangan baru yang bersifat transformatif dan berpotensi mengganggu fondasi kepercayaan digital ini. THE QUANTUM REVOLUTION Quantum computers mampu melakukan komputasi kompleks dengan kecepatan jauh melampaui superkomputer paling canggih saat ini. Meski teknologi ini menjanjikan terobosan besar di bidang penemuan obat, layanan kesehatan, material science, dan artificial intelligence (AI), kemampuannya juga menimbulkan ancaman serius bagi sistem kriptografi yang digunakan saat ini. Dengan kekuatannya, quantum computers berpotensi meretas sistem public-key cryptography yang banyak digunakan saat ini seperti RSA dan ECC. Ini berarti, berbagai infrastruktur penting, seperti jaringan energi, sistem keuangan, dan jaringan komunikasi pemerintah, dapat terekspos dan disusupi. Jika sistem public-key cryptography berhasil ditembus, maka digital signature dan digital certificate bisa dipalsukan, meruntuhkan kepercayaan pada layanan perbankan,

ITSEC AsiaITSEC Asia
|
Jul 11, 2025 — 5 minutes read
Human + AI: Mengapa Masa Depan Offensive Security Bukan Human vs Machine
Cybersecurity

Human + AI: Mengapa Masa Depan Offensive Security Bukan Human vs Machine

Artificial Intelligence semakin banyak digunakan dalam dunia cybersecurity. Dari threat detection, vulnerability management hingga security operations, AI memungkinkan organisasi memproses data lebih cepat dan mengotomatiskan berbagai pekerjaan yang sebelumnya dilakukan secara manual. Perkembangan ini memunculkan satu pertanyaan yang cukup sering dibahas: Apakah AI akan menggantikan peran para profesional keamanan siber? Banyak orang melihatnya sebagai persaingan antara manusia dan mesin. Padahal, masa depan offensive security justru tidak dibangun atas persaingan tersebut. Yang sedang terjadi adalah kolaborasi. Karena pada akhirnya, AI dan manusia memiliki keunggulan yang berbeda dan saling melengkapi. TANTANGAN CYBERSECURITY SEMAKIN KOMPLEKS Lingkungan teknologi saat ini jauh lebih dinamis dibandingkan beberapa tahun lalu. Organisasi harus mengamankan: * Infrastruktur cloud yang terus berkembang. * Aplikasi web dan mobile. * API dan integrasi pihak ketiga. * Sistem hybrid dan multi-cloud. * Perangkat yang tersebar di berbagai lokasi. Di saat yang sama, pelaku ancaman juga semakin canggih. Mereka memanfaatkan otomatisasi dan AI untuk mempercepat proses pencarian celah keamanan. Tim keamanan menghadapi tekanan yang semakin besar: * Attack surface yang semakin luas. * Jumlah kerentanan yang terus

ITSEC AsiaITSEC Asia
|
Jun 15, 2026 — 5 minutes read
Di Balik Mesin yang Terus Berputar: Ancaman Siber yang Mengintai Sistem Industri Anda
Cybersecurity

Di Balik Mesin yang Terus Berputar: Ancaman Siber yang Mengintai Sistem Industri Anda

PENDAHULUAN Selama bertahun-tahun, percakapan tentang keamanan siber hampir selalu berputar di dunia IT  email korporat, perangkat lunak enterprise, penyimpanan cloud. Tapi lanskap ancaman sudah bergeser. Diam-diam, tapi agresif. Para penyerang sudah menemukan sesuatu yang baru mulai disadari banyak tim keamanan: lingkungan Operational Technology (OT) dan Internet of Things (IoT) adalah target bernilai tinggi yang sebagian besar masih tidak terlindungi dengan standar yang sudah lama dianggap biasa di dunia IT. Datanya berbicara keras. Serangan ransomware di sektor industri melonjak 87% year-over-year sepanjang 2024, menjadikan manufaktur sebagai target ransomware nomor satu selama empat tahun berturut-turut. Di periode yang sama, jumlah kelompok ransomware yang secara khusus membidik lingkungan OT dan ICS meningkat 60%  bukan karena sistem ini tiba-tiba menjadi lebih berharga, tapi karena para penyerang mulai menyadari betapa rentannya sistem tersebut selama ini. Satu dari empat uji penetrasi yang dilakukan pada lingkungan industri masih menemukan kredensial default yang aktif digunakan. Enam puluh lima persen lingkungan OT memiliki kondisi akses jarak jauh yang tidak aman. Ini bukan pengecualian. Ini adalah standar yang berlaku. Pertanyaannya bukan lagi apakah

|
Jun 05, 2026 — 7 minutes read

Receive weekly
updates on new posts

Subscribe