AI Agent Mengubah Skill yang Dibutuhkan Tim Cybersecurity
AI yang memberikan rekomendasi membawa satu jenis risiko. AI yang bisa langsung bertindak membuat pekerjaan cybersecurity menjadi berbeda.

NIST sedang membangun AI agent untuk salah satu sumber data cybersecurity publik yang banyak digunakan.
Pada 17 September, Information Technology Laboratory NIST mempresentasikan pengembangan agentic workflow untuk membantu proses enrichment informasi vulnerability di National Vulnerability Database. NIST menyebut pekerjaan ini sebagai respons terhadap jumlah dan kompleksitas vulnerability yang terus meningkat. Presentasinya membahas architecture, masalah yang ditemukan selama implementation serta hasil awal penggunaan sistem tersebut.
Proyek tersebut menunjukkan perubahan yang lebih luas.
AI mulai bergerak dari menghasilkan informasi menuju menjalankan serangkaian pekerjaan. NIST menggambarkan AI agent sebagai sistem yang dapat melakukan tindakan secara otonom serta berinteraksi dengan sistem eksternal dan data internal.
Bagi profesional cybersecurity, ada lapisan kemampuan baru yang perlu dipelajari.
Security Harus Mengikuti Tindakannya
Aplikasi AI biasa menerima prompt lalu menghasilkan jawaban. Agent dapat memiliki akses ke tool, data dan permission yang membuatnya mampu melanjutkan pekerjaan sendiri.
Pertanyaan security ikut berubah.
- Sistem apa saja yang bisa diakses agent?
- Tindakan apa yang dapat dilakukan tanpa approval?
- Identity dan permission apa yang digunakan?
- Bagaimana sensitive context disimpan antar task?
- Bisakah input yang tidak dipercaya mengubah tindakan berikutnya?
- Evidence apa yang dicatat ketika agent melakukan sesuatu?
- Di titik mana manusia harus mengambil alih?
Workshop ITU mengenai secure agentic AI pada September membahas area yang serupa, termasuk security and trust challenges, risk management, security framework dan metode evaluasi untuk memastikan agentic system dapat diuji secara layak.
Batas security akhirnya tidak berhenti pada model. Batas tersebut dapat mengikuti seluruh rangkaian tindakan yang diizinkan kepada AI.
Tim Cybersecurity Perlu Memahami Workflow
Perubahan ini menciptakan kebutuhan skill yang cukup menarik.
Orang yang menguji agentic system membutuhkan pemahaman AI untuk mengetahui bagaimana agent menggunakan context dan mengambil keputusan. Namun mereka juga tetap membutuhkan kemampuan cybersecurity yang sudah dikenal: identity, access control, application security, data protection, logging dan security testing.
Bedanya, sekarang mereka perlu berpikir dalam rangkaian.
Bayangkan agent membaca email, mengambil dokumen, memperbarui internal system lalu mengirim respons. Setiap tindakan mungkin sah jika dilihat sendiri-sendiri. Kombinasinya belum tentu aman.
Security assessment perlu melihat apa yang dapat dilakukan agent sepanjang workflow, termasuk ketika dua instruksi bertabrakan atau informasi dari satu tahap memengaruhi tahap berikutnya.
Pertanyaan red team pun bergeser dari “Bisakah model dibuat mengatakan sesuatu yang aneh?” menjadi “Bisakah sistem ini dibuat melakukan sesuatu yang seharusnya tidak dilakukan?”
Sesi pengujiannya mungkin menjadi sedikit lebih menarik.
Latih Sistemnya, Bukan Hanya Prompt-nya
Agentic AI security sangat cocok untuk pembelajaran praktis.
Peserta dapat diberikan simulated agent yang terhubung ke beberapa tool. Mereka lalu memetakan permission, memeriksa data yang dapat dijangkau dan menguji respons agent terhadap instruksi yang menyesatkan. Setelah itu, peserta harus merancang control tanpa membuat agent kehilangan seluruh kegunaannya.
Latihan tersebut menggabungkan pemahaman AI dengan judgment cybersecurity yang sudah dikenal.
Model seperti ini relevan dengan ITSEC Cyber & AI Academy, tempat kemampuan cybersecurity dan AI dapat dilatih bersama melalui skenario yang mendekati cara sistem digunakan dalam lingkungan kerja.
Tidak semua profesional cybersecurity perlu berubah menjadi AI researcher.
Namun organisasi membutuhkan orang yang mampu melihat autonomous workflow lalu tahu di bagian mana pertanyaan sulit perlu diajukan.
Pelajari program cybersecurity dan AI berbasis praktik di ITSEC Cyber & AI Academy.
Referensi: NIST: AI Agent Enrichment Workflow at the National Vulnerability Database, 17 September 2026 · ITU: Advancing Standardization for Secure Agentic AI, 7 September 2026 · NIST: AI Agent Standards Initiative
.png)


