AI 에이전트 오남용 막는다…시큐웨이브, 생성형 AI 보안 전략 제시

'F5 AI 가드레일 랩 쇼 2026' 성료시큐웨이브는 지난 6월11일과 18일 F5 고객 및 파트너사를 대상으로 'F5 AI 가드레일 랩 쇼(Guardrails Lab Show) 2026'을 개최했다. [사진=시큐웨이브][디지털데일리 김보민기자] 시큐웨이브가 생성형 인공지능(AI) 확산에 따른 보안 위협과 대응 전략을 공유하는 자리를 마련했다.시큐웨이브는 6월11일과 18일 F5 고객 및 파트너사를 대상으로 'F5 AI 가드레일 랩 쇼(Guardrails Lab Show) 2026'을 개최했다고 30일 밝혔다.이번 행사는 프롬프트 인젝션, 탈옥, 민감정보 유출, 부적절한 응답 생성, AI 에이전트 오남용 등 실제 서비스 운영 과정에서 발생할 수 있는 보안 리스크를 점검하기 위해 마련됐다. 안전한 AI 서비스 운영을 위한 보안 체계 수립 방안을 공유하는 시간도 이어졌다.행사에서는 생성형 AI 보안 트렌드 및 주요 위협 동향, AI 애플리케이션 런타임 보호 전략, F5 AI 가드레일(Guardrails) 핵심 기능 및 적용 시나리오, 프롬프트 인젝션·탈옥 대응 데모, AI 레드팀 기반 보안성 검증, 참석자 질의응답 및 네트워킹 세션 등이 진행됐다.김정 시큐웨이브 부장은 발표 세션을 통해 생성형 AI 도입이 가속화되면서 공격 표면이 모델 자체를 넘어 애플리케이션, API, 사용자 입력, 데이터 흐름 전반으로 확대되고 있다고 설명했다.특히 프롬프트 인젝션, 탈옥, 데이터 유출, 악의적 의도 탐지 우회, AI 에이전트 오남용 등 런타임 단계에서 발생하는 위협 사례를 소개했다. 이어 기업이 AI 서비스를 안전하게 운영하기 위해 정책 기반 제어, 입력·출력 검증, 민감정보 보호, 지속적인 위협 모니터링을 갖춰야 한다고 강조했다.이어 조광희 오픈베이스 차장은 F5 AI 가드레일 데모 시연을 통해 실제 운영 환경을 가정한 AI 보안 적용 사례를 소개했다. 참석자들은 대규모 언어모델 기반 보안 엔진을 활용한 의도 및 맥락 분석, 자연어 기반 정책 제어, 단일 턴 및 멀티 턴 위험 탐지, 민감정보 노출 방지, 부적절한 응답 차단 등 주요 기능을 확인하며 AI 서비스 운영 과정에서 발생할 수 있는 다양한 위협 대응 방안을 살펴봤다.AI 레드팀을 활용한 프롬프트 인젝션 및 탈옥 공격 검증, 단일 턴 및 멀티 턴 기반 공격 시뮬레이션, 최신 AI 공격 패턴을 반영한 보안성 검증 사례도 시연됐다.시큐웨이브는 F5 국내 총판으로 국내 기업 AI 도입 환경에 맞춘 보안 전략을 제안하고, 고객과 파트너가 생성형 AI를 안전하게 활용할 수 있도록 기술 지원과 파트너 협력을 강화할 계획이다.