자율형 AI 에이전트, 새 보안 취약점을 폭발적으로 키우다

자율적으로 웹을 탐색하고 파일을 다운로드하며 API를 호출하는 에이전틱 AI가 기업 보안 체계를 근본적으로 흔들고 있다. 단순한 LLM 챗봇과 달리, AI 에이전트는 “지시–계획–실행–검증”의 전체 흐름을 스스로 반복하며 업무를 처리한다. 문제는 이 과정에서 보안팀이 통제하지 못하는 자동화 행동이 빠르게 늘어난다는 점이다.

SiliconANGLE은 에이전트가 자동으로 코드를 실행하거나 내부 시스템과 상호작용할 때, 공격자가 프롬프트 인젝션·스크립트 주입·플러그인 하이재킹 등을 통해 보이지 않는 공격면을 생성한다고 분석한다. 예를 들어, 악성 웹페이지 한 곳만 열어도 에이전트가 스스로 데이터를 수집해 내부 API로 전송하는 ‘연쇄 오염’이 발생할 수 있다. 이는 기존 웹 기반 공격보다 탐지가 늦고, 대응 속도 또한 뒤처지기 쉽다.

특히 문제되는 부분은 AI 에이전트의 행동 로그가 충분히 표준화돼 있지 않다는 점이다. 사람이 작성한 코드나 프로세스는 변경 이력이 남지만, 에이전트가 수행한 작업은 로그가 불완전하거나 생략되는 경우가 많아 추적이 쉽지 않다. 공격 시나리오를 재현하기 어렵기 때문에 사고 원인 분석에도 시간이 오래 걸린다.

전문가들은 이를 해결하기 위해 ‘에이전트 전용 보안 계층’을 신설해야 한다고 강조한다. 구체적으로는

• 모든 행동을 모니터링하는 샌드박스 환경,
• 외부 리소스를 호출하기 전 수행 목적을 검증하는 행동 검증 계층,
• 세분화된 권한 체계를 적용한 최소 권한 정책,
• 프롬프트 인젝션을 감지하는 입력 필터링 시스템

등이 필수 조건으로 거론된다.

더불어 기술 리더들은 에이전트 기반 서비스 도입 시, 고급 모델링보다 중요한 것은 거버넌스 체계의 선 구축이라고 조언한다. 역할이 불분명한 상태에서 에이전트를 투입하면, 자동화의 이점보다 리스크가 더 커질 수 있기 때문이다.

기업이 AI 활용 속도를 높일수록, “에이전트 보안”은 선택이 아닌 필수 영역으로 자리 잡고 있다.

참고 출처

• https://siliconangle.com/2025/11/15/dont-ignore-security-risks-agentic-ai/
• https://www.mckinsey.com/capabilities/risk-and-resilience/our-insights/deploying-agentic-ai-with-safety-and-security-a-playbook-for-technology-leaders
• https://www.thomsonreuters.com/en-us/posts/technology/safeguarding-agentic-ai/