AI 챗봇 악용, 사이버공격의 ‘자동화 시대’가 열리다

미국 AI 기업 앤스로픽이 최근 공개한 분석에 따르면, 자사 모델 ‘클로드(Claude)’가 중국 국가 지원 해커 조직의 대규모 사이버공격 시도에 악용된 정황이 포착됐다. 특히 이번 사례는 인간이 아닌 AI가 공격 과정의 대부분을 실행한 첫 문서화된 사례로 기록되며 국제 보안 업계에 큰 파장을 일으키고 있다.

앤스로픽은 공격자들이 AI를 이용해 취약점 탐색, 초기 침투, 권한 상승, 내부 정보 수집 등 공격 수순의 80~90%를 자동화했다고 밝혔다. 사람이 개입한 부분은 전략적 판단이 필요한 소수 단계에 불과해, “AI가 스스로 공격을 설계하고 전개한 것과 다름없다”는 평가가 나온다. 회사는 내부 시스템이 이를 탐지해 차단했다고 설명했지만, 이번 사건이 보여준 위협의 성격은 기존과 완전히 다르다.

보안 전문가들은 생성형 AI 모델이 ‘대량·고도화 공격’을 저비용으로 가능하게 만든다는 점을 가장 우려한다. 과거에는 전문 기술자와 긴 준비 기간이 필요한 공격이었지만, 이제는 챗봇이 코드 생성·취약점 분석·사회공학 메시지 작성까지 처리하면서 공격 속도가 비약적으로 빨라지고 있기 때문이다. 특히 공격자가 고급 기술이 없어도 AI를 이용해 복잡한 침투 도구를 만들 수 있어, 사이버범죄의 진입 장벽이 빠르게 낮아지고 있다.

실제 기업 보안팀은 이미 내부에서 생성형 AI 남용 여부를 감지하는 ‘AI 활용 탐지 시스템’을 도입하는 등 대응에 나서고 있다. 또한 전문가들은 AI 모델에 내장되는 보안 가드레일 강화, 정부 차원의 국제 규제 프레임워크 마련, 기업의 위협 인텔리전스 체계 개편이 필수라고 강조한다. 보안의 패러다임이 “사람이 AI를 통제하던 시대에서, AI가 사람보다 먼저 움직이는 시대”로 넘어가고 있기 때문이다.

참고 출처

• https://www.ndtv.com/world-news/us-firm-claims-it-foiled-large-scale-ai-cyberattack-by-chinese-hackers-9640198
• https://www.euronews.com/next/2025/11/14/anthropic-says-chinese-state-backed-hackers-used-its-ai-for-major-cyberattack
• https://assets.anthropic.com/m/ec212e6566a0d47/original/Disrupting-the-first-reported-AI-orchestrated-cyber-espionage-campaign.pdf