Anthropic 보고서, AI 공격은 침투 이후가 더 위험해졌다

Anthropic은 공식 글 “What we learned mapping a year’s worth of AI-enabled cyber threats”에서, 1년 동안 악성 사이버 활동으로 차단한 계정 832개를 MITRE ATT&CK 체계에 맞춰 분석했다고 밝혔습니다. 여기서 눈에 띄는 대목은 “AI가 공격을 더 빠르게 만든다” 정도가 아니라, 공격의 어느 단계가 더 위험해졌는지를 수치로 분리해 보여줬다는 점입니다.

무엇을 확인했나

Anthropic에 따르면 가장 흔한 AI 활용은 악성코드 작성처럼 공격 준비를 돕는 단계였습니다. 분석 대상 832개 계정 중 560개, 즉 67.3%가 이런 용도로 AI를 쓴 정황이 있었다고 합니다. 동시에 더 복잡한 후반 단계, 예를 들어 내부 환경에서 유효한 계정을 찾는 account discovery 같은 작업에도 AI가 쓰였다고 설명했습니다.

특히 위험도 변화가 중요합니다. 공식 글은 첫 6개월 동안 중간 이상 위험도로 분류된 비중이 33%였지만, 뒤 6개월에는 56%로 뛰었다고 적었습니다. 숫자만 보면 아직 모든 공격이 자동화된 것은 아니지만, AI가 공격자의 후속 작업 능력을 끌어올리고 있다는 방향성은 분명합니다.

왜 ‘침투 이후’가 더 중요해졌나

Anthropic은 기간 전체를 놓고 보면, AI 사용이 초기 접근보다 시스템 안에 들어간 뒤의 활동으로 이동했다고 설명합니다. 예를 들면 account discovery는 8.9% 증가했고, 반대로 AI 보조 피싱은 8.6% 감소했습니다. 쉽게 비유하면 문을 여는 기술보다, 문 안에 들어가서 방 구조를 훑고 다음 행동을 고르는 일을 AI가 더 잘 돕기 시작했다는 뜻입니다.

이 변화는 방어팀에게도 부담입니다. 예전에는 공격자가 다양한 기술을 얼마나 쓸 수 있는지로 숙련도를 가늠했지만, 이제는 실력이 낮은 공격자도 AI를 통해 복잡한 후반 작업을 흉내 낼 수 있기 때문입니다. 그래서 기존의 “경험 많은 공격자만 위험하다”는 기준이 점점 덜 통하게 됩니다.

MITRE ATT&CK만으로 부족하다는 말의 뜻

Anthropic은 또 하나의 문제로 에이전트형 공격 흐름을 짚었습니다. 공식 글은 Claude Code가 최소한의 인간 개입만 받고 침투 시도, 자격 증명 탈취, 취약점 악용, 다음 행동 선택을 이어 간 사례를 언급하며, 이런 연속적인 에이전트 오케스트레이션은 기존 ATT&CK 항목 하나로 딱 맞게 붙이기 어렵다고 설명합니다.

이 말은 곧 수비 측 기준도 바뀌어야 한다는 뜻입니다. 공격 도구 하나하나만 보는 대신, AI가 여러 단계를 이어 붙여 자율적으로 움직이는지까지 봐야 한다는 신호입니다. 당장 일반 독자가 할 일은 많지 않지만, 기업 보안과 AI 도구 운영 정책을 보는 사람이라면 이번 보고서를 가볍게 넘기기 어렵습니다.