[K-보안 주권⑤] 생성형 AI가 바꾼 사이버 공격의 경제학…"AI 공...

악성코드·피싱 자동화에 취약점 폭증 예고…에이전틱 SOC·CTEM·공격면 축소로 대응디지털데일리는 [K-보안 주권] 기획 시리즈를 통해 한국이 서 있는 보안 현주소와 향후 나아갈 방향을 짚어본다. 대한민국이 'AI 3대 강국'을 넘어 사이버 방위의 핵심 축인 '보안 주권(소버린 시큐리티)'을 확보하기 위해 필요한 과제와 방향성을 살펴보고 국내 보안 기업과 관계자, 전문가들이 현장에서 말하는 한국의 경쟁력과 미래 전략을 알아본다. <편집자>[사진=나노바나나2 생성][디지털데일리 박재현기자] AI는 사이버 공격을 더 정교하게 만든 것이 아니라 더 싸게 만들었다. 악성코드 제작부터 피싱·취약점 탐색까지 AI가 자동화하면서 전문성 없이도 정교한 공격이 가능해졌다. 공격 비용이 무너지자 방어의 셈법도 바뀌고 있다.전문성은 그동안 공격의 자연스러운 진입장벽이었다. 악성코드를 만들려면 코딩 실력이, 취약점을 찾으려면 분석 경험이 필요했다. 지금은 생성형 AI 토큰 비용만 치르면 그 과정 대부분이 자동화된다. 공격 대상도 달라졌다.과거 공격자는 큰 자금이나 데이터를 가진 조직을 골라 노렸지만, 이제는 취약점이 있는 곳이면 어디든 시도한다. 공격의 선택성이 사라지면서 '우리는 표적이 아니다'라는 방어자의 전제가 흔들리고 있다.◆ 한국어 피싱, 이제 눈으로 못 거른다…공격의 질과 양 동시에 악화공격 비용 하락은 공격의 질과 양을 동시에 끌어올리고 있다. 더 정교한 공격이 더 많이 쏟아질 조건이 만들어졌다.실제로 최근 북한 해킹 조직 김수키는 AI와 딥페이크로 군 공무원증을 위조해 스피어 피싱을 감행했다. 지니언스 시큐리티 센터(GSC)가 포착한 이 공격은 김수키가 생성형 AI와 딥페이크로 군 공무원증 이미지를 위조한 뒤 신분 발급 업무로 위장한 사례다. 이메일 미끼를 넘어 신원 자체를 꾸며내는 단계로 올라선 공격이다.지니언스는 이를 '신뢰 위조(Trust Forgery)'로 정의했다. 얼굴·음성·신분증·회의 상황까지 위조하는 공격이 SNS 기반 개인화 접근, QR 피싱, 클릭픽스(ClickFix)류 유도와 결합하면서 사용자가 스스로 악성 행위를 하도록 속이는 속도가 빨라졌다.피싱 메일에서 사람이 식별할 수 있는 단서는 거의 사라졌다. 로그프레소는 "과거에는 어색한 번역체나 오탈자로 한국어 피싱 메일을 걸러낼 수 있었지만 이제는 자연어 구사력만으로 진위를 가리기 어렵다"고 진단했다. 사람의 눈썰미에 기대온 1차 방어선이 무력화됐다. 소프트캠프도 모의해킹 현장에서 같은 변화를 체감하고 있다. 고객사가 점검에 AI를 동원하면서 과거보다 깊고 정교하게 제품의 허점을 찾아낸다는 것이다.취약점 발굴까지 AI가 자동화하면 패치해야 할 취약점 수가 사람의 감당 한계를 넘어선다. SGA솔루션즈는 앤트로픽 '미토스'와 오픈AI 'GPT 5.5 사이버' 같은 프론티어 LLM이 코드 취약점 탐지 수준을 끌어올리고 있다는 점에 주목한다. 취약점 발굴이 자동화되면 CVE(공통취약점노출) 발생 건수가 폭증하고 공격 표면도 그만큼 넓어진다.최영철 SGA솔루션즈 대표는 "미토스가 20여 년간 드러나지 않은 취약점을 밝혀낸 것처럼 앞으로는 오픈소스 취약점 관리가 굉장히 중요해질 것"이라고 말했다. 무엇을 먼저 막을지 정하는 우선순위 판단이 방어의 새 과제로 떠올랐다.◆ "보조 분석가에서 대체 분석가로"…자율 관제, 금융권 폐쇄망까지 들어왔다공격이 자동화된 속도를 사람 손을 거치는 방어로는 따라잡을 수 없다는 것이 국내 보안기업들의 공통된 결론이다. 방어의 응수도 AI를 도구로 쓰는 단계를 넘어 AI가 판단과 조치까지 맡는 단계로 옮겨가고 있다.로그프레소는 금융권 폐쇄망에서 첫 사례를 만들었다. 2025년 국내 주요 금융권 폐쇄망에 sLLM(소형 언어모델) 기반 자율 보안운영 체계를 국내 최초로 구축했다. AI 에이전트가 MITRE ATT&CK 기준으로 흩어진 탐지 이벤트를 스스로 엮어 위협 우선순위를 매기고 격리·차단·티켓 처리까지 자율 수행한다. 외부 클라우드나 외산 LLM 없이 폐쇄망 안에서 구동된다. 망분리 환경에서 에이전틱 SOC가 이론이 아니라 운영으로 들어선 사례다.로그프레소가 자율화로 풀려는 진짜 문제는 인력난이다. 로그프레소 측은 "질문에 답하는 데서 멈추지 않고 판단과 조치를 스스로 실행하는 것이 보조 분석가와 대체 분석가를 가르는 지점"이라고 설명했다. 주니어 분석가가 시니어 수준으로 크는 데 걸리는 시간이 SOC 전체의 병목이었다. 자연어 질의만으로 검색 쿼리와 대시보드, 플레이북이 완성된 형태로 나오면서 주니어도 시니어의 결과물을 같은 속도로 만들어낼 수 있게 됐다.파이오링크 티프론트 ZT 산업군별 보안[사진=파이오링크]파이오링크·SGA솔루션즈·지니언스도 각자 다른 영역에서 AI 자율 보안 체계를 구축하고 있다. 파이오링크는 6월 AI 에이전트 기반 위협관리 플랫폼 '블루헌터'를 출시했다. AI가 MITRE ATT&CK 기반 공격 시나리오를 직접 설계하고 실제 침투 테스트로 위험성을 검증한 뒤 대응 방안과 탐지 규칙까지 제안한다. 위협 노출을 점검하는 데서 나아가 공격자 관점에서 지속적으로 찔러보는 CTEM(지속 위협 노출 관리)을 AI로 구현했다.SGA솔루션즈는 SGA ZTA 플랫폼의 정책결정포인트(PDP)를 AI로 확장하고 있다. 기존 SIEM·SOAR만으로는 AI 기반 지능형 위협을 따라잡기 어렵다는 판단이다.지니언스는 EDR 데이터를 받아 위협의 맥락과 행위 패턴을 스스로 해석하는 '위협분석 에이전트'를 개발 중이며, 2026년을 AI 기반 통합 보안 기업으로 전환하는 해로 잡았다.가장 앞선 자율화 사례에서도 사람은 완전히 빠지지 않는다. SGA솔루션즈의 AI PDP는 인간 의사결정(Human-in-the-loop)과 결합하는 구조를 전제로 한다. 현재의 자율화는 전면 자동화가 아니라 판단의 분업에 가깝다. 반복적인 분류와 1차 대응은 AI가 맡고 책임이 큰 결정은 사람이 쥐는 방식이다.◆ "공격 표면을 드러내지 않는 게 먼저"…속도 경쟁 대신 접촉면 차단탐지 속도로 맞붙는 대신 공격이 닿을 표면 자체를 줄이는 쪽을 택한 기업들도 있다. 공격을 빨리 잡는 것보다 공격당할 면적을 좁히는 것이 근본이라는 시각이다.소프트캠프는 공격 표면 축소를 전면에 내세운다. RBI(원격 브라우저 격리)로 외부 웹사이트를 화면으로만 띄워 악성코드 유입 경로를 끊고, 외부에서 들어오는 파일은 무해화한다. SaaS나 생성형 AI를 내부에서 쓸 때도 업로드 파일을 통제해 접촉면을 줄인다. 소프트캠프는 "많이 드러날수록 보완해도 통로가 생긴다. 공격 표면을 드러내지 않는 게 먼저"라고 설명했다.자회사 레드펜소프트는 서버 런타임 취약점을 AI로 분석해 웹서버부터 내부 DB까지 이어지는 킬체인 시나리오를 도출하고 패치 우선순위를 매기는 솔루션을 준비하고 있다. 앞서 SGA솔루션즈가 지적한 우선순위 판단 문제에 대응하는 접근이다.소프트프릭은 공격의 무게중심이 네트워크 경계에서 API와 애플리케이션으로 옮겨왔다고 본다. 공개 API와 미관리·섀도우 API를 노린 공격이 늘고, 생성형 서비스에서는 프롬프트 인젝션과 민감정보 유출이라는 새 위협이 더해졌다. F-APIm 시큐리티는 API 호출 패턴과 사용자 행위, 인증 흐름, 데이터 접근 이력을 분석해 이상행위를 잡고 차단·인증 강화를 자동화한다.여기에 eBPF(확장 버클리 패킷 필터) 기반 커널 레벨 분석을 더해 공격자가 정상 호출로 위장하더라도 프로세스 실행과 시스템 콜 흐름까지 들여다보는 기술을 개발하고 있다.자율 관제와 공격 표면 축소는 접근 방식이 다르다. 자율 관제는 속도 경쟁을 받아들여 사람의 개입을 줄이는 쪽이고 표면 축소는 애초에 그 경쟁 자체를 피하는 쪽이다. 그러나 공격 자동화의 속도를 감안하면 둘 중 하나만으로는 부족하다는 게 현장의 공통된 진단이다. 결국 두 전략은 양립이 아니라 병행해야 할 과제로 보인다.