한국인터넷진흥원(KISA)이 사람의 직접적인 개입 없이 작동하는 자율형 인공지능, 이른바 ‘에이전틱 AI(agentic AI)’의 보안 위협에 대응하기 위해 기존 ‘AI 보안 가이드’를 개정한 ‘AI 보안 가이드 2.0’ 개발에 착수했다고 9월 15일 밝혔다. 과학기술정보통신부 산하 기관인 KISA는 기업들이 제한적인 인간 감독 아래 작동하는 AI 에이전트를 잇달아 도입하고 있는 상황에서, 이에 따른 보안 위험을 관리하기 위한 새 지침을 마련 중이라고 로이터통신이 보도했다.
핵심 요약: 무엇이, 왜 바뀌나
KISA는 지난해 처음 발간한 ‘AI 보안 가이드’를 전면 개정해, 기업 스스로 판단하고 실행하는 자율형 AI 에이전트와 실제 기기·장비를 제어하는 ‘피지컬 AI’에서 발생할 수 있는 보안 위험을 다루는 점검표(체크리스트)와 공통 통제 기준을 담을 예정이다. 업계 관계자들에 따르면 이번 개정판은 ‘AI 보안 가이드라인 2.0’으로 불리며, 지난 9월 14일 기준 이미 개발이 진행 중이었다고 서울경제가 전했다.
로이터는 KISA가 “에이전틱 AI 서비스 도입 과정에서 발생할 수 있는 보안 이슈에 초점을 맞추고, 이를 관리하기 위한 점검표를 포함할 것”이라고 밝혔다고 전했다. KISA는 또 이번 가이드에 기기·장비와 상호작용하는 피지컬 AI 시스템을 위한 공통 통제 방안도 포함될 수 있다고 언급했다.
가이드라인에 담길 구체적 내용
서울경제 보도에 따르면 AI 보안 가이드 2.0은 AI의 자율적 실행과 물리적 행동에서 비롯되는 위험을 다루며, 다음과 같은 통제 장치를 요구할 방침이다.
- 개발자에게 AI가 사용할 수 있는 권한과 접근 범위를 제한하도록 요구
- AI의 판단과 실행 내역을 위변조가 어려운 형태로 기록·보관
- 고위험 작업에 대한 사람의 사전 승인 절차 마련
- 이상 발생 시 서비스 제공자가 즉시 개입하거나 AI 실행을 중단할 수 있는 실시간 통제 체계 구축
서울경제는 “AI 보안 가이드 2.0은 통신·의료·제조 등 업종별 위협 시나리오와 개념 증명(proof-of-concept) 테스트도 포함할 예정”이라고 보도했다. 다만 로이터 보도에는 구체적인 시행 일정이 명시되지 않았으며, KISA는 아직 가이드를 “개발 중”이라고만 밝힌 상태다.
기존 AI 보안 정책과의 연결성
한국은 이미 지난해 최초의 ‘AI 보안 가이드’를 발간해 올해 1월부터 시행해왔다. 이번 2.0 버전은 그 뒤를 잇는 개정판으로, 정부가 자율 판단형 AI 시스템의 확산 속도에 맞춰 규제 체계를 빠르게 갱신하고 있음을 보여준다. 앞서 과학기술정보통신부는 지난 7월 8일 ‘AI 보안 위협 대응 매뉴얼’과 ‘AI 보안 레드티밍 가이드’라는 두 건의 공식 정부 지침을 발표한 바 있다.
이러한 일련의 조치는 한국 정부가 2027년도 AI 예산을 21.3조 원으로 편성하는 등 AI 산업 육성에 속도를 내는 동시에, 관련 보안 리스크를 선제적으로 관리하려는 이중 전략의 일환으로 풀이된다. 앞서 정부는 반도체 등 핵심 기술 보호를 위해 산업스파이 처벌을 강화하는 개정 방첩법을 9월 13일부터 시행한 바 있어, AI와 반도체 두 축에서 동시에 기술 보안망을 조이는 모양새다.
업계 반응과 배경: 왜 지금인가
이번 가이드라인 개발은 기업들이 고객 응대, 코드 작성, 업무 자동화 등 다양한 영역에 자율형 AI 에이전트를 빠르게 도입하면서, 사람의 개입 없이 이뤄지는 AI의 판단과 실행이 새로운 보안 사각지대가 될 수 있다는 우려에서 비롯됐다. KISA는 AI 에이전트가 잘못된 권한으로 시스템에 접근하거나, 물리적 장비를 오작동시킬 경우의 피해 가능성을 특히 주목하고 있는 것으로 전해졌다.
같은 시기 한국 반도체·AI 산업은 다른 변수에도 흔들리고 있다. 지난 9월 11일 중국 AI 스타트업 딥시크가 고대역폭메모리(HBM) 사용량을 크게 줄인 신형 모델을 공개하자, 서울 증시에서 삼성전자와 SK하이닉스 주가가 각각 3.5%, 2.2% 하락했다고 블룸버그가 보도했다. 이는 AI 반도체 수요를 둘러싼 불확실성이 커지는 가운데, 정부가 AI 관련 보안 규제를 동시에 정비하고 있는 배경으로 볼 수 있다.
타임라인: 최근 한국 AI 보안 정책 흐름
| 시점 | 내용 |
|---|---|
| 2025년(작년) | KISA, 최초 ‘AI 보안 가이드’ 발간 |
| 2026년 1월 | 기존 AI 보안 가이드 공식 시행 |
| 2026년 7월 8일 | 과기정통부, ‘AI 보안 위협 대응 매뉴얼’·’AI 보안 레드티밍 가이드’ 발표 |
| 2026년 9월 13일 | 산업스파이 처벌 강화한 개정 방첩법 시행 |
| 2026년 9월 14~15일 | KISA, ‘AI 보안 가이드 2.0’ 개발 착수 사실 확인 |
이 표는 로이터, 서울경제 등 공개 보도를 바탕으로 정리한 것으로, 정확한 날짜가 확인되지 않은 항목은 포함하지 않았다.
앞으로 지켜볼 점
현재까지 KISA는 ‘AI 보안 가이드 2.0’의 구체적인 공개 시점이나 법적 구속력 여부를 밝히지 않았다. 다만 체크리스트와 업종별 위협 시나리오, 개념 증명 테스트가 포함될 것이라는 점에서, 완성될 경우 국내 AI 에이전트 서비스 제공 기업들에 실질적인 운영 기준을 제시할 가능성이 크다. 온디바이스 AI를 포함해 자율성이 강화된 AI 시스템이 확산되는 만큼, 이번 가이드라인이 실제 기업 현장에 어떤 형태로 적용될지가 다음 관전 포인트다. 본지는 KISA가 가이드라인의 세부 내용과 시행 일정을 공식 발표하는 대로 후속 보도를 이어갈 예정이다.
