2026년 6월, 과학기술정보통신부가 온디바이스 AI 반도체 개발사업에 8,002억 원을 투입하겠다고 발표했을 때, 이 소식은 단순한 예산 공고가 아니었다. 그것은 “클라우드 서버에 의존하지 않고, 기기 안에서 스스로 생각하는 AI”라는 새로운 패러다임의 공식 선언이었다. 부산 지역 기업이 만든 온디바이스 AI 반도체(NPU), 클라우드 없이 폰에서 어떻게 작동하나? 이 질문에 답하려면 NPU의 구조, 부산의 산업 생태계, 그리고 국산 반도체가 세계 시장에서 어떤 역할을 맡으려 하는지를 함께 살펴봐야 한다.
NPU란 무엇인가: CPU·GPU와 무엇이 다른가
NPU(Neural Processing Unit, 신경망처리장치)는 딥러닝 모델의 행렬 연산과 활성화 함수 계산에 특화된 반도체다. 일반 CPU는 순차적 연산에 강하고, GPU는 병렬 그래픽 처리를 위해 설계됐다. 반면 NPU는 신경망 추론(inference), 즉 학습이 완료된 AI 모델이 새로운 입력을 분류·생성·예측하는 과정을 최소한의 전력으로 처리하도록 회로 구조 자체가 최적화되어 있다. 이 덕분에 같은 AI 작업을 처리할 때 NPU는 CPU 대비 전력 소모와 지연 시간 모두에서 유리하다.
온디바이스 AI 반도체(NPU)의 역사: 모바일 AI의 탄생 배경
온디바이스 NPU의 역사는 2017년으로 거슬러 올라간다. 그해 애플이 아이폰 X에 A11 Bionic 칩을 탑재하면서 스마트폰에 독립적인 AI 연산 회로를 처음 도입했다. 이후 퀄컴·미디어텍·삼성 등이 모바일 SoC에 NPU 블록을 내장하기 시작했고, 2022년을 전후해 LLM(대형 언어 모델) 경량화 기술이 본격화되면서 “서버 없이 폰 안에서 LLM 추론”이 현실적 목표로 부상했다. 한국에서는 2020년 리벨리온(Rebellions) 창업을 시작으로 국산 NPU 팹리스 생태계가 형성됐고, Chosun Biz의 2026년 3월 보도에 따르면 리벨리온은 2024년 한국 최초의 NPU 팹리스 유니콘 기업이 됐다.
부산 지역 기업이 만든 온디바이스 AI 반도체(NPU): 어떤 기업들이 있나
부산 지역의 온디바이스 AI 반도체 생태계는 서울·수도권 중심의 반도체 설계 스타트업과 부산 산업 인프라가 결합하는 방식으로 성장하고 있다. 가장 주목할 기업은 리벨리온(Rebellions)이다. 리벨리온은 서버형 NPU인 ATOM과 ATOM-Max를 개발했으며, 2026년 8월 과학기술정보통신부로부터 우수연구개발 혁신제품으로 지정받았다.
또 다른 주목할 기업은 DeepX다. 동아비즈니스리뷰(DBR)의 2026년 1월 보도에 따르면, DeepX는 초저전력 반도체 DX-M2를 개발했는데, 이 칩은 1세대 칩과 동일한 전력으로 최대 1,000억 파라미터 규모의 LLM을 단일 기기 안에서 구동할 수 있도록 설계됐다. 이는 클라우드 서버 없이 스마트폰이나 엣지 기기에서 대형 AI 모델을 실행하는 데 필요한 저전력 설계의 핵심 방향을 보여준다.
부산 명지녹산 엣지 AI 데이터센터: GPU+NPU 하이브리드 구조
2026년 7월, 부산 명지녹산 산업단지에 총 183억 원 규모의 엣지 AI 데이터센터 구축이 추진됐다. Southbridge의 2026년 7월 보도에 따르면, 이 시설은 Nvidia H200 GPU 32대와 국내 NPU 168대를 결합한 한국 산업단지 최초의 GPU-NPU 하이브리드 구조를 채택한다. 설계 원리는 명확하다. GPU는 연산 집약적인 AI 모델 학습과 검증에 사용하고, NPU는 실시간 추론과 상시 서비스에 배치해 전력·비용 효율을 동시에 잡는 것이다.
이 시설은 스마트공장·비전 AI 안전, 항만 물류 자동화, 공공 보안 서비스를 지원하는 데 활용될 예정이다. 부산이 왜 온디바이스 AI의 실증 거점으로 주목받는지를 보여주는 대표 사례다. 공장·항만·도시 인프라처럼 데이터가 민감하고 네트워크 지연이 치명적인 환경에서, 서버로 데이터를 보내지 않고 현장에서 즉시 AI 추론을 수행하는 능력은 경쟁력의 핵심이 된다.
클라우드 없이 폰에서 어떻게 작동하나: NPU 추론의 원리
부산 지역 기업이 만든 온디바이스 AI 반도체(NPU), 클라우드 없이 폰에서 어떻게 작동하나? 이 물음의 핵심은 “추론(inference)”에 있다. AI가 실제로 유용한 기능을 수행하는 과정은 크게 두 단계다. 첫째, 방대한 데이터로 모델을 훈련(training)한다. 둘째, 훈련된 모델이 새로운 입력을 받아 결과를 계산하는 추론을 실행한다. 클라우드 서버는 첫 번째 단계, 즉 막대한 GPU 연산이 필요한 훈련에 유리하다. 그러나 이미 훈련된 모델이 스마트폰 사용자의 음성을 인식하거나, 사진을 보정하거나, 텍스트를 번역하는 추론 단계에서는 NPU가 훨씬 효율적이다.
모델 경량화: 폰 안에 AI를 집어넣는 기술
대형 AI 모델을 스마트폰에서 실행하려면 모델 크기를 줄여야 한다. 이 과정에서 핵심 기술이 양자화(quantization), 가지치기(pruning), 지식 증류(knowledge distillation)다. 양자화는 모델 가중치를 32비트 부동소수점에서 8비트 또는 4비트 정수로 변환해 메모리와 연산량을 줄인다. DeepX는 자체 양자화 기술을 통해 기존 방식보다 더 작은 크기에서 더 높은 성능을 달성한다고 밝혔다. 리벨리온의 ATOM 시리즈는 최대 70억 파라미터 규모의 AI 모델을 처리하도록 설계됐다.
저전력 설계: 배터리 한도 안에서 AI 실행
스마트폰의 배터리 한계는 온디바이스 AI 반도체가 넘어야 할 가장 높은 장벽이다. DeepX의 DX-M2는 동아비즈니스리뷰 보도를 근거로, 1세대 칩과 동일한 전력 범위 내에서 최대 1,000억 파라미터 LLM을 단일 기기에서 구동할 수 있도록 설계됐다. 이는 클라우드 서버에 데이터를 왕복 전송하는 것보다 전력 효율 측면에서 유리할 수 있음을 시사한다. 다만 실제 절감 폭은 모델 크기, 호출 빈도, 배터리 용량 등 기기별 조건에 따라 달라지므로, 제조사 사양만으로 단정하기보다 실제 사용 시나리오를 기준으로 판단해야 한다.
NPU는 단순히 빠른 칩이 아니다. 클라우드로 보낼 필요가 없는 데이터, 즉 개인의 음성·사진·행동 패턴을 기기 안에 묶어두는 프라이버시의 기술적 보루다.
국산 NPU의 실전 적용: SK텔레콤·KT 클라우드·KB금융의 사례
리벨리온의 NPU가 실제 서비스에 적용된 가장 두드러진 사례는 SK텔레콤과의 협력이다. 매일경제(Pulse) 보도에 따르면, SK텔레콤은 리벨리온의 NPU를 통화 요약 기능 “A. 통화 요약”과 스팸 필터링 서비스 “PASS”에 시험 적용하고 있다. 2026년 7월에는 리벨리온의 서버에서 SK텔레콤의 자체 AI 파운데이션 모델 A.X K1을 구동해, 단일 서버에서 글로벌 GPU급 AI 인프라 성능을 시연하는 데 성공했다고 발표됐다.
KB금융그룹도 2026년 5월 리벨리온과 MOU를 체결하고 그룹 전반의 AI 서비스 고도화에 NPU를 활용하기로 했다. KT 클라우드는 이미 리벨리온 ATOM을 활용한 ‘AI SERV NPU’ 서비스를 국내 최초로 구축·운영 중이다. 이는 온디바이스 AI 반도체가 스마트폰 단말을 넘어 통신·금융·공공 서비스 인프라 전반으로 확산되고 있음을 보여준다.
온디바이스 NPU와 클라우드 AI의 비교: 무엇을 언제 쓰나
온디바이스 NPU와 클라우드 AI는 경쟁 관계가 아니라 역할 분담 관계다. 부산 명지녹산 엣지 AI 데이터센터가 GPU(학습)와 NPU(추론)를 병렬 배치한 것처럼, 최적의 AI 시스템은 두 방식을 조합한다.
| 구분 | 온디바이스 NPU | 클라우드 AI |
|---|---|---|
| 연결 필요성 | 오프라인에서도 작동 | 인터넷 연결 필수 |
| 응답 지연 | 밀리초(ms) 단위 | 수십~수백 ms |
| 개인정보 보호 | 데이터가 기기 밖으로 나가지 않음 | 데이터 서버 전송 발생 |
| 연산 규모 | 경량 모델(수십억 파라미터 이하) | 초대형 모델 가능 |
| 전력 소모 | 저전력 설계 | 서버 전력 사용 |
| 대표 적용 | 음성인식, 사진 보정, 번역, 스팸 필터 | 대형 언어 모델, 복잡한 추론 |
정부 정책: 8,002억 원 온디바이스 AI 반도체 육성 사업의 의미
2026년 6월 출범한 8,002억 원 규모의 온디바이스 AI 반도체 개발사업은 한국 반도체 정책의 방향 전환을 상징한다. 과학기술정보통신부가 주관하는 이 사업은 자동차, IoT·가전, 기계·로봇, 방산 등 4대 분야에 필요한 10종의 AI 반도체 개발을 목표로 한다. 단순히 기술 개발 지원을 넘어, 정부가 초기 수요를 직접 창출해 국산 NPU가 시장에서 자립할 기반을 만드는 것이 핵심이다. 2026년 3월 정부가 리벨리온에 2,500억 원 직접 투자를 승인한 것도 같은 맥락이다.
클라우드 AI가 이미 자리 잡은 시장에서 국산 NPU가 비집고 들어갈 틈은, 개인정보 보호와 실시간 추론이 동시에 요구되는 공공·산업 영역이다.
국산 NPU 반도체 주요 기업 비교
| 기업 | 대표 제품 | 핵심 특징 | 주요 파트너 |
|---|---|---|---|
| 리벨리온(Rebellions) | ATOM, ATOM-Max | 서버형 NPU, 70억 파라미터 LLM 지원, 한국 최초 NPU 팹리스 유니콘 | SK텔레콤, KT 클라우드, KB금융, NIA |
| DeepX | DX-M2 | 초저전력 설계, 동일 전력으로 1,000억 파라미터 LLM 지원 목표, $1/TOPS 타깃 | 엣지 기기·로봇 시장 타깃 |
자주 묻는 질문
NPU와 GPU는 어떻게 다른가?
GPU는 그래픽 처리와 대규모 병렬 연산에 최적화된 반도체로, AI 모델 학습에 주로 쓰인다. NPU는 이미 학습된 AI 모델의 추론 연산에 특화되어 있어 같은 추론 작업을 훨씬 적은 전력으로 처리할 수 있다. 부산 명지녹산 데이터센터가 GPU 32대와 NPU 168대를 분리 배치한 것이 이 차이를 단적으로 보여준다.
온디바이스 AI는 개인정보 보호에 실제로 도움이 되나?
음성, 사진, 통화 내용 등 민감한 데이터가 기기 내부에서 처리되면, 외부 서버로 전송되는 데이터의 범위가 줄어든다. 이는 데이터 유출이나 서버 해킹에 따른 프라이버시 위험을 구조적으로 낮추는 효과가 있다. SK텔레콤이 통화 요약 기능에 리벨리온 NPU를 시험 적용하는 이유 중 하나도 이 프라이버시 이점이다. 다만 기기 내부 처리가 완전한 프라이버시를 보장하지는 않으므로, 운영체제와 앱의 데이터 접근 정책을 함께 살펴야 한다.
클라우드 AI가 더 강력한데 왜 온디바이스 NPU가 필요한가?
클라우드 AI는 초대형 모델을 다루는 데 강하지만, 인터넷 연결이 끊기면 동작하지 않고, 데이터를 서버로 보내야 하며, 왕복 지연이 발생한다. 지하철·터널·항만·공장 같은 네트워크 불안정 환경이나 실시간 응답이 중요한 상황에서는 온디바이스 NPU가 필수다. 두 방식은 경쟁 관계가 아니라 상황에 따라 선택하거나 결합하는 보완 관계다.
부산이 온디바이스 AI 반도체 거점으로 주목받는 이유는?
부산은 명지녹산을 비롯한 산업단지, 국내 최대 항만, 스마트시티 실증 인프라를 갖추고 있어 온디바이스 AI를 실제 산업 환경에서 검증하기 최적의 조건을 보유하고 있다. 공장 자동화, 항만 물류, 공공 안전 CCTV처럼 데이터가 민감하고 응답 속도가 중요한 현장이 밀집해 있기 때문에, NPU 기반의 현장 추론형 AI를 실증하고 상용화하기 좋은 환경이 자연스럽게 형성돼 있다. 자세한 내용은 부산·서남권 대규모 반도체 투자 기사에서 확인할 수 있다.
한국 정부의 NPU 지원 정책은 어떻게 되나?
과학기술정보통신부와 NIA(한국지능정보사회진흥원)가 국내 NPU 기반 공공 인프라 전환을 주도하고 있다. 2026년 6월 출범한 8,002억 원 규모 온디바이스 AI 반도체 사업 외에도, 2026년 3월에는 리벨리온에 2,500억 원 직접투자를 승인했고, 공공 CCTV의 국산 NPU 전환 사업을 진행 중이다. 이 대통령도 2030년까지 기업 가치 1조 원 이상의 신안보 기업 5개를 육성하겠다는 목표를 밝혔으며, AI 반도체는 그 핵심 분야 중 하나다.
NPU 기술의 한계는 무엇인가?
현재 온디바이스 NPU는 경량화된 모델에 최적화되어 있어, 클라우드 서버에서 구동되는 초대형 모델(수천억 파라미터)의 성능을 완전히 대체하기 어렵다. 복잡한 추론, 다중 모달 대규모 생성 등 연산 집약적 작업은 여전히 클라우드가 유리하다. 또한 NPU의 실제 전력 절감 폭은 모델 크기와 사용 패턴에 따라 크게 달라지므로, 제조사 스펙 수치를 그대로 현실에 적용하는 데는 주의가 필요하다.
핵심 정리: 부산 지역 기업이 만든 온디바이스 AI 반도체(NPU)의 현재와 미래
부산 지역 기업이 만든 온디바이스 AI 반도체(NPU), 클라우드 없이 폰에서 어떻게 작동하나? 라는 질문에 대한 답은 2026년 8월 현재 이미 구체적인 형태로 존재한다. 리벨리온의 ATOM-Max는 공공 CCTV 서버에 탑재됐고, SK텔레콤의 통화 요약 서비스에 시험 적용됐으며, 정부로부터 혁신제품 지정을 받았다. 부산 명지녹산에는 NPU 168대를 갖춘 엣지 AI 데이터센터가 들어서고 있다. DeepX는 동일 전력으로 더 강력한 AI를 실행하는 초저전력 반도체를 개발하고 있다.
온디바이스 AI 반도체의 핵심은 세 가지다. 첫째, 클라우드 없이 기기 내부에서 추론을 실행하므로 오프라인에서도 동작한다. 둘째, 데이터가 기기 밖으로 나가지 않아 프라이버시가 구조적으로 보호된다. 셋째, 네트워크 왕복 지연이 없어 실시간 응답이 가능하다. 이 세 가지 장점은 스마트폰 단말을 넘어 공장, 항만, 공공 안전, 금융 서비스 전반에서 국산 NPU의 수요를 만들어 내고 있다. 한국이 메모리 반도체에 이어 AI 추론 반도체에서도 독자적인 경쟁력을 확보할 수 있을지, 부산은 그 실험의 최전선에 있다.
출처
- Rebellions supplies server NPUs to South Korea’s public CCTV control centers — Chosun Biz — 조회일: 2026년 8월 23일
- Rebellions wins Korea innovative R&D label, opens public NPU procurement — Chosun Biz — 조회일: 2026년 8월 23일
- South Korea to invest $166 million in AI chip startup Rebellions — Reuters — 조회일: 2026년 8월 23일
- Rebellions builds global GPU-class AI infrastructure with Korean-made NPU — Digital Today — 조회일: 2026년 8월 23일
- South Korea launches 800.2b-won K-on-device AI chip drive — Chosun Biz — 조회일: 2026년 8월 23일
- SKT tests Rebellions NPU on AI personal assistant A. — 매일경제(Pulse) — 조회일: 2026년 8월 23일
- Korean Startup Develops Ultralow-Power Chip for Physical AI — 동아비즈니스리뷰(DBR) — 조회일: 2026년 8월 23일
- 32 H200 GPUs Coming to Myeongji-Noksan — Southbridge — 조회일: 2026년 8월 23일
- Rebellions triples sales to 35b won, targets South Korea fabless lead — Chosun Biz — 조회일: 2026년 8월 23일
