① AI 반도체의 대두 배경

□ 기존 AI 반도체의 에너지 효율 개선이 요구

○ 최근의 인공지능 발전은 GPU 컴퓨팅의 발전에 힘입은 바 크나, 비록 CPU보다는 효율적이지만 GPU도 많은 발열과 전력소모로 인해 에너지 효율성 개선 필요성이 제기 

○ 인공지능은 아직 에너지 효율성 관점에서 볼 때, 지금보다 500억 배 이상 향상되어야 인간을 넘어서는 것이 가능  

 - 이세돌 9단은 밥 한 끼(약 20W)를 먹고 1,000억 개 뉴런을 가동할 수 있었지만, 알파고는 10만 개의 뉴런을 흉내 내기 위해 1,920개의 CPU와 280개의 GPU를 사용하여 1MW에 육박하는 엄청난 에너지를 소모 

□ 데이터센터와의 연결 없이 에지 디바이스에서 인공지능 연산이 수행되는 에지 AI 컴퓨팅 필요성이 대두

○ 앞으로는 데이터센터에서 인공지능 연산이 처리할 수 없는 사례가 점차 증가할 것으로 예상되는데, 다음과 같은 5가지 경우가 이에 해당 

○ 첫째, 네트워크 지연이나 연결 단절 상황이 발생하여 안전과 품질에 치명적 피해가 발생할 것으로 예상되는 경우로, 자율주행차·드론·수술 로봇·공장 품질관리 시스템 등이 이에 해당 

○ 둘째, 데이터센터로 데이터를 보내기에는 네트워크 트래픽 부하가 커 네트워크 트래픽을 감소시켜야 하는 경우로, 동영상·CCTV·IoT기기 등이 이에 해당 

○ 셋째, 기밀성이 요구되거나 내부 규정 때문에 클라이언트 데이터를 외부에 반출하기 어려운 경우로, 기업 기밀정보·개인 생체·의료 정보 등이 이에 해당 

○ 넷째, 개인이나 특정 장소의 요구조건에 맞춤화·최적화될 필요가 있는 경우로, 자율주행차·로봇·스마트 토이 등이 이에 해당 

○ 다섯째, 네트워크 연결이 물리적으로 불가능해 반드시 에지 디바이스에서 인공지능 처리를 해야 하는 경우로, 우주 탐사·심해 탐사·선박 등이 이에 해당

② AI 반도체 정의와 유형

□ AI 반도체란 인공신경망 알고리즘을 보다 효율적으로 계산하는 반도체

○ AI 반도체에 대한 업계의 명확한 정의는 없으며, 본 연구에서는 AI 반도체를 데이터센터 서버 또는 에지 디바이스에서 인공신경망 알고리즘을 보다 효율적으로 계산하는 데 최적화된 반도체로 정의 

○ AI 반도체는 광의와 협의 2가지로 정의할 수 있는데, 협의의 AI 반도체란 인공지능 연산 가속을 주목적으로 하는 반도체 중 CPU형을 제외한 GPU· FPGA·ASIC/ASSP·뉴로모픽 형태를 의미하며, 본 연구에서는 협의의 AI 반도체로 분석 범위를 한정

< AI 반도체의 정의 >

※ 출처 : 정보통신기술진흥센터, 2018 

□ AI 반도체는 기술적으로 3가지 유형으로 분류

○ (기존 반도체 진화형) CPU·GPU·FPGA 등이 이에 해당되며, 인텔·엔비디아·자일링스 등의 업체가 대표적 

 - 상대적으로 가격이 싸고 범용성이 높다는 것이 장점이나, 인공지능 연산 성능과 소비전력 효율이 낮다는 것이 단점 

○ (1세대 AI 반도체) 인공지능 연산 고속화를 위해 회로 구성을 최적화시킨 ASIC/ASSP가 이에 해당되며, 구글·인텔 등의 업체가 대표적 

 - 인공지능 연산 성능과 소비전력 효율이 높지만, 가격이 비싸고 범용성이 낮아 디자인된 알고리즘으로만 사용할 수밖에 없는 것이 단점 

○ (2세대 AI 반도체) 인간 뇌를 모방한 非폰노이만 방식 뉴로모픽 반도체가 현재까지는 가장 진보된 형태의 AI 반도체로 평가

< AI 반도체의 진화 단계와 유형 >

※ 출처 : 텔레스코프 매거진, 2018 

< 주요 AI 반도체의 특성 비교 >

※ 출처 : 정보통신기술진흥센터, 2018 

③ AI 반도체 시장 전망

□ AI 반도체는 성장이 둔화되고 있는 반도체 산업에서 새로운 성장 동력이 될 것으로 기대

○ 세계 AI 반도체 시장 규모는 3년 후인 2021년 최대 350억 달러까지 성장할 전망 

 - AI 반도체 시장 전망은 전망기관에 따라 매우 상이하며, 4개 기관의 전망치를 비교한 결과 최소치-최대치 간의 격차가 무려 7.8배에 육박 

 - 이는 전망기관마다 AI 반도체 시장에 대한 정의·범위·가정이 상이하고, AI 반도체 시장이 현재 초창기에 해당해 예측 불확실성이 높기 때문 

○ 만약 AI 반도체 시장이 낙관적 전망대로 300억 달러 내외의 시장을 형성한다면, 반도체 시장에서 약 6%라는 적지 않은 비중을 차지할 전망 

  ※ 2021년 시장 전망 : 낸드플래시($745억), 마이크로프로세서($485억), D램($457억)  

□ AI 반도체 초기 시장에서는 학습용·서버용 시장의 비중이 상대적으로 높겠지만, 시간이 지남에 따라 추론용·에지용
시장 비중이 증가하는 추세를 보일 전망 

○ 시장조사회사 가트너는 AI 반도체가 시장 초기 데이터센터 서버에서 주로 사용되다가 점차 에지 디바이스용으로 무게 중심이 옮겨가고, 단독형보다 스마트폰에 탑재되는 일체형이 대세가 될 것으로 전망 

 - 그러나 가트너의 전망은 스마트폰용 AI 반도체 시장에 대해 과도하게 낙관적으로 전망하고 있는 것으로 판단 

○ 투자은행 J.P.모건은 3~4년 후에도 여전히 서버용 시장 비중이 높을 것으로 전망하여 가트너와 견해를 달리 하고 있으며, 학습용 시장이 점진적으로 추론용 시장에 자리를 내주게 될 것으로 예측 

 - J.P.모건 전망은 가트너 전망과 비교하여 스마트폰용 AI 반도체 시장 규모를 저평가하고, IoT(자율주행차, CCTV)용 시장을 고평가한다는 점이 다른 점 

○ 중국 투자은행 중금공사(CICC)는 2021년 세계 AI 반도체 시장 규모를 353억 달러로 낙관적으로 보고 있으며, 전망 트렌드는 J.P모건과 견해를 일치 

 - 에지 디바이스 AI 반도체 시장에서 자율주행차, IoT, 스마트폰, CCTV 순으로 시장이 커질 것으로 예측

< 세계 AI 반도체 시장 전망 – J.P.모건 >

※ 출처 : J.P.모건, 2018 

< 세계 AI 반도체 시장 전망 - 중금공사 >

※ 출처 : 중금공사, 2018 

④ AI 반도체 업체 동향

□ (미국) AI 반도체 본고장 미국에서는 AI 반도체 개발 춘추전국시대가 전개

○ (대기업) 인텔과 엔비디아가 AI 반도체 초기 시장을 선점하고 있는 가운데, 반도체 사업을 영위하지 않는 인터넷·IT기업이나 심지어 자동차 기업도 자사 제품·서비스 경쟁력 강화를 위해 독자 AI 반도체를 개발 

 - (인텔) 가장 적극적으로 AI 반도체 인수합병을 추진하고 있으며, 가장 폭넓은 AI 반도체 제품 포트폴리오를 보유 

 - (엔비디아) GPGPU로 AI 반도체 시대를 연 선두주자로, 데이터센터용 볼타(Volta)와 자율주행차용 자비에(Xavier)라는 GPU를 최근 출시 

 - (구글) 자사 클라우드 인공지능 서비스를 위해 ASIC 타입 AI 반도체 TPU(추론용), TPU2(학습용)을 개발한 바 있으며, 스마트폰 픽셀2에 픽셀 비주얼 코어라는 이미지 처리 프로세서도 개발해 탑재 

 - (애플) 아이폰 8/X에 장착된 A11 바이오닉 칩셋에 뉴럴 프로세싱 엔진(NPE) 도입하였는데, 2018년부터 하이엔드 스마트폰을 중심으로 NPE 탑재가 일반화될 것으로 예상

< 미국 주요 대기업의 AI 반도체 개발 현황 >

※ 출처 : 정보통신기술진흥센터, 2018

○ (스타트업) 미국 AI 반도체 스타트업들은 엔비디아 GPU의 취약점을 공략하기 위해 ASIC/ASSP 또는 뉴로모픽 반도체 솔루션 개발에 집중 

 - 하지만 아직까지는 대부분 제품 개발 중인 상태로 구체적인 정보를 공개하지 않고 있으며, 벤처캐피탈로부터 1억 달러 이상 투자를 받은 기업은 웨이브컴퓨팅(1억 1,730만 달러)과 세레브라스 시스템즈(1억 1,200만 달러) 등 2개 업체로 조사 

 - AI 반도체 스타트업에 2017년에만 10억 달러 이상이 투자되기도 하였지만, 이들 중 기업 공개까지 성장하는 업체는 소수에 불과할 것이며, 상당수가 중도에 인수합병 되거나 사업화 실패로 사업을 중단하게 될 것으로 예측

< 미국 주요 스타트업의 AI 반도체 개발 현황 >

※ 출처 : 정보통신기술진흥센터, 2018 

□ (중국) 우수한 스타트업들이 중국 AI 반도체 기술 혁신을 주도

○ 화웨이 자회사 하이실리콘을 제외하고는 나머지 기업들이 전부 스타트업일 정도로, 중국의 AI 반도체 산업은 스타트업이 중심 

 - 딥파이, 비트메인, 씽크포스를 제외한 나머지 기업들은 모두 에지 디바이스 AI 반도체를 개발하고 있으며, 그 중에서도 ASIC/ASSP 형태가 대부분 

 - 최근 이들 중국 AI 반도체 스타트업에 대한 투자가 증가하고 있는데, 이는 AI 반도체 시대에는 국산 반도체를 사용하겠다는 중국 정부의 산업 육성 의지와 무관하지 않으며, 대학과 연구소도 사업화를 적극적으로 지원 

○ (하이실리콘) 화웨이가 출시한 스마트폰 메이트 10에 세계 최초로 NPU를 내장한 기린970 AP가 탑재되었는데, NPU 성능은 FP16에서 1.92TFLOPS 수준으로, CPU보다 20배나 많은 분당 2,000개 이미지 인식 가능 

○ (캄브리콘) 3년 내 중국 AI 반도체 시장 점유율 30% 확보를 목표로 하고 있는 중국의 대표적 AI 반도체 설계자산(IP) 업체로, 최근 1억 달러 투자를 유치했으며, 기업 가치가 10억 달러 이상으로 평가 

 - 캄브리콘 1A 프로세서는 에너지 효율이 높고 성능이 우수하다는 평가 

○ (호라이즌 로보틱스) 자율주행차 및 CCTV 용도에 특화된 AI 반도체 기업으로, 최근 1억 달러의 투자를 유치했으며 현재 종업원 300명 규모로 성장 

○ (디파이테크) 데이터센터와 에지 디바이스에 모두 적용 가능한 AI 반도체를 개발하고 있으며, 최근 삼성전자를 포함한 전략적 투자자로부터 4천만 달러의 투자를 유치

< 중국 AI 반도체 개발 현황 >

※ 출처 : 정보통신기술진흥센터, 2018 

□ (우리나라) 단기적 상용화보다 장기적인 안목의 기술 개발에 초점 

○ 우리나라에서 AI 반도체를 개발 중인 기업·기관은 10곳 미만으로, 미국·중국과 비교할 때 산업 저변이 매우 열악한 상황 

○ 대부분 에지 디바이스용 AI 반도체를 개발하고 있으며, ASIC/ASSP 개발 비중이 높은 미국·중국과 달리 뉴로모픽 반도체 개발 비중이 높다는 것이 특징 

○ (삼성전자) 대기업 중에서 유일하게 AI 반도체를 상용화하였으며, 뉴로모픽 AI 반도체 선행 연구를 추진 중 

 - 갤럭시S9 스마트폰에 탑재되는 엑시노스 9810 AP에 보다 빠른 이미지 처리를 위해 뉴럴 프로세싱 엔진을 탑재 

 - 삼성종합기술원 산하 두뇌컴퓨팅 연구실을 중심으로 뉴로모픽 반도체 개발을 추진하고 있으며, 최근 서울대학교·KAIST·UNIST과 함께 뉴로모픽 반도체 산학협력도 모색 

○ (네패스) 반도체 패키징 업체 네패스는 美 뉴로모픽칩 업체 제너럴비전과 2016년 생산-판매에 관한 글로벌 독점 판매권을 갖는 계약을 체결하고, 2018년 1월부터 뉴로모픽칩 NM500 양산을 시작 

 - 다른 AI 반도체와 달리 에지 디바이스 상에서 학습과 추론이 가능하며, 2018년 100만 개 생산·판매를 목표 

○ (넥셀) AP 전문업체로, 국내에서 유일하게 AI 반도체 설계자산 개발 추진 

 - 셀(XELL)로 명명한 AI 반도체 설계자산을 개발 중이며, 2018년 라이선스할 계획인데, 테슬라 K80이나 구글 TPU2보다 우수한 수준이라고 평가 

○ (ETRI) 자율주행차용 일체형 AI 반도체 개발 

 - 한국전자통신연구원은 세계 최소 수준인 1W 내외의 저전력으로 자율주행차가 요구하는 영상 인식 및 제어 기능을 통합 실행하는 알데바란 프로세서를 개발 

○ (서울대학교) 3개 대학들과 공동으로 뉴로모픽 반도체 개발 추진 

 - 서울대학교는 삼성전자 종합기술원의 예산 지원을 받아 2017.12월 KAIST, POSTEC, UNIST와 공동으로 뉴로모픽 반도체를 연구하는 뉴럴프로세싱연구센터(NPRC)를 개설

< 우리나라 AI 반도체 개발 현황 >

※ 출처 : 정보통신기술진흥센터, 2018

⑤ 제언 및 시사점

□ AI 반도체는 포스트 스마트폰 시대 반도체 산업의 새로운 성장동력이 될 것

○ 지난 시절 반도체 시장 성장을 이끌었던 핵심 시장의 성장률이 둔화되고 있는 가운데, AI 반도체가 저성장 탈출의 열쇠가 될 것으로 기대 

○ 중국은 AI 반도체를 그 동안 반도체 산업에서 뒤처졌던 경쟁력을 일거에 끌어올릴 수 있는 수단으로 보고 있으며, 우리나라 입장에서도 AI 반도체는 메모리 산업 성장에 긍정적 영향을 미칠 것으로 예상
AI 반도체 기술 개발에 뒤처지면 또 다시 외산에 종속될 가능성 높아 

○ AI 반도체는 지능을 학습하고 활용하는 도구이기에, 기업·국가 경쟁력을 좌우할 수 있는 전략 기술로서 보다 체계적이고 전략적인 차원에서 육성되는 것이 필요 

○ 과거 PC 시대에는 인텔 CPU에, 스마트폰 시대에는 퀄컴 AP에 종속되었듯이, AI 반도체 기술 자립을 이루지 못한다면 심지어 한 수 아래라고 생각해왔던 중국 기업으로부터 AI 반도체를 수입해 써야 하는 상황에 처하게 될 것
선택과 집중으로 차별화된 전략을 세워야 

○ 미국·중국과 비교하여 상대적으로 자금·인력 등 자원에서 열등한 우리나라로서는 상대적으로 잘할 수 있는 분야를 전략적으로 선택해 집중하는 것이 바람직 

○ 중소기업의 경우 모든 기업들이 노리는 황금 시장(자율주행차, 스마트폰) 보다 예를 들어 농업용 로봇이나 의료 영상 진단과 같은 틈새시장용 전용 AI 반도체로 특화하는 것도 생각해 볼 수 있는 전략 중 하나
과감한 인수합병도 방법 

○ 업계에서는 미국·중국 AI 반도체 기업과 우리나라의 기술 격차가 최소 1년 이상이라고 평가하고 있는데, 기술 격차를 조기에 단축하기 위해서는 우수한 기술력을 갖춘 해외 스타트업을 과감하게 인수하는 것도 필요