크로노스 그룹 신경망 관련 두개의 표준화 발족

새로운 신경망 교환 포맷 표준 워킹 그룹에 기업체의 참여를 요청
OpenVX 워킹 그룹에서는 신경망 확장판 제정을 시작  

2016년 10월 4일, 샌프란시스코, 크로노스 그룹은 하드웨어 및 소프트웨어 관련 기관들의 개방형 컨소시엄으로서, 오늘 새로운 두개의 표준화 작업 그룹의 발족을 공식 발표하였다. 최근 산업계에서 요구가 커진 신경망 기술 관련 표준화로, 첫번째는 새로운 워킹 그룹에서는 딥 러닝 데이터를 학습 시스템과 인터페이스 엔진사이에 자료 교환을 위한 API 독립적인 파일 포맷 표준을 제정하게 된다. 새 표준인 신경망 교환 포맷(Neural Network Exchange Format , NNEF™)에 필요한 요구사항과 상세 설계에 관련 제안 작업들이 진행중에 있다. 이 표준화 작업에 관심있는 기업 및 기관은, 크로노스 그룹에 참여하면 의견을 내고, 표결에 참여할 수 있다. 두번째 프로젝트로는 OpenVX™ 워킹 그룹에서 진행하는 컨볼루션 신경망 토폴로지에 대한 확장판 표준화 작업으로 OpenVG의 그래프 표현과 연결되어 사용할 수 있도록 하는 표준을 제정할 예정이다.

신경망 기술은 최근 패턴 인식의 문제를 해결하는데 매우 큰 진보를 이루었다. 특히 컴퓨터 비전 분야의 물체 인식, 얼굴 인식, 영상 검색, 이미지를 텍스트르 변환, 그리고 자동차의 자율 주행 시스템을 통해 운전자를 지원하는 시스템에 중요한 역할을 하고 있다. 컨볼루셔널 신경망 (CNN, Convolutional Neural Network)은 계산량이 매우 많고, 최근 많은 기업들이 모바일 및 임베디드 프로세서 구조에서 높은 속도와 낮은 전력사용으로 신경망 기반 추론을 가속하기 위한 노력을 경주하고 있다.  이러한 급속한 발전으로 인해, 임베디드 신경망 처리가 파편화 되고, 다양한 플랫폼간에 추론 엔진을 구성하고 가속하고자 하는 개발자들에게 불편한 장애물을 만들 위험성이 있다.

신경망 교환 포맷(NNEF, Neural Network Exchange Format) 이란
현재 대부분의 신경망 툴킷이나 추론 엔진은 훈련 네트웍 파라메터를 설명하는 독자적인 포맷을 사용하고 있어, 다양한 추론 엔진들 간에 이를 수행하여 학습을 진행하기 위해서는 독자적 파일 포맷을 가져오고 내보내는 기능을 따로 구현해야만 했다. 크로노스의 신경망 교환 포맷은 신경망을 생성하는 도구를 사용하고, 이를 실행하여 학습된 신경망을 다른 툴킷이나 추론엔진에 전송하도록 하는 과정을 단순화 시킬 수 있도록 설계되었다. 이를 통해서 다양한 이종 플랫폼으로 구성된 딥 러닝 도구, 엔진 및 응용을 개발하는 과정에서의 장애물이 제거될 것이다.

NNEF 표준은 신경망 구조, 데이터 포맷, 공통적으로 사용되는 연산(컨볼루션, 풀링, 정규화 등)과 공용 신경망 시멘틱을 캡슐화하게 된다. 이를 통해 학습된 망을 다양한 도구와 엔진간에 안정적으로 내보내고, 가져올 수 있게 될 것이다. NNEF는 순수하게 데이터 교환 포맷이며, 의도적으로 내보낸 신경망이 어떻게 훈련되었는지 혹은 가져운 신경망이 어떻게 실행될지에 대해서 규정하지 않도록 하였다. 이는 빠르게 진보하는 이 분야의 혁신과 경쟁을 방해하지 않게 하려는 의도이다. NNEF의 발족에 대한 좀 더 상세한 정보는 NNEF Home Page 에서 확인할 수 있다.

OpenVX 신경망 확장판에 대하여
OpenVX 신경망 확장은 OpenVX 그래프에서 CNN 기반의 추론을 수행하기 위한 구조를 정의한다. 이 확장판은 다차원 텐서 오브젝트의 자료구조를 정의함으로써, 신경망 계층을 연경하는데 사용될 수 있으며,  OpenVX 노드로 표현되어, 유연한 CNN 토폴로지를 생성할 수 있다. OpenVX  신경망 계층의 타입에는 컨볼루션, 풀링, 전체 연결, 정규화, 소프트-맥스 및 9개의 서로 다른 함수로 구성된 액티베이션 등이 있다. 이 확장판을 통해 전통적인 비전 처리를 하는 OpenVX  그래프와 함께 사용되는 신경망 추론이 가능해질 것이다.

오늘 OpenVX 워킹 그룹은 신경망 확장판을 지원하는 가져오기/내보내기 확장판을 함께 발표하였는데, OpenVX 오브젝트를 가져오기/내보내기 하기 위한 API 의 정의하여 전통적인 컴퓨터 비전 노드와 그래프 또는 부분 그래프를 표현하는 데이터 오브젝트, 네트웍의 가중치와 바이어스 혹은 전채 네트워크 정보를 포함하는 CNN 오브젝트를 다룰 수 있다.  

상위 계층의 OpenVX 추상화를 통해 다양한 일련의 하드웨어와 소프트웨어 가속 플랫폼에서의 비전 처리를 그래프 데이터 플로우를 통해 구현하는 것이 가능하다. 이번에 신경망 추론 기능이 OpenVX에 추가됨으로써 동일한 포터블, 기능에 대한 프로세서 독립적인 표현이 가능해 짐으로써 추론 엔진이 실제 가속을 구현하는 방식에 중대한 자유도와 유연성을 줄 수 있게 될 것이다. OpenVX 신경망 확장판은 잠정안 형태로 먼저 배포되어 산업계의 피드백을 통해 최종판으로 개발될 예정이다. 관련 의견 개진은 OpenVX Forums을 통해서 해주기를 바란다.  새 확장판에 대한 좀더 상세한 정보는OpenVX Home Page  에서 얻을 수 있다.

크로노스 그룹은 신경망 관련 활동을 조율하고 있으며, NNEF 파일을 통해 OpenVX  신경망 그래프가 완전하게 표현될 수 있기를 기대하고 있으며, NNEF 포맷 정의가 완료되면, OpenVX 는 NNEF 파일 가져오기/내보내기 확장을 통해 신경망 토폴로지를 사용할 수 있게 될 것이다.

산업계의 지원
 “AdasWorks는 NNEF 워킹 그룹의 발족에 함께 참여하였습니다. 자율 주행 분야에서는  플랫폼에 독립적인 신경망 기반 소프트웨어 솔루션에 대한 요구가 계속 커지고 있었습니다. 우리는 칩 개발 업체들과 협력을 통해 저전력, 고성눙, 신경망 하드웨어를 만들어 낼 것입니다. 또한 이 산업 표준이 다중 플랫폼에서 작동하며 전체 시장에 이익을 가져다 줄 것이라고 굳게 믿고 있습니다. 또한 여러 회사가 이 새로운 활동에 참여하는 것을 기쁘게 생각합니다.”  Laszlo Kishonti, founder and CEO of AdasWorks.

 “AMD는 개방형 표준의 개발을 전적으로 지원하고 있습니다. 최근에는 OpenVX 오픈 소스를 업계 최초로 공개한 바 있습니다. 우리는 OpenVX  확장판과 컴퓨터 비전과 관련 응용에서 요구되는 CNN과 같은 신경망 데이터 포맷의 표준 개발을 지원할 것입니다.” Mike Mantor, corporate fellow and CTO, Radeon Technologies Group, AMD.

 “Cadence는 우리의 Tensilica Vision DSPs 칩에서 OpenVX와 CNN 프로그램의 하드웨어 가속을 수행하기 위해서 관련 도구의 개발에 큰 투자를 해 왔습니다. 크로노스 그룹의 표준  CNN 교환 포맷 표준화는 관련 CNN 추론 영역에서 관련 데이터를 교환하는 만능 도구를 개발할 수 있게 할 것입니다. 특히 OpenVX 확장판은 영상 및 비전 알고리즘을 임베디드 시스템에 탑재하는 것을 더욱 쉽게 만들것입니다. Dino Bekis, vice president of product marketing for the IP Group at Cadence.

 “인텔은 OpenVX와 OpenVX 신경망 확장판의 표준화를 환영하고 또한 이를 지원할 것입니다. 이는 딥러닝 컴퓨터 비전의 매우 중요한 요소로 작동할 것입니다. 크로노스의 OpenVX 신경망 확장판은 임베디드 컴퓨터 비전과 기계 지능 하드웨어 디바이스에 딥 러닝에 적합하게 만들어 줄 수 있을 것으로 기대하고 있습니다. Ron Friedman, Intel Corporate vice president and general manager of IP Blocks and Technologies.

 “CNN은 비전 처리의 열쇠로서, 우리 Imagination사는 기쁜 마음으로 크로노스 그룹의 신경망 표준화 발족에 참여하고 있습니다. 우리의 PowerVR GPU는 이미 초기부터 OpenVX 를 지원하고 있으며, CNN  학습을 PowerVR GPU에서 데모를 보여주고 있습니다. OpenVX의 CNN확장판은, 우리의 고객이 비전 응용을  우리 PowerVR SoC 상에서 CNN을 이용하여 응용을 개발하는 것을 더욱 간편하게 만들어 줄 것으로 기대하고 있습니다” Chris Longstaff, Senior Director of Product and Technology Marketing, PowerVR, Imagination Technologies.

 “우리는 지금 많은 실제 우리 생활에서의 문제들을 신경망을 통해 해결하고 있는 것을 보고 있습니다. 효율적인 신경망 추론을 임베디드 시스템 상에서 구현하는 것은 모바일 폰에서 AR/VR, 자동차 안전 등의 아주 다양한 응용이 가능해 질 것입니다”  Victor Erukhimov, CEO of Itseez3D, Inc. and the chair of the OpenVX working group.

 “적극적으로 활동하는 워킹 그룹 멤버로서, OpenVX의 초기 구현 업체로서, 우리 VeriSilicon 은 딥러닝과 신경망에 대한 크로노스의 표준화 발족을 매우 기쁘게 생각합니다. 신경망과 비전 처리간에 상호운용성과 프로그래밍이 가능해 지면 OpenVX 는 최적의 인터페이스가 될 것입니다. 우리 회사의  VIP8000 초저전력, 스케일러블 비전 솔루션은 신경망 엔진과 결합하고, OpenVX 의 최적화된 쉐이더 프로그래밍 엔진, 특별히 신경망을 설계된 텐서 프로세싱 섬유라 불리는 연결 로직 등을 갖추고 있어, 컴퓨터 비전과 신경망 사이에 협력적인 컴퓨팅을 가능하게 해 줄 것입니다. VeriSilicon 은 크로노스 NEFF 워킹 그룹에 계속 참여를 통해 딥 러닝 프레임워크와 툴킷을 사이에 연결 역할을 하게 될 것으로 기대하고 있습니다. 간단하고 표준화된 신경망 포맷은 사용자가 자신이 좋아하는 훈련 도구를 선택하고 다른 응용 프로그램에서 다른 추론 엔진에 훈련 네트워크를 구축을 수행하는데 필수적입니다” Shanghung Lin, Vice President for Vision and Image Product Development at VeriSilicon.

크로노스 그룹 소개
크로노스 그룹은 산업계의 컨소시엄으로서, 병렬 컴퓨팅, 컴퓨터 그래픽스, 컴퓨터 비전, 센서 처리와 동적 미디어 등에 대한 저작과 가속을 위한 개방형 표준을 제정하고 있다. 크로노스의 표준에는 Vulkan™, OpenGL®, OpenGL® ES, WebGL™, OpenCL™, SPIR™, SYCL™, WebCL™, OpenVX™, OpenMAX™, OpenVG™, OpenSL ES™, StreamInput™, COLLADA™ 및 glTF™  등이 있으며, 회원사로 참여하면 표준의 제정에 기여하고, 관련 투표권을 갖게 되며, 일반에 공개되기 앞서 표준 문서에 접근할 수 있는 권리를 갖게 된다. 이를 통해 회원사는 다른 기업에 앞서 관련 제품을 개발하고 생산할 수 있는 기회를 가질 수 있다. 상세한 정보는 http://www.khronos.org 에서 얻을 수 있다.

###

Khronos, Vulkan, DevU, StreamInput, SPIR, SPIR-V, SYCL, WebGL, WebCL, COLLADA, OpenKODE, OpenVG, OpenVX, EGL, glTF, OpenSL ES 및 OpenMAX 는 Khronos Group Inc. 의 등록상표입니다.  ASTC는 ARM Holdings PLC의 등록상표입니다. OpenCL 은 Apple Inc.의 등록 상표이며  OpenGL은 Silicon Graphics International의 등록 상표이며, OpenGL ES and OpenGL SC 로고는 Silicon Graphics International 상표이며, 크로노스 그룹에 라이선스 허여되었습니다. 기타 회사명, 제품명 등은 각 상표를 보유하고 있는 기업의 등록 상표 입니다.