크노로스그룹 최적화된 신경망 데이터 교환 표준NNEF 1.0 발표

표준 채택이 크게 늘고,  오픈 소스 도구를 통한 생태계 확장

2018813, 캐나다 밴쿠버에서 개최되는 SIGGRAPH 행사에서 첨단 가속 표준을 제정하는 하드웨어 및 소프트웨어 산업체 컨소시엄인 크로노스 그룹 ( The KhronosGroup) 은 NNEF™ 1.0 (Neural Network Exchange Format) 표준의 비준을 완료하고 일반에 공개한다고 발표하였다. 잠정 표준안을 공개하여 산업계의 의견을 수렴하고 이를 반영한 최종 표준을 공개하였다. 새로운 표준은 안정적이고, 융통성 있으며 확장성을 갖춘 개방형 표준으로서, 하드웨어 업체에게는 최적화된, 가속 신경망 엔진을 다양한 장치에서 사용할 수 있도록 해 줄 것이다. 이번 표준안의 발표와 함께, 생태계에서 필수적인 도구들을 Khronos NNEF Tools repository에 함께 공개하였다. 여기에는 NNEF 파서, Tensorflow와 Caffe에서 NNEF로의 변환기가 포함된다. 가져오기 도구들은 안드로이드 Neural Network API (NNAPI) 및Khronos Group의 OpenVX™ 에서 지원된다.

NNEF는 다양한 딥러닝 엔진과 추론 엔진들 간에 신경망 데이터를 교환할 수 있도록 해 줌으로써 산업의 파편화를 줄이고자 개발된 표준으로서, 개발자들이 자유롭게 학습 및 추론 엔진을 혼합하여 사용할 수 있도록 해 준다. Khronos NNEF 워킹 그룹의 산업계 전문가 회원들의 협력의 결과물로서 만들어진 이 무료, 오픈 표준은 하드웨어 및 소프트웨어 개발자들의 제품 개발에 안정적인 로드맵을 제공해 줄 것이며 동시에 빠르게 진화하는 기계학습 산업계가 요구하는 유연성을 제공해 줄 것이다.

NNEF는 광범위한 사용 케이스와 신경망 유형을 지원한다. 기본 포맷은 사람이 읽을 수 있고 구문을 분석하고 최적화하기 쉽도록 설계되었으며 다양한 가속 아키텍처에서 최적의 매핑을 지원할 수 있도록  유연하게 연산자 정밀도와 복합 연산을 표현할 수 있다. NNEF 확장판들은 대규모 신경망을 직접 사람이 편집하고, 학습된 신경망 가중치를 사용자 정의 데이터 형식으로 표현하는 것과 같은 특정 이슈를 처리할 수 있게 해 준다.

"Khronos는 훈련된 신경망을 최첨단 장치에 탑재하고자 하는 사업계의 포맷에 대한 요구를 인지하고, 엔지니어들이 다양한 추론 엔진에 훈련 된 네트워크를 최적화하여 탑재 할 수 있는 최초의 개방형 표준 솔루션을 개발하기 시작하였습니다. 핵심NNEF 1.0은 현재의 최신 솔루션을 지원할 뿐만 아니라, 확장판 메커니즘을 통해 유연한 진화를 지원하게 될 것입니다.” Khronos NNEF 워킹 그룹 의장Peter McGuinness는 말했습니다. "2017 년12 월NNEF의 잠정안을 개발자들에게 공개하고, 산업계의 의견을 청취했습니다. 커뮤니티 반응이 엄청난 것이어서, 이 표준에 대한 필요성을 확신하게 되었고,  이를 반영한 완전한NNEF 1.0 표준을 만들 수 있었습니다."

NNEF를 표준화 된 전송 형식으로 사용하여 학습부터 최적화, 배포에 이르는 전체 워크 플로우를 구현할 수 있다. 표준의 발표와 동시에 protobuf 및python 코드를 기반으로 한 두 개의 오픈 소스Tensorflow 변환기가 함께 발표되었으며, Caffe의 변환기가 발표 되었다. Au-Zone Technologies가 개발중인Caffe2 오픈 소스 가져오기/ 내보내기 프로그램은 2018 년3 분기에 공개될 예정이다. Almotive 및AMD와 같은 회원사들이 다양한 도구를 개발 중에 있으며, National Tsing- Hua University of Taiwan은 안드로이드 NNAPI를 위한 가져오기 기능을 개발 중에 있다.

NNEF 워킹 그룹은Torch, Chainer, Theano, PyTorch 및MXNet을 포함 급속히 증가하는 딥 러닝 프레임워크와 안정적인 데이터 교환을 지원하기 위해 최선을 다하고 있다. NNEF 구문 분석기 및 유효성 검사기를 비롯한 추가 오픈 소스 도구를 제공 함으로써, Apple의Core ML 및Khronos의OpenVX 와 같은 커스텀, 모바일 및 임베디드 하드웨어 가속 비전 및 추론엔진에 가져오기 기능을 쉽게 구현 할 수 있다.

NNEF 1.0 표준 및 관련 문서는Khronos 웹 사이트에서 무료로 사용할 수 있으며NNEF 오픈 소스 도구 및 프로젝트는 Khronos NNEF Tools저장소에서 사용할 수 있다. Khronos의File Format Adopter Program을 통해 NNEF 사용자에게는 NNEF의 상표권 사용 권리와, Khronos Intellectual Property Framework의 보호를 받는 정식 라이선스가 무료로 제공된다. 

산업계의 지원

"최근 몇 달간 자동차 및 기타 산업 분야의 여러 파트너가 새로운 신경망 가속 하드웨어 플랫폼으로 전환하는 데 필요한 과제와 노력에 대한 우려를 표명했습니다. 우리는NNEF가 이러한 문제에 대한 해결책으로 여러 차례 공개적으로 언급 한 바 있습니다. NNEF 워킹 그룹의 설립 회원 중 한 사람으로서, 이 표준이 공식 발표되어 주요 기업들에 의해 채택되고 있다는 사실이 매우 기쁩니다. NNEF를 완벽하게 지원하는SDK를 제공하는 최초의NN 하드웨어IP 제공 업체로서, NNEF는 신경망 데이터 교환을 위한 신뢰할 수 있는 글로벌 표준으로 전세계 신경망 생태계 전반에 걸쳐 신속하게 채택될 것이라고 확신합니다. "  Marton Feher, Aimotive사 하드웨어 엔지니어링 팀장

" Imagination은 NNEF의 공식 발표를 환영합니다. 수년 동안PowerVR은Khronos 표준을 채택 해 왔으며, PowerVR GPU및PowerVR NNA 전용 하드웨어의 신경망 지원해 왔습니다.  상호 운용성은 항상 우리 고객의 주요 관심사입니다. NNEF 표준이 도입됨에 따라 업계 전반에서 신경망 데이터 교환이 용이해 졌습니다. "Imagination의 마케팅 커뮤니케이션 부문 부사장David Harold

크로노스 그룹 소개

크로노스 그룹은  3차원 그래픽스, 증강 및 가상현실,  비전, 기계학습 병렬처리 분야의 첨단 개방형 표준을 제정하기 위해 140여 하드웨어 및 소프트웨어 관련 기관이 결성한 산업체 컨소시엄입니다. 크로노스의 표준에는 Vulkan™, OpenGL®, OpenGL® ES, OpenGL® SC, WebGL™, SPIR-V™, OpenCL™, SYCL™, OpenVX™, NNEF™, COLLADA™, OpenXR™ 및 glTF™가 있습니다. 크로노스 그룹의 회원사가 되면 표준제정에 참여하고 기여할 수 있으며, 표준이 공개되기 전 여러 단계에서의 결정에 투표권을 행사할 수 있습니다. 표준이 공개되기 전에 표준안과 개발 중인 인증테스트 접근함으로써 경쟁사 보다 앞서 관련 가속 플랫폼 혹은 응용 제품들을 먼저 개발하고 시장에 출시할 수 있습니다.

###

Khronos, EGL, glTF, NNEF, OpenVG, OpenVX, OpenXR, SPIR, SPIR-V, SYCL, Vulkan 및 WebGL은 크로노스 그룹의 상표 혹은 등록 상표입니다. 크로노스 그룹의 상표 혹은 등록 상표입니다. OpenCL 은Apple Inc.의 상표입니다. OpenGL 및OpenGL ES와OpenGL SC 로고는Hewlett Packard Enterprise의 등록 상표이며 크로노스 그룹에 사용이 허여 되었습니다.기타 상품명,상표와 회사명은 각각 해당 회사가 관련 지재권을 소유하고 있습니다.