GRLC: Grid-based Run-length Compression for Energy-efficient CNN accelerator

Abstract

CNN (Convolutional Neural Network)구조는 많은양의 외부 DRAM접근을 통해 매개변수를 내부버퍼에 저장하게된다. 이와같은 외부 DRAM접근은 많은 전력소모를 야기시킨다. 따라서 일반적인 CNN 하드웨어가속기는 특징맵(feature-map)데이터 압축을 통해 전력소모를 줄이는 방법을 차용한다. 그러나 기존의 특징맵 압축방법은 특징맵 데이터에 충분히 ‘0’값이 많지않게되면 압축률이 떨어진다는 단점이존재한다.본 논문에서는 피쳐맵 데이터의 특징인 공간-상관성(spatial correlation)과 데이터 분포의 불균형성을 이용하여,기존의 압축방법 대비 압축률이 좋은알고리즘인 ‘그리드 기반 런-렝스 압축’ (Grid-based Run-length Compression)방법을 제안한다. 또한GRLC의 하드웨어가속기를 구현해본 결과 전체 CNN 하드웨어가속기의 크기 및 전력소모를 비교해 보았을때, 상대적으로 아주 적은 비율만큼의 크기와 전력소모를 보여준다. 최종적으로 본논문에서 제안하는 압축 방식은 전체 CNN 가속기의 전력소모를 평균 37 % 감소시킨다.