Performance and Latency Analysis of Networked AI

Abstract

In this paper, we analyze network latency and Artificial Intelligence (AI) performance to build a networked AI system. To achieve low latency, we consider networked cloud computing system. Specifically, we analyze two base schemes. First, we evaluate the rate and latency performance of the most recent WLAN standard, IEEE 802.11ax, and discuss the possible use of IEEE 802.11ax as a low latency connectivity solution for the considered networked edge computing system. Numerical results are shown for the comparison on the access delay and throughput performance of uplink multiuser (MU) and single user (SU) multi-input multi-output (MIMO). Second, we perform a fair comparison of three Human Action Recognition (HAR) models based on the UCF101-24 dataset and measure their mean Average Precisions (mAPs). A Python-GUI is implemented and used as an edge-computing platform.

본 논문은 6G IoT 구현을 위한 네트워크 상에서의 인공지능 시스템을 연구했다. 이는 클라우드를 사용해 실시간으로 서비스할 수 있어야 한다. 클라우드 서비스에서 사용할 수 있는 컴퓨팅 방식에는 클라우드 컴퓨팅과 엣지 컴퓨팅이 있는데, 더 낮은 지연 속도를 위해 엣지 컴퓨팅 방식을 가정했다. 실시간 서비스를 저해하는 또 다른 요인으로는 네트워크 딜레이가 있다. 이를 줄이기 위해 가장 최근에 발표된 와이파이 표준, IEEE 802.11ax의 지연시간을 분석했다. 이 표준에서 처음 사용된 MU-MIMO(다중 사용자 다중입력-다중송출)와 이전 표준의 SU-MIMO(단일 사용자 다중입력-다중송출) Uplink(업링크)의 지연시간, 스루풋, 충돌확률을 비교 분석했다. 그 결과, MU-MIMO Uplink가 지연시간에 더 효과적임을 보였다. 인공지능을 사용하기 위한 소프트웨어를 제작할 필요가 있다. 사용한 인공지능 모델은 비디오 데이터셋을 사용하는 인간 행동 인식 모델 세 가지이다: MOC-Detector, YOWO, Coarse-Fine Networks. 지도학습모델을 사용하기 때문에 표준화된 데이터셋 포맷을 사용한다고 가정하고, 실험을 위해 UCF101-24 데이터셋을 사용했다. 그 결과, 제작한 소프트웨어를 사용해 각 모델의 mAP 성능을 측정하고 비교 및 분석할 수 있었다. 본 논문에서는 네트워크 지연시간과 딥러닝 성능을 분석했다. 하지만, 실시간 네트워크 구현의 실패로 인해 최종 목표인 네트워크 상에서의 인공지능 시스템을 구현하지 못했다. 따라서, 이후 연구에서는 실시간 네트워크를 실현하고, 데이터셋 업로드 과정을 추가해 엣지 컴퓨팅 기반 클라우드를 구현할 예정이다.