작은 머신 러닝 설계로 IoT 장치의 메모리 사용 병목 현상 완화
머신 러닝은 학습, 최적화, 작업수행 뿐만 아니라 패턴과 행동을 식별하고
예측하는 강력한 도구를 연구원에게 제공합니다.
이는 자율주행자동차나 소셜 로봇 비전 시스템과 같은 어플리케이션에서부터
스마트 온도 조절 장치, 건강 변화를 모니터링 할 수 있는
스마트워치 및 어플과 같은 웨어러블 및 모바일 디바이스까지 다양합니다.
https://stack-coder-3ib1.proseful.com/untitled-2
https://stack-coder-3ib1.proseful.com/untitled
https://jweyufvy5an8.blog.fc2.com/blog-entry-2.html
https://jweyufvy5an8.blog.fc2.com/blog-entry-1.html
이러한 알고리즘과 아키텍처는 더욱 강력하고 효율적이지만,
일반적으로 학습과 추론을 위해 방대한 양의 메모리, 계산, 데이터가 필요합니다.
동시에 연구원들은 수십억 개의 사물 인터넷(IoT) 장치에서 발견되는
마이크로 컨트롤러 장치(MCU)까지 이러한 알고리즘이 실행될 수 있는 장치의
크기와 복잡성을 줄이기 위해서 노력하고 있습니다.
MCU는 운영체제 없이 간단한 명령어를 실행하는 소형 집적 회로에 내장 된
메모리 제한이 있는 미니 컴퓨터 입니다.
이러한 비교적 저렴한 엣지 장치는 저소비 전력, 컴퓨팅 및 대역폭을 필요로 하며,
AI 기술을 도입하여 유틸리티를 확장하고 프라이버시를 보호하며,
사용을 민주화 할 기회를 많이 제공합니다.
이것은 TinyML이라고 불리는 분야입니다.
현재 MIT-IBM Watson AI Lab의 TinyML에서 근무하는 MIT 팀과
전기 공학 및 컴퓨터 공학과(EECS) 조교수인 Song Han의 연구팀은
라이브 영상의 이미지 인식 성능을 향상 시키면서 필요한 메모리 용량을
더욱 줄이는 기술을 고안했습니다.
TinyML 소프트웨어 및 하드웨어를 설계하는 Han은
“우리의 새로운 기술은, 보다 많은 것을 할 수 있고, 엣지 디바이스에서
작은 머신 러닝의 길을 열어줍니다” 라고 이야기 했습니다.
TinyML 효율성을 높이기 위해 EECS와 MIT-IBM Watson AI Lab의
Han 교수팀은 다양한 콘볼루션 신경망(CNN)을 실행하는 마이크로 컨트롤러에서
메모리가 어떻게 사용되는지를 분석했습니다.
CNN은 뇌의 뉴런에 이어 생물학적으로 영감을 받은 모델로 비디오 프레임을
걷고 있는 사람처럼 이미지 내의 시각적 특징을 평가하고 식별하기 위해
종종 적용됩니다.
이들의 연구는 메모리 사용률의 불균형을 발견하고 컴퓨터 칩의 프론트 로딩을
야기하여 병목 현상을 일으켰습니다.
새로운 추론 기술과 신경 구조를 개발함으로써 연구팀은 문제를 완화하고
최대 메모리 사용량을 4~8배 줄였습니다.
게다가 연구팀은 카메라가 장착되어 있고 사람과 물체를 감지할 수 있는
자체 tinyML 비전시스템에 이를 배포하여 MCUNet V2 라는 차세대 제품을 만들었습니다.
마이크로 컨트롤러에서 실행되는 머신 러닝 방법과 비교하면
MCU Net V2는 탐색 시 높은 정밀도로 이를 능가하며,
이전에는 불가능했던 추가 비전 어플리케이션의 문호를 열었습니다.
TinyML은 원격 서버 및 스마트폰 등의 대형 기기에서 이뤄지는 딥 머신 러닝보다
더 많은 이점을 제공합니다.
Han은 데이터는 컴퓨팅을 위해 클라우드로 전송되는 것이 아니라
로컬 장치에서 처리되기 때문에 프라이버시, 컴퓨팅이 신속하고 대기 시간이 짧기 때문에
견고성, IoT 장치의 비용이 약 1~2달러이기 때문에 저비용이라고 지적하고 있습니다.
게다가 일부 더 크고 전통적인 AI 모델은 평생동안 자동차 5대만큼의 탄소를 배출할 수 있으며, 많은 GPU를 필요로 하고 훈련에 수십억 달러가 듭니다.
“따라서 우리는 이러한 TinyML 기술을 통해 이산화탄소 배출량을 줄이고,
AI를 보다 친환경적으로 보다 스마트하게, 보다 신속하게,
그리고 누구나 쉽게 접근할 수 있도록 하여 AI에 대한 이용에 제한이 없게 하는것” 이
목표라고 Han은 이야기 했습니다.