국내는 삼성전자, 현대자동차, 국외는 퀄컴, MS, 구글에서 관련 연구가 많은 것 같다. 제한된 컴퓨팅자원으로 성능을 발휘할 수 있는 연구로 자원을 많이 필요하는 클라우드나 슈퍼컴을 이용하는 환경보다 더 관심이 간다.
- Faster than human perception (사람이 사물을 인지하는 속도 about 150 msec)
- Sensor Power consumption, Sensor + AP 150mW-1.5w, Sensor only 10-50mW
- On-Device On-sence
- 메모리 접근횟수, 벡터 연산, Pruning(0에 가까운 값을 0으로)
- 모빌리티에 탑재된 Edge Device용 Embedded AI Software 개발
- 범용 GPU가 탑재된 연산 디바이스(Jetson Orin/Xavier/Nano 등)에 대한 AI 소프트웨어 런타임 환경 구축
- 모바일 디바이스 (스마트폰/스마트 워치 등)에 대한 Edge Device OS 개발
- Edge Device OS(Ubuntu/Android/iOS/RTOS 등) 환경의 AI 고속 추론 소프트웨어 개발
- 저전력 설계를 위한 멀티 코어 분산 연산 및 메모리 최적화 운용 기술 개발
삼성전자 차세대 딥러닝 기술 온 디바이스 AI란?
차세대 딥러닝 기술 ‘온 디바이스(On-Device) AI’란?
4차 산업혁명 시대가 도래하면서 인간처럼 학습하고 추론하는 인공지능(AI, Artificial Intelligence)에 대한 관심이 높습니다. 특히 앞으로는 스마트폰이나 로봇청소기, 세탁기 등에서의 사물인터넷까
news.samsungsemiconductor.com
퀄컴 We are making on-device AI ubiquitous
We are making on-device AI ubiquitous | Qualcomm
AI is a pervasive trend that is rapidly accelerating thanks to vast amounts of data and progress in both algorithms and the processing capacity of modern devices. New technology can seem to appear out of nowhere...
www.qualcomm.com
NVIDIA Megatron-LM
메가트론은 엔비디아(NVIDIA)의 Applied Deep Learning Research팀이 개발한 transformer이다. 최근 사용되는 파라미터 갯수 단위가 10억이다.


'무기체계와 컴퓨터 > 인공지능과 머신러닝 AI Machine Learning' 카테고리의 다른 글
딥러닝 (0) | 2023.10.17 |
---|---|
인공지능 기술분류와 지표 AI Index (0) | 2023.10.15 |
인공지능 기술 분류와 평가 척도 AI and evaluation metric (0) | 2023.10.07 |
머신러닝 절차 (0) | 2023.10.03 |
적대적 공격 기술 동향 (0) | 2023.10.03 |