인공지능이 대중화되면서 많이 쓰이거나 접하게 되는 말 중에서 신경망 처리장치라는 이야기를 많이 들어 봅니다. 그중 애플에서 만든 NPU가 유명한데요. NPU는 'Neural Processing Unit'의 약자로 사람의 신경망을 본떠서 만든 애플의 인공지능에 사용되는 하드웨어입니다.
애플 NPU(신경망 처리 장치)/ 뉴럴 엔진
애플에서는 이를 뉴럴엔진(Neural Engine)이라고 합니다. 뉴럴엔진은 애플의 SOC 실리콘 칩에 내장되어 있는 칩을 말합니다. 이 칩 안에 NPU가 있습니다. 애플은 애플만의 NPU칩을 사용합니다.
NPU를 인공지능이라고 알고 계시는 분들이 있는데, 그건 아니랍니다. 인공지능을 만드는 하드웨어 중 하나라고 보는 것이 정확합니다.
NPU의 역할은 이미지처리, 음성인식, 자연어 처리, 등이 가능한데요. 이는 한 번에 수많은 연산을 할 수 있기에 가능합니다. NPU칩은 CPU보다 더 많은 연산을 합니다. 1초에 22조 번까지 연산을 수행합니다. 뉴럴엔진에 탑재되어 사진, 비디오, 음성, 게임 등의 다양한 애플리케이션에서 AI를 구동 시키는 데 사용합니다.
애플 뉴럴엔진(Neural Engine) 심화 탐구
애플 뉴럴엔진은 16 코어이며, 각각의 코어는 16비트 부동소수점을 연산합니다. 부동소수점은 연산한다는 것은 그래픽 부분에서 뛰어나고 정확한 처리를 할 수 있는 능력이 뛰어나다는 이야기이기도 합니다. 16비트 부동소수점의 특징이 빠르고 메모리를 적게 차지하는 것이 특징이죠. 반면 정밀도가 낮지만 이점이 크게 중요하지는 않습니다. 빠르고 메모리를 적게 차지한다는 것이 더 큰 장점이기에 그래픽이나 3D게임에서 효과적이죠.
그러나 애플은 빠른 NPU의 연산속도를 이용해 수많은 데이터 처리를 합니다. 주로 이미지 처리, 음성인식, 자연처를 처리하는데 활용이 됩니다. 이는 AI를 좀 더 자연스럽게 사람과 소통하도록 만들어주는 역할을 합니다.
구체적으로 한 가지 예를 들어 이야기해 보면 이렇습니다.
- 뉴럴엔진은 애플 아이폰에 기본적으로 적용되는 딥퓨전 기능을 작동시킵니다. 디퓨전 기능이란 실내의 조명이 어두울 때 이를 감지하고 AI가 스스로 노이즈를 줄이고, 찍는 대상을 디테일하게 표현해 주는 기술입니다. 인공지능이 이를 알아서 처리하죠. 이것이 뉴럴 엔진이 하는 일입니다.
- 시리와 같은 음성인식 기능을 향상합니다. 음성인식 모델을 학습하여 음성인식 모델의 능력을 향상합니다.
결론
NPU(Neural Porcessing Unit) 신경망 처리장치는 결국 빠른 연산을 활용하여 사용자가 편하게 AI를 활용할 수 있도록 도와주는 보조 장치입니다. 이를 이용하면 더 발전된 AI 모델을 만들어 낼 수 있습니다.