Raspberry Pi는 AI HAT+를 통해 성능을 향상합니다.

Raspberry Pi는 이제 최대 26TOPS 성능의 AI HAT+ 추가 기능을 제공합니다. 이는 특히 임베디드 컴퓨터 비전 애플리케이션에 관심이 있는 개발자에게 Pi 5에 흥미로운 추가 기능입니다.

아시다시피 Raspberry Pi는 올해 초 Pi 5용 M.2 HAT+ 보드를 출시했습니다. M.2 HAT+는 다양한 M.2 PCIe 장치를 수용할 수 있습니다. 대부분의 사람들은 이를 NVMe SSD에 사용하지만 일부 개발자는 M.2 HAT+와 Halio가 모두 포함된 제품인 Raspberry Pi의 AI Kit에 집중했습니다. -8L NPU 모듈. 작은 Halio 모듈은 M.2 HAT+에 연결되어 최대 13TOPS(초당 테라 연산)의 컴퓨팅 성능을 제공하여 Pi 5의 AI 능력을 크게 향상시킵니다.

AI HAT+는 기본적으로 M.2 슬롯 대신 Halio NPU 모듈이 통합되어 납땜된 M.2 HAT+입니다. 즉, Pi AI Kit의 단일 보드 버전입니다. 이 통합 설계는 설정을 단순화하고(특히 여러 NPU 장착 Pi SBC가 필요할 수 있는 기업 고객의 경우) 확장된 AI 작업을 위한 향상된 열 성능을 제공합니다.

고객은 AI HAT+의 두 가지 버전 중에서 선택할 수 있습니다. 표준 버전은 Pi AI Kit와 동일한 Halio-8L 가속기를 갖추고 있습니다. 즉, TOPS가 13개로 제한됩니다. 여러 신경망을 동시에 실행하는 데 적합한 26 TOPS의 컴퓨팅 성능을 갖춘 더욱 인상적인 Halio-8 버전도 사용할 수 있습니다. 원래 Pi AI Kit용으로 설계된 모델은 AI HAT+와 호환되며 Halio-8L에서 작동하는 모든 모델은 더욱 강력한 Halio-8에서 실행됩니다.

AI HAT+의 디자인에는 확실히 몇 가지 제한 사항이 있으며, 가장 눈에 띄는 것은 마력입니다. Halio-8L 및 Halio-8 가속기는 일부 초경량 LLM을 포함하여 다양한 작업 세트를 실행할 수 있지만 주로 컴퓨터 비전 모델을 위한 것입니다. Halio의 "Model Zoo"는 Pi의 AI 기능을 테스트하려는 개발자나 애호가에게 환상적인 출발점이지만 Pi용 사용자 정의 모델을 훈련하고 컴파일하는 과정에는 상당한 인내와 지식이 필요합니다. 기계 학습을 처음 접하는 사람들은 Raspberry Pi가 아닌 기존 PC로 여정을 시작해야 합니다.

AI HAT+는 SBC가 단일 PCIe 3.0 인터페이스로 제한되므로 Pi 5에 M.2 HAT+를 설치할 수 있는 기능도 제거합니다. NPU 또는 NVME SSD를 가질 수 있지만 둘 다 가질 수는 없습니다. (NPU와 NVME 간에 교환하려면 Pi AI Kit를 사용하는 것이 더 좋습니다.)

잠깐 여담이지만, 2024년에는 Pi 액세서리를 따라가는 것이 얼마나 어려운지 지적하고 싶습니다. Raspberry Pi Foundation은 앞서 언급한 AI 키트와 AI인 M.2 확장 보드와 같은 멋진 새 장난감을 계속해서 출시하고 있습니다. 카메라, 자사 SD 카드, NVMe 드라이브 제품군. 그리고 이것들은 단지 액세서리일 뿐입니다. Raspberry PI는 올해 몇 가지 흥미로운 소프트웨어 솔루션을 공개했으며 8월에 최초의 RISC-V 보드를 출시했습니다.

Raspberry Pi AI HAT+의 13개 TOPS 모델과 26개 TOPS 모델은 현재 각각 70달러와 110달러에 구입할 수 있습니다. 모듈성을 위해 성능을 희생하려는 경우 Pi AI Kit(M.2 HAT+ 보드 및 탈착식 13 TOPS NPU 모듈 포함)를 70달러에 구입할 수도 있습니다. 어떤 AI 보드를 구입하든 상관없이 아마도 70달러짜리 Pi AI 카메라도 구입하고 싶을 것입니다.

출처: 라즈베리 파이