산업 혁신을 위한 IBM의 청사진이 AI, 5G 및 협업을 활용하는 방법

55.000 년 동안 30.000 프로젝트, 30.000 개발자, $54M 자금 및 NASA와 같은 고객을 포함한 고객. 엣지 임펄스(Edge Impulse)는 엣지에서 머신 러닝의 물결을 타고 있습니다

얀 종붐(Jan Jongboom)의 꿈은 주변에서 일어나는 일을 실제로 이해하는 장치를 갖는 것이었습니다. 그건 10년 전의 일이지만, 2019년이 되어서야 그는 그 계획을 실제로 실행에 옮기기 시작했습니다. 그때 Jongboom과 Zach Shelby는 개발자가 차세대 지능형 장치를 만들 수 있도록 지원한다는 사명을 가지고 Edge Impulse 를 설립했습니다.

엣지 임펄스(Edge Impulse)는 오늘 코투(Coatue)가 주도하는 시리즈 B 펀딩에서 3,400만 달러를 발표하여 2022년 시장 가치 및 성장 전망을 3배 상향 조정했다. Coatue는 기존 투자자인 Canaan Partners, Acrew Capital, Fika Ventures, Momenta Ventures 및 Knollwood Investment Advisory와 함께 팀이 "놀라운 한 해"라고 부르는 한 해를 마무리합니다.

2019년 출시 이후 수천 개 기업의 약 30,000명의 개발자가 Edge Impulse를 사용하여 거의 55,000개의 맞춤형 머신 러닝 프로젝트를 만들어 Oura, Polycom, Advantech 및 NASA를 포함한 고객과 함께 더 스마트한 산업, 물류, 소비자 및 건강 솔루션을 구축했습니다. 개발자 기반은 4배 증가했으며 작년 한 해 동안 연간 반복 매출은 3배 증가했습니다.

이 모든 것은 다소 인상적으로 들리며, "2021년 10% 미만에서 2027년까지 딥 러닝 형태의 머신 러닝이 엣지 사용 사례의 65% 이상에 포함될 것"이라는 Gartner의 예측에 대한 증거입니다. 엣지 임펄스에 대해 자세히 알아보기 위해 종붐을 만났습니다.

멍청한 IoT 장치를 유용하게 만들기

Jongboom과 Shelby의 출발점은 IoT 장치가 훌륭하지만 멍청하다는 것입니다. 예를 들어, 온도나 소리와 같은 다양한 유형의 센서에서 시계열을 기록할 수 있지만 그것이 무엇을 의미하는지, 어떻게 유용하게 만들 수 있는지에 대해서는 전혀 알지 못합니다.

약 3년 전 두 사람이 일하던 Arm에서 Shelby를 만난 Jongboom은 이 기기들이 세상을 제대로 이해할 수 있도록 하기 위해 무엇을 할 수 있을지에 대해 이야기하기 시작했습니다. 그들은 기계 학습이 답이라는 결론에 빠르게 도달했습니다.

종붐은 밀렵 단속을 예로 들었다. 그는 IoT 장치를 사용하여 주변에 코끼리가 있을 때 감지하려면 두 가지 옵션이 있다고 말했습니다. 첫 번째는 코끼리의 청각적 입력이 어떤 것인지 설명하는 프로그램을 만드는 것입니다. 두 번째는 코끼리 소리 샘플을 사용하고 기계 학습 모델이 알아낼 수 있도록 하는 것입니다.

Edge Impulse는 IoT 디바이스용 머신 러닝을 전문으로 합니다. 즉, 표준 기계 학습 수명 주기를 적용해야 합니다: 데이터 수집 -- 모델 학습 -- 모델 배포 -- 모델 검증 -- 반복. 이 프로세스의 각 단계를 어떻게 수용하는지 살펴보겠습니다.

엣지 임펄스가 데이터 수집 부분을 위해 어떤 장치나 센서를 지원하는지 궁금했다. Jongboom은 마이크로 컨트롤러 개발자부터 머신 러닝을 위한 초특화 실리콘에 이르기까지 파트너 에코시스템이 "태양 아래 모든 것"을 지원한다고 언급했습니다.

2019년에 설립된 회사가 2021년까지 어떻게 이러한 생태계를 조성할 수 있었는지 생각해 볼 때 고려해야 할 몇 가지 요소가 있습니다. 종붐에 따르면, 엣지 임펄스(Edge Impulse)의 창립자들은 임베디드 개발자로 시작했고, 셸비(Shelby)는 이전에 자신의 IoT 스타트업을 Arm에 매각한 적이 있었기 때문에 유리한 출발을 할 수 있었다고 합니다. 그들은 개발자가 무엇을 원하는지 알고 있었고 하드웨어 공급업체에 연락하는 방법을 알고 있었습니다. 또한 데이터 수집을 오픈 소스로 만들고 사용하기 쉽게 만들었습니다.

"이는 실리콘 공급업체가 시장에 진출하는 데 도움이 될 수 있는 정말 좋은 사례였으며, 그 후에는 실리콘을 가동할 수 있었습니다. 이는 우리가 공동으로 고객에게 다가가 훨씬 더 나은 스토리를 가질 수 있음을 의미합니다. 그렇지는 않죠, 아, 우리는 놀라운 기계 학습 플랫폼을 가지고 있습니다. 우리는 이 놀라운 기계 학습 플랫폼을 가지고 있으며, 이미 브라운필드 장치에서 실행될 실리콘 공급업체의 지원을 받고 있습니다. 정말 놀랍습니다"라고 종붐은 말했습니다.

데이터 수집, 모델 학습, 모델 배포, 모델 유효성 검사, 반복

프로세스의 기계 학습 모델 훈련 부분이 진행되는 한, Edge Impulse는 주로 TensorFlow와 같은 기성 프레임워크를 사용합니다. 아이디어는 도메인 전문가인 사람들을 위해 가능한 한 사용자 친화적인 모델 생성을 목표로 가능한 한 많이 추상화하는 것입니다.

종붐은 도메인 전문가에게 데이터를 수집한 다음 이상 징후를 분석하거나 무슨 일이 일어나고 있는지 분류하거나 미래를 예측할 수 있는 도구를 제공하는 것이 목표라고 말했습니다. 그리고 이것은 기계 학습뿐만 아니라 신호 처리도 마찬가지인데, "신호 처리는 정말 훌륭하고 설명할 수 있기 때문"입니다.

Edge Impulse의 주력 제품은 Keras를 통해 사용되는 TensorFlow입니다. 데이터 사이언티스트가 있으면 원하는 대로 모델을 편집할 수 있습니다. 그렇지 않은 경우 그럴 필요가 없습니다. 따라서 로우 코드에서 완전한 자유에 이르기까지 무엇이든 될 수 있습니다. 그리고 예, 로우 코드 참조는 여기 그림에 IDE가 있다는 것을 의미합니다.

Edge Impulse Studio는 온라인 IDE이며 프로세스의 검증 부분이 발생하는 곳이기도 합니다. Jongboom은 이것이 일반적으로 기계 학습에서 매우 중요하며 엣지 애플리케이션에서는 더욱 중요하다고 지적했습니다. 장치나 컴퓨터에 무언가를 배포하면 운영 설정에서 실수를 수정하기가 정말 어려울 수 있기 때문입니다.

Edge Impulse를 사용하면 검증에 사용할 실제 데이터를 업로드할 수 있으며 합성 데이터도 생성할 수 있습니다. 또한 응용 프로그램 유형에 따라 개입하여 거짓 긍정 또는 거짓 부정을 수동으로 수정할 수 있습니다. 때로는 잘못된 경보를 희생하더라도 특정 이벤트를 식별하는 것이 중요하며, 때로는 무언가를 놓쳐도 괜찮습니다.

Jongboom은 통찰력 있는 애플리케이션을 만들고 자신감을 고취하는 것이 중요하다고 지적했습니다. 누군가 기계 학습 모델의 도움을 받는 데이터를 검토하면 약점을 훨씬 쉽게 볼 수 있습니다.

프로세스의 마지막 단계인 배포는 현재 Edge Impulse의 범위를 다소 벗어났습니다. Edge Impulse는 소스 코드를 출력합니다. 여기에는 수학적 모델, 정규화 코드, 신호 처리 코드, 머신 러닝 코드 및 모델의 모든 후처리 튜닝이 포함됩니다.

컴파일된 바이너리도 없고, 그에 대한 로열티도 없다고 종붐은 말했다. 사용자가 이를 장치에 통합하는 방법은 사용자에게 달려 있다고 그는 덧붙였습니다. 그러나 종붐은 생태계도 여기에 영향을 미치며, 이는 코드 두 줄만큼 간단할 수 있다고 지적했다. 그 부분도 오픈 소스입니다.

Edge Impulse EON: 엣지를 위한 머신 러닝 모델 최적화를 위한 비밀 소스

지금까지 이야기하지 않은 부분이자 오픈 소스가 아닌 Edge Impulse의 중심인 부분은 TinyML 부분입니다. TensorFlow 또는 이와 관련된 다른 프레임워크는 전력 및 처리 기능 측면에서 해당 장치에 대한 제약 조건으로 인해 에지 장치에 배포하기에 적합하지 않은 모델을 생성할 수 있습니다.

여기에서 Edge Impulse의 EON(Edge Optimized Neural)이 작동합니다. 이 기술은 Edge Impulse가 엣지의 제한된 장치에 배포하기에 적합한 기계 학습 모델을 생성하는 데 사용하는 기술입니다. 가장 먼저 하는 일은 배포 대상의 모든 매개 변수를 고려하고 두 가지 작업을 수행하는 것입니다.

먼저 EON 튜너가 시작됩니다. Jongboom은 이를 "우리가 시도할 수 있는 1,000개의 서로 다른 모델로 구성된 매우 넓은 검색 기반"이라고 설명했습니다. EON 튜너는 배포 대상 장치에 들어갈 수 있는 장치를 확인한 다음 정확도가 가장 높은 장치를 선택합니다.

그런 다음 EON 컴파일러는 신경망을 브라운필드 장치로 효율적으로 컴파일합니다. Jongboom은 기계 학습 모델이 인터프리터에 공급되어 그래프를 구축하고 추론을 실행하는 방식이 작동한다고 말했습니다. 그러나 그것은 낭비적인 임베디드 시스템인데, 왜냐하면 여러분은 인터프리터와 인터프리터가 구성할 수 있는 모든 잠재적 상태들을 가지고 있어야 하기 때문입니다.

EON 컴파일러는 그래프를 소스 코드로 컴파일한 다음 컴파일합니다. 이를 통해 RAM의 30%에서 50%를 절약할 수 있으며, 이는 특히 브라운필드 장치에서 많은 양입니다. 컴파일러를 사용할 수 있으며 사람들이 생성하는 모델도 오픈 소스이며 Apache 2.0 라이선스에 따라 라이센스가 부여되므로 로열티가 없습니다. 어떤 사람들은 실제로 자신의 모델을 커뮤니티와 공유하기로 선택합니다.

엣지 임펄스(Edge Impulse)는 SaaS(Software as a Service) 플랫폼입니다. 고객은 월별 프로젝트당 또는 월별 데이터 파이프라인당 비용을 지불합니다. 또한 더 많은 컴퓨팅, 협업 기능, 대규모 데이터 변환 및 클라우드와의 통합에 대한 비용을 지불하여 데이터를 가져오고 해당 데이터를 수집합니다.

Edge Impulse는 현재 40명으로 구성된 팀을 보유하고 있습니다. 목표는 이 시리즈 B 펀딩을 사용하여 내년에 80명으로 늘리고 솔루션 엔지니어링 팀에 중점을 두는 것입니다. Jongboom은 또한 같은 방식으로 커뮤니티와 지원을 계속 성장시키고 유기적 성장을 유지하는 것을 목표로 한다고 말했습니다.