Nexa AI

Octopus는 Nexa AI가 자체 개발한 소형 모델 시리즈로, 파라미터 규모가 작아 함수 호출 등 특정 작업에 초점을 맞추고, 자원이 제한된 디바이스에서 효율적으로 실행되도록 설계되었습니다.

당사의 기술 경로는 사용자 기기에서 로컬로 AI 추론을 수행하도록 하며, 데이터가 클라우드로 업로드될 필요가 없어 프라이버시를 중시하는 애플리케이션에 기술적 해결책을 제공합니다.

이 플랫폼은 주로 엣지 디바이스 배포 최적화를 겨냥하므로 단일 디바이스의 연산 능력에 제약이 있어 대규모 클라우드 클러스터를 활용한 학습이나 복잡한 추론 작업에는 적합하지 않을 수 있습니다.

개발자는 Model Hub를 통해 최적화된 모델을 얻고, 제공되는 SDK와 예제 코드를 애플리케이션에 통합하여 iOS, Android 등 플랫폼에서 로컬 AI 기능을 구현할 수 있습니다.

플랫폼은 스마트폰, PC, Raspberry Pi 등 임베디드 디바이스를 포함한 다양한 하드웨어에 배포를 지원하며, CPU, GPU, NPU를 이용한 가속도 지원합니다.