Vaidio AI 비전 플랫폼, NVIDIA Cosmos 및 Jetson Thor를 통해
엣지 컴퓨팅 환경에서 시각적 추론 기능 구현

Vaidio AI Vision Platform은 NVIDIA Cosmos 3 Edge, NVIDIA Metropolis, NVIDIA Jetson Thor를 활용하여, 기존의 서버급 배포가 어려운 엣지 환경에서도 조직이 더 맥락적이고 신뢰도 높은 영상 인텔리전스를 확보할 수 있도록 지원합니다.

Vision AI는 점점 더 실용적으로 변화하고 있으며, 그만큼 더 유용해지고 있습니다.

시설, 작업 현장, 교통 체계, 공공장소 전반에서 Vision AI는 이미 중요한 이벤트를 탐지하고 실시간 경보를 발령하며 영상을 운영 인사이트로 전환하는 역할을 수행하고 있습니다. 많은 경우 객체 탐지(Object Detection)만으로도 고객이 필요로 하는 요구를 충족합니다. 대규모 카메라 네트워크 전반에서 위험, 사고, 활동을 더 빠르게 식별할 수 있기 때문입니다.

그러나 일부 환경에서는 경보를 상위로 전파하기 전에 한 단계의 추가 검증을 원하는 고객도 있습니다. 영상 기반 시스템은 연기, 제한 구역에 진입한 사람, 이례적인 위치에 정차한 차량, 필수 안전 장비를 착용하지 않은 작업자 등을 탐지할 수 있습니다. 시각적 탐지 자체로도 충분한 가치가 있지만, 여기에 추론(reasoning) 계층을 한 겹 더하면 오탐 경보의 양을 줄이고 해당 이벤트가 즉각적인 조치를 필요로 하는지 판단하는 데 도움이 됩니다.

문제는 이러한 AI 추론이 통상적으로 상당한 컴퓨팅 성능을 요구해 왔다는 점입니다. 많은 엣지 환경은 이를 감당하기 어렵습니다. 원격지 산업 현장, 이동형 시스템, 로봇 탑재형 애플리케이션은 서버급 시스템에 필요한 공간·전원·냉각·네트워크 안정성을 확보하지 못하는 경우가 많습니다.

Vaidio AI Vision Platform은 추론형 비전-언어 모델(VLM)인 NVIDIA Cosmos 3 Edge를 NVIDIA Jetson Thor 상에서 엣지로 가져옴으로써 이러한 공백을 해소합니다.

Vision AI에 시각적 추론을 더하다

대부분의 Vision AI 시스템은 탐지에서 출발합니다.

객체 탐지 모델은 영상을 스캔하여 사람, 차량, 연기, 화재, 안전조끼, 안전모, 관심 객체 등 눈에 보이는 대상이나 상태를 식별합니다. 그러나 일부 활용 사례에서는 추가적인 맥락이 필요합니다. 연기는 위험한 화재의 징후일 수도 있지만, 수증기나 먼지, 또는 조리 활동일 수도 있습니다. 물건을 들고 있는 사람은 공구를 들었을 수도, 택배 상자를 들었을 수도, 혹은 즉시 조치가 필요한 무언가를 들고 있을 수도 있습니다.

바로 이 지점에서 VLM 기반 추론이 유용해집니다.

Vaidio의 워크플로우에서는 고객이 무엇이 중요한지를 직접 정의합니다. Vaidio 플랫폼은 해당 이벤트를 기준으로 영상 스트림을 모니터링하고, 설정된 조건에 부합하는 상황이 탐지되면 NVIDIA Cosmos 3 Edge를 추가 검증 계층으로 활용하여 해당 이벤트를 폐기할지 아니면 유효한 경보로 확정할지 판단하도록 돕습니다. 이를 통해 경보가 상위로 전파되기 전에 신뢰도를 높이고 보다 정확한 최종 판단을 내릴 수 있습니다.

이러한 아키텍처는 효율성 측면에서도 유리합니다. VLM이 모든 카메라의 모든 프레임을 분석할 필요가 없기 때문입니다. Vaidio는 객체 탐지를 1단계로 수행한 뒤, 관련 이미지나 크롭된 영역만을 Cosmos 3 Edge로 전달하여 추론을 수행합니다. 예를 들어 Vaidio가 연기나 화재 가능성을 탐지하면, 시스템은 Cosmos 3 Edge를 활용해 해당 장면이 실제 위험 상황인지, 아니면 수증기·먼지· 일상적인 활동인지를 판단하는 데 도움을 받을 수 있습니다.

이 방식은 엣지 디바이스에 과도한 부하를 주지 않으면서도 VLM 추론을 도입할 수 있는 길을 열어줍니다. 또한 운영자에게는 더 유용한 경보가 제공됩니다. 단순히 무언가가 탐지되었다는 사실을 넘어, 해당 이벤트를 상위로 전파해야 하는지에 대한 보다 근거 있는 판단이 함께 전달되기 때문입니다.

왜 엣지가 중요한가

이 워크플로우는 서버급 인프라를 현실적으로 구축하기 어려운 환경에서 특히 의미가 있습니다. 원격지 산업 현장, 이동형 시스템, 로봇 탑재형 애플리케이션은 공간·전원·냉각·연결성이 제한적이지만, 관측 대상 환경과 가까운 곳에 인텔리전스가 필요하다는 요구는 여전히 존재합니다.

Vaidio Vision AI는 NVIDIA Jetson Thor 상에서 NVIDIA Cosmos 3 Edge와 NVIDIA Metropolis 라이브러리를 활용하여, 탐지·추론·경보 판단을 이벤트가 발생하는 현장에 더 가깝게 배치합니다.

초기 성능 관측 결과

Vaidio의 초기 작업은 NVIDIA Cosmos 3 Edge가 이러한 엣지 Vision AI 워크플로우 내에서 실제로 동작할 수 있는지를 검증하는 데 초점을 맞췄습니다.

최적화를 거치지 않은 초기 테스트에서, Vaidio는 1920x1080 전체 프레임 이미지를 Cosmos 3 Edge로 전송한 경우에도 1초 미만의 추론 시간을 확인했으며, 이미지당 처리 시간은 약 790~890밀리초 수준이었습니다. 이는 이벤트 기반 워크플로우 다수에서 실용적인 엣지 판단을 지원하기에 이미 충분히 빠른 수준입니다.

시각적 근거를 더 작은 영역으로 전송했을 때 처리 시간은 더욱 단축되었습니다. 이미지당 처리 시간은 다음과 같습니다.

• 1920x1080 전체 프레임 — 약 790~890밀리초
• 640x480 크롭 입력 — 약 140밀리초
• 336x336 객체 크롭 입력 — 약 110~150밀리초

또한 Vaidio는 NVIDIA Jetson Thor에서 구동되는 NVIDIA Cosmos 3 Edge가 평가 워크플로우 기준으로 1 FPS에서 10대 이상의 카메라를 지원할 수 있는 것으로 관측했습니다.

이러한 관측 결과는 결합형 접근 방식의 가치를 다시 한번 확인시켜 줍니다. 즉, 먼저 탐지하고, 관련 있는 시각적 근거만 VLM으로 전달하며, 추론을 선별적으로 활용함으로써 더 높은 신뢰도의 판단을 지원하는 방식입니다.

엣지 Vision AI에 주는 의미

고객 관점에서 이 접근 방식의 가치는 배포 유연성과 더 나은 의사결정 지원에 있습니다.

원격지 산업 현장은 전체 서버 배포 없이도 안전 위험을 평가할 수 있습니다. 이동형 검사 시스템은 현장에서 직접 상태를 분석할 수 있습니다. 로봇 탑재형 안전 애플리케이션은 잠재적 위험을 탐지하고, 중앙 처리를 기다리지 않고 로컬에서 추론을 적용할 수 있습니다.

NVIDIA Cosmos 3 Edge, NVIDIA Metropolis, NVIDIA Jetson Thor, 그리고 Vaidio AI Vision Platform이 결합된 이 구조는 새로운 유형의 엣지 Vision AI 시스템을 예고합니다. 무슨 일이 벌어지고 있는지를 탐지하고, 추가적인 맥락이 필요할 때 그것이 왜 중요한지를 추론하며, 상황이 발생하는 현장에 더 가까운 곳에서 의사결정을 지원하는 실용적인 시스템입니다.

---