레드햇과 일본 최대 통신 기업 NTT가 차세대 통신 표준 협의체 아이온 이니셔티브의 일환으로 엔비디아 및 후지쯔와 협력하여 엣지에서 실시간 생성형 AI 데이터 분석을 향상하고 확장할 수 있는 솔루션을 공동 개발했다.

이 솔루션은 아이온 글로벌 포럼에서 개발한 기술을 사용해 쿠버네티스 기반 업계 선도적 하이브리드 클라우드 애플리케이션 플랫폼인 레드햇 오픈시프트 상에 구축됐으며, 실제 실행 가능성 및 사용 사례에 대해 아이온 글로벌 포럼의 개념 증명을 획득했다.

AI 센싱 기술과 네트워킹 혁신이 가속화되고 특히 데이터 소스가 빠르게 확장됨에 따라, 네트워크 엣지에서 데이터를 평가하고 분류하는데 있어 AI 분석 활용의 중요성이 더욱 커지고 있다. 그러나 AI 분석을 대규모로 사용하는 것은 속도가 느리고 복잡할 수 있으며, 새로운 AI 모델과 추가적인 하드웨어로 인한 관리 비용과 소프트웨어 유지 비용이 증가할 수 있다.

더 많은 원격지에서 엣지 컴퓨팅이 가능하게 되면 AI 분석을 센서에 더 가깝게 배치함으로써 지연 시간을 줄이고 대역폭을 늘릴 수 있게 된다.

레드햇과 NTT의 이번 솔루션은 아이온 APN과 아이온 DCI 내의 데이터 파이프라인 가속 기술로 구성돼 있다. NTT의 AI용 가속 데이터 파이프라인은 APN을 통한 RDMA 방식을 채택해 엣지에서 대량의 센서 데이터를 효율적으로 수집하고 처리한다.