[인더스트리뉴스 조창현 기자] AI 애플리케이션에 대한 성능 및 품질을 개선하면서도 비용까지 절감할 수 있도록 지원하는 새로운 솔루션이 출시됐다. 모든 엔지니어를 위한 올인원 옵저버빌리티 플랫폼 기업 뉴렐릭이 AI 애플리케이션 개발사들이 가진 진화하는 요구사항을 충족하기 위해 강력한 신규 기능을 갖춘 뉴렐릭 AI 모니터링(AI Monitoring)에 대한 정식 버전을 출시했다고 밝혔다.
새로운 솔루션에는 실시간 사용자 피드백과 모델 비교를 통한 심층적인 AI 응답 추적 인사이트가 포함돼 있다. 뉴렐릭은 60개 이상에 달하는 새로운 통합 기능을 제공하는 솔루션은 기업이 AI 애플리케이션 문제에 대한 근본 원인을 신속히 파악하도록 하고, AI 도입을 촉진하면서도 관련된 도입 및 활용에 이르기까지 모든 단계를 효과적으로 지원하는 가장 포괄적인 솔루션이라고 전했다.
뉴렐릭 아르니 로페즈(Arnie Lopez) CCO는 “고객사 내 CIO와 CTO, 임원들과 많은 대화를 통해 모든 기업이 AI를 활용해 비즈니스를 확장하는 방안을 모색하고 있다는 부분을 확인했다”며, “AI 도입은 비용이 많이 들고 시스템에 대한 복잡성을 증가시킬 수 있다”고 설명했다.
이어 아르니 로체즈 CCO는 “기업 내 IT 및 기술 부문 리더가 뉴렐릭을 선택하는 이유는 옵저버빌리티가 자신 있게 AI에 대한 미래를 탐색하고 성능과 품질을 최적화하며, 비용을 효과적으로 관리함으로써 우수한 고객 경험을 제공하는 데 필수적이기 때문”이라고 덧붙였다.
새로운 뉴렐릭 APM AI 모니터링에는 △자동 계측 △풀 AI 스택 가시성 △최종 사용자 피드백이 포함된 AI 응답 보기 △응답별 심층 인사이트 추적 △데이터 보안 강화 △모델 비교 △퀵스타트(Quickstart) 등 다양한 기능이 탑재돼 있다. 그중 가시성 관련 기능을 통해 사용자는 애플리케이션이나 인프라, AI 레이어 전반에 걸쳐 포괄적인 시야를 확보할 수 있다.
특히 사용자는 응답별 심층 인사이트 추적 기능을 통해 랭체인과 같은 툴을 바탕으로 AI 응답 내 라이프사이클을 추적함으로써 편견이나 위험성, 할루시네이션 현상 같이 성능이나 품질에 영향을 주는 문제를 수정하는 데에도 도움을 받을 수 있다.
