[인더스트리뉴스 최인영 기자] 델 테크놀로지스(Dell Technologies)가 레드햇(Red Hat)과 협력해 개방형 AI 워크로드를 지원한다. 기업과 기관에서 인공지능(AI)과 머신러닝(ML) 전략을 보다 쉽게 구현할 것으로 예상하고 있다.
델 테크놀로지스는 레드햇과 협력해 생성형 AI 모델을 보다 원활하게 개발·시험·배포할 수 있도록 돕는 파운데이션 모델 플랫폼 ‘레드햇 엔터프라이즈 리눅스 AI(이하 RHEL AI)’를 델 파워엣지(Dell PowerEdge) 서버에서 지원한다고 5일 밝혔다. RHEL AI를 위한 추천 플랫폼으로 ‘델 파워엣지(PowerEdge) R760xa’ 서버를 선정했다고 덧붙였다.
양사의 협력을 통해 기업과 기관은 AI와 머신러닝 전략을 보다 쉽게 구현하면서 IT시스템을 확장하는 한편 비즈니스 전반에 걸쳐 엔터프라이즈 애플리케이션을 강화할 것으로 전망했다.
델과 레드햇은 신뢰할 수 있는 AI 최적화 하드웨어 솔루션인 델 파워엣지 기반의 RHEL AI를 통해 일관된 AI 경험을 제공하며, RHEL AI와 엔비디아(NVIDIA) 가속 컴퓨팅을 포함한 하드웨어 솔루션의 지속적인 테스팅과 검증을 통해 AI 경험을 간소화하는데 협력할 계획을 발표했다.
레드햇 조 페르난데스(Joe Fernandes) 생성형 AI 기반 모델 플랫폼 부사장은 “AI는 본질적으로 서버와 컴퓨팅 성능, GPU를 아우르는 광범위한 리소스를 필요로 하기 때문에 생성형 AI 사용 사례를 평가하고 구현할 때 비즈니스에 따라 확장할 수 있는 플랫폼이 필수일 뿐 아니라 AI 기반 혁신을 실험하고 개발할 수 있는 민첨성 또한 확보해야 한다”며, “델 테크놀로지스와 협력해 파워엣지 서버에서 RHEL AI를 검증하고 경쟁력을 강화함으로써 고객이 하이브리드 클라우드 환경 전반에서 생성형 AI를 적극 활용해 비즈니스 추진력을 얻을 수 있게끔 지원할 것”이라고 말했다.
엔비디아 밥 피트(Bob Pette) 엔터프라이즈 플랫폼 담당 부사장은 “오늘날과 같이 빠르게 변화하는 시장에서는 생성형 AI 사용 사례를 위해 검증되고 신뢰할 수 있는 솔루션을 갖추는 것이 중요하다”며, “델 파워엣지 서버와 RHEL AI를 통해 엔비디아 H100 텐서 코어 GPU를 비롯한 가속 컴퓨팅의 최적화된 경험을 제공할 수 있게 됐다”고 밝혔다.
RHEL AI는 IBM 리서치의 오픈소스 라이선스 ‘그래니트 대규모 언어 모델(Granite LLM)과 LAB(챗봇을 위한 대규모 정렬) 방법론에 기반한 인스트럭트랩(InstructLab) 모델 정렬 도구를 비롯해 ‘인스트럭트랩 프로젝트’를 통한 커뮤니티 중심 모델 개발 접근 방식을 통합한 플랫폼이다. 하이브리드 클라우드의 개별 서버 배포를 위해 최적화된 ‘레드햇 엔터프라이즈 리눅스(RHEL)’ 이미지로 패키징돼 있다. 또한 레드햇의 하이브리드 클라우드 머신러닝 운영(MLOps) 플랫폼인 레드햇 오픈시프트 AI(Red Hat OpenShift AI)의 일부로서 분산 클러스터 환경에서 대규모로 모델과 인스트럭트랩을 실행하도록 지원한다.
델 테크놀로지스 김경진 한국 대표는 “델 파워엣지 기반 RHEL AI 솔루션은 델과 레드햇이 서버, GPU, 파운데이션 플랫폼에 대해 지속적인 테스트와 검증을 실시하고 있음을 보여주는 예시로서 고객이 신뢰할 수 있는 환경 내에서 AI 워크로드를 운영하게끔 지원하는 에코시스템 전반의 노력을 담고 있다”며, “이는 중요한 AI 워크로드를 구축하고 배포하는 과정의 생성형 AI 경험을 간소화하는데 필수 요소”라고 말했다.
이어 그는 델 파워엣지 서버를 기반으로 하는 RHEL AI는 3분기 중 제공 예정이며, 전 세계 다양한 지역에 위치한 델 고객 솔루션 센터에서 테스트해 볼 수 있다고 밝혔다.