[인더스트리뉴스 최인영 기자] 델 테크놀로지스(Dell Technologies)가 최신 냉각 기술과 고집적 컴퓨팅 설계를 접목하는 신규 솔루션을 선보이면서 빠르게 진화하는 AI 시장에서 경쟁 우위를 확보하고 있다.

델 테크놀로지스는 ‘델 AI 팩토리(Dell AI Factory)’에 새로운 랙 확장형 통합 시스템과 서버 스토리지 솔루션을 추가했다. 이번 발표에는 고집적 컴퓨팅과 대규모 AI 워크로드를 필요로 하는 기업과 기관을 위해 서버 신제품과 스토리지 업데이트를 포함하고 있다.

한국 델 테크놀로지스 김경진 총괄 사장은 “AI의 폭발적 증가세로 고집적 컴퓨팅과 혁신 냉각 성능을 요구하고 있지만 오늘날의 데이터센터는 이러한 요구에 못 미치는 수준”이라며, “델은 인프라 솔루션에 유연성과 효율성을 갖춘 모듈식 설계를 적용해 빠르게 진화하는 AI 환경에서 앞으로도 경쟁 우위를 유지할 계획”이라고 말했다.

가속 컴퓨팅 요구에 최적화

델 IR 7000(Dell Integrated Rack 7000)은 뛰어난 집적도, 지속가능한 전력 관리, 첨단 냉각 기술을 갖춰 가속 컴퓨팅 요구에 최적화한 제품이다. OCP(오픈 컴퓨트 프로젝트, Open Compute Project) 표준을 기반으로 디자인한 랙으로 대규모 인프라에 적합하며, 미래지향적 설계로 여러 세대에 걸친 이기종 기술을 수용할 수 있다.

제품은 높은 집적도를 위해 설계된 21인치 폼팩터로 업계 최고 수준의 CPU와 GPU 집적도를 제공한다. 미래지향적이고 효율적인 랙 설계로 더 넓은 서버 슬레드를 통해 최신의 대형 CPU와 GPU 아키텍처를 수용한다. 기본적으로 액체 냉각을 위해 설계된 목적형 랙으로 향후 최대 480kW까지 냉각할 수 있으며, 발생하는 열을 100% 가깝게 포착할 수 있다.

또한 선택 폭과 유연성을 높이기 위해 상용 네트워킹을 모두 지원하고, 간편한 구축과 에너지 효율 향상을 위해 ‘델 통합 랙 스케일러블 시스템(Dell Integrated Rack Scalable Systems, 이하 IRSS)’을 사용할 수 있다.

IRSS는 AI 워크로드에 최적화된 혁신 랙 스케일 인프라스트럭처를 제공하며, 통합된 플러그 앤 플레이 방식의 랙 스케일 시스템으로서 빠르고 효율적인 구축을 할 수 있다.

AI-레디 플랫폼 장착 지원

델 IR 7000에는 ‘엔비디아 기반 델 AI 팩토리(Dell AI Factory with NVIDIA)’, ‘델 파워엣지 M7725(Dell PowerEdge M7725)’와 같은 AI-레디 플랫폼을 장착할 수 있다.

엔비디아 기반 델 AI 팩토리 포트폴리오의 일부인 ‘델 파워엣지 XE9712(Dell PowerEdge XE9712)’는 대규모 AI 구축 환경의 LLM 학습과 실시간 추론을 위한 고성능 고집적 가속 컴퓨팅을 제공한다. 엔비디아 GB200 NV L72를 기반으로 업계 최고의 GPU 집적도를 제공하는 이 플랫폼은 랙 스케일에서 최대 36개의 엔비디아 그레이스 CPU(NVIDIA Grace CPU)와 72개의 엔비디아 블랙웰 GPU(NVIDIA Blackwell GPU) 연결을 지원한다. 72개의 GPU NV링크(NVLink) 도메인은 최대 30배 빠른 실시간 1조 개 파라미터 LLM 추론이 가능한 단일 GPU로서 구동된다. 수랭식 엔비디아 GB200 NVL72는 공랭식 NVIDIA H100 시스템보다 최대 25배 더 효율을 높일 수 있다.

델 파워엣지 M7725는 각종 연구, 정부 기관, 금융 서비스 등에 적합한 고성능 고집적 컴퓨팅을 제공한다. IR 7000랙에 구축하도록 설계된 이 모델은 랙 당 2만 4,000개에서 2만 7,000개까지 코어를 탑재할 수 있으며, 64개 또는 72개의 2소켓 노드와 5세대 AMD 에픽(EPYC) CPU 기반의 서비스 확장성을 제공한다.

전면 IO 슬롯으로 고속 IO 연결이 가능하며, 까다로운 애플리케이션을 처리할 수 있는 연결성을 갖췄다. 에너지 효율적인 폼 팩터로 다이렉트 리퀴드 쿨링(DLC) 방식의 수랭식과 공랭식을 조합해 보다 지속가능한 데이터센터 운영을 지원한다.

비정형 스토리지와 데이터 관리 혁신 실현

델 테크놀로지스는 사용자가 AI 애플리케이션 성능을 끌어올리면서 글로벌 데이터 관리를 간소화할 수 있도록 비정형 데이터 스토리지 포트폴리오 혁신을 이어오고 있다.

세계 최초로 ‘엔비디아 DGX 슈퍼POD(SuperPOD)’ 인증을 받은 이더넷 스토리지인 델 파워스케일(Dell PowerScale)은 신규 업데이트를 통해 데이터 관리 전략 강화와 워크로드 성능 개선 등을 돕고 있다.

또한 파워스케일 메타데이터와 델 데이터 레이크하우스(Dell Data Lakehouse)를 사용해 데이터 인사이트를 확보할 수 있어 의사결정에 도움을 준다. 향후 출시 예정인 엔비디아 니모(NVIDIA NeMo) 서비스와 RAG 프레임워크용 델 오픈 소스 문서 로더를 통해 데이터 수집 시간을 단축할 뿐 아니라 컴퓨팅과 GPU 비용도 절감할 수 있다.

뿐만 아니라 용량과 효율을 높이는 동시에 데이터센터 스토리지 상면을 절반으로 줄여주는 새로운 61TB 드라이브로 대규모 데이터 세트를 학습하고, AI 모델을 미세 조정할 수 있다. 최대 63% 더 빠른 처리량을 제공하는 프론트 엔드 엔비디아 인피니밴드(InfiniBand) 기능과 200GbE 이더넷 어댑터 지원을 통해 AI 워크로드 성능을 높일 수 있다.

업데이트 된 델 데이터 레이크하우스 데이터 관리 플랫폼에는 재해 복구, 자동화된 스키마 검색, 포괄적인 관리 API, 셀프 서비스 풀 스택 업그레이드와 같은 새로운 기능을 추가했다. 이와 함께 데이터 카탈로그 최적화 서비스와 데이터 파이프라인 구현 서비스를 활용하면 데이터 중심 AI 프로젝트를 간소화하면서 사용 사례를 신속히 확장할 수 있다. 검색, 구성, 자동화, 통합을 통해 고품질 데이터에 대한 접근성을 향상할 수 있다.

이밖에 델 AI 팩토리의 일부인 ‘인텔 기반 델 생성형 AI 솔루션(Dell Generative AI Solutions with Intel)’은 원활한 AI 구축을 위해 공동 엔지니어링, 테스트, 검증 플랫폼을 제공한다. 인텔 가우디 3(Intel Gaudi 3) AI 가속기를 탑재한 델 파워엣지 XE9680을 중심으로 델의 스토리지, 네트워킹, 컨설팅, 구축 서비스, 오픈소스 소프트웨어를 결합해 사전 구성된 통합 스택에서 콘텐츠 제작, 디지털 어시스턴트, 디자인, 데이터 생성, 코드 생성 등 다양한 생성형 AI 사용 사례를 지원한다.

한편 델 테크놀로지스는 델 IR7000과 델 파워엣지 M7725 서버가 내년 1분기 한국을 비롯한 전 세계에 출시될 예정이며, 파워엣지 XE9712은 일부 고객에 한해 샘플링을 제공한다고 밝혔다. 델 파워스케일 업데이트는 오는 12월, 델 데이터 레이크하우스 업데이트는 내년 1월, 인텔 기반 델 생성형 AI 솔루션은 올해 4분기 중 출시될 예정이라고 덧붙였다.

최인영 기자 다른기사 보기