삼성SDS, 엔비디아 '블랙웰 울트라' 기반 GPU 구독 서비스 출시…기업용 AI 추론 성능 극대화

국내 최초…AI 에이전트 등 고성능 필요한 AI 서비스 지연 낮춰

[사진=삼성SDS]

삼성SDS가 국내 최초로 엔비디아의 최신 그래픽처리장치(GPU) ‘블랙웰 울트라(B300)’ 기반의 GPU 구독형 서비스(GPUaaS)를 23일 출시했다.

삼성SDS의 클라우드 플랫폼 ‘삼성 클라우드 플랫폼(SCP)’을 통해 제공되는 이 서비스는 고용량 메모리를 통해 거대 AI 모델을 효율적으로 처리할 수 있게 지원한다. AI 에이전트, 이미지·영상·코드 생성 및 분석 등 고성능이 필요한 AI 서비스의 지연 시간을 최소화할 수 있다.

구독형 모델인 만큼 필요한 만큼 쓰고 지불하면 되기 때문에 초기 투자 리스크를 낮추고 비용 효율화도 꾀할 수 있다. 또 GPU 수급 걱정 없이 엔비디아의 최신 아키텍처를 즉시 업무에 도입할 수 있으며, 삼성SDS의 보안 역량이 결합된 안전한 클라우드 환경에서 민감한 기업 데이터를 처리할 수 있다.

삼성SDS는 이를 통해 급증하는 수요에 대응한다는 전략이다. 최근 기업들이 AI 모델 개발을 넘어 실제 서비스에 적용하는 'AI 추론' 단계로 진입하면서 고성능 컴퓨팅 수요가 급증하고 있다. 

삼성SDS는 지난 2021년과 2023년에도 각각 엔비디아의 A100, H100 기반 GPUaaS를 선제적으로 제공하며 클라우드 기반의 인프라 구축, 운영, 고객 서비스 등에 GPU가 AI 전용 인프라로 활용될 수 있도록 GPUaaS 생태계 구성을 이끌어 왔다.  

오는 3분기에는 AI 모델을 적용할 때 별도의 인프라 사용료 없이 사용한 토큰양 만큼만 비용을 지불하는 '서버리스(Serverless) 추론 서비스'와 개발자가 코드와 데이터를 입력하면 자동으로 즉시 AI를 분산학습시키는 'AI 학습 서비스' 등도 출시한다는 계획이다. 

삼성SDS 이호준 클라우드서비스사업부장(부사장)은“SCP가 보유한 자원 최적화·에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견·중소, 공공 등 AI를 업무에 적용하려는 고객에게 국내 최초 B300  GPU 서비스를 제공해 AX 전환을 적극 지원하겠다"고 밝혔다.

한편, 삼성SDS는 민관협력형(PPP) 클라우드 서비스 사업자로서 대구센터에 H100 기반 GPUaaS를 최초로 도입했으며, 범정부 초거대 AI 공통기반 구현, 지능형 업무관리 플랫폼 구축 등 다양한 정부 AI 사업을 수행하고 있다. 또한 과학기술정보통신부 주관 고성능 컴퓨팅 지원사업 수행 CSP(클라우드 서비스 제공사)로서 60여 개의 AI 관련 중소기업, 스타트업, 연구 기관, 대학교 등에 GPU를 공급하는 등 다양한 고객을 대상으로 GPUaaS를 제공하고 있다.