 삼성SDS, 엔비디아 최신 ‘B300 GPU’기반 GPUaaS 서비스 출시 데이터 병목 현상 획기적 개선…고성능 필요한 AI 서비스 지연 시간 최소화 삼성SDS가 국내 최초로 자사 클라우드 ‘SCP(삼성 클라우드 플랫폼)’를 통해 엔비디아의 최신 GPU인 ‘B300(Blackwell Ultra)’ 기반 GPUaaS(GPU 구독형 서비스)를 출시했다. ‘B300 GPU’는 12단 HBM3E(고대역폭 메모리)를 탑재해 GPU당 288GB의 메모리 용량과 초당 8TB의 대역폭을 제공함으로써 복잡한 연산이 필요한 AI 추론 영역에서 H100 대비 용량은 3.6배, 대역폭은 2.4배로 메모리 성능이 향상되었다. 이에 따라, 대규모 언어모델(LLM) 실행 시 GPU의 빠른 연산 처리속도 대비 느린 메모리의 데이터 전송속도로 인해 전반적인 성능이 저하되는 〈데이터 병목 현상〉이 획기적으로 개선되었다.
‘SCP B300 GPUaaS’를 도입하는 고객은 고용량 메모리를 통해 거대 AI 모델을 효율적으로 처리할 수 있어, AI 에이전트, 이미지/영상/코드 생성 및 분석 등 고성능이 필요한 AI 서비스의 지연 시간을 최소화할 수 있다. 또한, 필요한 만큼 쓰고 지불하는 ‘구독형 모델’을 이용하면 초기 투자 리스크를 낮추고 비용을 효율화할 수 있다. GPU 수급이 어려운 상황에서도 SCP(Supply Chain Planner)를 통해 엔비디아의 최신 아키텍처를 즉시 업무에 도입할 수 있으며, 삼성SDS의 보안 역량이 결합된 안전한 클라우드 환경에서 민감한 기업 데이터를 처리할 수 있다. 한편, 삼성SDS는 AI 모델을 적용할 때 별도의 인프라 사용료 없이 사용한 토큰의 양 만큼만 비용을 지불하는 ‘서버리스(Serverless) 추론 서비스’와 개발자가 코드와 데이터를 입력하면 자동으로 즉시 AI를 분산학습시키는 ‘AI 학습 서비스’ 등을 올해 3분기에 출시할 계획이다.
·복잡한 연산이 필요한 AI 추론 영역에서 H100 대비 용량은 3.6배, 대역폭은 2.4배로 메모리 성능 향상 ·AI 에이전트, 이미지/영상/코드 생성 및 분석 등 고성능이 필요한 AI 서비스의 지연 시간을 최소화 ·필요한 만큼 쓰고 지불하는 ‘구독형 모델’을 이용하면 초기 투자 리스크를 낮추고, 비용 효율화 가능 ·GPU 수급이 어려운 상황에서도 SCP 통해 엔비디아의 최신 아키텍처를 즉시 업무에 도입 가능
삼성SDS 1661-3388
<Energy News>
http://www.energy.co.kr
|
장바구니
주문내역
