VMware Cloud on AWS가 Nvidia와 파트너 관계를 맺으면서 가상화 된 GPU를 도입하고 있습니다.

기술 / VMware Cloud on AWS가 Nvidia와 파트너 관계를 맺으면서 가상화 된 GPU를 도입하고 있습니다. 2 분 읽기

엔비디아



AI와 머신 러닝이 점점 더 현대 컴퓨팅의 필수 불가결 한 부분이되면서 Nvidia의 비즈니스 기본은 여전히 ​​강력합니다. 그들은 여러 기술 회사와 파트너십을 구축하는 서버 비즈니스에서 저명한 세력이되기위한 노력을 주도 해 왔습니다. 최근 Nvidia와 VMware는 Nvidia의 vGPU (Virtual GPU Technology)를 AWS의 VMware vSphere 스택으로 가져올 제휴 관계를 발표했습니다.

GPU는 벡터 및 행렬 연산을 가속화하는 데이터 병렬 컴퓨팅을 염두에두고 설계되었습니다. 따라서 AI 워크로드에 이상적입니다.



이전에는 CPU 전용으로 제한되었던 AI 워크로드를 이제 VMware vSphere와 같은 가상화 된 환경에 쉽게 배포 할 수 있습니다. vComputeServer 소프트웨어 및 NVIDIA NGC . 우리를 통해 VMware와의 파트너십 ,이 아키텍처는 조직이 고객 데이터 센터와 VMware Cloud on AWS간에 GPU의 AI 워크로드를 원활하게 마이그레이션하는 데 도움이됩니다.



-ANNE HECHT (Nvidia)



GPU 가속 워크로드는 종종 단일 테넌트 물리적 서버에서 실행되지만 vComputeServer 회사는 가상화 된 환경에서 AI 워크로드를 실행할 수 있으므로 더 많은 유연성과 비용 절감 (특정 규모까지)을 제공합니다. Nvidia는 이미 Red Hat 및 Nutanix를 포함한 몇 가지 KVM 기반 하이퍼 바이저를 지원합니다. VMware의 vSphere는 가장 최근에 추가되었습니다.

vComputeServer의 기능은 다음과 같습니다.

  • GPU 성능 : 베어 메탈에서 GPU를 실행하는 것과 유사한 성능으로 CPU 전용보다 최대 50 배 빠른 딥 러닝 학습.
  • 고급 컴퓨팅 : 오류 수정 코드 및 동적 페이지 폐기 기능은 높은 정확도의 워크로드에 대한 데이터 손상을 방지합니다.
  • 라이브 마이그레이션 : GPU 지원 가상 머신은 중단 또는 다운 타임을 최소화하면서 마이그레이션 할 수 있습니다.
  • 보안 강화 : 기업은 서버 가상화의 보안 이점을 GPU 클러스터로 확장 할 수 있습니다.
  • 다중 테넌트 격리 : 워크로드를 격리하여 단일 인프라에서 여러 사용자를 안전하게 지원할 수 있습니다.
  • 관리 및 모니터링 : 관리자는 동일한 하이퍼 바이저 가상화 도구를 사용하여 호스트, 가상 머신 및 앱 수준에서 가시성과 함께 GPU 서버를 관리 할 수 ​​있습니다.
  • 광범위한 지원 GPU : vComputeServer는 NVIDIA T4 또는 V100 GPU, Quadro RTX 8000 및 6000 GPU, 이전 세대의 Pascal 아키텍처 P40, P100 및 P60 GPU에서 지원됩니다.

– 엔비디아



VMware vSphere 사용자는 또한 딥 러닝 및 과학 컴퓨팅에 최적화 된 GPU 가속 클라우드 플랫폼 인 Nvidia GPU Cloud 지원을 받게됩니다. Nvidia의 Anne Hecht는 ' NVIDIA NGC 딥 러닝, 머신 러닝 및 HPC를위한 GPU 최적화 소프트웨어의 허브 인는 다음을 포함하여 개념에서 프로덕션까지 AI를 가속화하는 150 개 이상의 컨테이너, 사전 훈련 된 모델, 교육 스크립트 및 워크 플로를 제공합니다. 여울 , 우리의 CUDA 가속 데이터 과학 소프트웨어”.

최근 인수에 따른 VMware 파트너십

VMware는 vSphere 클라우드 플랫폼에 많은 가치를 더할 Bitfusion을 인수 할 예정입니다. 이 기사의 앞부분에서 논의했듯이 가상화는 최소한의 성능 저하로 기업에 많은 이점을 제공 할 수 있습니다. Bitfusion의 기술을 사용하면 기업은 베어 메탈 서버에서 벗어나 GPU를 가상화 할 수 있습니다. 이러한 배열은 사용 가능한 리소스의 활용도를 높일 수 있습니다. 가속화 된 컴퓨팅을 중심으로 기업들은 하드웨어 스택을 가상화하는 방법을 모색 할 것이며 VMware는이를 잘 알고 있으며 데이터 센터에서 vSphere 플랫폼을 필수로 만들기 위해 움직이고 있습니다.

태그 엔비디아