오늘 VMware 익스플로어 바르셀로나(Explore Barcelona)에서 우리는 VMware의 프라이빗 AI 모멘텀을 더욱 입증하는 몇 가지 새롭고 확장된 파트너십을 발표했습니다. 프라이빗 AI(Private AI)는 AI로 인한 비즈니스 이익과 조직의 실질적인 프라이버시 및 컴플라이언스 요구 사이의 균형을 목표로 하는 아키텍처 접근 방식입니다.
왜 프라이빗 AI인가
VMware 익스플로어 라스베이거스에서 프라이빗 AI 뉴스를 발표한 이래로, 고객과 파트너 모두가 우리의 AI 전략과 AI의 가치에 대해 상당한 관심을 보여 주었습니다. 고객들은 성장하는 우리의 개방형 생태계가 제공하는 유연성에 열광했습니다. 고객들은 AI 워크로드와 비AI 워크로드 모두에 대해 중앙 집중식 관리와 운영을 제공하는 우리의 능력과 더불어, 필요한 GPU 리소스를 가상화하고 공유할 수 있게 하는 우리의 능력을 높이 평가하고 있습니다. 이 두 가지 모두 TCO(총 소유 비용) 절감으로 이어질 수 있습니다.
대부분의 조직이 퍼블릭 및 프라이빗 AI 서비스 스택을 모두 사용할 계획이지만, 기업 데이터가 생성, 처리 또는 소비되는 곳에 인접한 AI 컴퓨팅 및 모델을 실행해야 하는 몇 가지 사용 사례가 있습니다. 새롭게 등장하는 일반적인 사용 사례는 다음과 같습니다.
- 코드 생성 – 허깅 페이스(Hugging Face)가 포함된 세이프코더(SafeCoder) 제품과 같은 솔루션을 통해 개인 정보 보호와 조직의 소스 코드에 대한 통제를 유지하면서 개발자 생산성을 향상시킵니다.
- 연락 센터 해결 – 고객 지원을 위한 문제 해결 시간을 개선하는 동시에 내부 지원 문서를 보호합니다.
- IT 운영 자동화 – 관리 및 운영 메타데이터를 보호하는 동시에 내부 IT 프로세스에 대한 보다 풍부한 자동화와 통찰력을 제공합니다.
- 고급 정보 검색 – 문서 검색, 요약, 콘텐츠 작성을 간소화하는 동시에 고객 및 파트너와 소통하는 방식에서 조직 고유의 지적 자산과 고유한 목소리를 유지합니다.
파트너 모멘텀
파트너 측면에서 볼 때, VMware의 프라이빗 AI 접근 방식은 파트너에게 차별화 및 부가 가치를 제공할 수 있는 많은 기회를 제공하고 있습니다. 프라이빗 AI 인프라에 초점을 맞춘 덕분에 우리는 AI 독립 소프트웨어 공급업체(ISV)에게 매우 매력적인 회사가 되었습니다. 시스템 통합 업체들 또한 고객의 요구를 충족하고 최고의 사용 사례를 만들기 위해 VMware 클라우드 파운데이션(Cloud Foundation)에서 AI 사용 사례 채택을 줄지어 가속화하고 있습니다. VMware 익스플로어 바르셀로나에서는 IBM 컨설팅과 킨드릴(Kyndryl)이라는 두 개의 SI 파트너가 VMware와 협력함으로써 프라이빗 AI를 통해 조직이 신속하게 가치를 실현할 수 있도록 지원하기 위해 프라이빗 AI 인프라와 서비스 성장을 가속화하고 있다고 발표했습니다.
VMware의 AI 전략은 차별화된 기술, 단순성, 저비용, 선택권을 중심으로 하며, 이를 통해 조직은 비즈니스 또는 산업의 요구 사항이 변화함에 따라 비즈니스를 수행하는 곳에서 새로운 서비스를 신속하게 탑재할 수 있는 공통 AI 플랫폼에 투자할 수 있습니다. 당사의 성장하는 파트너 생태계는 우리의 성공에 매우 중요하며, 우리는 바르셀로나에서 새롭고 확장된 파트너십을 발표하게 되어 무척 기쁘게 생각합니다.
인텔 파트너십
수십 년에 걸친 인텔(Intel)과의 파트너십은 이제 프라이빗 AI로 확대되고 있습니다. 오늘 VMware와 인텔은 고객이 프라이빗 AI 모델을 만들어 배포하고 VMware 클라우드 파운데이션을 통해 인텔 AI 소프트웨어 키트, 프로세서, 하드웨어 가속기를 활용해 TCO를 절감할 수 있는 VMware 프라이빗 AI 레퍼런스 아키텍처를 설계하고 있다고 밝혔습니다.
인텔 AI가 적용된 VMware 프라이빗 AI 레퍼런스 아키텍처에는 VMware 클라우드 파운데이션에 대한 다음 내용들이 포함됩니다.
- 인텔 맥스 시리즈 GPU - 최대 128개의 Xe-HPC 코어를 제공하며, 가장 까다로운 AI 워크로드를 대상으로 하는 새로운 기본 아키텍처입니다.
- 인텔 어드밴스드 매트릭스 인텐션(AMX)을 탑재한 4세대 제온 CPU - 다양한 프레임워크, 엔드 투 엔드 데이터 과학 도구, 광범위한 스마트 솔루션 생태계에 걸쳐 상당한 성능 향상을 제공합니다.
- 인텔 AI 소프트웨어 키트 – 패키지화된 엔드 투 엔드 오픈 소스 소프트웨어 및 옵션 라이센스 구성 요소를 통해 멀티노드 확장과 AI 도입을 가속화합니다.
VMware 익스플로어 바르셀로나에서 우리는 CPU에서 가동되면서도 인상적인 정확성과 성능을 보여주는 여러 생성형 AI 서비스를 시연할 것입니다. 이러한 데모는 많은 사람들이 특히 추론 사용 사례에서 자신의 AI 요구에 맞게 CPU 용량을 어떻게 활용할 수 있는지 다시 생각하게 할 수 있습니다. 자세한 내용은 인텔과 함께하는 VMware 프라이빗 AI 솔루션 개요를 참조하십시오.
IBM 왓슨x 파트너십
VMware는 IBM과 손잡고 기업이 보유한 온프레미스 또는 하이브리드 클라우드 환경에서 IBM 왓슨x(watsonx)에 접근하고 왓슨x 플랫폼에서 모델을 안전하게 교육하고 미세 조정할 수 있도록 지원할 예쩡입니다. VMware 클라우드 파운데이션과 레드햇 오픈시프트(Red Hat OpenShift)를 기반으로 구축된 이 풀스택 아키텍처를 통해 조직은 ML옵스, 데이터 관리, 거버넌스를 위한 왓슨x AI 기능을 구현할 수 있습니다. 또한 조직은 생성형 AI 사용 사례를 지원하기 위해 허깅 페이스에서 IBM이 선정한 오픈 소스 모델과 기타 제3자 모델 또는 IBM이 훈련시킨 기반 모델 제품군에 접근할 수 있습니다. 자세한 내용은 VMware 프라이빗 AI와 IBM 왓슨x의 발표를 참조하세요.
통합 가속 재단 운영을 지원하는 VMware
VMware는 ARM, 후지쯔(Fujitsu), 구글 클라우드(Google Cloud), 이매지네이션(Imagination), 인텔(Intel), 퀄컴(Qualcomm), 삼성(Samsung)과 함께 통합 가속 재단(UXL)의 운영 멤버로 참여했습니다. 통합 가속 재단은 성능이 뛰어난 크로스 플랫폼 애플리케이션의 개발을 간소화하는 개방형 표준 액셀러레이터 프로그래밍 모델을 제공하기 위해 노력하는 여러 업계의 모임입니다. 통합 가속 재단은 SYCL과 같은 산업 기반 개방형 표준을 활용해 하나의 API 사양을 기반으로 구축하고 있습니다. 통합 가속 재단은 중립성과 독립성을 수용해 이기종 아키텍처를 위한 소프트웨어를 개발하는 벤더 중립적인 방법을 정의할 것입니다. 통합 가속 재단의 목표는 수십 년 동안 하드웨어와 소프트웨어 모두에서 상호 운용성을 효율화해 온 VMware의 발자취와 결을 같이 합니다.
데이터 서비스 파트너십
VMware는 VMware 클라우드 파운데이션에 기존의 멀티 클라우드 탄주 데이터 솔루션(Tanzu Data Solutions)을 넘어 데이터 서비스 매니저(DSM)를 포함함으로써 데이터 서비스 제품을 확장하고 있습니다. 조직이 비즈니스 요구에 맞게 AI 서비스를 구축하는 방식에 보다 유연하게 대처할 수 있도록 하려면 사내 데이터 서비스 생태계를 확장하는 것이 필수적입니다. 지금까지 DSM은 VMware 탄주 SQL 포스트그레 및 MySQL을 지원했으며 이제는 VMware 및 파트너 데이터 서비스 관리를 위한 통합 컨트롤 플레인을 제공하는 것으로 확장되고 있습니다.
오늘 당사는 사내 환경에 새로운 차원의 유연성을 제공하기 위해 DSM과 통합되는 새로운 파트너 서비스를 추가한다고 발표했습니다. 먼저, MinIO와 협력해 고성능 및 복원력이 뛰어난 객체 저장소를 VMware 클라우드 파운데이션에 제공하고 있습니다. 또한 알로이DB 옴니(AlloyDB Omni)의 우수한 성능, 확장성 및 비용 효율성을 VMware 클라우드 파운데이션에서 제공하기 위해 구글 클라우드와의 제휴를 확대했습니다. 브이샌(vSAN)에서 실행되는 경우 구글은 표준 포스트그레 대비 트랜잭션 워크로드의 성능이 2배 이상 향상되고 분석 워크로드의 성능이 최대 100배까지 향상되는 것을 확인했습니다.1
고성능 데이터베이스와 객체 스토리지는 AI/ML 워크로드를 지원하는 핵심 데이터 서비스이며, 이러한 새로운 파트너십을 통해 프라이빗 AI 여정을 더욱 가속화할 수 있습니다.
함께하는 AI 여정
바르셀로나에서 발표된 파트너십 외에도, 당사는 VMware 익스플로어 라스베이거스에서 엔비디아(NVIDIA)와의 협력 제품을 공개한 후에도 엔비디아와 긴밀히 협력해 가까운 시일 내에 VMware 프라이빗 AI 파운데이션 위드 엔비디아의 시장 출시를 위해 노력하고 있습니다. 이미 다수의 고객이 VMware 및 엔비디아와 함께 자사 환경에서 이 새로운 제품을 실행하고 솔루션의 미래를 만드는 데 도움을 주는 설계 파트너로서 협력하고 있습니다.
프라이빗 AI와 관련해 고객과 파트너로부터 자주 듣는 질문은 "아주 좋습니다! 어떻게 시작하면 될까요?"입니다. VMware 익스플로어 바르셀로나에서는 코딩 어시스턴트와 RAG 등 오늘날 활용 가능한 사용 사례를 포함한 인기 있는 사용 사례들을 정리한 프라이빗 AI POC가 포함된 스타터 팩을 출시했습니다.
AI에 대한 접근 방식을 다시 생각해 볼 준비가 되셨습니까? 귀사가 데이터 개인 정보 보호 및 제어, 유연성, 선택권 및 비용 절감을 원한다면 지금 VMware와 상의하고 AI 여정에 함께해 보세요.
출처
구글 클라우드 내부 테스트, 2023년 3월