AI 개발 및 VDI를 위한 VMware GPU 설정, 더 이상 어렵지 않아요!

 

가상 머신에서 GPU 성능, 포기해야 할까요? VMware에서 GPU를 100% 활용하는 두 가지 핵심 방법, GPU 패스스루와 vGPU에 대해 확실하게 알려드립니다. 더 이상 답답해하지 마세요!

"아, 가상 머신(VM)에서도 고사양 그래픽 작업이나 AI 모델 학습을 좀 쌩쌩하게 돌리고 싶은데..." 이런 생각, 다들 한 번쯤 해보셨죠? 저도 그랬습니다. VM만 켜면 그래픽 성능이 뚝 떨어져서 답답했던 경험, 솔직히 짜증 나잖아요. 오늘은 VMware 환경에서 물리 GPU의 성능을 그대로, 혹은 효율적으로 나눠 쓰는 방법에 대해 제 경험을 바탕으로 속 시원하게 알려드릴게요! 😊

 

GPU 가상화, 패스스루 vs vGPU 전격 비교 🧐

VMware에서 GPU를 사용하는 방식은 크게 두 가지로 나뉩니다. 바로 'GPU 패스스루(Passthrough)'와 'vGPU(Virtual GPU)'인데요, 개념부터가 완전히 달라서 사용 목적에 맞게 선택하는 게 정말 중요해요.

• GPU 패스스루 (DirectPath I/O): 물리 GPU 하나를 특정 VM 하나에 '통째로' 전담시키는 방식입니다. 거의 네이티브 수준의 성능을 낼 수 있어서 고사양 게임이나 AI 개발처럼 극한의 성능이 필요할 때 딱이죠. 다만, GPU 하나를 한 VM만 독점하니 자원 효율성은 떨어질 수 있어요.
• vGPU (Virtual GPU): 물리 GPU 하나를 여러 개의 '가상 GPU'로 쪼개서 여러 VM이 나눠 쓰는 방식입니다. NVIDIA GRID 같은 기술이 필요한데, VDI(가상 데스크톱 환경)처럼 여러 사용자에게 적당한 수준의 GPU 성능을 제공할 때 아주 유용해요.

구분	GPU 패스스루 (Passthrough)	vGPU
성능	네이티브에 가까운 최대 성능	물리 GPU를 분할하여 사용 (성능 공유)
자원 할당	1 GPU : 1 VM (독점)	1 GPU : 다수 VM (공유)
주요 용도	고성능 컴퓨팅, AI/ML, 고사양 그래픽 작업	VDI, 경량 그래픽 작업, 다수 사용자 지원
라이선스	별도 라이선스 불필요	NVIDIA GRID 라이선스 필요

 

1. GPU 패스스루 설정 방법 🛠️

자, 그럼 먼저 GPU 패스스루부터 설정해볼까요? 이건 하드웨어 호환성만 잘 맞으면 생각보다 간단해요.

1.1. 사전 준비 및 확인 사항

1. 하드웨어 호환성: 메인보드와 CPU가 IOMMU (Intel VT-d 또는 AMD-Vi) 기능을 지원하는지 확인하고, BIOS/UEFI에서 반드시 활성화해야 합니다. 이게 핵심이에요!
2. GPU 호환성: 대부분의 NVIDIA, AMD GPU는 잘 되지만, 일부 구형이나 소비자용 모델은 지원 목록에 없는 경우도 있으니 미리 확인하는 게 좋습니다.
3. 메모리 예약: 패스스루를 사용할 VM은 '모든 게스트 메모리 예약' 옵션을 필수로 체크해야 합니다. 이걸 안 하면 VM이 안 켜져요.

1.2. ESXi 호스트 설정

1. ESXi 웹 클라이언트에 접속해서 호스트 > 관리 > 하드웨어 > PCI 디바이스로 이동합니다.
2. 목록에서 VM에 할당할 GPU를 찾아서 선택하고, 상단의 '패스스루 전환' 버튼을 클릭하세요.
3. 상태가 '활성'으로 바뀌면, 반드시 ESXi 호스트를 재부팅해야 적용됩니다.

1.3. 가상 머신(VM) 설정

1. GPU를 할당할 VM의 설정 편집 > 다른 디바이스 추가 > PCI 디바이스를 선택합니다.
2. 드롭다운 메뉴에서 방금 활성화한 GPU를 선택하고 추가합니다.
3. 메모리 설정에서 '모든 게스트 메모리 예약(100%)'을 체크합니다.
4. VM 옵션 > 부팅 옵션에서 펌웨어를 EFI 또는 UEFI로 변경합니다. (BIOS 모드에서는 잘 안될 수 있어요)
5. VM을 켜고, 해당 GPU 제조사(NVIDIA/AMD)의 공식 드라이버를 설치하면 끝!

💡 알아두세요!
일부 고성능 GPU는 VM의 고급 구성에서 `pciPassthru.use64bitMMIO`를 `TRUE`로 설정해야 하는 경우도 있습니다. VM이 GPU를 제대로 인식하지 못할 때 확인해보세요.

 

2. vGPU 설정 방법 💻

이번엔 vGPU입니다. 이건 좀 더 복잡하고, 사전 준비물이 필요해요. 특히 NVIDIA GRID 기술을 사용하기 때문에 라이선스가 필수적입니다.

2.1. 사전 준비 및 확인 사항

• NVIDIA GRID 호환 GPU: NVIDIA Tesla, Quadro RTX 등 vGPU를 공식 지원하는 GPU가 필요합니다.
• NVIDIA vGPU 소프트웨어: ESXi 호스트에 설치할 vGPU Manager(VIB 파일)와 VM 내부에 설치할 게스트 드라이버가 필요합니다.
• NVIDIA 라이선스 서버(NLS): vGPU 기능을 활성화하려면 라이선스 서버를 별도로 구축하고 라이선스를 구매해야 합니다.

⚠️ 주의하세요!
vGPU는 패스스루와 달리 라이선스 비용이 발생하며, VMware vSphere Enterprise Plus 이상 에디션에서 정식 지원됩니다. 도입 전에 비용과 환경을 꼭 고려해야 합니다.

2.2. ESXi 호스트 설정

1. ESXi 호스트를 유지 보수 모드로 전환하고, SSH로 접속하여 NVIDIA vGPU Manager VIB 파일을 설치합니다. (`esxcli software vib install -d /경로/NVIDIA-VIB-파일.zip`)
2. 설치 후 호스트를 재부팅합니다.
3. 호스트 > 관리 > 하드웨어 > 그래픽 디바이스에서 GPU를 선택하고, '공유 DirectPath' 모드로 변경합니다.

2.3. 가상 머신(VM) 설정

1. VM의 설정 편집 > 새 디바이스 추가 > 공유 PCI 디바이스를 선택합니다.
2. 'GPU 프로파일' 드롭다운 메뉴에서 VM에 할당할 vGPU 프로파일을 선택합니다. (예: `nvidia_t4-8q`) 프로파일은 GPU 메모리와 성능을 어떻게 나눌지 정의합니다.
3. 패스스루와 마찬가지로, 메모리를 100% 예약하고 부팅 옵션을 EFI/UEFI로 설정합니다.
4. VM을 켜고, 일반 드라이버가 아닌 NVIDIA vGPU 게스트 드라이버를 설치합니다.
5. 마지막으로, VM 내에서 라이선스 서버 정보를 입력해주면 설정이 완료됩니다.

 

💡

VMware GPU 활용 핵심 요약

✨ GPU 패스스루: 최고의 성능이 필요할 때! 1개의 GPU를 1개의 VM이 독점하여 사용합니다.

📊 vGPU: 자원 효율성이 중요할 때! 1개의 GPU를 여러 VM이 나누어 사용합니다.

🔧 공통 설정:

IOMMU (VT-d/AMD-Vi) 활성화 + 메모리 100% 예약 + EFI/UEFI 부팅

👩‍💻 드라이버: 패스스루는 일반 드라이버, vGPU는 전용 게스트 드라이버를 설치해야 합니다.

사용 목적에 맞는 방식을 선택하는 것이 가장 중요합니다.

자주 묻는 질문 ❓

Q: 어떤 방식이 저에게 더 좋을까요?

A: 👉 단일 작업에 최고의 성능이 필요하다면 'GPU 패스스루', 여러 사용자에게 적절한 그래픽 환경을 제공하는 것이 목적이라면 'vGPU'가 더 적합합니다. 예를 들어, 딥러닝 모델 개발은 패스스루, 일반적인 사무용 VDI 환경은 vGPU를 추천합니다.

Q: 소비자용 그래픽카드(GeForce 등)도 패스스루가 가능한가요?

A: 👉 네, 기술적으로 가능하고 많이 사용합니다. 하지만 제조사에서 공식적으로 보증하는 환경은 아니기 때문에 예기치 못한 문제가 발생할 수 있습니다. 안정성이 중요하다면 Quadro나 Tesla 같은 전문가용 GPU 사용을 권장합니다.

Q: vGPU 설정 시 라이선스는 꼭 필요한가요?

A: 👉 네, 반드시 필요합니다. NVIDIA vGPU 솔루션은 라이선스 정책 기반으로 동작하기 때문에, 라이선스 서버 구축 및 라이선스 구매가 필수입니다. 평가판 라이선스를 통해 테스트해볼 수는 있습니다.

오늘은 VMware 환경에서 GPU를 활용하는 두 가지 핵심적인 방법에 대해 자세히 알아봤습니다. GPU 가상화는 처음에는 조금 복잡하게 느껴질 수 있지만, 한번 개념을 잡고 나면 정말 강력한 무기가 될 수 있습니다.😊