Open Sora는 RTX 3090 GPU에서 AI 생성 비디오를 만들 수 있지만 메모리 용량은 4초 240p 클립으로 제한됩니다
번역기만 돌린 기계 번역으로 오역이 많을 수 있으며 자세한 내용은 원문을 참고하세요.
Open Sora는 RTX 3090 GPU에서 AI 생성 비디오를 만들 수 있지만 메모리 용량은 4초 240p 클립으로 제한됩니다
AI 프로세스를 위한 GPU 클라우드 제공업체 인 Backprop은 최근 Open-Sora V1.2 기반 환경을 사용하여 AI로 생성된 비디오를 선보였습니다 . 회사는 서로 다른 프롬프트를 사용하여 네 가지 예를 보여 주었고 결과는 일반적으로 평균 수준이었습니다. 그러나 비교적 평범한 샘플이라도 하드웨어 요구 사항은 상당히 높습니다.
회사 블로그 게시물에 따르면 “3090에서는 최대 240p 및 4s의 비디오를 생성할 수 있습니다. 그보다 높은 값은 카드에 있는 메모리보다 더 많은 메모리를 사용합니다. 2초짜리 비디오의 경우 세대가 약 30초, 4초짜리 비디오의 경우 약 60초가 걸립니다." 이는 424x240 출력에 대한 상당한 양의 계산 능력입니다. 4초짜리 비디오의 총 픽셀 수는 천만 개가 조금 안 됩니다.
Nvidia RTX 3090은 한때 가장 강력한 GPU였으며 오늘날에도 여전히 매우 강력합니다. 많은 복잡한 AI 워크로드에 중요한 요소인 24GB의 GDDR6X 메모리가 함께 제공됩니다. 이는 모든 최신 게임에 충분한 VRAM이며 최신 RTX 4090 용량과 일치하지만 여전히 Open Sora 비디오 생성을 제한하는 요소입니다. 현재 그래픽 카드에서 더 많은 VRAM을 확보할 수 있는 유일한 방법은 전문가용 하드웨어나 데이터 센터 하드웨어로 전환하는 것입니다.
단일 Nvidia H100 PCIe GPU는 최대 94GB의 HBM2e 메모리를 가질 수 있으며 최신 SXM 전용 Nvidia H200(HBM3e 포함)의 경우 최대 141GB를 가질 수 있습니다. 최고 소비자 GPU보다 3배 이상 많은 대용량 외에도 이러한 데이터 센터 GPU는 훨씬 더 높은 메모리 대역폭을 갖고 있으며 Micron의 차세대 HBM3는 2TB/s를 달성할 계획입니다. H100 PCIe 어댑터의 가격은 현재 소매가가 30,000달러이지만, 라이센스를 받은 유통업체에서는 약간 더 저렴한 가격으로 구매할 수도 있습니다.
Nvidia에서 직접 6,800달러에 훨씬 더 합리적인 가격으로 48GB 메모리를 갖춘 Nvidia RTX 6000 Ada Generation을 선택할 수 있습니다. 이는 모든 소비자 GPU VRAM의 두 배이며 최대 512x512 비디오 생성에 충분할 수 있지만 여전히 상대적으로 짧은 클립입니다.
또는 H100 NVL이 있지만 듀얼 GPU 변형의 경우 자체적으로 모든 것을 찾기가 약간 어렵습니다. Newegg는 75,000달러에 Supermicro 듀얼 Grace Hopper 서버를 보유하고 있으며, 이는 186GB의 공유 VRAM을 제공합니다. 그러면 아마도 720p 비디오 콘텐츠 제작을 시작할 수 있을 것입니다.
분명히 위의 GPU를 구입할 때 가장 큰 단점은 가격입니다. 단일 RTX 4090의 가격은 1,599달러부터 시작하는데, 이는 대부분의 소비자에게 큰 금액입니다. 전문가용 GPU는 가격이 4배 더 비싸고, 데이터센터 AI GPU는 잠재적으로 20배 더 비쌉니다. H100은 Intel 및 AMD와 경쟁하고 있지만 Intel의 Gaudi는 여전히 15,000달러가 넘을 것으로 예상되고 AMD의 MI300X는 10,000~15,000달러 사이의 가격이 책정될 것으로 예상됩니다.
그런 종류의 현금이 있더라도 가장 가까운 PC 상점에 가서 대부분의 GPU를 구입할 수는 없습니다. H100을 대량으로 주문하면 주문 금액을 지불한 후 제품이 문앞에 도착하기까지 2~3개월의 리드 타임이 있습니다. 전력 요구 사항도 잊지 마십시오. H100의 PCIe 변형은 여전히 350W의 전력을 소비할 수 있으므로 연중무휴 24시간 비디오를 생성하는 경우 연간 최대 약 3MWh(연간 약 300달러)가 되는데, 이는 하드웨어 가격을 고려하면 그리 큰 금액이 아닙니다.
