엔비디아, PC의 지포스 RTX GPU에서 실행할 수 있는 챗봇 출시
해외 매체의 기사를 단순 번역한 것으로 오역과 의역이 있을 수 있으며 자세한 내용은 원문을 참고하시기 바랍니다.
"Chat with RTX"에는 RTX 30 또는 RTX 40 시리즈 GPU가 필요합니다.
25년 넘게 기술 애호가 커뮤니티에 서비스를 제공해 왔습니다. TechSpot은 신뢰할 수 있는
기술 분석 및 조언을 의미합니다 . 당사의 윤리 선언문을 읽어 보십시오 .
중요한 이유: Nvidia는 특정 비디오 카드를 활용하여 PC에서 개인 AI 챗봇을 실행하는 데모 애플리케이션을 출시했습니다. Chat with RTX는 Windows 11에서 실행되며 GeForce RTX 30 또는 40 시리즈 GPU(또는 RTX Ampere 또는 Ada Generation GPU)가 필요합니다. RAG(검색 증강 생성), TensorRT-LLM 및 RTX 가속을 사용하여 고유한 콘텐츠를 기반으로 개인화된 GPT 대규모 언어 모델을 생성합니다.
YouTube의 클립을 포함하여 웹에서 비디오를 제공할 수도 있습니다. 소스 비디오의 URL을 연결한 후, 비디오 내용과 관련된 질문을 챗봇에게 물어보세요.
이름에서 알 수 있듯이 검색 증강 생성은 외부 소스에서 수집한 사실을 사용하여 생성 AI 모델의 정확성과 신뢰성을 높이는 기술입니다. Nvidia는 이 기술에 대한 더 깊은 이해를 원하는 사람들을 위해 이 주제에 대한 전체 글을 보유하고 있습니다.
클라우드가 아닌 로컬에서 실행되고 개인 데이터에 대해 교육을 받았기 때문에 빠르고 상황에 맞게 관련성이 있어야 합니다. Nvidia는 또한 안전한 결과를 제공한다고 말합니다. 인터넷을 통해 민감한 데이터를 전송하지 않는다는 점을 고려하면 그럴듯합니다.
The Verge의 Tom Warren은 Chat with RTX의 시험판 버전을 사용하여 시간을 보냈으며 비록 가장자리가 약간 거칠었지만 편집자는 이것이 언론인이나 일련의 데이터를 분석해야 하는 누구에게나 유용한 도구 라고 말했습니다. 서류.
예를 들어, Warren은 Redmond와 FTC의 법정 소송에서 나온 법률 문서를 사용하여 Microsoft의 전체 Xbox Game Pass 전략을 봇이 요약하도록 할 수 있었습니다. 그러나 비디오 측면에서는 상황이 약간 더 버그가 많았습니다. 앱이 의도한 비디오 대신 완전히 별도의 비디오에 대한 대본을 로드했기 때문입니다. 특히 워렌이 이전에 문의한 영상도 아니었습니다.
