Demo
Din personlige AI-chatbot
Versjon 0.5
ChatRTX er en demo-app som lar deg tilpasse en GPT-basert stor språkmodell (LLM) som er koblet til eget innhold – dokumenter, notater, bilder eller annen data. Ved å utnytte generering med innhentingsforbedring (RAG), TensorRT™-LLM, NVIDIA NIM™-mikrotjenester og RTX™-akselerasjon, kan du bruke en skreddersydd chatbot for å få raske og kontektstuelt relevante svar. Og siden alt kjøres lokalt på din Windows RTX-PC eller arbeidsstasjon, får du raske og private resultater.
ChatRTX støtter ulike filformater, inkludert TXT, PDF, DOC/DOCX, JPG, PNG, GIF og XML. Bare pek programmet mot mappen med filene dine, så lastes de inn i biblioteket på sekunder.
ChatRTX har et automatisk talegjenkjenningssystem som bruker AI til å behandle talespråk og gi tekstsvar med støtte for flere språk. Bare klikk på mikrofonikonet og snakk med ChatRTX for å komme i gang.
La ChatRTX gjøre jobben – bla gjennom fotoalbumene dine med et enkelt tekst- eller talesøk, slik at alt holdes privat og problemfritt.
ChatRTX gir tilgang til NVIDIA NIM-mikrotjenester, med de nyeste AI-modellene som er optimalisert for RTX. Med NVIDIA NIM kan du enkelt laste ned, konfigurere og bygge AI-drevne programmer for å akselerere arbeidsflyten, øke produktiviteten og utnytte AI-modellenes fulle potensial.
Bare last ned, installer og begynn å chatte umiddelbart.
| Plattform | Windows |
| GPU | NVIDIA® GeForce® RTX 5090 eller 5080 GPU eller NVIDIA® GeForce® RTX 30 eller 40-serien GPU med minst 8 GB VRAM |
| RAM | 16 GB eller mer |
| OS | Windows 11 |
| Driver | 572.16 eller nyere |
| Diskplass | *70 GB ledig diskplass. *Installasjonsstørrelse: 13 MB; krav til diskplass varierer avhengig av systemkonfigurasjon og installerte modeller. Se brukerveiledningen for mer informasjon. |
ChatRTX-teknologidemonstrasjonen er bygget fra TensorRT-LLM RAG-utviklerreferanseprosjektet som er tilgjengelig fra GitHub. Utviklere kan bruke denne referansen til å utvikle og distribuere sine egne RAG-baserte programmer for RTX, akselerert av TensorRT-LLM.
NVIDIA NIM-mikrotjenester og Blueprints
Bruk de nyeste generative AI-modellene lokalt på RTX AI-PC-en din med NVIDIA NIM™-mikrotjenester og NVIDIA AI Blueprints. NIM-mikrotjenester er optimalisert for RTX-grafikkontroll, og gir deg tilgang til banebrytende kunstig intelligens fra favorittappene dine, som ChatRTX, AnythingLLM, ComfyUI og LM Studio. Kombiner dem med Blueprints for å konfigurere, tilpasse og distribuere AI-drevne arbeidsflyter som automatiserer oppgaver og låser opp nye funksjoner, raskt og effektivt. Skap og opplev morgendagens AI, i dag. Drevet av NVIDIA RTX™
Oppgrader til avansert AI med NVIDIA GeForce RTX™ GPU-er, og få fart på spilling, skaping, produktivitet og utvikling. De innebygde AI-prosessorene gir deg verdensledende AI-teknologi og kraftig ytelse i alt du gjør – samtidig som dataene dine alltid lagres lokalt på Windows-PC-en din.
Utforsk NVIDIAs generative AI-utviklerverktøy og bedriftsløsninger.