NVIDIA hat gerade eine kostenlose Chatbot-Demo veröffentlicht, die lokal auf Ihrem PC läuft. Dies ist sehr praktisch, da der Chatbot so Zugriff auf Ihre Dateien und Dokumente erhält. Sie können bereitstellen Chatten Sie mit RTX bestimmte persönliche Daten und bitten Sie ihn, auf der Grundlage dieser Informationen einen Lebenslauf zu erstellen. Sie können ihm auch Fragen stellen, wie Sie es bei jedem Chatbot tun würden, und er wird in Ihre Daten eintauchen, um Antworten zu erhalten.
Das Unternehmen gibt an, dass es Benutzern ermöglicht, „lokale PC-Dateien schnell und einfach als Datensatz mit einem großen Open-Source-Sprachmodell wie Mistral oder Llama 2 zu verbinden“. NVIDIA gibt ein Beispiel für einen Benutzer, der in Las Vegas einen Chatbot nach einem von einem Partner empfohlenen Restaurant fragt. Die Software durchsucht lokale Dateien, um die Antwort zu finden. Es unterstützt eine Reihe von Dateiformaten, darunter .txt, .pdf, .doc, .docx und .xml. Das Unternehmen gibt an, relevante Dateien „in Sekunden“ in seinen Datensatz hochzuladen.
Chat mit RTX integriert auch Videos und Playlists YouTube. Sie können die URL des Videos zum Datensatz hinzufügen und das im Video enthaltene Wissen wird für kontextbezogene Abfragen integriert. NVIDIA sagt, dass es nützlich sein wird, wenn Reiseempfehlungen „basierend auf Inhalten aus Lieblingsvideos von Influencern“ angefordert werden oder wenn nach Tutorials und Zusammenfassungen aus Bildungsressourcen gesucht wird.
Das klingt nach einem großen Schritt hin zu so etwas wie einem echten digitalen Assistenten, der im Kontext Ihrer persönlichen Daten arbeitet. Die meisten Chatbots senden Daten an die Cloud, aber Chat mit RTX „ermöglicht Benutzern, sensible Daten auf einem lokalen Computer zu verarbeiten, ohne sie mit Dritten teilen oder über eine Internetverbindung verfügen zu müssen.“ Es ist also eine sicherere und kontextorientiertere Kommunikation.
Es gibt einige Einschränkungen. Da es sich hierbei um ein Demoprodukt handelt, können Sie mit vielen Fehlern rechnen NVIDIA sollte mit der Behebung beginnen, sobald Benutzer anfangen, Fehlerberichte usw. zu schreiben. Auch hier gibt es einige strenge Hardware-Einschränkungen. Chat mit RTX funktioniert nur auf Windows 11-Computern mit GPUs NVIDIA GeForce RTX 30-Serie oder höher und mindestens 8 GB VRAM.
In letzter Zeit NVIDIA stellt seine KI-Fähigkeiten wirklich unter Beweis, da das Unternehmen gerade seine nächste Generation von KI-Supercomputerchips auf den Markt gebracht hat. Das Unternehmen schwimmt einfach in den Gewinnen, vor allem aufgrund seiner KI- und Rechenzentrumssegmente.
Lesen Sie auch: