Nvidia lance Chat with RTX : un chatbot IA local

Chat with RTX transforme votre PC en un puissant assistant AI personnel, exploitant les GPU RTX de NVIDIA pour des réponses rapides et privées.

Points clés :

Chat with RTX est un chatbot AI qui fonctionne localement sur les PC Windows avec des GPU NVIDIA RTX.
Il permet de personnaliser un chatbot avec vos propres données, telles que des documents et des vidéos YouTube.
Les utilisateurs doivent avoir une carte graphique GeForce RTX série 30 ou supérieure avec au moins 8 Go de VRAM.
Le chatbot utilise des modèles de langage ouverts comme Mistral ou Llama 2 et peut intégrer des connaissances à partir de vidéos YouTube.
Chat with RTX est conçu pour la confidentialité et la rapidité, sans nécessiter de connexion Internet pour le traitement des données.

NVIDIA a récemment lancé Chat with RTX, une application de démonstration technologique qui permet aux utilisateurs de créer un chatbot AI personnalisé directement sur leur PC Windows. Cette innovation s’appuie sur la puissance des cartes graphiques GeForce RTX série 30 ou supérieure, dotées d’au moins 8 Go de mémoire vidéo (VRAM), pour offrir une expérience AI générative locale, rapide et sécurisée.

Fonctionnalités et Avantages

Chat with RTX se distingue par sa capacité à personnaliser l’expérience AI. Les utilisateurs peuvent connecter des fichiers locaux, tels que des documents texte, PDF, Word ou XML, pour créer un ensemble de données que le chatbot peut interroger pour fournir des réponses contextuelles rapides. De plus, l’outil peut intégrer des connaissances à partir de vidéos YouTube, permettant aux utilisateurs de poser des questions contextuelles basées sur le contenu de leurs vidéos préférées.

Confidentialité et Accessibilité

L’un des principaux avantages de Chat with RTX est le respect de la vie privée. Contrairement aux services de chatbot AI basés sur le cloud, Chat with RTX traite les données sensibles localement sur le PC de l’utilisateur, sans avoir à les partager avec des tiers ou nécessiter une connexion Internet. Cela signifie que les résultats sont non seulement rapides, mais aussi que les données de l’utilisateur restent privées et sécurisées.

Pour les Développeurs

Les développeurs ne sont pas laissés pour compte. NVIDIA propose le projet de référence TensorRT-LLM RAG sur GitHub, permettant aux développeurs de créer et de déployer leurs propres applications basées sur RAG pour les GPU RTX, accélérées par TensorRT-LLM.

Concours pour les Développeurs

NVIDIA organise également un concours pour les développeurs, les incitant à soumettre des applications ou des plug-ins Windows alimentés par AI générative pour les GPU RTX. Les prix incluent une carte graphique GeForce RTX 4090 et un pass pour la conférence NVIDIA GTC.

Conclusion

Chat with RTX est une démonstration impressionnante de la façon dont les capacités AI peuvent être exploitées localement sur des PC, offrant des avantages en termes de vitesse, de confidentialité et de personnalisation. Alors que l’outil est encore en phase de démonstration, il montre le potentiel de l’AI générative pour améliorer la productivité et l’organisation personnelle.

Sources :