Chat with RTX, la herramienta de Nvidia para personalizar un chatbot sin necesidad de Internet

MADRID, 14 (Portaltic/EP)

El sector de los 'chatbots' se ha ampliado con la propuesta de Nvidia, una herramienta para personalizar un asistente conversacional impulsado por inteligencia artificial (IA) generativa que se ejecuta localmente en un ordenador Windows con gráficas GeForce RTX de la Serie 30.

Chat with RTX es una herramienta que lleva las capacidades de la IA generativa a un entorno local para personalizar el contenido de un 'chatbot'.

Utiliza la técnica de generación de recuperación aumentada (RAG) para mejorar la precisión y la fiabilidad de los modelos de IA, pero también el software TensorRT-LLM de Nvidia y aceleración NVIDIA RTX.

Con él se puede crear un 'chatbot' personalizado para consultas en un formato conversacional, a ejemplo de Copilot, Gemini o ChatGPT. Admite distintos formatos de texto e incluso se pueden incorporar 'urls' de vídeos de YouTube para consultas contextuales.

El 'chatbot' está diseñado para su uso en ordenadores Windows 10 u 11 que cumplan unas características mínimas, como tener una GPU GeForce RTX de la Serie 30 y 8GB de memoria de acceso aleatorio de vídeo (VRAM).

La ejecución en local favorece la privacidad ya que, al no depender de servicios en la nube, los usuarios pueden "procesar datos confidenciales en un PC local sin la necesidad de compartirlos con un tercero o tener una conexión a Internet", explican desde Nvidia en su blog de noticias.