Nvidia представила локальную генеративную нейросеть Chat with RTX

Nvidia представила новую локальную генеративную нейросеть под названием Chat with RTX, созданную специально для компьютеров с операционной системой Windows. Эта инновационная разработка отличается от других тем, что не требует подключения к интернету, что делает ее уникальной. Пользователям доступны две языковые модели: Mistral и Llama 2.

Одной из ключевых функций Chat with RTX является способность сканировать локальные файлы различных форматов, таких как *.txt, *.pdf, *.doc, *.docx и *.xml, чтобы предоставить искомую информацию. Более того, нейросеть способна извлекать данные из видео и плейлистов на YouTube.

Благодаря работе на локальном устройстве и отсутствию связи с облачными серверами, все личные данные пользователя остаются на его компьютере. Для использования нейросети требуется видеокарта серии RTX 30 или 40 с 8 ГБ видеопамяти, а также 16 ГБ оперативной памяти. Установочный файл имеет размер 35 гигабайт.