Компания Nvidia представила инновационный чат-бот с генеративными способностями, способный работать непосредственно на компьютерах с операционной системой Windows, обеспечивая автономную работу без необходимости подключения к сети интернет.
В рамках программы пользователи могут выбирать между двумя мощными языковыми моделями — Mistral и Llama 2. Chat with RTX имеет возможность сканировать локальные файлы и извлекать необходимую информацию из них, поддерживая различные форматы, такие как *.txt, *.pdf, *.doc, *.docx и *.xml. Кроме того, нейросеть Chat with RTX обладает способностью анализа видео и плейлистов на YouTube.
Основное преимущество данного чат-бота заключается в том, что он функционирует локально, не требуя подключения к облачным серверам, что гарантирует полную конфиденциальность пользовательских данных, сохраняя их непосредственно на компьютере. Для успешного запуска нейросети на компьютере необходима видеокарта RTX серии 30 или 40 с 8 ГБ видеопамяти, а также 16 ГБ оперативной памяти, с дополнительным объемом дискового пространства.
Установочный файл весит 35 гигабайт, что служит лишь «технической демонстрацией» возможностей программы. Для скачивания нейросети перейдите по ссылке.
