Кажется, NVIDIA привнесла некоторую инновацию в мир чат-ботов с анонсом своего последнего продукта — «Чат с RTX». Это действительно захватывающая новость для обладателей графических процессоров GeForce RTX 30 и 40.
Что такое Chat With RTX?
Новая функция обещает предложить альтернативу онлайн-чатам с искусственным интеллектом, но с уклоном в локальное выполнение. Используя мощь графических процессоров и программное обеспечение TensorRT-LLM и Retrival Augmented Generated (RAG), «Чат с RTX» открывает новые горизонты для пользователей.
Теперь пользователи имеют возможность загружать облегченные модели ИИ, в том числе некоторые доступные бесплатно. Этот чат-бот не ограничивается только текстовым общением; он способен обрабатывать файлы различных форматов, включая текст, PDF, doc/docx и xml. Используя вычислительные возможности популярных моделей языка, таких как Mistral или Llama2, для генерации ответов, а также обращаясь к онлайн-ресурсам, таким как видео на YouTube, «Чат с RTX» обещает быть многофункциональным инструментом.
Однако следует отметить, что в настоящее время поддержка ограничивается только графическими процессорами GeForce RTX 30 и RTX 40, без упоминания серии RTX 20. Требования к видеопамяти также ставят свои условия, исключая, например, RTX 3050 с 6 ГБ видеопамяти из числа совместимых устройств.
Системные требования для Чат с RTX
| Компонент | Минимальные требования |
|---|---|
| Платформа | Windows |
| Видеокарта | NVIDIA GeForce™ RTX 30 или 40 либо NVIDIA RTX™ поколения Ampere или Ada с минимум 8 ГБ видеопамяти |
| ОЗУ | 16 ГБ или больше |
| ОС | Windows 11 |
| Драйвер | Версия 535.11 или более поздняя |
| Размер файла | 35 ГБ |
