ИИ от AMD. Chat with Razen/Radeon. AMD LLM.

Нейросети

AMD представила инструкцию по запуску локального ИИ-бота на ПК с процессорами Ryzen или видеокартами Radeon. В отличие от NVIDIA, у AMD процесс немного сложнее.

Недавно NVIDIA выпустила приложение Chat with RTX, которое позволяет запускать локальные чат-боты на компьютерах с видеокартами RTX. Теперь AMD рассказала о том, как запустить ИИ-чат-бота локально, используя свои процессоры и видеокарты. Они предлагают использовать стороннее приложение LM Studio.

Для запуска ИИ-чат-бота на ПК потребуется система с ИИ-ускорителем Ryzen AI, который доступен только на некоторых APU Ryzen 7000-й и 8000-й серий (Phoenix и Hawk Point), или видеокарта AMD Radeon RX 7000-й серии.

Прежде всего, необходимо установить LM Studio для Windows. Для ускорения работы ИИ с помощью видеокарты требуется версия с поддержкой ROCm. Затем следует найти соответствующий файл модели и загрузить его. После этого можно начать общение с ИИ на вкладке чата.

ИИ от AMD. Chat with Razen/Radeon. AMD LLM.

Чтобы ускорить работу ИИ с помощью видеокарты Radeon RX 7000-й серии, нужно установить максимальное значение GPU Offload в настройках и убедиться, что в блоке Detected GPU Type отображается AMD ROCm.

ИИ от AMD. Chat with Razen/Radeon. AMD LLM.

Таким образом, хотя AMD пока не представила собственного приложения для общения с чат-ботом, их инструкция позволяет сделать это локально. Возможно, в будущем компания выпустит своё собственное решение, но пока они предлагают использовать стороннее приложение.

Если статья оказалась полезной для Вас, угостите автора чашечкой кофе, чтоб были силы на новый контент =)

MiningFAQ.ru
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии