AMD представила инструкцию по запуску локального ИИ-бота на ПК с процессорами Ryzen или видеокартами Radeon. В отличие от NVIDIA, у AMD процесс немного сложнее.
Недавно NVIDIA выпустила приложение Chat with RTX, которое позволяет запускать локальные чат-боты на компьютерах с видеокартами RTX. Теперь AMD рассказала о том, как запустить ИИ-чат-бота локально, используя свои процессоры и видеокарты. Они предлагают использовать стороннее приложение LM Studio.
Для запуска ИИ-чат-бота на ПК потребуется система с ИИ-ускорителем Ryzen AI, который доступен только на некоторых APU Ryzen 7000-й и 8000-й серий (Phoenix и Hawk Point), или видеокарта AMD Radeon RX 7000-й серии.
Прежде всего, необходимо установить LM Studio для Windows. Для ускорения работы ИИ с помощью видеокарты требуется версия с поддержкой ROCm. Затем следует найти соответствующий файл модели и загрузить его. После этого можно начать общение с ИИ на вкладке чата.
Чтобы ускорить работу ИИ с помощью видеокарты Radeon RX 7000-й серии, нужно установить максимальное значение GPU Offload в настройках и убедиться, что в блоке Detected GPU Type отображается AMD ROCm.
Таким образом, хотя AMD пока не представила собственного приложения для общения с чат-ботом, их инструкция позволяет сделать это локально. Возможно, в будущем компания выпустит своё собственное решение, но пока они предлагают использовать стороннее приложение.
