Нещодавно Nvidia представила Chat with RTX для створення персоналізованих чат-ботів на базі штучного інтелекту. Особливістю цього варіанта є повна локалізація на ПК, де всі обчислення виконує відеокарта GeForce RTX 40-ї або 30-ї серії. У відповідь компанія AMD оголосила про аналогічні можливості своїх відеокарт та процесорів. Йдеться не про якесь окреме програмне рішення, а про розгортання безплатного програмного застосунку LM Studio з налаштуваннями під апаратні рішення AMD.
У блозі AMD з'явилася інструкція із запуску такого чат-бота на базі LLAMA та інших мовних моделей. Для цього необхідно завантажити відповідну версію LM Studio, запустити на ПК, вибрати мовну модель і відповідне обладнання AMD.
Для прискорення ШІ потрібна система на базі мобільних Ryzen 7000 та Ryzen 8000 з блоком NPU XDNA, або ПК з відеокартою серії Radeon RX 7000, які виконуватимуть необхідні обчислення. Це значно прискорить та спростить роботу з LM Studio та локальним ШІ. Тому відсутність GeForce RTX не є вироком, і за наявності Radeon ви також маєте можливість для експериментів з ШІ.
Джерело:
AMD
