Nvidia представила власну альтернативу популярним чат-ботам на базі штучного інтелекту — Chat with RTX. Як неважко зрозуміти з назви, він використовує обчислювальні можливості графічних прискорювачів GeForce RTX. Головною особливістю є робота безпосередньо на комп'ютері користувача разом із можливістю персоналізації великої мовної моделі.
В основі Chat with RTX лежать бібліотека Nvidia TensorRT-LLM та метод RAG (Retrieval Augmented Generation) для заповнення прогалин у «знаннях» великої мовної моделі. Користувачі можуть додати власні нотатки, документи, відео та інші дані, наприклад, отримати відповідь на основі інформації з YouTube. «А оскільки програма працює локально на ПК або робочій станції Windows з RTX, результати генеруються швидко і безпечно», — підкреслює Nvidia.
Завантажити Chat with RTX можна з офіційного сайту Nvidia. У системних вимогах згадуються адаптери GeForce RTX 30- та 40-ї серії, обладнані як мінімум 8-гігабайтним відеобуфером, тобто нещодавно випущена GeForce RTX 3050 6GB не підійде. Також знадобляться 16 Гбайт оперативної пам'яті, операційна система Windows 11 та драйвер версії 535.11 або новіший.