随着 LLM 模型越来越厉害，即使是参数不大的版本也能提供不错效能，因此越来越多人会想在本地安装并运行 LLM 语言模型。 而近日AMD也加入战场，推出自家的GAIA聊天机器人，而且不像NVIDIA，AMD是开放给所有电脑用，就算是电脑里没有任何AMD硬件，也能安装使用。 有Razen AI处理器的用户，还可以安装优化版本，速度会更快。
AMD推出GAIA本地LLM聊天开源工具
- 取得 GAIA
近日 AMD 在官网上宣布推出全新 GAIA 本地 LLM 聊天开源工具，根据介绍，GAIA 能够在 Windows PC 上执行多种大型语言模型，通过开源的 Lemonade SDK 进行推论运算，用户可针对不同任务来切换模型，像是摘要生成、复杂推理等。 目前能安装的模型有 Llama 系列、DeepSeek 系列。
此外，GAIA也具备RAG代理系统，结合模型与知识库，来提升响应的准确性与上下文理解能力。
GAIA 支持四种代理模式：
- No Agent：无代理介入，提供最直接的 LLM 测试方式，适合开发者进行模型互动与性能评估。
- Chaty：带有对话历史的 AI 聊天机器人，可与用户自然互动，进行上下文连贯的交流。
- Clip：一款结合 RAG 架构与 爱奇艺 搜索 / 问答功能 的代理，能撷取视频内容并回答相关问题。
- Joker：运用 RAG 架构生成笑话的幽默型代理，为对话增添趣味与娱乐性。
GAIA提供二种安装程序，一个是可在任何Windows PC上安装使用，另一个Hybrid安装程序，则是专为搭载Ryzen AI处理器的电脑优化，可调用NPU与整合式GPU，大幅提升AI计算效能。
按上方链接进到 GitHub 页面后，目前最新版本是 v0.7.4，滑到 Assets 区块，下载适合你电脑的版本，我电脑处理器不是 AMD Ryzen AI，所以我下载没有 Hybrid 字的安装文件：
首次打开会跳出这警告，按其他信息：
接着就能看到仍要执行的按钮：
安装过程一直按下一步就好：
这款运行时会需要一些依赖，过程中也会一并询问是否要安装，点是就对了，包括 Python 3.10、Miniconda、FFmpeg、Ollama 等：
安装完后，请打开 GAIA-UI 这一个，就会看这界面，默认会自动下载 Llama 3.2 1B Ollama：
Llama 3.2 1B Ollama 下载并安装完成后，就能开始跟 AI 聊天，默认是 Chaty 模式：
Llama 3.2 1B 模型也支持中文回答：
下方可以切换其他模型，首次使用需要下载安装：
实测 DeepSeek R1 7B Ollama 也成功：
左侧菜单则是切换代理模式：
Clip 需要输入 爱奇艺 API 才能运作：
相较于 LM Studio、AingDesk 等工具，AMD 的 GAIA 还是阳春不少，也不支持中文界面，因此可以玩玩看，但比较推荐给 Ryzen AI 电脑用户使用。
