AMD 平台现支持本地运行 LLM 和 AI 聊天机器人

热搜大全 > 新闻热搜 > 科技热搜 > 正文

AMD 平台现支持本地运行 LLM 和 AI 聊天机器人

热搜大全 2024-03-07

IT 之家 3 月 7 日消息,AMD 公司今天发布公告,表示用户可以本地化运行基于 GPT 的大语言模型(LLM),从而构建专属的 AI 聊天机器人。

AMD 表示用户可以在包括采用 AMD 新 XDNA NPU 的 Ryzen 7000 和 Ryzen 8000 系列 APU,以及内置 AI 加速核心的 Radeon RX 7000 系列 GPU 设备上,本地运行 LLM 和 AI 聊天机器人。

AMD 平台现支持本地运行 LLM 和 AI 聊天机器人

AMD 在公告中详细介绍了运行步骤,例如运行 70 亿参数的 Mistral,搜索并下载 "TheBloke / OpenHermes-2.5-Mistral-7B-GGUF";如果运行 70 亿参数的 LLAMA v2,搜索并下载 "TheBloke / Llama-2-7B-Chat-GGUF"。

AMD 平台现支持本地运行 LLM 和 AI 聊天机器人AMD 平台现支持本地运行 LLM 和 AI 聊天机器人AMD 平台现支持本地运行 LLM 和 AI 聊天机器人

AMD 并不是第一个这样做的公司,英伟达(NVIDIA)最近也推出了 "Chat with RTX",这是一个由 GeForce RTX 40 和 RTX 30 系列 GPU 支持的人工智能聊天机器人。它采用 TensorRT-LLM 功能集进行加速,基于本地化数据集提供快速生成的人工智能结果。

用户对喜马拉雅的“一台设备一充值”的抱怨引发了网友的吐槽,认为这是一种花式割韭菜行为。

用户对喜马拉雅的“一台设备一充值”的抱怨引发了网友的吐槽,认为这是一种花式割韭菜行为。

科技热搜 喜马拉雅 天猫精灵 手表 设备 韭菜 新闻 资讯 直播 视频 美图 社区 本地 热点 2023-08-07

华为 Mate 60 Pro  DXOMARK 影像测试结果出炉:总分157,位列排行榜第 1 名

华为 Mate 60 Pro DXOMARK 影像测试结果出炉:总分157,位列排行榜第 1 名

科技热搜 华为mate google pixel oppo find x iphone 新闻 资讯 直播 视频 美图 社区 本地 热点 2023-11-17

“遥遥领先”,一个华为热梗的走红

“遥遥领先”,一个华为热梗的走红

科技热搜 华为 芯片 余承东 华为mate 雷蒙 新闻 资讯 直播 视频 美图 社区 本地 热点 2023-09-29

韩国女团大尺度造型惹争议,穿着令人费解,成员还有中国人

韩国女团大尺度造型惹争议,穿着令人费解,成员还有中国人

娱乐热点 造型 韩国 尺度 中国人 穿着 新闻 资讯 直播 视频 美图 社区 本地 热点 2024-02-04

华为 Mate 60 Pro  DXOMARK 音频测试结果出炉:总分138,位列排行榜第 31 名

华为 Mate 60 Pro DXOMARK 音频测试结果出炉:总分138,位列排行榜第 31 名

科技热搜 华为mate it之家 排行榜 华为 测试 新闻 资讯 直播 视频 美图 社区 本地 热点 2024-01-13

曾被卖出19万美元高价!这台初代iPhone太猛了 曾被卖出19万美元高价!这台初代iPhone太猛了