长虹集团旗下长虹家纺荣幸地迎来了奥运冠军作为品牌代言人!这是一个令人骄傲的时刻,也是长虹家纺品牌发展历程中的重要一步。 ...
- 首页 > 新闻资讯 > amd公司:用户可本地化运行llm和ai聊天机器人
3月7日消息,AMD公司今天发布公告,表示用户可以本地化运行基于GPT的大语言模型(LLM),从而构建专属的AI聊天机器人。
AMD表示用户可以在包括采用AMD新XDNANPU的Ryzen7000和Ryzen8000系列APU,以及内置AI加速核心的RadeonRX7000系列GPU设备上,本地运行LLM和AI聊天机器人。
AMD在公告中详细介绍了运行步骤,例如运行70亿参数的Mistral,搜索并下载“TheBloke/ OpenHermes-2.5-Mistral-7B-GGUF”;如果运行70亿参数的LLAMAv2,搜索并下载“TheBloke/Llama-2-7B-Chat-GGUF”。
AMD并不是第一个这样做的公司,英伟达(NVIDIA)最近也推出了"ChatwithRTX",这是一个由GeForceRTX40和RTX30系列GPU支持的人工智能聊天机器人。它采用TensorRT-LLM功能集进行加速,基于本地化数据集提供快速生成的人工智能结果。
想查看更多微信群的小伙伴, 可以点击上面导航栏的微信群 或者下面按钮!
点我查看更多微信群
分享
长虹集团旗下长虹家纺荣幸地迎来了奥运冠军作为品牌代言人!这是一个令人骄傲的时刻,也是长虹家纺品牌发展历程中的重要一步。 ...
快科技1月31日消息,微博管理员发布社区公告称,站方发现,在春节档电影相关讨论中,有个别用户偏离理性讨论方向,发布拉踩引...
快科技1月31日消息,微博管理员发布社区公告称,站方发现,在春节档电影相关讨论中,有个别用户偏离理性讨论方向,发布拉踩引...
快科技1月31日消息,微博管理员发布社区公告称,站方发现,在春节档电影相关讨论中,有个别用户偏离理性讨论方向,发布拉踩引...
快科技1月31日消息,优派推出了新款23.8寸显示器VA24G25,首发仅399元。 这款显示器...
快科技1月31日消息,优派推出了新款23.8寸显示器VA24G25,首发仅399元。 这款显示器...