勿因试错迷失方向
临海筑梦，阔步扬帆，国之重器，始于创新。我们用试错探索创新之路上的未知挑战，也同...
科技
7 小时前
- 首页 > 新闻资讯 > amd公司：用户可本地化运行llm和ai聊天机器人
3月7日消息，AMD公司今天发布公告，表示用户可以本地化运行基于GPT的大语言模型（LLM），从而构建专属的AI聊天机器人。
AMD表示用户可以在包括采用AMD新XDNANPU的Ryzen7000和Ryzen8000系列APU，以及内置AI加速核心的RadeonRX7000系列GPU设备上，本地运行LLM和AI聊天机器人。
AMD在公告中详细介绍了运行步骤，例如运行70亿参数的Mistral，搜索并下载“TheBloke/ OpenHermes-2.5-Mistral-7B-GGUF”；如果运行70亿参数的LLAMAv2，搜索并下载“TheBloke/Llama-2-7B-Chat-GGUF”。
AMD并不是第一个这样做的公司，英伟达（NVIDIA）最近也推出了"ChatwithRTX"，这是一个由GeForceRTX40和RTX30系列GPU支持的人工智能聊天机器人。它采用TensorRT-LLM功能集进行加速，基于本地化数据集提供快速生成的人工智能结果。
想查看更多微信群的小伙伴, 可以点击上面导航栏的微信群 或者下面按钮！
点我查看更多微信群
分享
临海筑梦，阔步扬帆，国之重器，始于创新。我们用试错探索创新之路上的未知挑战，也同...
本文转自：人民网无接触扫描完成患者注册、生成体内组织三维影像、光纤植入3毫米小孔...
快科技11月23日消息，近日，有海外媒体曝光了一组极氪7X的实车图，看起来实在欧...
打造标杆 深化合作 加快转化吴志雄调研碳基传感芯片技术攻关项目湘潭在线11月23...
10月30日，全球领先的智能终端提供商荣耀正式发布荣耀Magic7系列手机，以A...
本文转自：人民网 全国政协委员、中国网络空间安全协会理事...