本地化ChatGPT？Firefly推出基于BM1684X的大语言模型本地部署方案
自chatgpt发布以来，生成式ai在全球引起了新的浪潮，它影响着各行各业，为世界带来智能化的发展。然而，类chatgpt的大语言模型极度依赖算力巨大的服务器，导致目前大部分应用只能通过集中调用api的方式来应用，很难本地化部署。
随着大模型适用领域的扩展，大模型登陆边缘设备的需求凸显，越来越多的行业需要把大语言模型应用在专业的领域上。在这个背景下，firefly推出了基于bm1684x平台的大语言模型本地部署的方案，让边缘设备可配置上一颗真正的“智慧”大脑，应用于各行各业。
本地化的chatglm-6b大语言模型
（1）具有 62 亿参数
采用了由清华大学的chatglm-6b大语言模型，基于 general language model (glm) 架构，具有 62 亿参数， 使用了和 chatgpt 相似的先进技术，以达到优质的效果。
（2）优化中文对话
支持中英双语的对话语言模型，并且针对中文问答和对话进行了优化，其开源的训练数据量达到1万亿字符的模型。
ai边缘计算主机ec-a1684xjd4
chatglm-6b可部署在firefly旗下产品ai嵌入式主机ec-a1684xjd4中，主机配置了16gb大内存，适用于部分大模型的量化部署，可运行ubuntu20.04操作系统，并集成最新的sophonsdk 3.0.0，可充分发挥bm1684x集成tpu的ai加速能力。
虚拟技术(VR）游戏领域发展迅猛
VR新篇章：HTC Vive Focus VR下月发售 《活死人之夜》恐怖升级
极客桥便携式系留无人机照明系统
2020广州国际商业智能设备产业博览交易会圆满收官
Fox Electronics扩展了温度范围3.3 V HCMOS振荡器
本地化ChatGPT？Firefly推出基于BM1684X的大语言模型本地部署方案
天窗设计开发需要注意的关键事项
通孔回流焊接工艺的特点
马来西亚中央银行声明Coinzer的加密货币平台没有被授权和认可
电力系统调节能力涉及多元主体，新兴业态将层出不穷
全球第一本人工智能教材,进入中国高中生的课堂了！
汽车CE认证EMC标准分类及趋势变化
MH281高灵敏单极霍尔效应传感器概述、特点及应用
49MHz调频发射器电路
在CAD中如何将图形和文字打印成白色？
STM核-68无线开发板和USB加密狗包
12V电压充电器电路图
无人机光伏电站智能巡检系统的优势和功能分析
高通将为通用汽车的唯一芯片供应商
德国输电系统运营商将利用海上风电场连接实现丹麦和德国电网互连
随着大模型适用领域的扩展，大模型登陆边缘设备的需求凸显，越来越多的行业需要把大语言模型应用在专业的领域上。在这个背景下，firefly推出了基于bm1684x平台的大语言模型本地部署的方案，让边缘设备可配置上一颗真正的“智慧”大脑，应用于各行各业。
本地化的chatglm-6b大语言模型
（1）具有 62 亿参数
采用了由清华大学的chatglm-6b大语言模型，基于 general language model (glm) 架构，具有 62 亿参数， 使用了和 chatgpt 相似的先进技术，以达到优质的效果。
（2）优化中文对话
支持中英双语的对话语言模型，并且针对中文问答和对话进行了优化，其开源的训练数据量达到1万亿字符的模型。
ai边缘计算主机ec-a1684xjd4
chatglm-6b可部署在firefly旗下产品ai嵌入式主机ec-a1684xjd4中，主机配置了16gb大内存，适用于部分大模型的量化部署，可运行ubuntu20.04操作系统，并集成最新的sophonsdk 3.0.0，可充分发挥bm1684x集成tpu的ai加速能力。
虚拟技术(VR）游戏领域发展迅猛
VR新篇章：HTC Vive Focus VR下月发售 《活死人之夜》恐怖升级
极客桥便携式系留无人机照明系统
2020广州国际商业智能设备产业博览交易会圆满收官
Fox Electronics扩展了温度范围3.3 V HCMOS振荡器
本地化ChatGPT？Firefly推出基于BM1684X的大语言模型本地部署方案
天窗设计开发需要注意的关键事项
通孔回流焊接工艺的特点
马来西亚中央银行声明Coinzer的加密货币平台没有被授权和认可
电力系统调节能力涉及多元主体，新兴业态将层出不穷
全球第一本人工智能教材,进入中国高中生的课堂了！
汽车CE认证EMC标准分类及趋势变化
MH281高灵敏单极霍尔效应传感器概述、特点及应用
49MHz调频发射器电路
在CAD中如何将图形和文字打印成白色？
STM核-68无线开发板和USB加密狗包
12V电压充电器电路图
无人机光伏电站智能巡检系统的优势和功能分析
高通将为通用汽车的唯一芯片供应商
德国输电系统运营商将利用海上风电场连接实现丹麦和德国电网互连