[原创] 手把手教你用聆思CSK6大模型开发板接入文心一言/千帆大模型

胡黎明   2024-7-19 18:41 楼主
 

简介:

 

本贴介绍了如何使用聆思CSK6大模型开发板接入文心一言做一个可以语音交互的AI助手。

 

当前方案是把开发套件当做输入端,交互内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。

image-20240719184054-1.png  

首先,需要在LSplatform上创建新应用并导入文心一言示例工程。(工程文件可以从附件文档中获得)

 

然后配置包括HOST、AK/SK、Model和Stream等参数,部署验证成功后,将云端服务与产品配置绑定。

image-20240719184054-2.png  

 

 

在云测试页面交互返回如上图信息,就可以在CSK6开发板设备端写入云端产品服务配置,无需修改固件即可实现语音交互。

实操详情请参考附件。

回复评论 (2)

原来大模型是这样搞的,从云端更改大模型接入节点,无需去修改硬件端,,,好吧

点赞  2024-7-20 07:44

原来大模型是这样搞的,好哈学习一下,从云端更改大模型接入节点,无需去修改硬件端,,,好吧

点赞  2024-7-23 08:47
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 京公网安备 11010802033920号
    写回复