简介:
本贴介绍了如何使用聆思CSK6大模型开发板接入文心一言做一个可以语音交互的AI助手。
当前方案是把开发套件当做输入端,交互内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。
首先,需要在LSplatform上创建新应用并导入文心一言示例工程。(工程文件可以从附件文档中获得)
然后配置包括HOST、AK/SK、Model和Stream等参数,部署验证成功后,将云端服务与产品配置绑定。
在云测试页面交互返回如上图信息,就可以在CSK6开发板设备端写入云端产品服务配置,无需修改固件即可实现语音交互。
实操详情请参考附件。