chgpt开发指南（rtc开发）

实操聆思CSK6大模型开发板接入通义千问(上)

1、聆思CSK6大模型开发板的官方SDK方案，将硬件套件视为输入端，用户上传文字或图片内容至聆思大模型平台（LSPlatform）。平台依据应用策略，将内容分发给后台处理。借助聆思大模型平台的应用编排功能，接入其他大模型仅需在云端调整接入节点，无需修改硬件端。

2、在多模态交互领域，硬件载体是关键。近期，开发者们在探索除了星火大模型之外，是否能将文心一言、通义千问、豆包、智谱glm、kimi等国内大模型接入大模型开发板。然而，由于各家接口和数据格式差异，部分开发者尝试参照ChatGPT的方式并未成功。

3、聆思大模型平台方案：硬件作为输入端，内容上传后平台根据策略转给大模型。接入豆包具体步骤如下： 创建应用：登录LSplatform，新建空应用并进入应用编排服务。 导入工程：下载豆包js工程示例（提取码：qaxd），导入示例文件。

4、硬件准备：聆思CSK6 视觉语音大模型开发板。下载多模态DEMO固件：llmmix_zephyr.bin。下载烧录工具：聆思开发板烧录程序（适用于Windows）、Linux&Mac系统。将多模态DEMO固件与烧录工具置于同一目录下，执行烧录指令。通过串口录入wifi账号密码，重新给开发板上电，即可激活拍照识图与语音交互功能。

5、CSK6大模型开发板还具备英译中SDK能力，基于transformer模型，通过LNN工具链实现离线翻译功能，可在CSK6芯片上进行推理。离线英译中SDK提供示例集，集成至开发板，用户可实现英译中功能。触摸屏UI交互翻译功能在固件烧录后自动运行，通过复位按键复位程序。

6、AI案例体验通过vscoDE打开项目结构，其中prj.conf文件是工程配置的关键。更改配置CONFIG_WEbusB=n至CONFIG_WEBusB=y，以便在后续测试阶段使用PC工具预览功能。接下来，完成固件编译与烧录，并通过USB接口烧录至CSK6开发板。

想要搭建自己的ChatPDF?LangChain入门教程

1、搭建自己的Chat大模型，可以按照以下步骤进行：准备服务器环境：确保拥有一个合适的服务器环境。可以利用阿里云的免费试用通道，搜索“dsw服务器”获取资源。进入控制台并创建DSW实例。安装所需环境：项目基于github上的LangchainChatchat，包含FastChat、Langchain和ChatGLM等组件。

2、搭建自己的Chat大模型是一项涉及多个步骤的项目，但通过遵循以下步骤，您可以实现聊天会话和对话知识库等功能。首先，确保您拥有一个合适的服务器环境，阿里云提供了免费试用通道，您可以搜索“dsw服务器”以获取相关资源。接下来，进入控制台并创建DSW实例。

3、首先，我通过：git clone https：//github.COM/chatchat-space/Langchain-Chatchat.git 进入目录 cd Langchain-Chatchat ，下载了所需的 LLM 模型文件和 Embedding 模型。

4、使用Chainlit和LangChain构建文档问答的LLM应用程序的步骤如下：准备文档：上传PDF文档：首先，需要将PDF文档上传到系统中。提取文本内容：使用PyPDF2等库从上传的PDF文档中提取文本内容。文本矢量化：应用openai Embeddings：将提取的文本内容转换为矢量化嵌入。这些嵌入表示了文本的语义信息。

5、在知识库搭建方面，Langchain-Chatchat提供了一种有效的解决方案。它允许开发者基于知识图谱构建对话系统，通过整合预训练模型，实现基于知识的对话交互。开发者可以导入自己的知识库，构建知识图谱，从而让模型具备更丰富、准确的知识背景，提升对话质量。

6、LangChain实现与外部数据对话的数据加载与分割阶段的具体做法如下：文档加载： LangChain使用不同的文档加载器来读取各种类型的外部数据，如PDF、文本等。 这些加载器将数据转换为文档对象，以便后续的处理步骤。 例如，使用PyPDFLoader可以加载PDF文件，并确保每页内容作为一个文档对象。