ssc网站开发,投资网站php源码,上海做个网站多少钱,专业软件定制开发公司在人工智能领域#xff0c;大语言模型#xff08;LLMs#xff09;是根据预训练数据集进行”学习“#xff0c;获取可以拟合结果的参数#xff0c;虽然随着参数的增加#xff0c;模型的功能也会随之增强。但无论专业领域的小模型#xff0c;还是当下最火、效果最好的大模…在人工智能领域大语言模型LLMs是根据预训练数据集进行”学习“获取可以拟合结果的参数虽然随着参数的增加模型的功能也会随之增强。但无论专业领域的小模型还是当下最火、效果最好的大模型都有一个共同的劣势无法准确/正确地回答出训练数据集以外区别于验证集和测试集的新增数据如实时新闻、未公开的企业信息等的结果进而编造答案进行回复即大模型幻觉问题。 为了解决上述问题同时避免微调/重新训练带来的成本LLMs插件应运而生。 通过LLMs强大的内容生成能力和上下文理解能力结合插件提供的数据以及特定功能不仅拓宽了LLMs的应用领域还增加了LLMs生成结果的可信度更好地服务于使用者。 1.插件 插件是一种软件组件它可以被添加到一个主要的应用程序或系统中以扩展其功能或提供额外的特性。插件通常被设计成可独立安装和卸载并且可以与主应用程序进行交互。插件的功能取决于所应用的领域和具体的应用程序在AIGC快速发展的今天大语言模型插件异军突起改变了插件存在的形态这也是本篇文章重点的研究对象。结合当前大语言模型插件的发展插件分类如下 1.1 传统插件
传统插件(Plug-in,又称addin、add-in、addon或add-on,又译外挂)是一种遵循一定规范的应用程序接口编写出来的程序。其只能运行在程序规定的系统平台下可能同时支持多个平台而不能脱离指定的平台单独运行即插件的运行依赖于宿主软件无差别地启用或禁用插件功能。传统插件可分为浏览器插件和客户端软件插件传统插件的存在形态如下图所示。 1.2 大语言模型插件
大语言模型插件是随着大语言模型发展而诞生的全新插件。 大语言模型插件的核心是Web API独立于大语言模型插件开发过程不受大语言模型的约束同时没有开发语言的限制更加通用只要Web API遵循RESTful相关规则即可。只是在为大语言模型配置插件时遵循配置规则如原生ChatGPT插件配置遵循OpenAPI格式以及添加相关描述。大语言模型与插件是相对独立的两个部分大语言模型与插件关系示意如下图所示。 大语言模型是插件的选择器按需使用插件功能即只有当用户提供的问题或数据满足插件调用条件时才会调用插件不是无差别地使用插件功能大语言模型插件的工作流程如下图所示。 2.ChatGPT 插件
目前最强大的商用大语言模型莫过于OpenAI的大语言模型ChatGPT-3.5/4.0均支持插件功能后面统一使用ChatGPT并且对支持开发者开放了插件开发入口开发者可以基于自身需求开发Web API作为ChatGPT插件。但是ChatGPT创建插件的过程比较繁琐下面以GPTBots插件创建过程作为对比两者插件创建过程如下图所示左ChatGPT创建插件右GPTBots创建插件。 3.GPTBots 插件
我们不一样GPTBots插件应用的技术路线不同于ChatGPTGPTBots插件融合了ChatGPT插件创建规范通用的OpenAPI规范和函数调用功能这样做有如下优势 开发者只需专注于自身功能接口开发无需开发额外的接口 插件配置遵循OpenAPI规范开发者可以直接复用面向 ChatGPT Web 的插件一键发布插件至 GPTBots GPTBots 插件自动兼容市面上主流已支持插件能力的 LLM开发者无需再去适配每个LLM
3.1 创建插件
通过上面插件创建过程对比我们知道使用GPTBots插件只需四步开发插件接口、新建插件、配置插件鉴权、添加符合OpenAPI规范的接口配置其余的交给GPTBots。
1开发插件接口
这里与ChatGPT原生方式相同需要开发者自行开发插件接口但是在GPTBots中不需要开发者另行开发插件清单接口、插件接口配置信息接口、插件Logo接口只需要开发者专注于插件功能接口开发。
2新建插件
GPTBots新建插件入口如下图。 3配置插件鉴权
GPTBots插件提供三种鉴权方式即不鉴权(None)、Basic鉴权和Bearer鉴权配置过程如下图。 4添加符合OpenAPI规范的接口配置
完成上述准备工作最后为插件配置接口规则即开发者的功能接口GPTBots采用的接口规则遵循OpenAPI规范配置说明如下图。 完成插件创建后可以在“我的插件”中看到已创建成功的插件同时GPTBots提供了插件一键发布功能即将插件发布到插件市场供其他开发者使用。 综上GPTBots插件最大程度简化了用户创建和使用插件的流程极大降低了插件使用门槛。
3.2 插件应用
GPTBots不仅创建插件流程非常简单、对开发者非常友好使用起来也非常顺手。使用插件前我们需要为Bot添加插件。以高德天气插件为例为“天气小精灵”Bot添加插件过程如下 当我们为“天气小精灵”Bot添加天气插件和搜索插件后当问题中出现天气和实时信息相关问题时插件会主动承担内容生产的责任实测效果如下 3.3 插件市场
GPTBots官方为广大开发者和用户提供了众多实用的插件如PDF生成插件、天气插件和搜索插件等等GPTBots部分插件如下 4.思考与展望
插件在实际业务应用中由于LLM每次调用token是有上限的而插件也不可避免的占用token这样就导致无法在一次请求调用中提供多个插件备用。或者一个插件协议如果过于复杂可能导致直接调用失败。
GPTBots平台为了更好解决此类问题推出了Flow功能。开发者可以在不同的步骤编排多个LLM参与业务处理每个LLM可以最多添加3个插件这样就很好的解决了插件使用限制的问题同时通过减少请求上下文内容长度让LLM更加专注从而提升插件调用成功率。
LLMs插件区别于传统插件它独立、灵活、自由、功能强大大语言模型插件的核心是Web API因此大语言模型插件完全拥抱互联网同时没有开发语言“歧视”无论开发者的语言栈是Python、Java、Go、PHP等只要可以开发HTTP协议接口遵循RESTful规则就可以构建大语言模型插件相信未来大语言模型插件种类会越来越丰富功能越来越强大。相对于ChatGPT繁琐的插件创建流程GPTBots平台简化了插件创建流程简单、易用、好用提高插件开发者效率降低开发者学习成本未来一定会有越来越多的开发者选择GPTBots平台。 极光GPTBots已上线访问https://www.gptbots.ai/developer立即认证成为开发者体验! 关于极光
极光Aurora Mobile纳斯达克股票代码JG成立于2011年是中国领先的客户互动和营销科技服务商。成立之初极光专注于为企业提供稳定高效的消息推送服务凭借先发优势已经成长为市场份额遥遥领先的移动消息推送服务商。随着企业对客户触达和营销增长需求的不断加强极光前瞻性地推出了消息云和营销云等解决方案帮助企业实现多渠道的客户触达和互动需求以及人工智能和大数据驱动的营销科技应用助力企业数字化转型。
