徐家汇网站建,wordpress 网络验证,学校网站建设制度,重庆百度搜索排名优化大家好#xff0c;今天用SpringBoot、vue写了一个仿ChatGPT官网聊天的打字机效果。 所有代码地址:gitee代码地址 #xff0c;包含前端和后端#xff0c;可以直接运行 使用本技术实现的项目#xff1a;aicnn.cn#xff0c;欢迎大家体验 如果文章知识点有错误的地方#xf… 大家好今天用SpringBoot、vue写了一个仿ChatGPT官网聊天的打字机效果。 所有代码地址:gitee代码地址 包含前端和后端可以直接运行 使用本技术实现的项目aicnn.cn欢迎大家体验 如果文章知识点有错误的地方请指正大家一起学习一起进步。 本文主要应用的技术有:SpringBoot、Vue、Reactive、WebFlux、EventSource等学习和练手的好项目。实现效果如下 准备好了吗let’s get it!
采用本文技术实现的前后端项目点击体验使用aicnn.cn 文章目录 前言 项目运行SSE技术概览什么是Server-Sent EventsSSE与WebSockets的区别为什么选择SSESSE的应用场景 在Spring Boot中实现SSE设置SSE处理连接和事件处理异常和断开连接一些实用的提示 Vue前端对SSE的处理在Vue中接收SSE保证流畅的用户体验异常处理和重连小结 实际案例分析实时通知系统场景描述为什么选择SSE实现概览体验优化可能的挑战 结语 前言
Web开发的世界永远充满惊喜不是吗每当我们认为自己掌握了所有的技巧和工具总会有新的技术出现挑战我们的知识库。今天我们要探讨的这项技术可能对一些人来说并不陌生但对于其他人来说则像是新发现的宝藏。没错我在说的是Server-Sent EventsSSE。 你可能会问“SSE是什么”简单来说SSE是一种让服务器实时向客户端发送更新的技术。但别误会这不是另一个WebSockets。SSE和WebSockets之间的斗争有点像是电影《星球大战》中的帝国和反抗军的斗争——两者都有其优势和用武之地但战场完全不同。SSE是为了解决特定类型的实时通讯问题而生而不是为了取代WebSockets。 在本文中我们将一探究竟看看SSE到底是什么魔法以及如何在Spring Boot应用程序和VUE中轻松实现它。当然我们也不会忘记前端的小伙伴们——我们将一起探索如何在Vue应用中接收和处理这些实时数据并一起实现类似ChatGPT官网的聊天打字机效果。准备好了吗让我们开始这趟探索之旅吧 项目运行
所有代码地址:代码地址 包含前端和后端可以直接运行。
springboot安装依赖并设置对应的sd-key即可 api key 的获取方式如下
第一步打开aicnn.cn第二步进入设置页面第三步点击创建新的秘钥第四步复制密钥值替换上面代码中的sk-*******,替换后的代码如下所示 .header(Authorization, Bearer sk-1234567890123456789) 前端项目采用vue3实现
在项目中,使用如下命令运行项目即可运行前端:
yarn install
yarn serveSSE技术概览
什么是Server-Sent Events
在深入探索Server-Sent EventsSSE之前让我们先搞清楚它到底是什么。简单地说SSE是一种允许服务器主动向客户端发送信息的技术。与传统的请求-响应模式不同SSE建立了一个单向通道使得服务器可以实时发送更新。这听起来有点像WebSockets但SSE的工作方式和用例却大有不同。
SSE与WebSockets的区别
SSE和WebSockets都是实现实时通信的技术但它们各有千秋。WebSockets提供了一个全双工的通信渠道允许数据在客户端和服务器之间双向流动。相比之下SSE是单向的——仅从服务器到客户端。这意味着如果你需要从客户端向服务器发送数据SSE可能就不是最佳选择了。SSE的优势在于它的简单性和轻量级特别适用于那些仅需要服务器单向传送数据的场景比如实时新闻更新、股票行情等。 为什么选择SSE
现在你可能在想“为什么我要使用SSE而不是其他技术”好问题首先SSE在浏览器中有很好的支持这使得它非常容易实现。其次由于SSE是基于HTTP的它可以利用现有的HTTP协议特性如缓存、认证等。这些特性在WebSockets中可能需要额外的处理。最后SSE的轻量级特性使其成为一种高效的实时数据传输方式尤其是当你只需要服务器到客户端的单向数据流时。
SSE的应用场景
SSE最适合的是那些需要服务器定期或不定期推送信息到客户端的场景。例如如果你正在开发一个需要显示实时消息、股票行情或任何形式实时数据的应用SSE是一个不错的选择。它的轻量级和易用性使其成为这些类型应用的理想选择。
在Spring Boot中实现SSE
设置SSE
在Spring Boot中实现SSE并不复杂。其核心在于使用Spring框架的webflux。使用webflux类能够创建一个持久的连接使服务器能够向客户端发送多个事件而无需每次都建立新的连接。
先在pom中引入相关依赖
dependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-web/artifactId
/dependencydependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-webflux/artifactId
/dependency然后需要在Controller中创建一个方法来返回Flux实例。这个方法将被映射到特定的URL客户端将使用这个URL来接收事件。
package cn.aicnn.chatssespringboot.controller;import cn.aicnn.chatssespringboot.dto.AIAnswerDTO;
import cn.aicnn.chatssespringboot.service.GptServiceImpl;
import org.springframework.http.MediaType;
import org.springframework.http.codec.ServerSentEvent;
import org.springframework.web.bind.annotation.*;
import reactor.core.publisher.Flux;import javax.annotation.Resource;RestController
public class ChatController {//用于流式请求第三方的实现类ResourceGptServiceImpl gptService;//通过stream返回流式数据GetMapping(value /completions, produces MediaType.TEXT_EVENT_STREAM_VALUE)public FluxServerSentEventAIAnswerDTO getStream(RequestParam(messages)String messages) {return gptService.doChatGPTStream(messages)//实现类发送消息并获取返回结果.map(aiAnswerDTO - ServerSentEvent.AIAnswerDTObuilder()//进行结果的封装再返回给前端.data(aiAnswerDTO).build()).onErrorResume(e - Flux.empty());//发生异常时发送空对象}}
处理连接和事件
一旦有客户端连接到这个URL可以通过调用GptServiceImpl实例的doChatGPTStream方法来发送事件。这些事件可以是简单的字符串消息也可以是更复杂的数据结构如JSON对象。记住SSE的设计初衷是轻量级和简单所以你发送的每个事件都应当是独立的和自包含的。
GptServiceImpl的实现方式如下也是springboot后端实现的重点
package cn.aicnn.chatssespringboot.service;import cn.aicnn.chatssespringboot.dto.AIAnswerDTO;
import cn.aicnn.chatssespringboot.dto.ChatRequestDTO;
import cn.hutool.core.collection.CollUtil;
import cn.hutool.core.util.StrUtil;
import cn.hutool.json.JSONUtil;
import com.fasterxml.jackson.databind.JsonNode;
import com.fasterxml.jackson.databind.ObjectMapper;
import org.springframework.http.HttpHeaders;
import org.springframework.http.MediaType;
import org.springframework.stereotype.Service;
import org.springframework.web.reactive.function.BodyInserters;
import org.springframework.web.reactive.function.client.WebClient;
import reactor.core.publisher.Flux;import javax.annotation.PostConstruct;
import java.util.*;/*** author aicnn.cn* date 2023/2/13* description: aicnn.cn**/
Service
public class GptServiceImpl {//webflux的clientprivate WebClient webClient;//用于读取第三方的返回结果private ObjectMapper objectMapper new ObjectMapper();PostConstructpublic void postConstruct() {this.webClient WebClient.builder()//创建webflux的client.baseUrl(https://api.aicnn.cn/v1)//填写对应的api地址.defaultHeader(Content-Type, application/json)//设置默认请求类型.build();}//请求stream的主题public FluxAIAnswerDTO doChatGPTStream(String requestQuestion) {//构建请求对象ChatRequestDTO chatRequestDTO new ChatRequestDTO();chatRequestDTO.setModel(gpt-3.5-turbo);//设置模型chatRequestDTO.setStream(true);//设置流式返回ChatRequestDTO.ReqMessage message new ChatRequestDTO.ReqMessage();//设置请求消息在此可以加入自己的promptmessage.setRole(user);//用户消息message.setContent(requestQuestion);//用户请求内容ArrayListChatRequestDTO.ReqMessage messages new ArrayList();messages.add(message);chatRequestDTO.setMessages(messages);//设置请求消息//构建请求jsonString paramJson JSONUtil.toJsonStr(chatRequestDTO);;//使用webClient发送消息return this.webClient.post().uri(/chat/completions)//请求uri.header(Authorization, Bearer sk-**************)//设置成自己的key获得key的方式可以在下文查看.header(HttpHeaders.ACCEPT, MediaType.TEXT_EVENT_STREAM_VALUE)//设置流式响应.contentType(MediaType.APPLICATION_JSON).body(BodyInserters.fromValue(paramJson)).retrieve().bodyToFlux(String.class).flatMap(result - handleWebClientResponse(result));//接收到消息的处理方法}private FluxAIAnswerDTO handleWebClientResponse(String resp) {if (StrUtil.equals([DONE],resp)){//[DONE]是消息结束标识return Flux.empty();}try {JsonNode jsonNode objectMapper.readTree(resp);AIAnswerDTO result objectMapper.treeToValue(jsonNode, AIAnswerDTO.class);//将获得的结果转成对象if (CollUtil.size(result.getChoices()) 0 !Objects.isNull(result.getChoices().get(0)) !StrUtil.isBlank(result.getChoices().get(0).delta.getError())){//判断是否有异常throw new RuntimeException(result.getChoices().get(0).delta.getError());}return Flux.just(result);//返回获得的结果} catch (Exception e) {throw new RuntimeException(e.getMessage());}}
}在这里我们请求的api地址设置为https://api.aicnn.cn/v1并且设置从aicnn.cn获取的api key即可。
处理异常和断开连接
在使用SSE时处理异常和断开连接也非常重要。确保在客户端断开连接或发生异常时正确地关闭webflux实例。这有助于避免资源泄露和其他潜在问题。
一些实用的提示
超时管理SSE连接可能因为超时而被关闭。确保妥善处理这种情况。错误处理适当地处理可能发生的异常如网络问题或客户端断开连接。资源清理在连接结束时清理资源确保应用的健康和性能。
至此我们就完成了SpringBoot的SSE后端开发。
Vue前端对SSE的处理
在Vue中接收SSE
在Vue应用中接收SSE消息是相对直截了当的。需要做的基本上就是在Vue组件中创建一个新的EventSource实例并指向你的Spring Boot应用中设置的SSE URL,本文使用EventSource作为示例也可以选择axios或microsoft/fetch-event-source发送post请求的SSE请求使用另外两种的好处是可以控制header携带token信息以便于控制权限。 this.eventSource new EventSource(http://127.0.0.1:8080/completions?messagesthis.inputText);一旦建立了连接就可以定义各种事件监听器来处理从服务器接收到的消息。在Vue中这通常涉及到更新组件的数据属性这些属性又通过Vue的响应式系统自动更新UI。
sendSSEMessage() {// 只有当eventSource不存在时才创建新的EventSource连接if (!this.eventSource) {this.messages.push({text: this.inputText, isMine: true});this.messages.push({text: , isMine: false});// 创建新的EventSource连接this.eventSource new EventSource(http://127.0.0.1:8080/completions?messagesthis.inputText);// 设置消息接收的回调函数this.eventSource.onmessage (event) {const data JSON.parse(event.data);this.messages[this.messages.length - 1].text data.choices[0].delta.content;};// 可选监听错误事件以便在出现问题时能够重新连接或处理错误this.eventSource.onerror (event) {console.error(EventSource failed:, event);this.eventSource.close(); // 关闭出错的连接this.eventSource null; // 重置eventSource变量允许重建连接};}}保证流畅的用户体验
当处理实时数据时保证一个流畅且不中断的用户体验至关重要。在Vue中这意味着需要确保UI的更新是平滑和高效的。幸运的是Vue的响应式系统会处理大部分重活但你仍需要注意不要进行不必要的大规模DOM操作或数据处理。
异常处理和重连
处理连接中断或其他异常也是至关重要的。你可能需要在失去连接时尝试重新连接或者至少提醒用户当前的连接状态。这可以通过监听EventSource的错误事件并采取适当的行动来实现。
小结
将SSE与Vue结合使用可以为用户提供一个富有动态性和实时性的界面。无论是实时消息、通知还是实时数据流SSE都能让Vue应用更加生动和实用。
当然除了使用SSE进行文字聊天的打字机模式删除SSE技术还有应用 实际案例分析实时通知系统
场景描述
想象一下你正在为一个大型在线零售平台工作该平台需要一种方法来实时通知其用户关于订单状态的更新。在这种情况下使用SSE来推送通知变得非常有意义。这不仅提高了用户体验还减少了服务器的负载因为不需要频繁的轮询。
为什么选择SSE
在这个场景中SSE提供了一种高效且轻量的方式来实时更新用户的订单状态。由于订单状态更新不需要来自客户端的即时响应SSE的单向数据流完全符合需求。相比于使用WebSockets这种方式更加简单且资源消耗更少。
实现概览
在Spring Boot后端你可以设置一个SSE端点以便在订单状态发生变化时发送通知。
在Vue前端可以创建一个监听SSE消息的组件。当接收到新的订单状态更新时该组件可以相应地更新UI为用户提供实时反馈。
体验优化
为了优化用户体验还可以在前端实现一些附加功能比如当用户离开页面时暂停事件流或者在网络不稳定导致连接断开时自动重连。
可能的挑战
当然实现SSE并非没有挑战。例如你需要确保在高并发场景下后端能够有效地处理大量的连接。此外处理网络不稳定情况下的重连机制也是需要考虑的。
结语
回顾我们今天的探索我们可以看到Server-Sent EventsSSE在现代web开发中的价值和应用潜力。通过在Spring Boot后端轻松实现SSE并在Vue前端高效处理这些实时事件我们可以为用户创造出更加动态和互动的体验并使用SSE从0开始实现了类似ChatGPT聊天的前后端以及打字机效果的输出。
SSE提供了一种简单、高效的方法来处理单向数据流。它是那些需要服务器向客户端实时推送数据的应用的理想选择。无论是实时通知、实时新闻更新还是其他任何需要实时数据的场景SSE都能够提供一种轻量级且易于实现的解决方案。
当然每种技术都有其适用场景。SSE并不是万能的它最适合于那些不需要客户端向服务器发送数据的场景。在选择技术方案时了解你的需求和各种技术的优势及局限性至关重要。
最后鼓励所有的开发者尝试将SSE集成到自己的项目中。感谢你和我一起探索SSE的奇妙世界。现在该是你动手实践的时候了祝你编码愉快
