前言

最近我們公司也是在做認(rèn)知助手，大模型相關(guān)的功能，正在做提示詞，機器人對話相關(guān)功能。想要提高用戶體驗，使用SSE請求模式，在不等數(shù)據(jù)完全拿到的情況下邊拿邊返回。yG928資訊網(wǎng)——每日最新資訊28at.com

之前做過一版，但不是流式返回，是等待全部結(jié)果再返回，不得不說確實等待過程挺長，然后就有了現(xiàn)在的優(yōu)化。想著功能都寫好了，只是改一下接口，應(yīng)該是個簡單的需求。yG928資訊網(wǎng)——每日最新資訊28at.com

后端使用的post接口，經(jīng)過一番搜索，最后使用的fetch。經(jīng)過短短幾個小時，配置寫好，準(zhǔn)備聯(lián)調(diào)，以為需求就順利完工了。奈何就這流式聯(lián)調(diào)，還耗了兩天。只因為后端在postman上測試時正常的，然后前端在本地連調(diào)就是無法獲取分段式數(shù)據(jù)，拿到的總是一整塊數(shù)據(jù)。表現(xiàn)成這樣，我們就開始糾結(jié)前端配置是否有誤，網(wǎng)關(guān)轉(zhuǎn)發(fā)是否有誤。yG928資訊網(wǎng)——每日最新資訊28at.com

就這樣前端也試了好幾種方式去發(fā)請求，奈何結(jié)果都一樣。想著先測其他部分，這個接口最后測試。意外的是部署在線上的環(huán)境竟然能正常接收流式接口！！！那問題可能就是本地與部署線上的區(qū)別了，今天主要記錄一下使用的配置。yG928資訊網(wǎng)——每日最新資訊28at.com

EventSource

創(chuàng)建EventSource對象：首先，使用new EventSource()構(gòu)造函數(shù)創(chuàng)建一個EventSource對象。該對象將用于與服務(wù)器建立連接并接收服務(wù)器發(fā)送的事件流。yG928資訊網(wǎng)——每日最新資訊28at.com

var eventSource = new EventSource('sse_url');

在上面的代碼中，將'sse_url'替換為實際的SSE請求URL。2. 監(jiān)聽事件：使用EventSource對象的onmessage事件監(jiān)聽器來接收服務(wù)器發(fā)送的事件數(shù)據(jù)。當(dāng)接收到數(shù)據(jù)時，事件處理函數(shù)將被調(diào)用，并可以通過事件對象的data屬性訪問數(shù)據(jù)。yG928資訊網(wǎng)——每日最新資訊28at.com

eventSource.onmessage = function(event) {    console.log('Received data:', event.data);  };

錯誤處理：為了處理可能發(fā)生的錯誤，可以使用EventSource對象的onerror事件監(jiān)聽器。當(dāng)發(fā)生錯誤時，可以在事件處理函數(shù)中進(jìn)行處理。yG928資訊網(wǎng)——每日最新資訊28at.com

eventSource.onerror = function(error) {    console.error('SSE error:', error);  };

關(guān)閉連接：當(dāng)不再需要接收事件流時，可以使用EventSource對象的close方法關(guān)閉連接。yG928資訊網(wǎng)——每日最新資訊28at.com

eventSource.close();

完整的示例代碼如下所示：yG928資訊網(wǎng)——每日最新資訊28at.com

var eventSource = new EventSource('sse_url');    eventSource.onmessage = function(event) {    console.log('Received data:', event.data);  };    eventSource.onerror = function(error) {    console.error('SSE error:', error);  };

但是EventSource只支持get請求，配置請求頭也不太友好。yG928資訊網(wǎng)——每日最新資訊28at.com

fetch

async function getStream() {  try {    let response = await fetch('url');    if (!response.ok) {      throw new Error('Network response was not ok');    }       const reader = response.body.getReader();    const textDecoder = new TextDecoder();    let result = true;    let output = ''    while (result) {        const { done, value } = await reader.read();      if (done) {        console.log('Stream ended');       result = false;       break;      }      const chunkText = textDecoder.decode(value);      output += chunkText;      console.log('Received chunk:', chunkText);    }  } catch (e) {    console.log(e); }}

插件

@microsoft/fetch-event-source 使用方法我就 不放了，看了一下源碼也是基于fetch實現(xiàn)的，網(wǎng)上例子很多，可以看看。yG928資訊網(wǎng)——每日最新資訊28at.com

問題

本地運行的環(huán)境也是用的代理訪問的部署好的環(huán)境的接口。插件是 Node.js 的 HTTP 代理中間件http-proxy-middleware。所以為何同樣的配置，本地運行不行，而部署到環(huán)境上就正常了？有大佬遇到過嗎yG928資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://m.www897cc.com/showinfo-26-75325-0.html一個SSE（流式）接口引發(fā)的問題

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 一次性學(xué)會Java中的日志

下一篇： 系統(tǒng)設(shè)計面試問題：如何設(shè)計 Spotify，一個音樂流媒體系統(tǒng)