背景:项目中需要获取chatgpt实时返回的数据
使用场景:在对接chatgpt 语言模型的时候采取的这种方案,因为目前的大语言的模型的结果都是需要一点点计算的,如果提出的问题比较复杂就导致响应的时间过长。
好处:流式获取一般在用于数据量比较大的情况,一次性返回会导致前端页面加载时间过长或者请求超时等问题,这时候我们就可以考虑使用流式的方式拿到部分数据并先展示,从而提升用户体验。
async function getChatgptMsg() {const response = await fetch('你的url', {method: 'POST',headers: {'Content-Type': 'application/json'},dataType: "text/event-stream",body: JSON.stringify({model: 'gpt-4',messages: messages,frequency_penalty: 0;max_tokens:4000;model:"gpt-4";presence_penalty: 0.6;temperature: 0.5;top_p :1;})});if (!response.ok) {throw new Error(`HTTP error! status: ${response.status}`);}const reader = response.body.getReader();let decoder = new TextDecoder();let resultData = '';let result = true;while (result) {const { done, value } = await reader.read();if (done) {console.log("Stream ended");result = false;break;}resultData += decoder.decode(value);}
}