1 SSE
Server-Sent Events(SSE)的核心在于允许服务器通过HTTP连接主动向客户端发送数据,这种机制主要用于实现实时通信。
Server-Sent
Events(SSE)采用一种特定的文本格式进行数据传输,这种格式旨在简化服务器向客户端实时发送消息的过程。SSE消息的格式要求如下:
消息开头:每个消息的数据行都以
data:
开头。如果一条消息包含多行数据,每行都需要以data:
开始。消息结束:每条消息以两个换行符
\n\n
结束。这告诉客户端一条消息的结束,客户端随后可以处理这条消息。多行数据:如果消息包含多行数据,每行数据都以
data:
开头,并且除了最后一行外,每行后面跟一个换行符\n
。最后一行数据后不需要data:
前缀,直接以两个换行符\n\n
结束。事件类型(可选):可以通过
event:
字段指定事件类型。这使得客户端能够根据不同类型的事件执行不同的逻辑。事件类型行后也需要一个换行符\n
。ID(可选):通过
id:
字段可以为事件指定一个唯一标识符。这在处理断线重连时非常有用,客户端可以发送最后接收到的事件ID,服务器据此决定从哪个事件开始重新发送数据。
2 RAG
检索增强生成(RAG)是指对大型语言模型输出进行优化,使其能够在生成响应之前引用训练数据来源之外的权威知识库。
在 LLM 本就强大的功能基础上,RAG 将其扩展为能访问特定领域或组织的内部知识库,所有这些都无需重新训练模型。这是一种经济高效地改进 LLM 输出的方法,让它在各种情境下都能保持相关性、准确性和实用性。