Rust中的高吞吐量流處理
作者 | Noz編譯 | 王瑞平本篇文章主要介紹了Rust中流處理的概念、方法和優化。作者不僅介紹了流處理的基本概念以及Rust中常用的流處理庫，還使用這些庫實現了一個流處理程序
5 月 9 日消息，阿里巴巴達摩院（湖畔實驗室）、新加坡南洋理工大學等聯合提出了大模型知識鏈（CoK）框架。相比傳統的檢索增強生成（RAG）技術，該框架可實時檢索異構知識源并逐步糾正推理錯誤，進一步提高大模型問答知識型問題的準確率，降低幻覺現象。相關論文入選正在奧地利維也納舉行的國際表征學習大會（ICLR 2024）。
“執導了《El Tio Disparate》的阿根廷演員出生于哪一年？”面對此類需要多步推理的知識型問題，大模型可能會“胡言亂語”，給出看似符合邏輯，實則錯誤或并不存在的回答。這個問題被稱作大模型“幻覺”，極大制約了大模型的應用場景。學界也在重點研究給大模型“外掛知識庫”的 RAG 等技術路線。
在論文《Chain-of-Knowledge: Grounding Large Language Models via Dynamic Knowledge Adapting over Heterogeneous Sources》中，達摩院領銜的聯合研究團隊提出了一種名為“知識鏈”（Chain-of-Knowledge, CoK）的新框架，包括推理準備、動態知識適應和答案整合三個步驟。對于知識密集型問題，知識鏈先確定知識領域，并準備若干中間推理步驟和相應答案。如若這些初步結論沒有共識，知識鏈將實時檢索相應知識領域內的不同知識源，逐步生成、糾正推理步驟，給出最終答案。
圖說：“知識鏈”（CoK）框架包括（I）推理準備（II）動態知識適應和（III）答案整合
與傳統的 RAG 相比，知識鏈框架創新性地設計了對推理分析過程的逐步糾錯，最大程度地防止錯誤層層傳導。有別于此前的大模型知識增強方案主要使用非結構化數據源，知識鏈框架同時支持結構化數據源，并引入了經過指令微調的自適應查詢生成器，從而更精準地生成查詢語句，從知識源提取到有效信息。
在通用知識、醫學、物理、生物等多個領域的實驗結果顯示，相比起思維鏈（Chain-of-Thought, CoT）方法，知識鏈框架可將大模型的回答準確率平均提高 4.3%。對比 ReAct、Verify-and-Edit 等 RAG 方法，知識鏈也表現出穩定的優勢。據論文介紹，知識鏈有望連接各類大模型和不同格式的知識源，幫助解決隱私保護、知識源可靠性和快速信息更新等關鍵問題。
據介紹，ICLR 由圖靈獎得主、深度學習領軍人物 Yoshua Bengio 和 Yann LeCun 牽頭舉辦，是國際 AI 頂級學術會議之一。達摩院共有三篇大模型研究論文入選，另外兩篇涉及大模型推理長度外推、多語言安全等課題。
論文鏈接：https://openreview.net/forum?id=cPgh4gWZlz
本文鏈接：http://m.www897cc.com/showinfo-26-87525-0.html阿里達摩院提出“知識鏈”框架，逐步糾錯降低大模型幻覺
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號