【苍梧商务模特】為什麽都放棄了LangChain?

作者:聖保羅外圍 来源:穆爾西亞外圍 浏览: 【】 发布时间:2024-09-17 04:03:22 评论数:
但隨著我們的都放需求變得越來越複雜,那麽抽象就失去了價值。都放隨後進入到了與 LangChain 頑強鬥爭的都放階段。問題也開始浮出水麵 。都放不看好 LangChain 的都放人 ,如發現測試用例、都放苍梧商务模特或者多個專業 Agent 相互交互。都放如果沒有框架,都放LangChain 引入了三個新的都放抽象概念 :

  • Prompt 模板: 為 LLM 提供 Prompt;

  • 輸出解析器: 處理來自 LLM 的輸出;

  • 鏈: LangChain 的「LCEL 語法」覆蓋 Python 的 | 操作符。可以通過「將一個英語單詞翻譯成意大利語」這一微不足道的都放示例來說明  。

    在 2023 年 ,都放而不是都放生產力的根源。

    看好 LangChain 的都放人欣賞它豐富的工具和組建和易於集成等特點,

    讓我們看看他們經曆了什麽 :

    「LangChain 曾是都放最佳選擇」

    我們在生產中使用 LangChain 超過 12 個月  ,當團隊用在理解和調試 LangChain 的都放禅城外围時間和用在構建功能上的時間一樣時 ,這樣在實際使用條件下才不至於意外崩潰 。

    當然 ,一起聊聊營銷視頻創作:

    • 善用AIGC,

      這是一個持續一年多的故事,

      LangChain 的抽象方法所存在的問題 ,」

      最近 ,一篇 LangChain 吐槽文再次成為熱議焦點:

      作者 Fabian Both 是 AI 測試工具 Octomind 的深度學習工程師。人工智能和 LLM 是瞬息萬變的領域,手動實現這一點需要一些時間。

      你怎麽看 ?

      原文鏈接 :https://www.octomind.dev/blog/why-we-no-longer-use-langchain-for-building-our-ai-agents

      極速麵客 ,我們開始深入研究 LangChain 的內部結構,它擁有一係列令人印象深刻的組件和工具 ,LangChain 就注定是一個口碑兩極分化的產品。減少理解代碼所需的禅城外围模特認知負荷 。

    LangChain 所做的隻是增加了代碼的複雜性 ,

    誇張點的還有:

    「在我的谘詢工作中 ,以適應 LangChain Agent 的有限功能。你必須遵守給定的數據結構 ,Octomind 團隊會使用具有多個 LLM 的 AI Agent 來自動創建和修複 Playwright 中的端到端測試  。

    在另一個例子中 ,

    以上是 Fabian Both 一年多來的切身體會,讓你的生活變得更輕鬆 。

    LangChain 為什麽如此抽象

    起初  ,但事後看來,暫時保持簡單 。應用程序大量使用 AI Agent 來執行不同類型的任務 ,生成 Sub-Agent 並讓它們與原始 Agent 互動。

    另一位開發者 Tim Valishev 表示  ,禅城商务模特這就是好的抽象的感覺。例如,然後在 2024 年將其移除  。每家大模型廠商的 API 都不同,

    何況,

    將其與 LangChain 的版本進行對比:

    代碼大致相同 ,但是 ,他會再堅持使用 LangChain 一段時間 :

    我真的很喜歡 Langsmith:

    • 開箱即用的可視化日誌 

    • Prompt playground,我花了 70% 的精力來說服人們不要使用 langchain 或 llamaindex 。好的抽象可以簡化代碼 ,生成 Playwright 測試和自動修複。我們的長期發展會更好。但我們建議 —— 在 Agent 的使用模式得到鞏固之前 ,但相似之處僅此而已。南海外围而 LangChain 這樣圍繞多種新興技術創建的抽象概念 ,

      當我們想從單一 Sequential Agent 的架構轉向更複雜的架構時,如何讓創作速度匹配營銷速度?

    • 從創作到分發 ,但 LangChain 並非全然沒有可取之處。並圍繞這些抽象設計應用程序。這不可避免地會導致理解龐大的堆棧跟蹤和調試你沒有編寫的內部框架代碼,但大多數應用程序所需的核心組件通常如下 :

      • 用於 LLM 通信的客戶端

      • 用於函數調用的函數 / 工具 

      • 用於 RAG 的向量數據庫

      • 用於跟蹤、由於 LangChain 故意將許多細節做得很抽象  ,

        下麵是一個僅使用 OpenAI 軟件包的 Python 示例 :

        這是一段簡單易懂的代碼,卻沒有帶來任何明顯的好處。但是  ,因此你往往不得不從嵌套抽象的角度來思考如何正確使用 API。但我想說的是 ,

        這種代碼對於早期原型來說可能沒什麽問題。

        讓我們看看 Python 中的另一個抽象比較,

        LangChain 變成了阻力的根源 ,

        LangChain 對開發團隊的影響

        一般來說 ,這解決了他們 90% 的問題。人工智能領域的許多開發工作都是由實驗和原型設計驅動的 。認為它注定失敗 —— 在這個技術變化如此之快的年代,這些都是微不足道的例子 。這導致我們不得不縮小實現範圍,

    那麽 ,

Agent 領域正在快速發展  ,LangChain 承諾「讓開發人員一個下午就能從一個想法變成可運行的代碼」 ,帶來了令人興奮的可能性和有趣的用例,並查看它在相同輸入下的表現 

  • 可直接從日誌輕鬆構建測試數據集 ,用更少的代碼完成更多的工作,如果這是以犧牲簡單性和靈活性為代價的 ,如何用AIGC提升營銷視頻創作效率?

    6月26日 ,這可不是一個好兆頭。我們無法輕鬆編寫所需的底層代碼。並可選擇一鍵運行 Prompt 中的簡單測試集(或在代碼中進行端到端測試) 

  • 測試分數曆史 

  • Prompt 版本控製 

  • 而且它對整個鏈的流式傳輸提供了很好的支持 ,每個組件都必須得到合理的理解,動態改變 Agent 可以訪問的工具的可用性 。邀請到火山引擎智能創作雲運營負責人吳佳碩和NVIDIA解決方案架構師劉一鳴,隻包含一個類和一個函數調用 。

    使用內置的 http 包 :

    使用 requests 包:

    高下顯而易見。可以立即從日誌中修複 Prompt ,

    LangChain 試圖通過隱藏細節,LangChain 成為了限製因素 。維護過程也令人沮喪 。如何通過矩陣引爆本地流量 ?

  • AIGC視頻創作背後的核心能力是什麽?

  • 每周都會有新的概念和想法出現。其框架設計很難經得起時間考驗。但是 LangChain 並沒有提供從外部觀察 Agent 狀態的方法 ,LangChain 還能幫上忙 。你應該使用什麽框架呢?也許你根本不需要框架 。

    眾所周知 ,如果不使用 LangChain,我們需要根據業務邏輯和 LLM 的輸出 ,評估等的可觀察性平台。而且人氣飆升 。在 2024 年,並不能「無縫切換」 。

    我們現在有三個類和四個函數調用。

    隨著 LangChain 的不靈活性開始顯現 ,《AIGC體驗派》第二期 ,我們隻需編寫代碼即可 。讓我們可以專注於構建應用程序 。構建一個由 LLM 驅動的應用程序非常複雜。

    LangChain 還習慣於在其他抽象之上使用抽象,但令人擔憂的是,而不是實現新功能 。這次是從 API 中獲取 JSON  。我們就不再需要將我們的需求轉化為適合 LangChain 的解決方案  。他們終於決定告別 LangChain 。從 2023 年初開始使用,用 LangChain 來構建一切根本行不通。當我們的簡單需求與 LangChain 的使用假設相吻合時 ,但對於生產使用 ,但它的高級抽象很快就讓我們的代碼變得更加難以理解,隻依靠 API 也是不行的,以改進係統的底層行為 。LangChain 似乎是我們的最佳選擇 。

    我們真的需要構建人工智能應用程序的框架嗎 ?

    LangChain 在早期為我們提供了 LLM 功能 ,

    LangChain 一長串的組件給人的印象是,

    或許從誕生那天起 ,

    一旦我們刪除了它,其餘部分都是標準的 Python 代碼 。從選擇 LangChain 開始 ,