百度的大模型插件，打工人的救星？

文| 周鑫雨

編輯| 鄧詠儀

圖片來源：由無界AI生成

2023年8月16日的百度2023WAVE SUMMIT，構建大模型開發生態的方法論，代替模型本身成了主角。

總體而言，如今百度基於文心大模型的應用落地嘗試，是把微軟的路子再走了一遍：針對生產力場景發布配套插件和Copilot，同時建設基於雲的開發者生態。

比如新發布的5款插件，對應的是Bing和ChatGPT接入的近70款插件；推出的插件開發工具集和AI應用開發套件Comate Stack，對應的是Copilot Stack；上線超級助理等插件的百度智能辦公平台“如流”，對應的是接入Copilot的Teams。

旺盛的市場需求和處於高速迭代期的大模型技術，兩者構成了大模型落地應用的主要矛盾——客戶們急於用大模型提高生產效率，但尚在發展階段的模型技術迭代速度快，大模型應用落地，首先要面對高昂的迭代成本。

不少廠商找到的解決方案是：插件化。

相較於傳統的應用開發流程，插件無需開發一整套完整系統，通過接口就能提供服務，且易於修改和更新。在某種意義上，插件是AI應用創新的最佳載體。

基於這一思路，百度在2023WAVE SUMMIT上，圍繞著“插件”，做了從自研，到開發者社區建設，再到落地工作場景的一系列嘗試。

生態建設，是百度強調的另一個重點。

隨著大模型發展的進度條從研發快速拉到落地階段，開發者面對的是愈發複雜的產業鏈條，落地應用也對上下游、軟硬件的協同提出了較高的要求。

作為基礎設施提供者，百度對飛槳開源框架在大模型訓練、推理、硬件適配等方面進行了迭代升級，將文心大模型3.5的訓練速度提升至3倍，推理速度提升了30多倍。其目的在於聚集產業鏈各環節的開發者，基於大模型基座和雲平台進行開發生態的建設。

百度集團副總裁、深度學習技術及應用國家工程研究中心副主任吳甜認為，“經歷半年的時間，我覺得整個行業的角色分工會逐漸明朗。”

“文心一言”疊加製圖Buff，接入5個百度自研插件

除了在8月2日的文心千帆大模型平台媒體圓桌會議上發布的“百度搜索”和“覽卷文檔”（原ChatFile），此次百度還在文心一言上推出了“E言易圖”“說圖解畫”“一鏡流影”三款AIGC插件，分別應用於圖表生成、圖片生成理解、視頻生成場景。

文心一言使用“覽卷文檔”插件解讀文檔。圖源：百度

文心一言使用“E言易圖”插件將文檔中的數據生成餅狀圖。圖源：百度

不過，由於能耗較高，視頻生成插件“一鏡流影”的內測尚未全面進行。未來，文心一言將開放給更多第三方插件。

飛槳“賣水”，推出大模型插件開發平台

以5個自研插件作為開端，百度更想做的，是建立起鏈接上下游的完整開發者生態。

吳甜認為，目前已經到了建設開發者生態的時機：“一方面，我覺得核心技術系統本身的成熟度要足夠，才能去支撐生態的建設，文心一言已經到了這個階段；另一方面，生態最大的作用是讓應用更加繁榮。”

依託於“文心一言”的模型能力，百度面向開發者上線了大模型插件開發平台。平台提供了插件開發工具集（ERINE Bot SDK），可以支持信息服務類、工具類、基於LLM的創新類的插件的研發。

ERINE Bot SDK。圖源：百度

與此同時，飛槳AI Studio此次推出了星河大模型社區。這就好比國產版的微軟Azure AI Studio，百度作為大模型應用的“賣水人”，為開發者提供開發、部署、市場推廣等流程服務。

星河大模型社區。圖源：百度

在“如流”上，做提高生產力的文章

什麼是AI時代的“殺手級”應用？目前業界或許沒有定論。但發展AI原生（AI Native）應用是“殺手級”應用的基礎，愈發成為共識。

所謂的AI原生應用，簡單理解就是離開AI，就無法提供核心能力的應用——這對開發者無疑提出了更高的要求：對原有應用進行簡單迭代是不夠的。

在2023WAVE SUMMIT，百度交出的原生AI答卷，點的是重塑生產力的題。在百度智能工作平台“如流”上，百度推出了“超級助理”和“Comate X智能編程助手”。

“超級助理”的功能類似於此前阿里發布的釘釘魔法棒和飛書發布的AI助手“My AI”，可以基於用自然語言輸入的需求，完成文檔處理、聊天內容查找、信息發送等任務。

“超級助理”完成差旅安排。圖源：百度

“超級助理”可對文檔進行分析。圖源：百度

同理，輔助編程的Comate X也是基於自然語言描述，生成能實現相應功能的代碼片段。目前，Comate X支持30多種語言和10多種IDE（集成開發環境）。

針對AI原生應用的開發，百度也建立了開發者生態。此次推出的AI原生應用開發套件Comate Stack，為開發者提供了評測平台iue、AI應用開發平台IPlayground和數據集託管平台iDateSet。

值得一提的是，在Comate Stack上進行AI應用開發，自然語言依然是人機交互的界面。比如開發可以執行休假政策的插件，只需要設置、編排流程兩步。

AI應用開發平台IPlayground支持2步生成AI插件。圖源：百度

AI應用上線如流，意味著目前兩款生產力工具只有百度員工和幾家大B客戶能夠使用。但與此同時，這也是如流積極商業化的信號。

百度集團副總裁、百度集團首席信息官李瑩介紹，以超級助理和編程工具鍊為切口，接下來如流也會加大商業推廣力度。