這個大模型能管理小模型
訂閱已訂閱已收藏
收藏6月9日,重慶市服務業大會召開,提出加快AI賦能產業數字化轉型,深化拓展數智融合綜合服務場景。
記者在採訪中了解到,在重慶,AI大模型已走進眾多行業,成為從業者的“專家型助手”。以重慶中科雲從科技有限公司(以下簡稱雲從科技)自主研發的從容大模型為例,拿一張發票讓大模型“看”一眼,它就知道是否合規﹔拿到報銷材料,大模型進行交叉比對后,能從幾十張票據中,准確“拎”出不符合報銷要求的部分。
去年5月,從容大模型在國際權威評測平台OpenCompass全球多模態榜單中,以80.7分的綜合成績榮登榜首。
作為一個完全國產自研的AI大模型,這個大模型為何能超越谷歌等巨頭,在全球多模態榜單中登頂?它具體能干哪些事兒?記者進行了打探。
構建起技術“護城河”
“多模態榜單的評測,更注重考察AI大模型的綜合能力,而從容大模型剛好是一個‘多面手’。”雲從科技高級算法工程師劉盛中介紹,在AI領域,模態指信息的存在形式,如文本、圖像、聲音等數據類型,多模態就是混合處理這些信息。
OpenCompass的全球多模態測評,涵蓋視覺感知、認知理解與跨領域應用的八大核心數據集,涉及醫學健康、數理邏輯、藝術設計等十余個專業領域。
也就是說,AI大模型要在測評中取得好成績,除了要有過硬的實力,還不能有“拖后腿”的短板。
以文圖信息處理為例,許多AI大模型實際上是分別處理文圖信息,即后台有兩個AI模型:一個處理文字、一個處理圖片,二者互相調用功能,類似於兩個同事配合著干活。而從容大模型具備All-in-One多模態框架(即用一個統一模型或系統集成多種能力),能同時將文字和圖片作為信息進行處理。
記者了解到,從容大模型在OpenCompass的MMBench中文測試、高難度學科綜合評測及高階推理榜單中均拔得頭籌,並在復雜場景文本識別、開放域問答等關鍵場景中穩居全球前列。
好成績的背后是過硬的實力。據悉,從容大模型聚焦通用視覺語言理解與推理任務,通過多模態對齊、高階推理、長上下文建模的突破性優化,已構建起全球領先的技術“護城河”。
深耕多模態近10年
構建這一技術“護城河”,雲從科技下了近10年的苦功。
2016年,雲從科技開始著手研發AI產品。最初,基於團隊在雙層異構深度神經網絡領域的技術優勢,企業專攻人臉識別技術並很快取得成果,在金融、安防等領域落地應用。
但最初一批AI產品落地后,用戶的反饋讓雲從科技很快意識到,僅僅提供會回答問題的“小助理”,或者會認人的“小秘書”,還遠遠不夠。
劉盛中舉了個例子:某金融企業使用雲從科技提供的AI產品進行風控合規審查,一段時間后,便提出了新的要求——能不能增加寫報告、審合同的功能?
“要增加這些功能,AI產品還得會識別票據、合同、協議。”劉盛中說。簡單地說,AI產品需要理解報告、合同等文書中的圖文邏輯關系,就像一個真正的金融從業者一樣。
通過與客戶開展深度合作,雲從科技運用行業的真實數據沉澱,對AI進行了定制化的邏輯推理訓練和識圖訓練,讓AI產品不僅能讀懂文字、理解行業術語,還能識別印刷票據、手寫收據、簽名等圖片。
至此,這款AI產品算是在金融行業真正落地。如今,它能自動抽取海量文字和圖片中的有效信息,自動識別姓名等關鍵文本段,自動生成合規報告。
“我們意識到,能幫客戶解決實際問題的AI,才能真正產生價值。”劉盛中說,由此,雲從科技決定在上述AI產品的基礎上持續深耕多模態大模型,為各行各業賦能,從容大模型應運而生。
大小模型協同發力
現在,從容大模型已經走向全國,在許多場景落地應用。作為一個“多面手”,這個大模型還能當“領導”,組織、管理多個小模型一起工作。
劉盛中介紹,大模型的參數規模大,能力更強、泛化更好,但推理成本和資源消耗更高。相對的,小模型參數規模較小、計算需求低、可邊緣部署在設備側,效率高、延遲低,還能離線運行。
通俗地說,大模型“淵博”,小模型“專精”。大小模型協同,能在特定場景中發揮最大化的價值。
例如,雲從科技基於從容大模型為某電力企業開發了電力大模型,幫助管理發電全過程。同時,根據雲從科技提供的解決方案,企業在關鍵的安全位置部署多個小模型,實時監測電箱門是否關閉、絕緣索有無破裂等。
一旦發現異常,小模型就立刻“報告”電力大模型。電力大模型能迅速作出判斷並正確應對。如此,企業既能降低AI模型部署的成本,又實現了用AI賦能安全生產。
目前,從容大模型已在金融、制造、政務等多個領域通過AI智能體實現規模化落地。其中,某銀行與雲從科技合作打造風控合規案防智能平台,構建風控AI智能體,實現風險識別自動化和問責標准化,投訴數量壓降50%以上。(新重慶-重慶日報記者 申曉佳)
分享讓更多人看到
本網專稿
- 重慶寶山嘉陵江大橋主橋全線貫通
- 人民網重慶6月19日電 (陳琦、劉敏)6月17日,隨著重慶寶山嘉陵江大橋主橋最后一個合龍段混凝土澆筑完成,標志著大橋主橋實現全線貫通,距離建成通車又近了一步。 重慶寶山嘉陵江大橋主橋全線貫通。…
- 評論
- 關注
































第一時間為您推送權威資訊
報道全球 傳播中國
關注人民網,傳播正能量