近日，2024金融科技應用創新發展大會暨農村金融機構信息化發展創新座談會在上海舉辦。浪潮信息推出元腦企智EPAI企業大模型開發平臺，面向金融業務場景，實現7天完成POC驗證、2個月上線AI應用，通過將浪潮信息在AI算力底座建設、大模型開發領域積累的成熟、成功經驗工具化，助力金融機構又快、又穩地部署生成式AI應用，助力金融數智化跨越式發展。
浪潮信息售前技術支持部總經理王鵬飛在會上表示，公司致力于推動金融行業的數智化轉型。元腦企智EPAI可為金融機構量身定制，提供一站式大模型應用開發部署解決方案。這一創新方案有助于金融機構以低成本、少人力實現高效率的智能應用開發，提升運營效率，降低風險，滿足客戶的智能化、場景化需求。
"玩轉"大模型 中小金融機構面臨"少技術、少資金、少數據"三大挑戰
在金融行業，可以說整個行業都在往數字化轉型的深水區積極探索，亟需以AI催生的數字金融、科技金融為抓手，塑造數字金融新業態新模式。
從政策上，根據三中全會精神，金融行業要進一步深化金融供給側結構性改革，扎實做好"五篇大文章"。因此各家金融機構實施了從積極布局大模型，到關注金融行業大模型，再到聚焦金融應用場景的模型建設的系列舉措。六大國有銀行已在多個領域應用大模型，例如工行為20萬網點員工打造智能助手，通過大模型吸納全行50類業務，輔助柜員辦理復雜業務、提升網點效能，智能處理業務量顯著增長，23年智能處理業務量3.2億筆，同比增長14%。同時，12家股份制銀行中已有超過6家正在推進大模型及相關應用，中信銀行開發大模型平臺，興業銀行實現研報摘要智能生成，浦發和平安銀行加強大模型平臺和底座建設。金融機構對大模型的需求不僅是發展得"如火如荼"，而且對"增效"要求越來越迫切，金融機構在積極推動大模型在金融領域的落地實踐。
金融大模型落地面臨的技術挑戰
然而金融機構想要部署大模型，仍有許多痛點。對于城商行、農商行、農信等中小金融企業或機構，想要"玩轉"大模型，需要克服自身在數字資源、科技能力、業務場景等方面的限制，突破算法、算力、數據方面的屏障。
首先，從基礎模型到實際應用，不僅需要軟硬件的更新，還需要在制度、流程和管理等方面進行調整。比如，在金融大模型開發，從模型的選型、定制部署到應用開發的全流程，打造一套成熟的方案顯得尤為重要。這不僅涉及到技術層面的考量，還包括了業務需求的深入理解、資源的合理配置以及未來擴展性的預見。一個久經打磨、成熟穩健的方案能夠確保金融大模型項目的順利進行，同時也能為后續的維護和升級提供堅實的基礎。
其次，作為金融企業，歸根到底在經營客戶、業務、產品，以及貨幣、風險，模型服務要以盈利為目標，因此資金預算也是現實的考量。
第三，金融機構的數據資源，尤其是面向模型微調所需的高質量數據的缺乏，也是擺在面前的現實問題。
元腦企智助力金融機構快速部署大模型
元腦企智EPAI（Enterprise Platform of AI），正是浪潮信息的大模型應用落地解決之道，能夠為企業AI大模型落地應用提供高效、易用、安全的端到端開發平臺，提供數據準備、模型訓練、知識檢索、應用框架等系列工具，支持調度多元算力和多模算法，幫助企業高效開發部署生成式AI應用、打造智能生產力。
浪潮信息元腦企智EPAI 為中小金融機構量身定制
首先，從創新大腦到多元算力底座，元腦企智EPAI具有架構上的優勢。
元腦企智擁有一個包含多種模型的大模型庫，這是其核心部分。它分為三個主要部分：首先，提供場景數據，元腦企智利用上億條基礎知識數據和自動化工具幫助企業構建知識庫。其次，模型定制，通過微調增強模型的學習能力，并利用知識庫檢索技術提升模型的查找能力。最后，應用構建和開發，元腦企智支持設定模型角色和偏好，配置功能化工具，并提供多種使用方式，同時確保全鏈路安全。此外，元腦企智的底座是適配多元、多模的多元算力Infra基礎設施，包括元腦企智EPAI一體機，以及高效的多元算力管理調度工具。
其次，浪潮信息利用元腦企智提供一站式金融大模型應用孵化，涵蓋三個主要步驟。其一，確定應用類型和預期效果；其二，根據需求和成本選擇合適的基礎大模型，并參考公開數據集；最后，通過提示詞工程、RAG和模型微調增強模型場景能力。最后，完成這些步驟后，可以部署模型并開發應用，如集成API服務到業務系統或提供對話式機器人。對于復雜任務，智能體Agent可進行任務編排和工具調用。
王鵬飛認為，元腦企智之所以能一站式開發部署AI應用，"內功"非常重要。主要依托了幾大優勢。從數據工程上，元腦企智支持10種以上的企業常見數據格式，并可以超過95%的抽取準確率將其轉化為知識庫以及模型可用的微調數據。從模型開發上，元腦企智支持10種以上的開源大模型和接口協議，并逐步支持20種以上的計算芯片上的模型完全私有化部署。從算法功能上，元腦企智能夠達到90%以上的RAG檢索召回準確率，最快構建模型服務API的時間不足0.5天，且支持多種插件、IDE和編程語言。此外，元腦企智提供了低代碼乃至無代碼的環境，應用開發速度大大提高、培訓周期顯著縮短，有利于企業的降本增效。正是通過類似的開發范式，元腦企智可以便捷的助力各類金融場景應用的開發，讓金融企業真正玩轉大模型。
7天快速測試驗證 助力金融大模型輕松上手
浪潮信息自推出元腦企智EPAI以來，成功實施了智能編程、智能客服大腦和智能投標助手等應用案例。智能客服大腦利用金融業務數據構建，能解決80%常見問題，并能與現有服務集成，提供自動化流程和智能化業務支持。智能編程助手借助元腦企智自動解析大型代碼庫，提升開發效率。智能投標助手能快速識別招標文件關鍵信息，節省業務時間，提高工作效率。
元腦企智助力金融機構 輕松上手大模型
據王鵬飛介紹，元腦企智助力金融客戶實現項目快速實施，時間上最短7天，最長2個月。以最復雜的聯合共創為例，以項目的形式劃分為前期試用、方案確認、本地定制開發、驗收落地四個階段。雖然流程比較長，但核心的應用開發部分一般2~3周內完成；對于通常的大模型應用簡單驗證，不超過7天即可完成。
元腦企智EPAI，是浪潮信息2024年具有戰略意義的產品，體現了浪潮信息一直在AI領域的前沿不停探索開拓的能力和決心。浪潮信息期望能將自身的AI成果賦能金融行業等千行百業，與客戶、合作伙伴共同攜手，加速AI創新落地。
消息來源：浪潮信息