2024年雖被外界普遍認為是“大模型應用落地元年”，但至今仍有很多聲音，質疑大模型在具體行業的應用落地效果。大模型究竟如何更好發揮自身作用，助力企業實現AI轉型，促進創新增長，也一直是媒體和行業的熱議話題。

　　8月21日，在2024火山引擎 AI 創新巡展(上海站)期間，火山引擎發布了豆包大模型的一系列產品升級，并攜手多點DMALL等零售巨頭，成立了零售大模型生態聯盟。聯盟首批成員包括物美集團、抖音電商、抖音生活服務、百勝、麥當勞等。

　　火山引擎總裁譚待表示，企業要真正做好AI轉型，是一件非常有挑戰的事。希望通過大模型生態聯盟，與更多企業伙伴一起探索，共同促進零售企業的AI轉型，讓大模型更好地為企業發展服務。

　　火山引擎智能算法負責人、火山方舟負責人吳迪則以《豆包大模型，助力企業AI轉型》為題，現場分享了大模型如何在具體行業應用落地的細節。

　　吳迪表示，自今年5月15日豆包大模型發布以來，60天時間里云計算客戶總調用量增長了三倍左右。隨著處理的問題越來越多，火山引擎對市場挑戰的理解也越來越深刻，并將AI大模型落地具體行業所面臨的問題總結為“三大挑戰”：

　　一是基礎模型是否足夠“聰明”;二是價格和成本;三是落地過程中所面臨新工作范式和企業原有IT系統之間的改造，以及兼容成本等具體問題。

　　而對于這些問題，豆包大模型則以更強模型、更低價格、更易落地的解決方案加以應對。

　　吳迪表示，目前在字節跳動企業內部，包括抖音、剪映、頭條、豆包APP、飛書、懂車帝、貓箱、河馬、番茄等約50余個業務線在使用豆包大模型，在外部每天則有30余個行業客戶在使用。

　　而在價格方面，豆包通用模型pro的推理輸入為0.8厘/千tokens，輸出為2厘/千tokens。之所以能夠把價格做到這個水平，背靠的則是強勁的系統承載力、充沛算力，以及積累多年的推理算法、系統優化及系統調度能力。

　　首先，火山引擎擁有海量GPU資源，目前在豆包大模型和火山方舟平臺，已投入多達數萬張不同型號GPU算力。

　　同時，造成算力枯竭的一個重要原因，是很多企業做不到靈活調配GPU算力，從而造成2/3甚至更多時間里，算力出現閑置或低效率表現。而火山引擎通過極致調度，避免浪費，則可以進一步將成本優勢控制到同行的1/3甚至1/10。

　　第三則是極致彈性。火山引擎可以做到分鐘級完成數千卡伸縮，有效支持突發流量和業務高峰。而火山引擎推出的多種批量推理模式，則提供了業界領先的TPU初始額度。

　　除此之外，火山引擎還配備了優秀精干的算法工程師團隊，支撐企業客戶需求以及疑難問題的解決，用抖音內容、抖音搜索、知識庫等插件，配合Coze扣子平臺，打造更易使用的開發者環境，并利用安全沙箱，使客戶可以更加放心地使用大模型。

　　在安全方面，首先通過TLS和安全沙箱實現雙向身份認證和加密，建立互信連接，保證用戶訪問的安全。

　　其次則通過全鏈路數據加密，確保用戶的使用安全。

　　第三則是通過安全沙箱技術，杜絕內外風險入侵和數據泄露的風險。

　　第四是“信息無痕”，做到“全鏈路”、“全內存”、“零日志”，在任務結束時安全沙箱自動銷毀，用戶畫像全程無痕。

　　第五是操作可審計，對沙箱系統及用戶流量的訪問均有日志記錄，客戶也可以自行通過token API的方式對日志進行審計。

　　目前，火山引擎新升級的內容和聯網插件提供包括金融、旅游、影視、生活服務等27個行業垂直內容的數據源，并新增抖音百科類型數據。

　　吳迪表示，升級后的知識庫，在文檔解析和檢索能力方面都有了大幅提高，可以應對包括圖片、多列表格、PPT、Markdown等更豐富的文檔類型，并更具性價比，支持向量庫的語義檢索以及類似傳統搜索引擎的準確檢索等。

　　在活動現場，火山引擎還公開發布了全新的Coze扣子專業版，用于企業開發智能體。吳迪表示，火山引擎將在Coze扣子專業版上提供企業級穩定性保障，以及一鍵式接入火山方舟模型的能力、更高的tokens配額。

　　作為零售行業大模型生態聯盟的發起者之一，多點DMALL創始人、物美集團創始人張文中博士也來到現場，并從具體的操作層面，與在場與會者分享了大模型如何在零售行業中具體落地。

　　張文中提出，目前AI大模型已經可以廣泛應用于包括超市智能防損、智能補貨、智能客服、以及折扣出清等多個方面。由于豆包大模型tokens定價極低，很多以往很難解決的難題，現在都有了很高性價比的解決方案。

　　張文中最后表示，AI時代，零售企業再也不能“單打獨斗”。大模型時代，行業更需要攜手共進，希望與火山引擎一起，向零售界發出呼吁，通過全面擁抱AI，一起努力共創智慧零售的新未來。(作者：唐明)