紅帽公司近日發布了其企業級 Linux 人工智能平臺 RHEL AI 的最新版本1.3，該版本新增了對 IBM Granite 大型語言模型(LLM)的支持，并預覽了對 Intel Gaudi3加速器的支持。這一更新為紅帽的服務合作伙伴和系統集成商帶來了更多的機會，幫助企業更有效地探索和整合人工智能應用。

　　紅帽 AI 業務部門副總裁兼總經理喬・費爾南德斯表示，服務合作伙伴和系統集成商在幫助公司實現不同的應用案例方面扮演著重要角色。他指出，生成式人工智能的復雜性使得這些合作伙伴能夠為客戶提供更具成本效益的解決方案。紅帽旨在通過使用更小的模型來降低成本，簡化將模型與客戶數據和用例集成的復雜性，并提供靈活性，以便在混合環境中部署這些模型。

　　RHEL AI1.3版專為企業應用開發、測試和運行生成式人工智能模型而設計。此次更新包括對 IBM 開源許可的 Granite 大語言模型的支持，同時還利用開源技術進行數據準備。用戶可以通過與 IBM 共同開發的 InstructLab 模型對齊項目，利用這些組件創建可打包的、可啟動的 RHEL 映像，以便在混合云中進行單獨服務器的部署。

　　新版本支持 Granite3.08b 英文語言用例，并提供了開發者預覽，用戶可以體驗該模型的非英語語言、代碼生成和函數調用能力，后續版本將全面支持這些功能。此外，RHEL AI 還支持 IBM 研究院的 Docling 開源項目，能夠將常見文檔格式轉換為 Markdown、JSON 等格式，以便用于生成式人工智能應用和訓練。新版本具備上下文感知的分塊能力，能夠考慮文檔的結構和語義元素，旨在提高生成式人工智能的響應質量。

　　此次發布還增加了對 Intel Gaudi3加速器的技術預覽支持，用戶可以在實時處理中并行處理多個請求，并在處理過程中動態調整 LLM 參數。未來的 RHEL AI 版本將進一步支持 Docling 的更多文檔格式，集成增強檢索生成管道以及 InstructLab 知識調優功能。