近期，香港大學發布了OpenGraph，這是一項突破性的成果，成功攻克了圖基礎模型領域的三大難題。該模型通過巧妙的技術實現了零樣本學習，可以適配多種下游任務。OpenGraph的構建主要分為統一圖Tokenizer、可擴展的圖Transformer和大語言模型知識蒸餾三個部分。

　　OpenGraph通過創建統一的圖Tokenizer解決了不同數據集之間節點集合和特征空間的變化問題。采用拓撲感知映射方案，實現了對不同圖數據的高效tokenization，使得模型能夠更好地理解和處理不同的圖結構。

　　可擴展的圖Transformer部分引入了采樣技巧，包括Token序列采樣和自注意力中的錨點采樣方法。這些技巧有效降低了模型的訓練時間和空間開銷，同時保證了模型在復雜依賴關系建模方面的強大能力。

　　OpenGraph利用大型語言模型進行知識蒸餾，通過生成各種圖結構數據進行訓練，彌補了真實數據稀缺的問題。實驗驗證顯示，OpenGraph在跨數據集預測和圖Tokenizer設計方面具有顯著優勢，并且基于LLM的知識蒸餾方法也得到了有效驗證。

　　OpenGraph的問世填補了圖基礎模型領域的空白，為通用圖模型的發展提供了新的思路和技術支持，具有廣泛的應用前景。