9月8日消息，iPhone的誕生開啟了移動互聯網的黃金15年。大模型的應用突破，也意味著產業變革再次來到了“人工智能”的iPhone時刻。9月7日，2023外灘大會首日，生成式AI和大模型成為熱議話題。多位“兩院”院士、諾貝爾獎和圖靈獎得主等專家學者以及科技領軍企業分享了他們在AI領域的觀察和思考。

　　生成式AI有望開啟萬億美元新賽道

　　今年以來AI熱度持續攀升，近半年內全球近百家公司、機構相繼發布大語言模型相關產品。國內也正面臨著“百模大戰”，有數據顯示，全國有至少130家公司研究大模型產品，其中做通用大模型的有78家。

　　但專家普遍認為，這一技術帶來的產業紅利才剛剛開始。麥肯錫中國區主席、全球資深董事合伙人倪以理在外灘現場預測，生成式AI的技術風暴有望開啟一場關系到未來8-10年的新一輪技術和產業變革。

　　“AI對全球經濟的潛在收益將達到25萬億美元，是當前所有企業最重要的賽道之一，但這個時代剛剛開始。”他舉例說道，在高科技行業，該技術每年可以額外創造2400億至4600億美元價值;在零售和消費品領域，每年可達2400億至3900億美元;在整個銀行業，每年可達2000億至3400億美元。與此同時，他指出，生成式AI可能大幅促進生產力提升，并提供新的就業機會。

　　金沙江創投主管合伙人張予彤的觀察也印證了上述觀點。當前生成式人工智能創業與投資爆發，今年上半年投資額已超過去年全年水平。

　　張予彤預測，AIGC在企業的關鍵職能中將釋放巨大價值潛力，影響集中在四個職能：客戶運營、營銷和銷售、軟件工程、產品研發。以游戲行業為例，AIGC首先將優化內部效率，隨后重塑開發流程并引領游戲玩法創新。

　　螞蟻集團董事長兼CEO井賢棟引用電影《奧本海默》的一句臺詞說，“this is not a new weapon.this is a new world”，他認為大模型不只是一個新技術，而是一個新世界，會引發全面的變革。他透露，螞蟻自研大模型以全棧布局、長線發展為原則，以創造產業價值為目標，將在外灘大會期間發布最新落地進展。

　　高效產業協作是抓住技術變革機遇的關鍵

　　中國科學院院士、復旦大學副校長張人禾認為，面對“AI時代”的來臨，“單打獨斗”已不適應大科學時代的科技創新，要進行“有組織科研”，最大的優勢在于布局建設大平臺。

　　而產業變革也更急需走向高效協作。但因為很多產業比如跨境貿易從時間和空間上都有很長的鏈路，產業協作涉及多個參與方，環節眾多、流程復雜，很容易因為缺乏信任造成協作不暢。

　　螞蟻集團資深副總裁、數字科技事業群總裁蔣國飛指出，“信任問題是產業高效協作的最大障礙。”他認為，在物理世界產業供應鏈的背后，需要用數字科技構建一個圍繞數據供應鏈的協作網絡。比如，在數據生成環節，物聯網可以實現數據源頭可信;在數據流通環節，區塊鏈技術可以進行數據確權，防篡改;隱私計算技術確保數據在流通與融合過程中“可用不可見、可算不可識”;在數據價值的挖掘環節，人工智能技術與場景結合，能夠讓數據價值釋放出巨大潛力。

　　在專家們看來，AI、區塊鏈、隱私計算、數字人民幣等新技術、新場景的應用，會在實體領域創造很大價值。北京智源人工智能研究院顧問、美國國家工程院外籍院士張宏江說，AI、區塊鏈和數字人民幣的結合，會帶來未來更加自動化、更加可信、更加有效的金融服務體系。

　　井賢棟說，隱私計算的突破，能夠實現數據價值的交換，而非數據本身去交換，意義極其巨大。螞蟻在重點投入，希望未來有一天加密計算的成本和效率做到今天的明文計算一樣，那個時代會真正迎來數據時代的大爆炸。聯合國開發計劃署可持續金融中心高級顧問邁克爾·舍倫則指出，新技術的應用，可以促進綠色融資，并降低融資成本，幫助我們創造一個更可持續的世界。

　　應對大模型安全問題需設好“緊箍咒”

　　模型的通用能力讓其能夠應用到人類生產生活的各個場景中，可謂“無孔不入”。AI的發展因此帶來了新的安全隱私問題，如何解決這一隱患?中國科學院院士何積豐開出了他的“藥方”：利用對齊技術為大模型戴上緊箍咒。

　　何積豐院士認為，大模型的安全問題主要是在未經同意的情況下，收集、使用和泄露個人信息。隱私問題既可能發生在訓練過程，也可能發生在使用過程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護更加困難。

　　“為了應對這些問題，我們需要大模型對齊技術。”何積豐說，“對齊(alignment)”是指系統的目標和人類價值觀一致，使其符合設計者的利益和預期，不會產生意外的有害后果。“如果把人工智能看作西游記里的孫悟空，’對齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術不會任意使用能力胡作非為。”

　　不過，對齊技術同樣面臨挑戰。首先，對齊的基礎，人類的價值觀是多元且動態變化的，需要保證大模型為人服務、與人為善;其次，大模型的有用性與無害性之間目標也不完全一致。如何對錯誤進行有效糾正，設好大模型的“緊箍咒”也是挑戰。

　　因此，對齊技術已經成為了一項令人眼花繚亂的跨學科研究，不僅考驗技術，也審視文化。

　　何積豐介紹，反饋強化學習是實現對齊的技術途徑，目前有兩種方式，一種方式是通過人工反饋給模型不同的獎勵信號，引導模型的高質量輸出;另一種方式，事先給大模型提供明確的原則，系統自動訓練模型對所有生成的輸出結果提供初始排序。“這意味著，不僅智能系統需要向人類價值觀對齊，人類的訓練方法也要向價值觀對齊。”何積豐說。