今年是 AI 視頻生成爆發的元年,以 Sora 為代表的算法模型和產品應用不斷涌現。短短幾個月內,我們目睹了幾十種視頻生成工具的問世,基于 AI 的視頻創作方式開始流行起來。
但新技術也引發更多的挑戰與質疑,除了大家熟知的 “開盲盒”現象,AI 所生成的視頻內容也因可控性差、處理工作流繁瑣而頻頻被詬病。
OpenAI 曾經邀請專業視頻制作團隊對 Sora 進行了測試,其中來自于多倫多的 Shy Kids 團隊,利用 Sora 制作了一個氣球人主題的短片,把創意和 AI 技術進行了完美的結合,讓人印象深刻。
整個短片其實并不是 Sora 直接輸出的結果,而是由多個視頻片段組成,且 Sora 在生成不同視頻時,很難保證主角的一致性。因此,在引入了大量的人工后期編輯,他們才呈現出最終的短片效果。Shy Kids 的主創們總結,“Sora 的技術很酷,但是它的生成過程很難控制。”
對生成內容的精準可控,是 AI 視頻創作中的重要需求,也是今天算法面臨的一大挑戰。
為此,在剛結束的上海世界人工智能大會(WAIC)上,達摩院發布了一站式 AI 視頻創作平臺 “尋光”。
其定位為 PUGC 一站式 AI 視頻創作平臺,可輔助用戶創作劇本、分鏡圖等,并通過工作流整合提升創作全流程的效率,支持對生成及上傳素材進行豐富的 AI 編輯,提供人物控制、場景控制、風格遷移、運鏡控制、目標新增 / 消除 / 修改等十多種 AI 編輯功能,讓視頻中的元素和對象精準可控。
達摩院希望借由尋光平臺進一步提升 AI 視頻創作的效率,目標是用 AI 能力重塑傳統視頻制作的整個流程,打造 AI 時代的全新視頻工作流。
業界首次落地
基于圖層的視頻編輯
在尋光研發的初期,達摩院還與影視傳媒從業者及創作者進行了廣泛且密集調研,了解其對于視頻 AIGC 創作的需求與痛點。他們發現,視頻圖層幾乎是所有視頻創作者們提到頻次最高、最迫切的需求。
基于此,尋光平臺首次在行業推出系統性的視頻圖層編輯功能。用戶通過文本輸入,即可生成符合文本描述且具有透明背景的視頻,并且一鍵將其融合到其他背景視頻當中。在傳統視頻生成能力的基礎上,用圖層這樣一種更靈活的形式來產生內容。
尋光更提供圖層拆解功能,輕輕一圈,選定目標立刻拆解為單獨的圖層視頻,再絲滑嵌入不同的背景視頻。
用戶可以將不同的前景圖層跟不同的背景進行圖層融合,組合出更多新的視頻。圖層融合的能力進一步激發 AI 創作力和想象力,同時能夠保持多個分鏡頭之間的場景和人物的一致性。
在達摩院看來,AI 不會取代創作者的工作,而是會優化視頻創作的工作流,成為創意驅動的新引擎。
一站式 AI 創作平臺
更簡潔的交互,更豐富的編輯能力
劇本創作、分鏡設計、素材編輯…… 傳統的視頻創作步驟分工明晰、周期冗長。在 AI 技術的加持下,原本分散在不同制作流程中的創作步驟,如今都可以在尋光平臺上流暢完成。
“我們希望讓視頻編輯像操作 ppt 一樣簡潔直觀,容易上手。” 達摩院視覺技術實驗室高級算法專家陳威華在現場介紹,尋光平臺的一大亮點在交互方面。
尋光平臺在設計時便充分考慮到 AI 視頻創作的特點,將每個視頻項目抽象為多個分鏡頭畫面,用戶可根據劇本自動生成一組分鏡頭,也可以自己上傳原始視頻素材,由算法切分成多個分鏡頭。
在創作空間里,用戶可以很方便的查看每一個分鏡頭,一個場景內的多個分鏡頭可以收起或者展開,場景之間可以通過拖拽來調整順序,場景內的分鏡頭也可以進行拖拽。用戶也可以在任意位置上進行分鏡頭的添加和新建,可調用圖片生成或者視頻生成能力去產生內容,也可以添加自己已有的各種素材。
對于每個分鏡頭,尋光提供完整且智能的 AI 視頻編輯能力進行處理,可依據用戶意圖,在語義層面而不是像素層面實現編輯。分鏡頭里的人體、人臉、前景、背景等任意局部目標,都可以進行精細化的編輯和修改。
比如,理解空間景深的運鏡控制;
又比如,能夠理解物體相對關系的目標消除 / 修改。
在對視頻全局元素的編輯上,尋光平臺提供了超過20種的風格遷移。
尋光也提供幀率控制、視頻超分等實用的視頻編輯功能。
“我們希望一個視頻里的所有元素都是可編輯、可修改的,這樣可以給用戶的創作提供最大的自由度”,陳威華說。
寫在最后
今天,我們正處在 AIGC 的變革浪潮之中,AI 有可能催生出新的視頻工作流。無論是專業的影視從業者還是熱愛創作的 UGC 用戶,都將從中獲益。
“工欲善其事,必先利其器”,達摩院希望尋光視頻創作平臺能夠成為每一位創作者的專屬視頻工作室,實現 AI 與創作者之間更緊密、高效的協作,真正釋放 AI 的生產力。
為此,達摩院視覺技術實驗室已做了大量技術儲備。該實驗室致力于多模態視覺信號的理解與生成技術研究,當前的重點研究方向包括更加精準的圖像 / 視頻 /3D 內容生成,更加可控的圖像 / 視頻 /3D 內容編輯,更加高效的生成框架,多模態的理解 - 生成框架等。
陳威華表示,“尋光”將于近期開放內測,持續迭代,優化交互,歡迎創作者們來定制屬于自己的 AI 工作流。
文章內容僅供閱讀,不構成投資建議,請謹慎對待。投資者據此操作,風險自擔。
海報生成中...
海藝AI的模型系統在國際市場上廣受好評,目前站內累計模型數超過80萬個,涵蓋寫實、二次元、插畫、設計、攝影、風格化圖像等多類型應用場景,基本覆蓋所有主流創作風格。
IDC今日發布的《全球智能家居清潔機器人設備市場季度跟蹤報告,2025年第二季度》顯示,上半年全球智能家居清潔機器人市場出貨1,2萬臺,同比增長33%,顯示出品類強勁的市場需求。