鏡頭切換自然,節(jié)奏有急有緩,創(chuàng)作這樣高質(zhì)量的視頻,需要怎樣的專業(yè)剪輯技巧?
答案是,不用剪,會寫就行。
比如要剪輯一個有關(guān)長頸鹿的片段,你只需要告訴AI:
The giraffe is the world’s tallest animal, and well known for its long legs and neck.
長頸鹿是世界上最高的動物,以其長腿和長脖子聞名于世。
It has a brown mane on the neck, and its head has two hairy horns.
它的脖子上有棕色的鬃毛,頭上長了兩只毛茸茸的角。
AI就能自動剪輯完成這樣的畫面:
先展示一下長頸鹿群的全貌。接著鏡頭切給一只奔跑中的長頸鹿,展示一下它的長腿長脖子。按照指示,再給鬃毛和犄角來個特寫,齊活!
是的,不再需要費勁挑選素材,一幀一幀地來回倒騰:
△剪輯真是體力活
只需要把你腦海中的創(chuàng)意轉(zhuǎn)化成簡短的文字,這個名叫Write-A-Video的AI就能讀懂你的心,從選材到剪輯,一站式完成創(chuàng)作。
這就是北航、清華、哈佛和以色列赫茲利亞跨學(xué)科研究中心的科學(xué)家聯(lián)手打造的最新AI神器,只需主題腳本,就能生成視頻。
用文字創(chuàng)作視頻
現(xiàn)在,準備好素材,我們一起來看看,Write-A-Video到底是怎樣“寫”出一個視頻來的。
整個過程分為三步。
第一步,用戶以文本的形式提供輸入。Write-A-Video會挑選出句子中的關(guān)鍵詞。
第二步,Write-A-Video會利用關(guān)鍵詞,把素材庫里與之相匹配的候選片段挑出來。
文本和鏡頭之間的視覺語義匹配主要包括兩個步驟:關(guān)鍵字匹配和視覺語義嵌入。
首先,AI會根據(jù)腳本從素材庫中檢索所有帶有關(guān)鍵字標簽的視頻鏡頭。
素材庫中的所有視頻均被分割為快照,便于語義匹配,還能在下一步正式剪輯視頻時,讓用戶用電影術(shù)語來指導(dǎo)AI創(chuàng)作。
Write-A-Video的作者,北京航空航天大學(xué)的汪淼老師介紹說,Write-A-Video允許用戶在輸入文本中使用電影術(shù)語,以探索每個場景不同的視覺風(fēng)格,比如調(diào)整電影的節(jié)奏,畫面的調(diào)動等。
此外,采用基于直方圖的分割算法,如果幀與幀之間在HSV色域中的直方圖相差超過80%,并且追蹤的SURF關(guān)鍵點80%以上不匹配,那么算法就會以這兩幀為界,切分鏡頭。
太長(>30s)或太短(<2s)的鏡頭也會被舍棄,因為短鏡頭觀感不好,而長鏡頭會降低效率和可變性
而后,視覺語義嵌入技術(shù)會為每個檢索到的鏡頭計算匹配分數(shù),排名最高的鏡頭就會被選為候選鏡頭。
這里采用的方法是 VSE++ (論文地址見文末)。該方法能將跨模型內(nèi)容編碼到聯(lián)合特征空間中,比如把文本和鏡頭聯(lián)系起來。
在嵌入空間中,從鏡頭中每十幀抽取一幀,計算其與文本之間的余弦相似度,最后取平均值,即為判斷鏡頭能否入選的最終得分。
第三步,就是將這些鏡頭組合在一起,完成視頻的剪輯。
這一步,其實是Write-A-Video對鏡頭的混合優(yōu)化。而它也有自己的審美標準。
首先,畫面應(yīng)該是明亮而生動的。
其次,鏡頭不能晃動得太厲害。
最后,要避免不連貫的跳接(jump cut)和相反的相機運動。
值得一提的是,Write-A-Video對用戶非常友好。
△加上新的文本,對應(yīng)素材就自動續(xù)上了
查找對應(yīng)鏡頭,剪切,重新排列,都可以用添加、刪除文本及移動句子等文本編輯的形式進行。不用掌握剪輯技巧,更不用會敲代碼。
不僅如此,在下面這個視頻中,你會發(fā)現(xiàn),敲進去的文字可以轉(zhuǎn)成配音旁白,渲染影片氣氛。
并且,旁白和視頻完全同步,對應(yīng)得十分自然。提到白金漢宮時,鏡頭就自然地轉(zhuǎn)到了白金漢宮門前。而提到皇家護衛(wèi)隊時,畫面便給到了表演中的皇家護衛(wèi)隊。
研究團隊表示,跟商用的逐幀處理視頻編輯器比起來,用上Write-A-Video,創(chuàng)作起來快多了。
有了Write-A-Video,甚至新手,都能以快得多的速度(13分鐘:7小時),完成質(zhì)量與職業(yè)剪輯師差距不大的視頻剪輯任務(wù)。
△剪輯師用Pr,新手用Write-A-Video
在剛剛結(jié)束的SIGGRAPH Asia 2019會議上,研究團隊報告并展示了Write-A-Video這一成果,得到了國際同行的廣泛認可。