隨著AI技術(shù)的不斷發(fā)展，其生成的文章、圖片和視頻作品越來越多，比如我們在刷短視頻時(shí)，常常會看到這樣的提示：內(nèi)容疑似AI生成。每次看到這，有人難免產(chǎn)生疑問，平臺是怎么識別出來的？肉眼看到的明明是真人啊，為啥懷疑是AI作品呢？

AI生文

一般情況下，單純由AI生成的文章可能較難被直接識別出來。然而，AI生成的文字往往在語言表達(dá)和邏輯結(jié)構(gòu)上展現(xiàn)出一種模式化的特征，一旦大量復(fù)制此類內(nèi)容，或是作品的語言風(fēng)格、結(jié)構(gòu)等與AI生成的典型模式高度吻合，就有可能被識別出來。

西湖大學(xué)工學(xué)院副院長、國際自然語言處理領(lǐng)域知名專家張?jiān)辣硎?，機(jī)器的思考偏向“統(tǒng)計(jì)性”，而人類的思考里除了“統(tǒng)計(jì)性”，還有“因果性”。人類能從經(jīng)驗(yàn)中提煉因果邏輯，而AI缺乏這種認(rèn)知深度。具體體現(xiàn)在當(dāng)遇到困難，人類會反思，但這種能力大模型尚不具備。

以寫文章為例，AI的寫法是學(xué)習(xí)現(xiàn)有的數(shù)據(jù)，從中挑選最“安全”的詞，也就是按照概率高低來選詞，這和人類寫作的創(chuàng)造性有本質(zhì)區(qū)別。例如在“我吃了一頓……”這個(gè)句式中，機(jī)器往往會在“吃”這一動(dòng)詞后使用搭配概率較高的“飯”，但人類可能會說：“我吃了一頓美味?！?/p>

再比如，只學(xué)過三位算數(shù)的AI并不能保證四位算數(shù)的準(zhǔn)確率。或者，生成文本時(shí)，若遇到訓(xùn)練數(shù)據(jù)外的場景，AI可能編造出看似合理實(shí)則虛構(gòu)的“幻覺內(nèi)容”，杜撰出一篇不存在的論文。這樣的“致命傷”導(dǎo)致AI在虛擬世界的“聰明”和在物理世界的“笨拙”形成了鮮明對比。

還有一些反作弊手段，比如某些學(xué)?；蚩荚嚈C(jī)構(gòu)，通過查重系統(tǒng)等來檢測作文是否存在抄襲或大量使用AI生成的情況，如果作文與已有大量文本相似度較高，就可能被判定為違規(guī)。某些作文中出現(xiàn)大量過于流暢、缺乏個(gè)性的語句，或者邏輯過于規(guī)整而缺乏真實(shí)思考的痕跡等，都可能引起懷疑。

AI生圖

早期，AI生圖的技術(shù)并不完美，經(jīng)常會留下操縱跡象。信也科技算法科學(xué)家呂強(qiáng)表示，通過肉眼分辨圖片是否為合成，可以重點(diǎn)觀察圖片中的細(xì)節(jié)，例如觀察圖片中的手指數(shù)量是否正常、眼神是否怪異、發(fā)絲看起來是否真實(shí)等，如果一個(gè)眼睛看前、一個(gè)眼睛看左就有問題。另外，生成的照片通常在光影上存在瑕疵，并缺乏照片基本參數(shù)，例如曝光等。但隨著AI的進(jìn)步，這種觀察變得困難。

不過，研發(fā)這些AI圖片檢測軟件的工作人員尤其注意到，如果要辨別一張人像的真?zhèn)?，通過分析圖像中人物的眼睛細(xì)節(jié)會是一種非常有效的方法。

人類的眼睛構(gòu)造非常復(fù)雜，在光的折射下，人眼的反射角度、瞳孔的變化都會有很多細(xì)節(jié)的不同?，F(xiàn)在的技術(shù)已經(jīng)發(fā)展到可以從一段真實(shí)視頻中的人物眼睛反射的“鏡中像”，來分析人物所處環(huán)境甚至看到人物對面站著的人臉等細(xì)節(jié)。但目前“AI生成”的圖片中，人像的眼睛是不可能保存這樣的細(xì)節(jié)的，簡單地說，看一張“AI生成”人像的眼球瞳孔的形狀就可以一眼辨別真?zhèn)?，因?yàn)檎鎸?shí)的照片中人眼瞳孔形狀通常是規(guī)則的圓形或者橢圓形，而AI照片中瞳孔形狀大多是不規(guī)則的。

呂強(qiáng)指出，一種更高效的方法是采用AI對抗AI。通過AI識別，首先需要構(gòu)建一個(gè)包括真圖和假圖的訓(xùn)練數(shù)據(jù)集，再利用大模型學(xué)習(xí)兩類圖片的不同特征，例如用AI學(xué)習(xí)圖片曝光細(xì)節(jié)，“一張很灰暗的圖片出現(xiàn)了一張整體偏白的人臉，這張圖片可能就是經(jīng)過人臉替換的。但有些人對光線不敏感，人眼可能就識別不出來?！碑?dāng)大模型擁有了各類細(xì)節(jié)的識別能力后，“把這些能力匯總起來，就構(gòu)成了一個(gè)真假圖片的辨別矩陣，然后對矩陣結(jié)果打分，最終給出來一個(gè)真假圖片的評判結(jié)果?！辈贿^，他也表示，利用AI識別生成圖片，算法復(fù)雜度并非難點(diǎn)，挑戰(zhàn)在數(shù)據(jù)：一是可能沒有那么多假樣本，二是要想讓假樣本覆蓋到很多領(lǐng)域也有挑戰(zhàn)。

AI生視頻

目前，大多數(shù)視頻都可以用AI生成，只不過這里很讓人頭疼的當(dāng)屬“換臉”視頻，令人防不勝防，特別是對那些不太了解AI的人，一騙一個(gè)準(zhǔn)兒，事后還要搖著腦袋說，這肯定不是AI。

事實(shí)上，AI 偽造視頻所用的技術(shù)并不是最近才出現(xiàn)的，上世紀(jì)九十年代學(xué)術(shù)界就開始了面部替換和圖像生成相關(guān)技術(shù)的研究。2014 年，伊恩·古德費(fèi)洛（Ian Goodfellow）提出了生成對抗網(wǎng)絡(luò)（GAN，Generative Adversarial Network），使得計(jì)算機(jī)可以生成更為逼真且高質(zhì)量的圖像。隨著相關(guān)技術(shù)不斷進(jìn)步，AI不僅生成的視頻分辨率更高、面部表情同步更自然，而且所需的數(shù)據(jù)更少、訓(xùn)練時(shí)間更短。

那么如何識別和檢測一段視頻的真?zhèn)文?？最簡單的方法還是我們的“經(jīng)驗(yàn)判斷”——即用肉眼仔細(xì)分辨，還是能看出視頻中人物的一些異常，比如面部表情的扭曲或眼神的不自然、眨眼次數(shù)過少、人物面部邊緣模糊或者與背景的過渡明顯不自然，甚至是人臉的光影效果與周圍環(huán)境的光線情況不符等。

另外，在視頻通話時(shí)，如果你無法分辨眼前與你視頻通話的人是真是假，可以要求對方用手指按一按自己臉頰或鼻翼，因?yàn)槟壳耙阎娜四樂旅凹夹g(shù)，還不能仿冒人臉在受到外部壓力時(shí)產(chǎn)生的變形，如果變形明顯不正常，就可以判定對方是“換臉人”?；蛘呖梢栽谧约旱氖謾C(jī)上安裝相關(guān)的“打假”軟件，來檢測視頻的對方皮膚的顏色是否會隨正常的人類心跳頻率保持一致地有規(guī)律變化。

也許在不久的將來，這些招數(shù)都不好用了，因?yàn)檫@些異常可能會隨著技術(shù)本身的不斷提升變得越來越“正?！?，我們已經(jīng)不能完全相信自己的肉眼判斷了。

在國內(nèi)，有些企業(yè)將特定信息嵌入到多模態(tài)的數(shù)字載體中，支持圖像、視頻、音頻、文本等多模態(tài)數(shù)字載體，可以隱蔽嵌入水印信息，不影響原始內(nèi)容質(zhì)量和用戶感知，同時(shí)抵御攻擊，以免被刪除或修改。這類技術(shù)應(yīng)用到軟件中，那么識別AI視頻就會變得更加容易。

盡管當(dāng)前的技術(shù)大幅提高了對AI生成文本識別的準(zhǔn)確性，但張?jiān)捞寡?，不久的將來，AI可能會發(fā)展出“反偵察”技術(shù)，從而提高內(nèi)容識別難度，人與機(jī)器之間這種“矛”與“盾”的攻防角色會不斷互換、演進(jìn)。

令人擔(dān)憂的是，當(dāng)人類吸收的語料中越來越多混雜入AI生成內(nèi)容，人類的語言會不會越來越接近AI？張?jiān)辣硎荆S著互聯(lián)網(wǎng)上AI生成內(nèi)容的不斷增加，一批與AI相伴而生的年輕人可能會逐步學(xué)習(xí)AI的表達(dá)風(fēng)格。但人類的表達(dá)始終具有“因果性”，目前與AI還存在本質(zhì)區(qū)別。而未來，AI可能學(xué)會像人一樣思考，屆時(shí)識別難度可能更高。

編輯：晴晨本文綜合整理自文匯報(bào)、潮新聞、羊城晚報(bào)、澎湃新聞等本文封面圖及文內(nèi)圖片均由即夢AI生成。