相信很多大家對(duì)用AI打假AI，這些倒反天罡的AI應(yīng)用正在悄悄走紅還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

“不要相信你現(xiàn)在看到的任何東西?！边@是X上的一位AI圈博主在看完最近爆火的AI偽造版TED演講發(fā)出的感慨。

誰(shuí)還記得，一年前AI生成的視頻是這樣的:

生成式AI將互聯(lián)網(wǎng)帶入到了一個(gè)真假難辨的深偽時(shí)代。

“有圖有真相”在過(guò)去是網(wǎng)友求證文字信息真實(shí)性時(shí)常引用的一句話，如今即便是圖片和視頻也完全有可能是AI生成的“假象”。

圍繞如何分辨AI，近期社交媒體上掀起了一股AIGC內(nèi)容打假熱。

實(shí)戰(zhàn)派通過(guò)小游戲練就識(shí)別AI的火眼金睛。8月5日微軟總裁Brad Smith在X平臺(tái)上發(fā)布了一個(gè)名叫“Real or Not?”的測(cè)試小游戲。玩法很簡(jiǎn)單，每一輪游戲有15張圖片，玩家來(lái)判斷哪張是AI生成的，哪張是真實(shí)的。

游戲地址:

https://www.realornotquiz.com/

辨別難度之高，只錯(cuò)一道題的游戲表現(xiàn)可以超過(guò)92%的玩家。

在實(shí)戰(zhàn)派還停留在用肉眼“鑒AI”時(shí)，技術(shù)派寄希望于用AI打敗AI。X博主“Deedy”近期利用Claude的新功能Artifacts開(kāi)發(fā)了一個(gè)簡(jiǎn)易工具，通過(guò)調(diào)整圖像飽和度來(lái)識(shí)別AI生成的圖片，僅在X平臺(tái)上就獲得了超140萬(wàn)的瀏覽量。

工具地址:

https://claude.site/artifacts/6890e3d7-e65e-41ff-a7d4-3ccb38040b46

雖然這種檢測(cè)方法很快被網(wǎng)友實(shí)測(cè)打假:僅憑圖片的壓縮跡象和色彩偏差來(lái)推斷圖片是否出自AI之手，這種鑒別方法存在誤導(dǎo)性。因?yàn)轭?lèi)似的視覺(jué)特征可能僅僅是環(huán)境因素導(dǎo)致的，如光照變化或物體表面的反射效果。

但也從側(cè)面體現(xiàn)出，隨著AI生成的內(nèi)容愈發(fā)逼真，越來(lái)越多真假難辨的圖片和視頻正在迅速占領(lǐng)社交媒體，“鑒AI”也因此從創(chuàng)作者維權(quán)、約稿插畫(huà)師等小眾圈層需求走向大眾視野。

實(shí)際上，這種需求早已推動(dòng)AI技術(shù)在識(shí)別AI生成內(nèi)容方面的應(yīng)用。

從文字到圖片再到視頻，都有相應(yīng)的AI檢測(cè)工具陸續(xù)問(wèn)世。其中一款A(yù)I檢測(cè)工具甚至在過(guò)去6個(gè)月里，用戶規(guī)模從100萬(wàn)增長(zhǎng)到400萬(wàn)，實(shí)現(xiàn)了盈利。這些AI檢測(cè)工具靠譜嗎?我們進(jìn)行了一番探究。

用AI打假AI，GPTZero半年增長(zhǎng)300萬(wàn)用戶

生成式AI對(duì)不同內(nèi)容形式的影響程度，通常與技術(shù)成熟度、市場(chǎng)需求和用戶接受度有關(guān)。

在ChatGPT引領(lǐng)的這波生成式AI浪潮中，文本內(nèi)容是首先取得突破的領(lǐng)域，也是目前AI檢測(cè)工具應(yīng)用較為成熟的領(lǐng)域。

賽道上的佼佼者——GPTZero，僅成立一年半就實(shí)現(xiàn)了數(shù)百萬(wàn)美元的收入。在過(guò)去6個(gè)月里，其用戶規(guī)模從100萬(wàn)增長(zhǎng)到400萬(wàn)，AAR（年度經(jīng)常性收入）增長(zhǎng)了500%。用戶群體也從最初以教師為主，擴(kuò)展到了政府采購(gòu)機(jī)構(gòu)、慈善機(jī)構(gòu)以及招聘經(jīng)理和AI訓(xùn)練數(shù)據(jù)標(biāo)注員等。

GPTZero由普林斯頓大學(xué)生Edward Tian于2022年底創(chuàng)建，最初只有一個(gè)簡(jiǎn)單的功能，即根據(jù)用戶輸入的內(nèi)容，返回該內(nèi)容由AI生成的概率有多大。

GPTZero基本文本檢測(cè)的早期UI界面

如今GPTZero的網(wǎng)頁(yè)端已經(jīng)相當(dāng)完善且易用，用戶直接在交互框中復(fù)制黏貼文本或上傳文件，即可對(duì)文本進(jìn)行AI檢測(cè)。

GPTZero目前提供免費(fèi)試用，但每次檢測(cè)字符不能超過(guò)5000字。如需進(jìn)行更長(zhǎng)的本文檢測(cè)，可以選擇最低每月10美元的付費(fèi)訂閱服務(wù)，以獲得更多的字符檢測(cè)額度和功能。（體驗(yàn)地址:https://gptzero.me/）

在不超過(guò)免費(fèi)試用字符的情況下，我們分別節(jié)選美國(guó)憲法、ChatGPT-4o生成的《黑神話:悟空》大鬧天宮版游戲結(jié)局和《西游記》三打白骨精原文對(duì)GPTZero進(jìn)行了實(shí)測(cè)。

其中，GPTZero在識(shí)別美國(guó)憲法和ChatGPT-4o生成的文本方面表現(xiàn)出較高的精準(zhǔn)度。它成功識(shí)別出美國(guó)憲法為人類(lèi)撰寫(xiě)的概率高達(dá)99%，而ChatGPT-4o生成的文本中只有幾個(gè)句子有“人類(lèi)影響”的痕跡。

美國(guó)憲法節(jié)選

得到全文檢測(cè)結(jié)果后，用戶還可以使用“Deep Scan（深度掃描）”功能進(jìn)一步識(shí)別分析每個(gè)單句的AI含量如何。目前免費(fèi)賬號(hào)每天僅支持3次深度掃描。

ChatGPT-4o生成的《黑神話:悟空》大鬧天宮版游戲結(jié)局節(jié)選

在識(shí)別中文文本上，GPTZero給出的結(jié)果相當(dāng)離譜:它認(rèn)為《西游記》中三打白骨精原文有75%的概率是AI生成的，但眾所周知《西游記》作者吳承恩可是生活在電腦都還沒(méi)有出現(xiàn)的明代。

《西游記》三打白骨精原文節(jié)選

在我們嘗試進(jìn)一步查看該判斷的數(shù)據(jù)依據(jù)時(shí)，GPTZero直接報(bào)錯(cuò)，顯示它不支持對(duì)該語(yǔ)言進(jìn)行數(shù)據(jù)溯源?？梢?jiàn)，GPTZero不合適用來(lái)檢測(cè)中文文本，可能是其沒(méi)有進(jìn)行過(guò)相關(guān)數(shù)據(jù)訓(xùn)練。

此外，相關(guān)的AI數(shù)據(jù)集和抄襲匹配功能也都僅付費(fèi)會(huì)員才能使用。

AI文本檢測(cè)工具頻繁翻車(chē)，賽道依舊火熱

GPTZero自2023年1月正式推出以來(lái)迅速走紅，重要原因在于它滿足了教育界對(duì)于檢測(cè)AI作弊的需求。去年10月，GPTZero還和美國(guó)教師聯(lián)合會(huì)達(dá)成了一項(xiàng)協(xié)議，幫助教師檢測(cè)由ChatGPT等大語(yǔ)言模型生成的學(xué)生作業(yè)。

但與此同時(shí)，GPTZero的走紅也伴隨著一定爭(zhēng)議。

例如，曾有網(wǎng)友實(shí)測(cè)發(fā)現(xiàn)，GPTZero會(huì)把美國(guó)憲法誤判為AI生成的文本。

在實(shí)際應(yīng)用中，GPTZero一類(lèi)的AI檢測(cè)工具的準(zhǔn)確性也備受質(zhì)疑。如果教師僅依據(jù)這類(lèi)工具的結(jié)果來(lái)判斷學(xué)生是否利用AI進(jìn)行學(xué)術(shù)造假和寫(xiě)作，可能會(huì)導(dǎo)致無(wú)辜的學(xué)生受到不公正的對(duì)待。

這種情況不是個(gè)例。

在AI檢測(cè)工具的“獵巫”下，即便是那些寫(xiě)作過(guò)程中沒(méi)有用到AI的學(xué)生，為了確保自己的論文能通過(guò)AI檢測(cè)，也不得不開(kāi)始氪金使用這類(lèi)工具，識(shí)別那些可能被AI標(biāo)記為“AI生成”的文本段落。

就像大模型對(duì)話類(lèi)產(chǎn)品一樣，GPTZero也在用戶交互框下加了一行免責(zé)聲明的小字:“This result should not be used to directly punish students.（不能依據(jù)這個(gè)結(jié)果來(lái)懲罰學(xué)生）”。

也就是說(shuō)，GPTZero的檢測(cè)結(jié)果僅供參考，并不能作為判斷學(xué)生是否利用AI進(jìn)行學(xué)術(shù)寫(xiě)作的最終依據(jù)。

而在國(guó)外科技媒體TechCrunch實(shí)測(cè)中，其他同類(lèi)型工具AI Writing Check、Copyleaks、GPTRadar、CatchGPT和Originality.ai，準(zhǔn)確率表現(xiàn)都不如GPTZero。

包括OpenAI也曾在2023年初推出了一款A(yù)I檢測(cè)工具，但因檢測(cè)成功率僅有26%，七個(gè)月后OpenAI就關(guān)閉了該工具。近期，《華爾街日?qǐng)?bào)》報(bào)道稱OpenAI已經(jīng)開(kāi)發(fā)出一款能夠高精度識(shí)別ChatGPT生成文本的工具，但出于種種利益相關(guān)原因遲遲沒(méi)有發(fā)布。

還有業(yè)內(nèi)人士認(rèn)為AI檢測(cè)器的反向應(yīng)用思路是，其難以給出高準(zhǔn)確度判斷的內(nèi)容生成領(lǐng)域，恰好證明是更適合AI產(chǎn)品應(yīng)用的領(lǐng)域，例如營(yíng)銷(xiāo)文案和廣告語(yǔ)，包括GPTZero在內(nèi)的主流識(shí)別AI檢測(cè)器都出現(xiàn)了誤判。

TechCrunch實(shí)測(cè):營(yíng)銷(xiāo)類(lèi)文案所有檢測(cè)器都出現(xiàn)誤判

GPTZero的檢測(cè)原理中有兩個(gè)重要指標(biāo):困惑度和突發(fā)性。困惑度和突發(fā)性越高，文本的“人味”就越高;與之相反，AI生成的文本往往具有較低的困惑度，可預(yù)測(cè)性更高。

此外，GPTZero的CTO Alex Cui曾透露，GPTZero之所以更準(zhǔn)確是因?yàn)樗鼡碛懈嗟臄?shù)據(jù)，檢測(cè)使用的大語(yǔ)言模型是基于開(kāi)源工具構(gòu)建的。

換言之，GPTZero也只是一個(gè)“套殼”產(chǎn)品，但它的優(yōu)勢(shì)在于數(shù)據(jù)。

不止文本，多模態(tài)AI檢測(cè)產(chǎn)品正在涌現(xiàn)

文本檢測(cè)領(lǐng)域已經(jīng)跑出了一個(gè)GPTZero，而多模態(tài)AI內(nèi)容檢測(cè)的賽道才剛剛方興未艾。

針對(duì)圖片、視頻和音頻等內(nèi)容的AI檢測(cè)工具，海外已經(jīng)涌現(xiàn)出了Hive AI、AI or Not、Nuanced等產(chǎn)品。

國(guó)內(nèi)近期官宣內(nèi)測(cè)或上線的多模態(tài)AI內(nèi)容檢測(cè)工具也不少。例如，創(chuàng)始團(tuán)隊(duì)有清華大學(xué)背景的瑞萊智慧（RealAI）推出了一個(gè)面向個(gè)人的產(chǎn)品級(jí)檢測(cè)工具“尊嘟假嘟”，英文名為RealBelieve，可以讓AI偽造的圖像、音頻和視頻現(xiàn)出原形。

尊嘟假嘟視頻通話實(shí)時(shí)檢測(cè)內(nèi)測(cè)界面，來(lái)源:36氪

無(wú)論是海外還是國(guó)內(nèi)，雖然大部分AI檢測(cè)產(chǎn)品主要服務(wù)政府機(jī)構(gòu)和企業(yè)級(jí)用戶，但隨著大眾“鑒AI”的需求日益旺盛，一些產(chǎn)品也開(kāi)始向C端用戶開(kāi)放。

像AI or Not就支持個(gè)人用戶檢測(cè)圖片和音頻，界面交互使用起來(lái)也相當(dāng)方便。

數(shù)字內(nèi)容偽造檢測(cè)企業(yè)“中科睿鑒”近期完成新一輪融資，目的也是將業(yè)務(wù)線從ToG拓展成ToG、B和C三條產(chǎn)品線，實(shí)現(xiàn)AI鑒偽產(chǎn)品的規(guī)?；?。

目前，中科睿鑒已面向大眾開(kāi)放了文本、圖像和視頻檢測(cè)服務(wù)。在微信小程序搜索“睿鑒AI”即可體驗(yàn)。

與文本檢測(cè)一樣，多模態(tài)AI內(nèi)容檢測(cè)工具也存在準(zhǔn)確率不高的問(wèn)題。

我們用AI偽造的TED演講美女照片，測(cè)了測(cè)AI or Not，它認(rèn)為圖片“Likely Human（大概率是真人）”，如果想進(jìn)一步查看更多檢測(cè)信息，則需要付費(fèi)開(kāi)通會(huì)員。

最近X上也有網(wǎng)友嘗試使用市面上的AI圖像檢測(cè)工具，來(lái)鑒別美國(guó)大選哈里斯的集會(huì)場(chǎng)面是否是AI生成的。但被人反駁說(shuō)并不存在“所謂的精確的人工智能圖像檢測(cè)器”，因?yàn)楹芏嘤脩羯蟼鳈z測(cè)的圖片是失真的，尤其是來(lái)自壓縮視頻的截圖。

生成式AI制造的深度偽造風(fēng)險(xiǎn)，僅憑AI檢測(cè)工具是不足以解決的，還需要從法律和平臺(tái)監(jiān)管層面共同努力。

而GPTZero創(chuàng)始人Tian提出的AI檢測(cè)愿景，也不僅僅只是提供單點(diǎn)的檢測(cè)功能，而是通過(guò)創(chuàng)建一個(gè)獨(dú)立的互聯(lián)網(wǎng)檢測(cè)平臺(tái)，確保人類(lèi)和AI生成的內(nèi)容都能得到正確的歸屬。

以上就是關(guān)于【用AI打假AI，這些倒反天罡的AI應(yīng)用正在悄悄走紅】的相關(guān)內(nèi)容，希望對(duì)大家有幫助！

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場(chǎng)無(wú)關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請(qǐng)聯(lián)系刪除！