相信很多大家對(duì)噩耗！SD3、FLUX.1等開源文生圖模型，可能將無法使用還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

比美國SB-1047更瘋狂的法案來了——AB-3211。

AB-3211是美國加州在今年2月16日制定的一項(xiàng)專門針對(duì)文生圖模型的法案，經(jīng)過6次修訂最近以62:0投票在州參議院通過。如果在立法會(huì)議結(jié)束前再次獲得通過，9月30日之前將提交給州長Gavin Newsom簽署最終執(zhí)行令。

OpenAI、微軟、Adobe等科技巨頭和多數(shù)州議員都支持該法案，通過只是時(shí)間問題。但AB-3211會(huì)對(duì)SD3、FLUX.1等知名開源文生圖模型在應(yīng)用、技術(shù)迭代方面造成巨大影響。

例如，文生圖模型沒有嵌入非常詳細(xì)、不可見且難以移除的元數(shù)據(jù)，這些元數(shù)據(jù)可以識(shí)別圖像是否由AI生成，并提供有關(guān)圖像生成方式、時(shí)間、生成服務(wù)的附加信息和水印。那么模型將是違法的，無法在HuggingFace、Github上進(jìn)行分享。

這對(duì)于很多小公司、學(xué)術(shù)機(jī)構(gòu)和個(gè)人開發(fā)者來說，無論是在資金還是技術(shù)層面都很難承擔(dān)的起，會(huì)徹底扼殺開源技術(shù)方面的創(chuàng)新。

曾經(jīng)反對(duì)過SB-1047法案的知名架構(gòu)師Daniel Jeffries認(rèn)為，AB-3211比SB-1047更瘋狂，這是一個(gè)病態(tài)法案。

AB-3211法案的很多要求都不合理，在技術(shù)層面上是一個(gè)很大的難題。加州正在梳理一個(gè)糟糕的監(jiān)管榜樣。

AB-3211法案的通過，將是一場災(zāi)難。

根據(jù)美國官方公布的最新AB-3211修訂內(nèi)容顯示，「AIGC開放社區(qū)」為大家解讀一下有哪些條款對(duì)開源不利。

法律責(zé)任:如果開源的文生圖模型被用于生成誤導(dǎo)性或有害的內(nèi)容，開發(fā)者需要承擔(dān)法律責(zé)任。

例如，如果有人使用 SD3模型生成了虛假的新聞圖片并廣泛傳播，導(dǎo)致了不良影響，那么原開發(fā)者也會(huì)因?yàn)槲茨艽_保模型的合理使用，面臨法律訴訟和最少2.5萬美元，最高10萬美元罰款。就這一條將會(huì)勸退很多開發(fā)者開源其產(chǎn)品。

來源數(shù)據(jù)和水印要求:“來源數(shù)據(jù)”是指嵌入到數(shù)字內(nèi)容中的信息，該信息可以用來驗(yàn)證內(nèi)容的來源、創(chuàng)作者以及生成或修改內(nèi)容的工具。這種數(shù)據(jù)類似于傳統(tǒng)的版權(quán)的元數(shù)據(jù)，但不可篡改且持續(xù)存在，以便于追蹤和驗(yàn)證內(nèi)容的真實(shí)性和完整性。

例如，SD3、FLUX.1等開源文生圖模型需要確保生成的圖像能夠，嵌入符合要求的來源數(shù)據(jù)，并且能夠通過對(duì)抗性測試來驗(yàn)證模型的安全性和可靠性。對(duì)于開發(fā)者來說，需要投入更多的技術(shù)資源來實(shí)現(xiàn)這些要求，極大增加開發(fā)成本和安全管理難度。

提供來源檢測工具和進(jìn)行對(duì)抗性測試:法案要求模型平臺(tái)提供來源檢測工具，并進(jìn)行廣泛的對(duì)抗性測試，以防止模型被用于添加虛假來源數(shù)據(jù)。

開源模型需要開發(fā)和公開用于檢測其模型生成的內(nèi)容的工具，并公布詳細(xì)的評(píng)估流程，保證生成內(nèi)容的安全性和可靠性。無形之中又增加了開發(fā)和維護(hù)的難度。

透明度報(bào)告:模型平臺(tái)每一年都要提交安全透明度報(bào)告，識(shí)別其平臺(tái)上欺騙性合成內(nèi)容的審核情況。例如，是否生成了色情、虐待、歧視等非法內(nèi)容，進(jìn)一步增加了開源模型的維護(hù)負(fù)擔(dān)。

不合理的條例還有很多，但從上述不難看出這些條款都是增加了開發(fā)技術(shù)難度。對(duì)于那些有大把資金和技術(shù)團(tuán)隊(duì)的大型閉源模型來說，修改到符合標(biāo)準(zhǔn)只是時(shí)間問題。也是為什么該法案會(huì)獲得了OpenAI、微軟等巨頭的支持，意在打壓那些開源模型。

但對(duì)于那些沒有資金、資源的開源開發(fā)者來說，已經(jīng)無法像以前一樣把項(xiàng)目直接扔在Github上就行了，需要一直改到符合技術(shù)標(biāo)準(zhǔn)為止，不然就無法分享你的項(xiàng)目。

以上就是關(guān)于【噩耗！SD3、FLUX.1等開源文生圖模型，可能將無法使用】的相關(guān)內(nèi)容，希望對(duì)大家有幫助！

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！