AI生成內容都要「貼標籤」！歐盟新規強制企業加上數位浮水印 預防假訊息

歐盟「人工智慧法案」新規2日上路，企業須開始對聊天機器人、深偽技術及AI生成內容等，加上標記與數位浮水印等標籤，被視為AI的「cookie橫幅時刻」重演，網路將如同先前不斷冒出cookie通知一樣，湧現大量AI通知，目的雖是提高透明度、預防假訊息，但業界擔心過度標記反而變成一種疲勞轟炸。

從網路零售商到旅遊業者、廣告代理商等歐洲企業，正競相為聊天機器人、深偽技術及AI生成的行銷素材加上標籤，以符合歐盟推出的首批針對消費者的AI法規。新規要求企業在客戶與AI系統互動時必須充分告知，並再由AI生成的圖像、音訊和視訊上予以標示，未遵守者將被處罰款。

Cooley律師事務所的律師梵‧埃克形容，這將是AI的「cookie橫幅時刻」。他指的是在歐洲隱私體制下無所不在的cookie通知。他說，目前為止，AI法案在很大程度上依然相當抽象，不過可以確定的是大家都將開始看到標籤，告知某些內容是由AI生成的。

歐盟其實也是藉此測試，看看能否在不減緩技術採用速度的情況下，讓AI對消費者更加透明。歐盟執委會主席范德賴恩希望當地企業更迅速地採用AI，以免在全球AI競賽中落後美國和中國。布魯塞爾已公布AI超級工廠計畫、增加對算力的投資，並承諾減少官僚流程以提升競爭力，並降低歐洲對美國科技供應商的依賴。

然而，許多公司認為，當局要求企業加快部署AI，卻又得遵守仍難以解讀的新規則，實在非常為難，因為執委會在新規開始適用前幾周才公布指引，讓企業幾乎沒有時間調整。德國電商Zalando表示，執委會的指引增添「另一層不必要的監管」，「新的指引並未帶來我們所期待的清晰度」。

此外，執委會的指引也可能引發「執行碎片化」的風險，因為不同的企業可能會對規則有不同的解讀。

零售遊說團體歐洲商業（Eurocommerce）也警告，無差別加標籤的方式可能產生不合比例的法遵成本，同時也讓消費者感到困惑。加上標籤的目的原本是讓消費者與AI生成的素材互動時，能提高警覺。但歐洲電腦暨通訊產業協會（CCIA Europe）警告，該指引對「深偽」技術的定義過於廣泛，導致幾乎任何AI生成的內容都需要加上標籤，「如果每張圖片和內容都一視同仁地對待，那加標籤就一點意義也沒有了」。

不過執委會官員指出，業者對於「即使透過AI進行小幅修改也需過度標記」的想法是誤解，並指出這是與產業界諮商後推出的新規，已更符合比例原則。

對部分公司而言，新規不過將是其已採用的措施正式化，例如線上西洋棋平台Chess.com執行長阿萊貝斯特指出，該公司深知，讓用戶明確知道對手是真人或機器人，至關重要。該平台上個月有超過2.5億場人類與機器人的對弈。

這些提高透明度的規則，僅是歐盟AI法案的一部分。該法案已於2024年8月生效，但並未一次同時上路。歐盟執委會2日也獲得新權力，得以審查具有「系統性風險」的通用AI模型。一旦違規，科技公司最高恐被處以上一年度全球總營業額3%或1,500萬歐元的罰款。

然而，在科技業及部分歐盟國家的壓力下，執委會已將所謂「高風險系統」的法規要求延後至2027年12月上路。對此，一位律師指出，「問題不在於這項法案有多繁重，而在於它難以預測且不斷變動。企業非常不喜歡這點」。