AIGC罰單警告：內容合規，勢在必行！

國內AIGC概念大火的這兩年，業界總存在一種聲音：AIGC產業處在蓬勃發展的關鍵時期，想要產業過得去，監管就應當“放一放”，讓AIGC從業者放手去做。其實很長一段時間內AI產業的監管業態也確實如此。縱觀目前國內與AIGC有關的糾紛、監管案件，多聚焦於AIGC服務的用戶，對AIGC服務提供者則較為寬容。不過就在上個月初，我國某直轄市網信部門開出了該市AIGC服務方的首張公開罰單，針對AIGC服務提供者的第一波監管大潮，恐怕即將來臨。

01 該直轄市首張AIGC服務提供者罰單是怎麼開出的

事情還是出在AIGC服務提供者的內容審查義務。某唱科技有限公司旗下經營有一個名為某某猴的AI寫作平台，該平台的主要功能與其他AI寫作平台類似——用戶可以利用該平台對輸入的文章進行擴寫，或者用戶可以輸入關鍵字讓平台針對該關鍵字產生對應的文章。問題就出現在這裡。經過用戶檢舉，監理機關發現某某猴AI寫作平台可以產生法律法規禁止的內容。根據官方通告，該直轄市下屬某區的網信部門認定某唱科技有限公司運營的“某某猴”AI寫作平台違規生成法律法規禁止信息，該企業未盡到主體責任義務，違反了《中華人民共和國網路安全法》《生成式人工智慧服務管理暫行辦法》等相關法規。

該區網信部門依據《中華人民共和國網路安全法》第六十八條之規定，給與行政警告處罰，並責令該公司嫌棄全面整改，加強內容審核，健全資訊內容安全管理相關制度，暫停網站資訊更新及AI演算法生成式寫作功能15日。

02 AIGC生成內容審核不到位，會承擔什麼後果

首先颯姐團隊帶各位梳理這個平台因何被罰，官方通告中顯示的該企業違反了《中華人民共和國網路安全法》和《生成式人工智慧服務管理暫行辦法》，先說網安法，該企業違反的具體法條是網安法第四十七條，即「網路業者應加強對其用戶發布的信息的管理，發現法律、行政法規禁止發布或者傳輸的信息的，應當立即停止傳輸該信息，採取消除等處置措施，防止信息擴散，保存有關記錄，並向有關主管部門報告”，違反這一條的法律後果則被規定在了網安法第六十八條，該條的內容是：網路業者違反本法第四十七條規定，對法律、行政法規禁止發布或傳輸的資訊未停止傳輸、採取消除等處置措施、保存有關記錄的，由有關主管部門責令改正，給予警告，沒收違法所得；拒不改正或情節嚴重的，處十萬元以上五十萬元以下罰款，並可以責令暫停相關業務、停業整頓、關閉網站、吊銷相關業務許可證或者吊銷營業執照，對直接負責的主管人員及其他直接責任人員處一萬元以上十萬元以下罰款。

換言之，該條實際上給了運營者一個改正的機會，第一次違法，只要問題不嚴重，沒有出現重大輿情（即認定情節不嚴重），那麼主管部門會責令違法企業改正、給予警告，沒收違法所得。只有當第一次受到處罰後依然出現問題（認定為拒不改正）或第一次違法已經造成了重大輿情影響等嚴重的後果（被判定為情節嚴重），那麼最嚴重的後果就是吊銷營業執照、吊銷相關業務許可證。

那這是不是說明AIGC平台產生法律法規所禁止的訊息，平台運作者最多就會受到行政處罰，不涉及到犯罪？顯然不是。 《中華人民共和國網路安全法》第七十四條規定：違反本法規定，構成犯罪的，依法追究刑事責任。具體構成什麼犯罪呢？如果AIGC服務的提供者拒不履行資訊網路安全管理義務，且監管部門命令採取監管措施後仍然不改正，致使違法資訊大量傳播的，就會構成我國刑法第二百八十六條之一拒不履行資訊網路安全管理義務罪，可處以三年以下有期徒刑、拘留或管制，並處或單處罰金。

03 AI大模型資料訓練的規定與實務經驗

颯姐團隊在與AIGC從業者交流過程中發現從業者多數有過這樣的抱怨：AI生成的內容確實無法控制，有時生成了違法信息，我們發現肯定會刪除，但根本不可能根治，這樣如果還被處罰那就太冤了。

這個情況確實存在，但那是前兩年。實際上，「大模型備案」不就是應對這種情況產生的機制嗎？我們所說的「大模型備案」就是《生成式人工智慧服務安全基本要求》裡規定的生成式人工智慧（大語言模型）上線備案。這個機制在2023年9月前的叫法是「大模型雙新評估」。大模型備案需要準備的資料中就有「安全自評估報告」「關鍵字攔截清單」「評估測驗題集」。其中關鍵字攔截清單和評估測驗題集就是為了應對大模型違規產生禁止內容而準備的。

颯姐團隊查了一下這次被處罰的「某某猴」AI寫作平台，果然在國家網信辦今年3月發布的大模型備案資訊公示中並沒有該平台。這也不奇怪。畢竟如果真的進行了大模型備案，關鍵字攔截清單和評估測試題都經過充分評估，那基本上是不可能生成違法內容的，也就不會出現後來的行政處罰了。

04 AIGC平台如何做到內容合規

颯姐團隊常開玩笑說，越是新興的行業，越要注意合規。當年的P2P如此，現在Web3、AIGC產業也是一樣。畢竟20年前的某部電影就告訴了我們這樣的一個道理：「出來混，遲早要還。」很多時候AIGC從業者抱怨上線一個AIGC平台又要經過評估又要經過備案，一個算法備案還不行，還得有所謂的「大模型備案」。其實這些評估和備案，最終是為了保障從業人員自身的安全。一旦經過了這些備案，大模型仍然產生了違規內容（這種情況理論上是可能的，雖然微乎其微），那麼AIGC服務的提供者也可以獲得「避風港」的庇護。畢竟在「內容合規」「主體責任」為王的當下，做到合規，就是保護了自己。