中國公布生成式AI管理辦法　產品提供者須確保內容無顛覆國家資訊

中國主管網路安全的中央機關今天（4/11）公布生成式人工智慧相關管理辦法草案，要求提供服務的公司「防止生成虛假資訊」，人工智慧生成內容須「體現社會主義核心價值觀」，不得含有「顛覆國家政權」、「破壞國家統一」的資訊。

中共中央網信辦（中國國家互聯網資訊辦公室）今天公布《生成式人工智慧服務管理辦法（徵求意見稿）》。草案中規定，利用生成式人工智慧產品向公眾提供服務前，應向國家網信部門申報安全評估。彭博新聞指出，這對百度等中國科技公司推出的類似服務帶來不確定性。

草案還規定， 提供生成式人工智慧產品或服務應遵守法律法規的要求，尊重社會公德、公序良俗，生成式人工智慧生成的內容「應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一」的內容，也不得含有「宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情資訊，虛假資訊，以及可能擾亂經濟秩序和社會秩序的內容」。

此外，利用生成式人工智慧生成的內容應當真實準確，採取措施防止生成虛假資訊。

生成式人工智慧浪潮襲捲全球，在美國OpenAI公司推出震撼世人的ChatGPT後，中國百度也推出類似產品「文心一言」，阿里巴巴今天則宣布推出「通義千問」。

中國今天發布的相關管理辦法草案中，規定了生成式人工智慧產品的「提供者」須為生成內容負責，也須為保護個資負責。

此外，提供者須採取適當措施，防範用戶過分依賴或沉迷生成內容；提供者也要保護使用者的輸入資訊和使用記錄，不得留存能推斷出使用者身份的輸入資訊，不得向他人提供使用者輸入資訊，但「法律法規另有規定的，從其規定」。

辦法也規定，使用者若發現生成內容不符合該辦法要求時，有權向網信部門或者有關主管部門舉報。提供者對於不符合該辦法要求的生成內容，除採取內容過濾等措施外，應在3個月內通過模型優化訓練等方式防止再次生成。

規定也要求提供者建立用戶投訴處理機制，及時處置個人關於更正、刪除、遮蔽其個人資訊的請求，若發現生成的內容不符合該辦法要求時，應停止生成，防止危害持續。

這項辦法將徵求意見至5月10日，預計會在今年內正式生效。