內地嚴管生成式AI 要申報安全評估 用戶需實名使用

官媒日前批評ChatGPT概念股有估值泡沫化跡象後，國家網信辦周二發布《生成式人工智能服務管理辦法（徵求意見稿）》，要求該類產品應體現社會主義核心價值觀，不得含有顛覆國家政權等內容；產品向公眾提供服務前，需向國家網信部門申報安全評估；而用戶使用亦需要「實名制」。違反規定者最高判處10萬元（人民幣，下同）罰款，嚴重者或被追究刑事責任。

目前已推出生成式AI模型的國內科技企業，包括阿里巴巴（9988）「通義千問」、商湯（020）「日日新」及百度（9888）「文心一言」。消息令科技股及ChatGPT概念股倒跌，其中昨日宣佈推出大模型人工智能（AI ）產品「日日新」的商湯，股價大坐過山車，由意見稿公布前急升逾一成，高見3.7元，倒跌低見3.13元，跌6%，收報3.3元，跌0.9%。騰訊（700）跌2.3%，收報376.6元；美圖（1357）挫5.6%，報2.2元；百度跌5.4%，報135.2元。阿里巴巴升1.6%，收報99.3元。

相關新聞：官媒批ChatGPT概念股有估值泡沫化跡象 板塊市盈率達136倍

不得含有顛覆國家政權內容

意見稿建議，利用生成式人工智能生成的內容應當體現社會主義核心價值觀，及應當真實準確，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家，及可能擾亂經濟秩序和社會秩序的內容。服務提供者應採取措施防止生成虛假信息；防止出現種族、年齡等歧視；不得利用算法、數據、平台等優勢實施不公平競爭；需採取適當措施防範用戶過分依賴或沉迷生成內容。

內地科企爭相推生成式AI：

商湯近日公布，推出自家的類ChatGPT應用——「商量 （SenseChat）」，其為基於商湯大模型體系「日日新（SenseNova）」的中文語言大模型應用平台。

阿里巴巴的大模型「通義千問」已開始邀請企業用戶測試體驗。阿里所有產品未來將接入「通義千問」，進行全面改造。

百度最早推出類似ChatGPT的「文心一言」，並支援文字生成圖片功能。

在文心一言輸入「初中生，女孩，黑頭髮，校園，二次元」，其生成圖片中的女孩，面部扭曲、比例失調。

文心一言文生圖功能所製作的女孩圖片比例失調，被指畫工欠佳

文心一言的「文生圖」能力，經實測部分結果引起網民質疑

文心一言文生圖功能所製作的女孩圖片比例失調，被指畫工欠佳

文心一言繪圖「炒車」，主要是因為它完全根據字面上的意思來繪畫。

網民指示文心一言畫中國名菜「夫妻肺片」，結果出現恐怖圖片。

文心一言亦被質疑聽不懂指令，網民揭其反饋邏輯是先將中文指令翻譯成英文再作圖

文心一言最驚嚇畫仍之一，一道「魚香肉絲」由於過於寫實，網友直喊「看完都不敢吃魚了」。

文心一言另一「傑作」。

文心一言另一「傑作」。

文心一言另一「傑作」。

百度首席執行官李彥宏反駁，稱ChatGPT本身沒有文生圖能力，「在另一個角度比較的話，ChatGPT落後百度，文心一言早就有這個能力」

 

服務商須申報安全評估

此外，利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

用戶需實名制

意見稿亦建議，提供生成式人工智能服務應當按照《網絡安全法》規定，要求用戶提供真實身份信息，另對生成的圖片、視頻等內容進行標識。

3個月內修正不當內容

若於運行中發現、用戶舉報的不符合監管要求的生成內容，除採取內容過濾等措施外，意見稿要求應在3個月內通過模型優化訓練等方式防止再次生成。此外，提供者發現用戶利用生成式人工智能產品過程中違反法律法規，違背商業道德、社會公德行為時，包括從事網絡炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟件，實施不正當的商業營銷等，應當暫停或者終止服務。

若提供者違反該辦法規定的，由網信部門和有關主管部門按照《網絡安全法》、《數據安全法》及《個人信息保護法》等法律、行政法規的規定予以處罰。法律、行政法規沒有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停或者終止其利用生成式人工智能提供服務，並處1萬元以上、10萬元以下罰款。構成違反治安管理行為，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

相關新聞：美國政府研究監管ChatGPT等AI工具

老虎國際推AI投資助手TigerGPT 將支援粵語

ChatGPT禁止在中國使用 

事實上，內地嚴控生成式AI早有先兆。早於今年2月，號稱首個國產ChatGPT、由初創公司元語智能研發的對話式AI「ChatYuan」運作僅數日，疑回覆不「符合國情」而被消失。

美國科技公司OpenAI今年初推出聊天機器人「ChatGPT」，在全球掀起AI熱潮，但禁止內地用戶使用，未有解釋原因，有傳內地監管機構要求內地大型科企禁止向公眾提供ChatGPT服務，並引述國內科技巨頭之一的高管指，中國需要有自己版本的ChatGPT，因受審查問題所限，ChatGPT永遠無法入華。

儘管無法在內地使用，ChatGPT概念在內地仍相當熱門，許多中國用戶會利用VPN等方式使用境外的ChatGPT，中國也出現過許多仿製ChatGPT的微信公眾號、小程序等，不過自從公安部官方提醒該類產品為釣魚郵件，「具有欺騙性和迷惑性」之後，多個電商平台封禁此類產品，相關關鍵字也被遮蔽。現如今，百度、阿里巴巴、商湯等科技公司均陸續推出自己的「ChatGPT」產品。