内地严管生成式AI 要申报安全评估 用户需实名使用

官媒日前批评ChatGPT概念股有估值泡沫化迹象后，国家网信办周二发布《生成式人工智能服务管理办法（徵求意见稿）》，要求该类产品应体现社会主义核心价值观，不得含有颠覆国家政权等内容；产品向公众提供服务前，需向国家网信部门申报安全评估；而用户使用亦需要「实名制」。违反规定者最高判处10万元（人民币，下同）罚款，严重者或被追究刑事责任。

目前已推出生成式AI模型的国内科技企业，包括阿里巴巴（9988）「通义千问」、商汤（020）「日日新」及百度（9888）「文心一言」。消息令科技股及ChatGPT概念股倒跌，其中昨日宣布推出大模型人工智能（AI ）产品「日日新」的商汤，股价大坐过山车，由意见稿公布前急升逾一成，高见3.7元，倒跌低见3.13元，跌6%，收报3.3元，跌0.9%。腾讯（700）跌2.3%，收报376.6元；美图（1357）挫5.6%，报2.2元；百度跌5.4%，报135.2元。阿里巴巴升1.6%，收报99.3元。

相关新闻：官媒批ChatGPT概念股有估值泡沫化迹象 板块市盈率达136倍

不得含有颠覆国家政权内容

意见稿建议，利用生成式人工智能生成的内容应当体现社会主义核心价值观，及应当真实准确，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家，及可能扰乱经济秩序和社会秩序的内容。服务提供者应采取措施防止生成虚假信息；防止出现种族、年龄等歧视；不得利用算法、数据、平台等优势实施不公平竞争；需采取适当措施防范用户过分依赖或沉迷生成内容。

内地科企争相推生成式AI：

商汤近日公布，推出自家的类ChatGPT应用——「商量 （SenseChat）」，其为基于商汤大模型体系「日日新（SenseNova）」的中文语言大模型应用平台。

阿里巴巴的大模型「通义千问」已开始邀请企业用户测试体验。阿里所有产品未来将接入「通义千问」，进行全面改造。

百度最早推出类似ChatGPT的「文心一言」，并支援文字生成图片功能。

在文心一言输入「初中生，女孩，黑头发，校园，二次元」，其生成图片中的女孩，面部扭曲、比例失调。

文心一言文生图功能所制作的女孩图片比例失调，被指画工欠佳

文心一言的「文生图」能力，经实测部分结果引起网民质疑

文心一言文生图功能所制作的女孩图片比例失调，被指画工欠佳

文心一言绘图「炒车」，主要是因为它完全根据字面上的意思来绘画。

网民指示文心一言画中国名菜「夫妻肺片」，结果出现恐怖图片。

文心一言亦被质疑听不懂指令，网民揭其反馈逻辑是先将中文指令翻译成英文再作图

文心一言最惊吓画仍之一，一道「鱼香肉丝」由于过于写实，网友直喊「看完都不敢吃鱼了」。

文心一言另一「杰作」。

文心一言另一「杰作」。

文心一言另一「杰作」。

百度首席执行官李彦宏反驳，称ChatGPT本身没有文生图能力，「在另一个角度比较的话，ChatGPT落后百度，文心一言早就有这个能力」

 

服务商须申报安全评估

此外，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

用户需实名制

意见稿亦建议，提供生成式人工智能服务应当按照《网络安全法》规定，要求用户提供真实身份信息，另对生成的图片、视频等内容进行标识。

3个月内修正不当内容

若于运行中发现、用户举报的不符合监管要求的生成内容，除采取内容过滤等措施外，意见稿要求应在3个月内通过模型优化训练等方式防止再次生成。此外，提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

若提供者违反该办法规定的，由网信部门和有关主管部门按照《网络安全法》、《数据安全法》及《个人信息保护法》等法律、行政法规的规定予以处罚。法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处1万元以上、10万元以下罚款。构成违反治安管理行为，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

相关新闻：美国政府研究监管ChatGPT等AI工具

老虎国际推AI投资助手TigerGPT 将支援粤语

ChatGPT禁止在中国使用 

事实上，内地严控生成式AI早有先兆。早于今年2月，号称首个国产ChatGPT、由初创公司元语智能研发的对话式AI「ChatYuan」运作仅数日，疑回覆不「符合国情」而被消失。

美国科技公司OpenAI今年初推出聊天机器人「ChatGPT」，在全球掀起AI热潮，但禁止内地用户使用，未有解释原因，有传内地监管机构要求内地大型科企禁止向公众提供ChatGPT服务，并引述国内科技巨头之一的高管指，中国需要有自己版本的ChatGPT，因受审查问题所限，ChatGPT永远无法入华。

尽管无法在内地使用，ChatGPT概念在内地仍相当热门，许多中国用户会利用VPN等方式使用境外的ChatGPT，中国也出现过许多仿制ChatGPT的微信公众号、小程序等，不过自从公安部官方提醒该类产品为钓鱼邮件，「具有欺骗性和迷惑性」之后，多个电商平台封禁此类产品，相关关键字也被遮蔽。现如今，百度、阿里巴巴、商汤等科技公司均陆续推出自己的「ChatGPT」产品。