机器人水军要凉？网信办拟出新规：不得以谋利为目的自动合成信息

南都讯 记者冯群星 5月28日，中国网信网发布通知称，国家网信办会同相关部门起草的《数据安全管理办法（征求意见稿）》，开始向社会公开征求意见。南都记者注意到，该征求意见稿拟就人工智能自动发帖、评论等活动作出规范。

《数据安全管理办法（征求意见稿）》第二十四条规定，“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明‘合成’字样；不得以谋取利益或损害他人利益为目的自动合成信息”。

利用大数据、人工智能等技术自动合成博文、帖子、评论，已不是新鲜事。目前，一些平台推出的人工智能人物具有高度自主性，能够在新闻平台上就时事发表评论，还能通过跟帖与其他网友互动。在知乎上，有网友围绕这一情况展开讨论，有人赞叹人工智能的聪明与强大，也有人担心人工智能与人太过相像，让人分不清楚对方是人还是机器。

还有网友提出，要注意人工智能的训练数据，如果其间充斥着谣言、低俗或是暴力信息，可能会制造出一个满口污言秽语的“AI 喷子”，在网上产生不良影响。

人工智能发布的新闻评论和回帖。

此外，南都记者注意到，有关“刷量机器人”“自动回帖器”等技术的讨论在网络上比比皆是。除了模糊真实信息与合成信息的边界，自动合成信息也成为很多黑灰产业链中的造假主力，扰乱了市场秩序。

来自移动市场营销公司AppsFlyer的数据显示，2018年第一季度，虚假移动广告假量导致的损失约为7-8亿美元，同比增长了30%。其中，三成以上的假量都是机器人完成，一跃成为虚假点击的主要来源。

自动合成信息，还曾被广泛用于“刷评价”。据新华社报道，一些平台存在机器人水军，例如，在电商平台上，商品评价由机器自动生成，商家不再需要雇人“灌水”。有专家提醒，如果虚假评价如潮水般涌入，甚至再也谈不上“真假难辨”，因为虚假评价会直接将真实评价淹没。

今年1 月以来，国家网信办启动网络生态治理专项行动，围绕12类生态负面有害信息，集中开展清理整治工作。12类生态负面有害信息主要指的是涉及淫秽色情、低俗庸俗、暴力血腥、恐怖惊悚、赌博诈骗、网络谣言、封建迷信、谩骂恶搞、威胁恐吓、标题党、仇恨煽动、传播不良生活方式和不良流行文化的信息。截至4月15日，国家网信办累计清理相关有害信息8206.4万余条，注销违法违规账号99.6万余个，关闭、取消备案网站2084家。

有专家指出，征求意见稿就自动合成信息作出前瞻性规定，重点是要预防大数据、人工智能技术在信息传播领域“作恶”，有助于促进网络空间的生态治理。当前，自动合成信息在新闻、博文、帖子、评论等方面的应用日渐普及，假新闻、标题党、恶意点击、恶意刷量、网络水军等现象也随之出现，给公众造成困扰。标明“合成”字样，可将合成信息与正常信息作出明显区分，让公众借此众更好地判断信息的真实性和可信度。

需要注意的是，该规定并非完全禁止自动合成信息。“网络运营者可以使用大数据、人工智能等技术自动合成信息，但不能滥用。”有专家评价。

文章来源: https://www.toutiao.com/group/6695967941134909966/