杭商传媒 马晓才/文

社交机器人是一种自主机器人，能够根据自己身份相称的社交行为和规范，与人类或其他实体进行互动与沟通。

社交机器人的出现，对人类社会将产生怎样的影响？面对社交机器人泛滥，人类应该怎么办？带着一系列问题，杭商传媒连线有关专家学者，作了访谈。

【本期嘉宾】

安恒信息首席科学家、高级副总裁刘博

浙江大学计算机科学与技术学院教授、浙江省公共政策研究院研究员金小刚

浙江省政府特约研究员、海亮教育集团总校长叶翠微

刘 博

安恒信息首席科学家、高级副总裁刘博

一、关于人机交互，虚拟账号收割虚假性流量。

现象：虚假流量最初出现在网络上播出的部分影视作品的点击量、评论量等数据中。除了影视圈，娱乐圈内各明星涉及流量造假的现象更为严重。2018年8月，当红偶像明星蔡徐坤发布了一条包含其新歌MV的新浪微博，该微博仅仅在九天之内转发量就突破了一亿大关。当年新浪微博的用户总人数为3.410亿，一首新歌的转发量过亿明显不符合当时的社会逻辑。

治理：作为流量造假的高发生地，各社交媒体平台当仁不让应当成为自身管控的第一主体。在平台中一旦发现流量造假的情况发生，要第一时间追责造假者。社交媒体平台自身管控无疑有着重要作用，但其作为企业势必有盈利的目的，对于虚假流量的治理动力必然会不足，这就使得平台不可能成为唯一的治理主体。需要第三方的主管单位和技术公司联合对此行为进行综合治理。特别是当引入ChatGPT类型的机器人之后，虚假人机交互的成本会更低，技术上也会更难甄别。

二、关于批量复制，信息污染降低社会能见度。

现象：大众传播中的虚假、伪劣信息具有欺骗性和误导性，是影响最坏的、受众意见最大的信息污染。这些信息批量复制，充斥网络，会导致用群众获取有用知识难度加大。政府在宣传上需要花费更多的精力才能让民众看到其宣传内容。

治理：政府和主流媒体及搜索引擎公司合作，构建专业的信息发布渠道，并治理信息污染，让民众不论是被动还是主动，都能有官方渠道获取高质量信息。同时可以考虑通过低成本区块链等技术对重要新闻信息进行指纹信息上链，非上链重要信息不与发布，上链信息如果出现问题可以很容易的进行溯源。

三、关于算法联动，僵尸网络影响涉政判断力。

现象：英国脱欧期间不到1%的社交机器人生产了Twitter中32%的脱欧内容。在新冠肺炎疫情肆虐的背景下，社交机器人传播新冠病毒来源、种族仇恨、政治阴谋论等相关内容，与人类用户关注公共健康和福利形成鲜明对比。

治理：社交平台建立便于政府机构搜集和管控的信息流机制来抑制算法联动。在信息发布前，用AI+人工的方式对信息进行分类，如果有出现涉政判断力内容，限制发布量和转发量，比如非权威账号不能转发。不过有些信息的确很难事前分类，那么社交平台要具备能力在发生之后能够及时屏蔽或者撤回的功能，由于信息量很大，利用AI算法辅助识别不可避免。

金小刚

浙江大学计算机科学与技术学院教授

目前学界对社交机器人（Social bots）没有统一的定义，但普遍认为社交机器人是一种智能化算法程序，通过模仿人类语言或行为，与人类用户进行互动。社交机器人在社交网络中扮演人的身份、拥有不同程度人格属性且与人进行互动。社交机器人按其功能的不同可分为四类：支持远程操控的恶意僵尸网络（malicious botnets）、用于爬取网络数据的调研机器人（research bots）、用于编辑网络信息的编辑机器人（editing bots）以及对用户基础请求进行回应的聊天机器人（chat bots）。

社交机器人“伪装”成人类，隐秘地渗透进公共话语空间，低成本、高效率地传播特定信息，为开展“计算宣传”提供了可能。计算宣传（computational propaganda）是由Woolley和Howard于2016年提出的，指“以在社交媒体网络上故意散布误导信息为目的，使用算法、自动化和大数据分析等方式操纵公众舆论”。

在人工智能时代，社交机器人可实现自动化大量转发特定信息，放大某一公共话题的影响力，改变公众心中对于议题的重要性排序。机器人通过推送大量同一主题的信息，形成话题热度假象，在沉默的螺旋作用下该话题被不断强化，成为主流的舆论风向。转发支持某一倾向的信息，传播垃圾信息混淆视听，干扰舆论。通过推送大量与议题不相关信息来转移话题，即烟雾遮蔽（smoke screening），也叫标签劫持 （hijacking the hashtag）。互联网为多元化的声音提供了讨论与对话的平台，不同的观点与意见在这里相遇、碰撞与融合。社交机器人发布极端的情绪化的信息，加剧了极端化情绪与观念的对抗，破坏了网络生态的理性讨论氛围，让舆论随时有失控的风险。

随着社交机器人干预舆论的程度越来越深、策略越来越多样化，社交机器人正在成为影响舆论的重要因素，通过传播虚假信息、营造虚假气氛、与更多人建立关系等手段操纵舆论，甚至对用户线下认知与观念产生影响。当社交机器人参与了网络后，媒体生态发生改变，从完全由“人”主导变为“人+社交机器人”的共生状态，社交机器人逐渐消解了人类用户在社交媒体中的唯一主体地位，成为信息内容生产、观念传播和意义表达的重要参与者。

网络舆论场本来就是一个被制造的空间，但当生成式AI和聊天机器人等人工智能技术的发展，让社交机器人参与到网络舆论中，干预舆论的程度越来越深、策略越来越多样化，一些假新闻在网络中被迅速传开，虚假标签活动被推至热搜，网络舆论场真实信息的价值密度会越来越低。社交机器人等技术应用会形成支持某一观点或某一方的强势音量，民众会产生与多数意见不一样的错觉，进而保持沉默，人工智能技术制造的沉默螺旋现象会显现。民众希望从网络舆论空间获得真实信息的难度加大，发声的意愿也会降低。

人工智能时代，社交机器人主导的计算宣传的介入使得网络舆论生态更为复杂。对其治理也开始从传统的以政府为中心的方式转向多主体共存的全球治理模式。治理体系的构建需要开展国际化合作，也需要强化社交媒体平台的自律性措施，提升公民“素养”。机器人对舆论生态产生的危害值得我们警惕，但另一方面，我们也应摒弃简单的“技术善恶论”，在充分认识社交机器人阴暗面的同时，也应挖掘其对于社会发展的积极作用，让技术向善，服务于人类社会的良性发展。

在治理体现建设方面，政府作为国家治理者，需要针对社交机器人制定完善的应用规范，出台相应政策或法律确保使用目的、程序开发、应用场景的正当性，从源头上防止社交机器人被恶意使用。社交媒体平台是社交机器人得以存在和生长的基础设施，同时也是掌握算法和用户数据最为全面责任主体。因此要发挥企业的社会责任，提升发现恶意社交机器人的识别能力，加强对异常行为账号的管理和处罚力度。在个体层面，要培养公众在多元信息背景下甄别有效信息的能力，避免那些导致认知失败的认知陷阱，提升对于虚假信息的免疫力，让民众免受计算宣传的危害。

叶翠微

浙江省政府特约研究员、海亮教育集团总校长

社交机器人泛滥，是AI时代的一个过程。任何一种新技术的出现，总有洪水猛兽的一面。作为教育工作者，应该在乱象众生中学会雾里看花。

我们要提升的是一种对现代信息的甄别能力，这个甄别能力既要用到机器人，更要超越机器人；我们要通过深度阅读，经典阅读，不断提升对这种泛滥信息的甄别能力；我们要有良好的社交圈子，因为良好的社交圈子或社交网络，能够给我们带来的更多正确的信息。

作为教育工作者，很重要的一点就是要培养学生什么是信心，什么是认知，什么是切合实力的认知，并通过像“世界咖啡馆”这样一种形式，来进行完善和提升。