关于网络短视频造假现象研究

编者按：当前，我国互联网已经进入短视频时代，短视频用户持续快速增长。9月29日，中国互联网络信息中心（CNNIC）发布第46次《中国互联网络发展状况统计报告》称，截至2020年6月，我国短视频用户规模为8.18亿，占网民整体的87.0%，相较2020年3月第45次统计，新增了4461万。在疫情影响之下，互联网经济加速发展，人们逐渐适应“线上”模式，电商、新闻、旅游等行业搭上短视频快车，不断升级转变，深度地影响着公众生活，同时也带来更多表达空间。但是，近期发生的多起短视频造假事件，如广东“民政局门口摆拍离婚”事件、江西六旬女子沉迷“假靳东”视频离家出走等，造成严重的不良社会影响，令公众不得不审视这一新业态的副作用。在商业化、娱乐化大潮的席卷之下，猎奇、作秀、博眼球成为短视频传播的“潜规则”，导致短视频造假现象频发，持续污染网络空间，且“技术”和“套路”不断翻新升级，令人更加难以辨识，已经成为网络管理的“灰色地带”甚至“空白地带”，亟待纳入监管范围。

一、短视频的三种造假手法

梳理近一两年来引发关注的短视频造假事件，通过分析发现，从初级的拼凑剪辑到稍具专业的剧本摆拍，再到AI技术加持的深度伪造，短视频已经多方侵入到社会生活中，使得短视频领域的“打假”话题频繁被提上公众讨论日程。

1. 初级手段：拼凑剪辑，欺骗网民

这类短视频是在一定事实的基础上，通过添加元素或者虚构情节吸引网民好奇心。如贵州威宁几名网民将鸟叫视频添加类似“虎叫”“狼嚎”等恐怖音效上传网络，引爆了一出“虎啸龙吟”闹剧，惊动官方和专家辟谣澄清；某平台网民编造视频称“湖北一私家车数月无人认领，车主抗疫去世”，勾起不少网民对艰难抗疫历程的回忆，当地警方调查后回应称网传消息系谣言；浙江余杭男子摄录一女士在小区快递站点取快递视频，与朋友通过分饰“快递小哥”与“女业主”身份，捏造“女业主出轨快递员被拍”的桃色信息，相关短视频和聊天内容引起大量转发、浏览和评论，造成不良社会影响。

近期饱受批评的“假明星”视频事件，也多是此类简单拼接的造假手法。据媒体报道，日前一则题为《六旬追星女子：我要嫁靳东，勇敢活一次》的社会新闻引爆舆论场，江西一名六旬大妈自称在某平台上结识了明星靳东，甚至想要与现任丈夫离婚，与其一起生活。曝光之后，相关平台封禁了上千个“东弟弟”“靳哥哥”等假冒账号。实际上，“假靳东”事件只是冰山一角，某平台等短视频平台存在大量明星名人高仿账号，这些账号用明星名人的照片、剧照进行拼贴，再加上文字和配音处理，如“靳东”表白、“马云”发钱、“董卿”恋爱等，具有较强的误导性，令大量中老年用户上当受骗。

2. 中级手段：剧本摆拍，误导公众

摆拍类短视频一般有剧本、演员、场景、道具，短视频作者通过较为专业的拍摄手法和剧情表达，制造意外、反差和反转以吸引观众注意。更重要的是，短视频作者刻意模糊真实与“创作”间的界限，用旁观者的视角和实时拍摄的现场感增加短视频的真实感，不但专业度显得较高，而且迷惑性更强。如此前一段广东茂名“夫妻刚办完离婚手续走出民政局，妻子晕倒丈夫冷眼离开”的短视频在各大平台传播，大量网民批评视频中“丈夫”的做法令人寒心，最多的一位转发用户下有4万人评论。9月4日，茂名市网信办公布了另一个角度的监控视频，证明该视频系摆拍创作。随后多家媒体调查发现，多个短视频内容平台均存在大量类似“民政局门前演戏式摆拍”的内容，且多与离婚、出轨等争议性话题有关。

摆拍视频中，辨识难度较大的是伪装成监控拍摄的短视频。今年7月，一段湖南芷江“抢小孩”的“监控视频”在秒拍、梨视频、微博等平台传播，引来不明真相的网民和媒体转发关注，最高有近25万点赞，视频播放量超过百万。经有关部门调查，该视频为自媒体公司自导自演，目的是赚取流量，公司运营人已被网安部门约谈批评。2019年11月9日，一则“男孩蹲车后捡球险被撞，男子一把拉起拯救两个家庭”的监控视频走红于网络，被网民称赞“暖新闻”“正能量”，后经媒体核实该视频系摆拍。上述案例中，相关视频具备监控视频特有的黑白底色、无声音、画质差、镜头高、距离远等特征，如果没有标注是摆拍，网民很容易相信视频内容是真实发生的事情。

3. “高级”手段：改头换脸，无中生有

虚假视频信息一直困扰着全世界的网络平台和用户，在AI技术与短视频制作融合后，它的风险和危害变得更加明显。利用AI系统，用户可以任意创建和编辑视频，这就意味着在短视频造假上面，它不但能够以假乱真，更能“无中生有”。2017年，Reddit网站用户利用Deepfake（深度伪造）技术制作色情视频并提供开源后，Deepfake技术便在被滥用的路上越走越远，境外社交媒体上充斥着此类短视频。有境外机构统计称，在所有Deepfake创作的视频中，色情视频占据了96%，“Deepfake已经成为攻击女性强有力的武器”。甚至还有变种，如DeepNude软件可以将照片一键生成裸照，不需要任何技术或者硬件支持；Deepfake音频可以利用算法复制人们的声音，模仿音色、语调甚至言谈举止习惯，目前境外已经公开报道了三起Deepfake音频诈骗案例。

而且这一技术已经不可避免地侵入到政治领域，在境外社交媒体发挥影响力。奥巴马、特朗普、佩洛西、默克尔、马斯克等欧美政客名人的“换脸”视频屡见不鲜，2019年元旦，西非国家加蓬发布的一段经过深度伪造的总统讲话还引发国家动荡。随着技术不断升级，虚假图片、音频、视频的合成更为容易，视频造假的内容也在不断扩展。据外媒报道，今年2月初，在印度德里邦议会选举中，印度人民党（Bharatiya Janata Party）的候选人之一Manoj Tiwari，用视频造假技术拉拢小语种选民。视频中，并不擅长哈里亚纳语的Tiwari，讲着流利的哈里亚纳语，呼吁大家向印度人民党投票。该视频在WhatsApp上引起大量传播，近5800个WhatsApp群组约1500万人进行观看。美国安全专家曾发出警告，称DeepFake可能成为对下届美国总统大选造成影响的最有威胁的人工智能技术之一。

二、短视频造假的动因

进一步分析上述案例可以看出，短视频造假归根结底是为了流量及利益。短视频制作者追求利益的做法，具体又可以分为两种情况：一种情况是受到行业扩张的刺激，通过策划、演戏“套路”网民，收割流量；另一种则属于铤而走险，在网络黑灰产的链条里找寻猎物，诱导和欺骗牟取利益。

1. 行业推力：短视频行业急速扩张推动关联产业壮大，“反哺”造假需求

短视频行业的快速发展，催生出相关产业链并推动其走向火热，为摆拍造假提供便利。大量的短视频制作需求使得短视频剧本写作工作室、公司如雨后春笋般出现，摄影、编剧、制片等专业人士加入，使得以创意剧情为主要内容的短视频迅速走红。短视频平台也在发力：2019年，快手上线新功能板块“快手小剧场”，宣称将由专人对短剧创作者进行垂直化和专业化的运营；2020年2月，抖音推出“百亿剧好看计划”，表示将根据播放量、点赞量等综合排名给予创作者奖励。据卡思数据今年3月发布的一份报告显示，不论是在短视频内容量上的占有率，还是在内容涨粉和广告投放上的效果，剧情号都处在前列位置。平台的操作和现实的数据都揭示出这样一个深层次逻辑，即短视频的算法推荐将内容故事性作为一条重要规则，主导着短视频作者的内容能否被看到以及被多少人看到。

推荐算法指引着流量的流向，在“流量思维”主导下，自然会有人不惜造假、造谣，甚至不顾道德和法律的约束。作为新兴产业，低门槛的短视频创作内容质量参差不齐、从业人员鱼龙混杂，但都不约而同地遵循着要吸引关注必须具备猎奇、刺激、有冲突、有逻辑等“潜规则”。换句话说，短视频平台上所谓的惊喜、愤怒、冲突、矛盾，其实多数都是策划的结果。MCN机构和网红们精准地抓住了网民的心理弱点，用充满痛点的社会话题去撩拨公众情绪，收割流量和热度。

2. 流量吸力：短视频“流量富矿”吸引网络黑灰产转移，衍生造假空间

互联网环境中，有流量就有利益，短视频作为当下的互联网经济新风口，必然会吸引网络流量黑灰产的跨平台转移，一些黑灰产逐利者闻风而动，利用虚假短视频谋取不当利益。“假靳东”事件发酵后，红星新闻等媒体调查发现，短视频账号交易已经发展出成熟的黑灰产业链条，不论是“产号”“养号”，还是销售、运营，都分工有序，明码标价，背后有着专门的工作室操刀。比如，在短视频平台上注册大量仿冒账号，用猎奇标题、关注发红包等方式骗取粉丝点赞，这个过程叫“养号”。等到积累一定粉丝基础后就寻求变现，主要通过卖号、加挂广告挣取佣金、直播带货、微信导流推广等多种方式。据媒体报道，一个15万左右粉丝的账号最高可卖到9000多元，买家主要是直播带货或微商团队，像被“假靳东”视频欺骗的黄女士就购买了该账号推荐的不少商品。在非法利益的驱使下，还有不法分子将黑手伸向了缺乏辨识力的未成年人和中老年用户，甚至将其引导至其他平台进行网络诈骗。

三、短视频造假的危害及应对

短视频造假者从日常生活中截取片段，通过精心编排、剪辑，改成富有争议、充满反转的桥段，不但在网络上引起争议和混乱，带来种种负面后果，更是颠覆了人们“眼见为实”的一贯认知，长此以往将造成社会信任缺失和冷漠蔓延。法制网舆情监测中心认为，以下四种情况需要引起警惕并需采取措施积极应对：

1. 警惕正能量摆拍视频侵蚀官方公信力

当前，短视频提供了大量的一手信息，日渐吸引媒体关注，并将其作为报道来源之一。通常一条热门短视频经过媒体转载报道后，还会掀起更大范围的热议，形成社会热点事件。多数正能量新闻就是如此发酵起来，并且感动无数网民。然而，一些虚假短视频隐藏其中，给媒体公信带来严重损害。如“女孩考上大学跪谢父母”“火锅店老板娘秒杀醉酒男”等视频，因“正能量”“暖新闻”受到媒体热捧后很快“翻车”成“摆拍”，导致那些未经核实查证就发布报道的权威媒体因此遭到网民责难，陷于追逐流量、缺乏专业素养的舆论漩涡。此外，各地政法机关也需警惕正面宣传“翻车”现象。今年5月20日，四川内江市公安市中区分局官方微博发布一段视频，视频中一名女交警给来送花表白的老公贴上违停罚单，本意是宣传“公正严明执法”，但引来摆拍质疑。随后官博撤下视频，工作人员回应称原本策划的是男主在女交警下班时去交警大队门口送花，结果在买花的路上碰到，是“意料之外的摆拍”。官方解释依然未能平息质疑，网民留言批评“矫揉造作”“侮辱智商”。宣传部门在利用短视频开展工作时，需要注意区分真实和创作之间的界限，对于创作的内容要主动作出提醒，以免网民质疑诱发负面舆情。

......

（全文阅读请参见《政法舆情》2020年第35期）