近日，网传中国电科员工陈某龙因不满节假日被加班“怒怼”领导，在微信群内吐槽并得到多位同事声援集体辞职，引起广泛关注。

7日晚，事件有反转。警方通报，陈某龙因此前向中国电科求职未被录用，心生不满，利用图像处理软件捏造制作了多张“怒怼领导、发泄情绪”的聊天截图，并发布在社交平台，误导了一部分网友。

利用图片处理技术进行造假的事件近年来并不少见。前不久，几张特朗普在纽约街头遭警察围捕的图片在美国社交网络很火爆，而这些照片后来被证明是由AI生成。普京、拜登等人也曾同样“中招”。

5个字以蔽之，“有图无真相”。面对技术发展，特别是AI合成技术的颠覆性发展所带来的虚假信息泛滥和一系列事关公共利益、伦理价值的负面反应，你害怕了吗？我们又该如何看待？

图源：视觉中国

一

当大量技术生成的图片和视频充斥社交平台，会造成什么后果？

显而易见的是，“眼见未必为实”。曾经，我们将“有图有真相”作为辨别真假信息的重要手段之一。技术合成却告诉我们，我们看到的图片、视频，都未必是真实的。

比如，此前在社交平台热传的某特效合成师将影视剧片段中的男主角替换成自己，和一众女明星“演起了对手戏”，并在短视频平台发布，引发大量争议。

除了担心“被骗”，还要担心“被害”。正如网友所言，AI合成技术让我意识到要保护好自己的脸，不然一不小心就成了丑闻的主角、黄色谣言的受害者、网络的“红人”。

近年来，AI合成的对象从国家政要和影视明星等公众人物渐渐向普通人蔓延。3月28日，一起利用AI恶意P图的事件引爆网络。广州一位穿搭博主，去年7月在社交平台发布的一张搭乘地铁时的随手拍，在近段时间被人用AI技术“一键脱衣”，生成为地铁裸女图疯传。甚至有不法分子向受害者发送包含其脸部信息的色情内容作为勒索素材，以此来牟利。

此外，AI合成还可能危害国家安全和利益。比如，据报道，2019年印巴局势紧张期间，路透社发现了30起关于该事件的“深度伪造”视频，极大刺激了两国的民族主义者，导致事态进一步升级。

因此，有人认为，“假照片”的泛滥将加剧偏见。面对大量难辨真假的图像，很多人可能只会相信符合自己偏见的信息。也就是说，当你心里认定某个人可能存在某个问题，这时一张AI生成的图片放在面前，你会自然而然将其作为个人观点的印证。

美国一社交平台用户使用AI合成特朗普遭到逮捕的图片 图源：视觉中国

二

AI技术频频被恶意使用，“有图无真相”大行其道，背后并非没有缘由。

技术不断成熟是重要因素。比如，走红网络的由AI生成的“中国情侣”图片，就是由Midjourney最新推出的V5版本生成，该工具是近期继GPT-4后又一受到关注的AI产品，代表了目前生成式AI的前沿水平，在某些领域已得到商用。技术迭代后，预计其能力将进一步增强。此外，元宇宙等也为AI合成提供了技术加持。

互联网大流量是巨大诱因。面对互联网的海量信息，人工智能或是基于“深度伪造”引起事件的冲突性，或是将个人与公共人物进行关联而吸引大量眼球，等等，大流量的刺激及其背后蕴藏的商业利益，让部分不法分子乐此不疲地投入到AI合成领域。

管理能力跟不上技术发展，辟谣速度跟不上虚假信息的传播速度，由此也带来一定挑战。比如，随着合成技术不断提升，新型伪造方法层出不穷，基于生物特征的传统鉴别方式越来越难以发挥作用，无法及时监测到虚假信息、有害信息。

我们常说，技术本身是中立的，无所谓好坏，每一项技术的发展，对于推动人类进步都有其独特意义。

以AI合成背后的人工智能技术为例，有机构曾预测，从2017年到2030年，人工智能对经济增长的贡献将超过全部GDP的55%，其中中国占全球将近一半。

而具体到AI合成技术，同样有其存在的正面价值。企业或者机构可以更便捷地提供面向公众的产品和服务，涵盖图像、视频、音频、文本等多领域。像在影视制作、广告营销、社交娱乐等领域，AI合成主播、虚拟偶像、修复历史老照片等就具有一定的文化和收藏价值。

以传播应用领域来说，据报道，在北京冬奥会自由式滑雪女子大跳台决赛中，凭借最后一跳的出色发挥，谷爱凌逆转夺冠，这个激动人心的时刻，被AI合成主播“小聪”用手语解说。作为全球首个手语AI合成主播，“小聪”利用深度合成技术，能够为听障人士获取信息带来便利。

可以说，在合理使用的情况下，AI合成技术无疑是人类在“人机共生”时代迎来的一位在生产生活领域都不可或缺的好伙伴。

图源：视觉中国

三

问题的关键在于，我们在正视技术正向价值的同时，也不能忽视背后的风险，弄清楚谁在用、怎么用，谁在管、怎么管很重要。

面对技术的负面价值，选择视而不见当鸵鸟显然是不行的，而一味压制阻碍其正向发展亦是不对的，唯有各方携起手来，依靠依法治网这一“利器”，在法律体系建设、平台和个人自律约束、伦理道德等方面构筑起规范和管理的体系架构，才能引导其依法合规发展，发挥更大作用。

这方面，相关部门一直在努力。自2019年起，《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》等文件相继出台，均对生成合成类内容提出不同程度的监管要求。

像2023年1月10日起施行的《互联网信息服务深度合成管理规定》就明确规定，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益等活动。

平台和个人的管理和自律同样不可少。社交平台要承担起主体责任，加强用户审核与信息审查，加强对信息的甄别与筛查，避免为虚假有害信息传播提供渠道；从业人员则要严格遵守法律法规和公序良俗，技术的开发和应用不能以损害他人和公共权益为代价。

广大网友也是重要一环。如果一味提醒网民保护好自己的隐私，不要随意上传照片到社交平台，未免多了些“受害者有罪论”倾向。但值得提醒的是，一旦个人利益受到侵害，绝不能忍气吞声，而是要用法律的武器、舆论的武器进行抗争。此外，对于网络信息，公众也要提升甄别力，保持理智，不轻信偏听，必要时让子弹先飞一会儿。

从人类历史来看，每一次技术的颠覆性发展，都会带来关于技术与法律、技术与伦理的讨论。也正是基于一次次探讨，使得技术得到良性发展，从而促使了人类社会生产力的提升。

无论如何，面对迎面而来的AI，不要焦虑、不要恐惧，始终要有自信，毕竟人工智能不是取代人类，而是服务于人类，我们始终是驾驭机器和技术的主体。