内容摘要 本文立足于人工智能时代下，对“深度伪造”技术滥用的相关问题进行探讨。科技是一把双刃剑，“深度伪造”技术同样如此，如果利用得当，在教育领域，逼真的模拟让数字教学更生动有趣，在娱乐领域，提供一个虚拟的化身，以更真实的方式实现替身演员演出等效果。而一旦该技术被滥用，则可能给国家安全、公民权益、企业利益带来新的风险。本文通过对“深度伪造”技术滥用带来的风险、问题及现有的研究状况，提出规制建议。

　　关键词 深度伪造  技术滥用  人工智能

　　人工智能技术是人类历史上一颗璀璨的明珠，近年来，人工智能技术迅猛发展，正向“独立思考”、“仿真模拟”等领域全力拓展。在此背景下，“深度伪造”技术应运而生，最常见的就是AI换脸技术，还包括语音模拟、人脸合成、视频生成等。“深度伪造”技术是一把双刃剑，一方面，能够给教育、医疗、娱乐等领域带来便利，提升效能；另一方面，“深度伪造”技术滥用之形势出现，如语音合成他人真声并利用该声音伪造公众人物的视频、开发自动脱衣模型并利用AI换脸技术，伪造明星色情视频等，如果不加以防范，必然会给国家安全、公民和企业权益带来新的风险，造成社会发展潜在危机。因此，人工智能时代背景下，“深度伪造”技术滥用带来的法律问题亟待我们去深入研究和解决。

　　一、国内外关于“深度伪造”技术研究现状的分析

　　“深度伪造”技术是人工智能飞速发展的产物，对当代社会有着极其重要的价值，因此国内外的学者及各领域的专家对“深度伪造”技术的价值研究高度重视，特别是该技术的滥用所带来潜在危机引起了法律领域的专家学者的高度关注。

　　国外研究现状。美国《2019年深度伪造报告法案》全称为“要求国土安全部部长发布关于使用深度伪造技术的年度报告及其他目的”法案，明确了数字内容伪造的定义，分析了“深度伪造”给网络安全和国家安全带来的风险，并且如何评估该风险做了详细的规定。2019年6月12日，美国联邦提出《深度伪造责任法案》，该法案是目前在深度伪造方面规定的最为详细的一份法案，制度设计也较为激进，同时规定了刑罚，要求视频创作者对发布的修改视频负责，恶意的深度伪造需用数字水印标记，还为受害者提供了救济渠道。美国各州方面，弗吉尼亚州于2019年7月1日正式生效的《非同意色情法》修正案纳入了深度伪造的内容，规定违反该规则是第1类轻罪，最高可判12个月监禁，罚款2500美元，这是首个生效的覆盖“深度伪造”内容的州立法；德克萨斯州也通过了专门的深度伪造法，全称为《关于制作欺骗性视频意图影响选举结果的刑事犯罪法案》保障选举安全。新加坡通过立法，允许政府下令删除社交媒体平台上的虚假内容。

　　国内研究现状。国家网信办《数据安全管理办法（征求意见稿）》第24条规定：“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明‘合成’字样；不得以谋取利益或损害他人利益为目的自动合成信息。”国家网信办《网络生态治理规定（征求意见稿）》同样关注网络生态的维护，要求“深度伪造”技术、信息的销售者和服务提供者应取得特别经营牌照，落实数据安全、信息披露等强制性标准，对提供个人信息的用户以及相关企业取加“数据税”，一旦出现“深度伪造”相当程度或数量的违法使用，则其责任人不仅要及时报告监管机构并告知用户，还将在其故意或重大过失的情形下承担惩罚性赔偿责任。

　　《民法典人格权编草案（二次审议稿）》新增“利用信息技术手段伪造等方式侵害他人肖像权”的规定，适用于对其他人格权和自然人声音的保护。

　　国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》，《规定》自2020年1月1日起施行，规定了网络信息服务提供者必须具有相关法律资质，要落实信息安全管理主体责任等内容。

　　二、“深度伪造”技术滥用带来的风险

　　（一）刑事犯罪领域

　　在电信诈骗犯罪中，犯罪分子通过将被害人亲属的声音进行录制，利用“深度伪造”技术将固有的话语样本与原声进行结合，制作像亲属原声一样的声音，从而快速达到骗取钱财的非法目的。在传播淫秽物品牟利犯罪中，将某些视频中明星的脸移接到他人身上，制作出如女明星淫秽等视频，这不仅侵犯了被伪造者的名誉权、肖像权，也侵犯了影视作品著作权修改权。若制作者、贩卖者、传播者以牟利为目的，则可能触犯制作、复制、出版、贩卖、传播淫秽物品罪等，但若其未以盈利为目的，则难以进行定罪处罚。

　　（二）刑事诉讼领域

　　法律讲求证据，法官亦需要依据真实有效的证据进行公正审判，“深度伪造”技术对此带来了挑战。若犯罪分子利用该技术伪造假证据嫁祸他人，而现有法律尚不能有力约束深度伪造产品在社交媒体上的广泛传播，对造成重大负面影响的匿名假视频、假音频制作者也无法进行有效追责，将严重影响司法公正。

　　（三）民事领域

　　利用 AI 换脸技术制作虚假的色情视频，以达到污蔑或报复他人的目的，损害他人名誉权、人格权；制作、散播关于商业竞争对手的深度伪造信息，损害其商誉等；借用合成的虚假内容对他人实施敲诈勒索或施加精神压力；借助深度伪造技术破解人脸识别等验证系统，非法盗刷他人支付账户、获取他人个人信息或从事其他冒名的违法活动，侵犯他人财产权。

　　（四）国家安全领域

　　政治安全方面，利用“深度伪造”技术制作关于政治人物的虚假的抹黑视频，损害政治人物形象，从而引发公民对于政治系统的信任赤字，特别是会破坏选举制度的公正性，威胁民主制度。公共安全方面，不法分子借助“深度伪造”技术，制作并散布真伪难辨的虚假视频，激发社会矛盾，煽动暴力和恐怖行动相关的虚假视频内容还可能造成社会恐慌，破坏社会秩序，同时给信息安全治理带来极大挑战；若敌对国家或组织利用深度伪造技术进行暴力、极端和恐怖渲染，不具备辨别能力、技术的普通民众很容易被煽动，将给维稳工作和恐怖主义防控带来新的风险。国际方面，第三方行为体利用“深度伪造”技术制作假消息，煽动国家间政治冲突，如制作国家首脑或代表人物的假视频，宣布一些本不存在的外交政策，就可能会破坏涉事国之间的互信和两国关系。

　　三、“深度伪造”技术滥用的规制

　　“深度伪造”技术给国家安全的各个领域都带来了诸多风险。但目前世界各国多在大力推动人工智能技术的快速发展和应用，而对其恶意使用的风险重视不够。笔者认为，为了防范和应对深度伪造技术的潜在风险，除了进行大力宣传提高公民对信息的警惕和批判意识、通过技术层面进行反制，最重要的是要尽快进行前瞻性布局，推进针对性的立法与监管。

　　1.技术规制。不断提升鉴定真伪相关技术，利用网络大数据对流传视频、音频等进行技术识别。政府要鼓励民营企业、社会组织等进行技术研究，不断深入开发深度伪造辨识等技术。

　　2.责任规制。首先是上传者责任，视频制作、传播者应对自己制作、发布的内容负责，若发布的视频、音频等系合成，则应进行说明。其次是平台审查责任，公民上传制作的视频进行传播，传播平台应当尽好审查责任，对视频真实性负责，若造成不良后后果，亦应承担连带责任。再次是传播者责任，公民应坚持理性和常识，正确对待网络信息，不造谣、不传谣。

　　3.法律规制。政府的行政管理以及行政处罚的规制方面，明确政府监管职责，推动执法部门对网络平台进行有效监管，对相关平台进行明确监管，定期约谈，时时巡查。将其纳入社会信用体系，若有组织或个人因“深度伪造”技术给社会带来较大影响时，可在信用机制方面进行惩处。完善受害者的个人救济，明确详细规定，确保公民合法权益收到切实保障。

　　添附在房屋租赁案件中的处理原则

　　作者简介：王建彩，1974年生，女，汉族，山东省沾化区人，东营经济技术开发区人民法院综合审判庭法官，联系电话：0546-6087860。

　　房屋租赁合同的履行中，经常出现这种情况：在经营过程中，承租人为了经营目的和利益，经与出租人协商或善自在承租房内添置他物或进行装修，租赁合同终止后，出租人往往会因添置物或装修的补偿问题发生纠纷。下面我就房屋租赁合同终止后如何处理添附物的问题，谈下己见。

　　一、添附及房屋租赁关系中对添附物的界定。

　　所谓的添附，是指不同所有人的动产与房屋相互合并在一起，而形成一种新的财产， 财产存在恢复原状的事实上的不可能性或经济上的不合理性。主要有加工、混合以及附合三种[1]。

　　房屋租赁中的添附一般是指承租人对租赁房屋所作的改善或增设他物等，属于附合的一种。在理解房屋租赁中的添附行为时，对于房屋租赁中的添附物，我们应做广义的解释，它不仅包括安装、修饰在房屋上的装饰装修材料，还包括一些增设的设备等，因为这些设备往往嵌装在房屋中，安装、拆除费用都很高，强行拆除会严重影响其本身的价值，并对房屋造成损坏，不过，这些设备相对于装饰装修材料而言，则更具有可拆除性。

　　二、我国现行法律对添附物处理的规定

　　《城市房屋租赁管理办法》第23条规定：“承租人应当爱护并合理使用所承租的房屋及附属设施，不得擅自拆改、扩建或增添。明确需变动的，必须征得出租人的同意并签订书面合同。因承租人过错造成房屋损坏的，由承租人负责修复或赔偿。”

　　最高人民法院《关于贯彻执行<中华人民共和国民法通则>若干问题的意见(试行)》第86条规定：“非产权人在使用他人的财产时增添附属物，财产所有人同意增添，并就财产返还时附属物如何处理有约定的，按约定办理；没有约定的又协商不成，能够拆除的，可以责令拆除；不能拆除的，也可以折价归财产所有人；造成财产所有人损失的，应当负赔偿责任。”《合同法》第223条规定：“承租人经出租人同意，可以对租赁物进行改善或者增设他物。承租人未经出租人同意，对租赁物进行改善或者增设他物的，出租人可以要求承租人恢复原状或者赔偿损失。”

　　从上述规定不难发现，关于房屋租赁纠纷中添附物的处理方面的规定比较原则，如《意见》中只有财产所有人同意附合的情况下产生争议的处理办法，如果财产所有人不同意附合，其添附物如何处理，仍然没有规定。而合同法也更为原则，对添附物的处理并未涉及。

　　三、添附的处理原则

　　对于添附的处理，笔者认为主要采取以下几种原则：

　　(一)出租人同意添置的添附物的处理原则。

　　1、双方当事人对添附物如何处理有约定的。承租人对租赁物所进行的改善或增设他物，不仅经过出租人的同意而且双方还就该添附物如何处理做出约定的。那么依合同自由原则，有约定的从约定。当事人有订立合同的自由，也有自由处分自己财产和权利的自由[2]，只要这种行为不损害国家、集体或其他第三人的利益。无论双方合同是有效还是无效，无论合同期限届满还是提前解除，都可按上述最高人民法院第86条规定的司法解释进行处理。即使是由于承租人的原因导致双方合同提前解除，也应从约定，如约定出租人取得添附物并支付补偿金，出租人取得添附物就应向承租人支付补偿金。至于承租人因违约给出租人造成损失的可依合同约定要求承租人承担违约责任。

　　2、双方当事人对添附物处理没有约定或约定明不明的。承租人对租赁物所进行的改善或增设他物，虽然有经过出租人的同意，但他们并没有对添附物的处理做出约定或者约定不明，如果当事人之间事后能够协商一致，则与当事人事先做出约定的效果相同；如果协商不成，那么，由于当事人双方对该添附行为均不存在主观上的过错，让任何一方单独承受这种损失都是不公平的，我个人认为可以依照《民法通则》第132条规定的“当事人对造成损害都没有过错的，可以根据实际情况，由当事人分担民事责任”这一公平原则，充分考虑到双方当事人的实际情况以及添附物属性来解决纠纷，一般的处理方法是：如果该添附物不能够拆除的，则可以折价归出租人所有；如果能够拆除，那么，承租人要对之予以拆除，拆除后，承租人获得该物的所有权，若对出租人的财产造成损失的，应当予以赔偿，即同意承租人在获得财产的同时付出一定的代价，这也符合法律上的利益损害一致的原则[3]。

　　(二)未经出租人同意而添置的添附物的处理原则。

　　1、合同因租赁期限届满而终止，添附物应无偿归房屋所有人即出租人，出租人无须给予折价补偿。

　　虽然承租人添置的添附物会使房屋增值，但由于双方在签订租赁合同时，承租人对租赁期限十分清楚，决定对房屋的添附投资后必然考虑租赁期限届满后的处理问题，因此，可以推定当房屋租赁期限届满后，承租人已经实现了按合同约定使用房屋以及添附投资的收益。如果规定承租人可以向出租人主张添附物的折价款，其立法取向必将导致承租人为了自己目的，不管不顾出租人的利益及要求，擅自进行装修，并在房屋租赁期满后向出租人主张该部分添附物的折价补偿。从出租人的角度看，虽然取得了添附物的所有权，但该添附物并不一定是出租人想要的，如果出租人支付费用后，又出租给他人，他人也要装修或增设自己需要的设备，那么租赁期满后，出租人又要为此支付费用，无形中加重了出租人的负担。所以租赁合同期满后，对于承租人在房屋内的添附物，除非双方有约定，否则，承租人不得要求出租人给予折价补偿[4]。

　　2、租赁合同因出租人违约而解除，承租人对房屋添置的添附物，出租人应当给予折价补偿，但承租人恶意添附的除外。

　　房屋租赁合同合法有效，因出租人违约导致租赁合同被解除，承租人对房屋进行添置形成的添附物，应当由出租人对添附物进行折价补偿[5]。但应考虑承租人在未取得出租人同意的情况下，所从事的添附工作是否是正常合理的，是否是按照合同约定的承租目的而进行的。只要承租人不属于恶意添附，而且该添附能够使房屋价值升高的，即使未经出租人同意，出租人也应对该添附物进行折价赔偿。

　　即使出租人曾承诺在租期届满后放弃添附物，也是基于合同能够正常履行为前提。出租人违约在先，导致承租人不能在租赁期限内使用因其添置的附添物，致使承租人投入之利益无法实现，根据违约责任原则，对承租人添附之物由出租人给予折价赔偿。

　　3、租赁合同因承租人违约而解除，承租人添置的添附物的损失应由承租人自行承担，出租人无须给予补偿[6]。

　　首先，承租人未征得出租人同意擅自进行的装修，即使并非恶意，其目的也是为了自己利益需要而进行的，因未征得出租人同意，故其本身违约在先；其次由于承租人的原因构成违约，导致租赁合同不能继续履行，对于承租人添置的添附物应当无偿归出租人所有，承租人无权再向出租人主张折价补偿。

　　四、添附补偿的范围

　　如上所述，依照我国法律对添附物的处理原则，除当事人双方约定由承租人拆除或责令予以拆除之外，一般均是由出租人取得该添附物的所有权，并给予承租人适当的补偿，因而，补偿的范围的确定就显得尤其重要[7]。到底是应该以承租人投入的添附费用来计算，还是以出租人所受到利益的范围来进行补偿？我个人认为，应以出租人所受到的利益的范围来确定补偿大小。一来，承租人对房屋的改善以及增设他物的行为往往是在承租房屋之后就进行的，到合同终止时，承租人一直在使用该财产，财产产生了一定程度的折旧，若让出租人仍以全新的价格来予以补偿，这明显不合理。二来，承租人在主张补偿时，一般以不当得利作为法律基础的，我国法律明确规定，没有合法依据取得不当利益的，造成他人损失的，应将取得的不当得利返还损失的人，可见，补偿的范围也仅以“取得的不当利益”为限。

　　[1]黄光辉、彭静：《前沿》，2014年

　　[2]刘树德：《法院设置的宪法表达》，载《人民法院报》，2013年11月22日第7版

　　[3] 杨茜：《添附法律制度研究》，载于云南大学2012《万方》

　　[4]叶青：《关于解决添附问题的法律初探》，上海社会科学院出版社，2009年3月第1版，第32页。

　　[5]《添附的效力研究》，《中外法学》，2012年第六期

　　[6] 马凤:《浅析租赁期限添附物的处理方式》

　　[7] 陈本寒：《法商研究》，社会科学文献出版社，第96页