Sachin Deepfake：重新思考印度对抗这种威胁的方法

　　

　　在数字操纵变得越来越复杂的时代，深度造假现象已成为一项艰巨的社会挑战。昨天，印度备受尊敬的板球传奇人物萨钦·泰杜卡尔(Sachin Tendulkar)提醒他的粉丝注意以他的名义流传的深度伪造视频。这起涉及印度最受尊敬的偶像之一的事件，再次提醒人们认识到并解决这一日益严重的威胁，这种威胁危及公众信任和个人声誉。

　　为了解决对深度造假日益增长的担忧，信息技术部采取了一系列重要措施——从行业咨询，到最近的一项咨询，要求科技公司定期提醒用户不要发布违反2021年IT规则第3 (1)(b)条的内容，该规则涵盖了各种有害的数字材料。

　　与此同时，现在有迹象表明，商务部正在考虑修订《信息技术规则》，以加强咨询机构的法律地位。这些修正案可能包括根据IT规则对深度伪造的定义，并制定要求，如提醒用户每15天发布有害内容的IPC和IT法案的法律处罚，并将所有用户的投诉提交申诉上诉委员会。

　　虽然MeitY此举背后的意图值得称赞，但其实用性和有效性需要仔细考虑。仅仅加强平台责任就足以解决深度造假的多方面问题吗?频繁的法律提醒和负担过重的申诉机制是解决深度假冒威胁的最有效方法吗?把重点放在加强和完善现有制度上，而不是强加新的、可能很麻烦的规定，这不是更谨慎吗?

　　拟议深度监管的粒度

　　考虑在IT规则下包含深度伪造的定义是规范该技术的关键一步。然而，这个定义必须经过精心设计，以承认，虽然“深度伪造”可能存在问题，可能指的是恶意内容，但“合成内容”——即人工智能创建的任何内容——具有真正的应用。因此，该定义必须侧重于在不扼杀创新和合法使用的情况下禁止不公平使用这项技术。

　　此外，不断提醒的有效性值得怀疑。存在“法律疲劳”的风险，即用户被重复和复杂的法律语言所淹没，可能会选择完全忽略这些警告。这种脱敏可能导致一种矛盾的情况，即警告增加导致注意力和意识下降。心理学研究表明，过度接触警告会导致脱敏。一项名为“警告疲劳:来自澳大利亚丛林大火背景的见解”的研究发现，反复接触警告可能会导致注意力下降。

　　此外，法律学者和行为科学家研究了法律通知和警告的有效性。例如，论文《简化隐私披露——一项实验性测试》表明，复杂的法律语言往往不太有效，而简化的披露更容易被用户理解。一种更微妙的方法，可能涉及更简单的语言和更吸引人的交流方法，可能会在用户意识和负责任的使用平台方面产生更好的结果。

　　同样，通过平台的申诉官来传达所有的不满似乎充满了实际的挑战。目前的双路径系统包括应用程序内报告和投诉官员的选择，提供了灵活性和效率。应该允许用户根据他们的不满的性质选择最合适的途径，确保通过应用内机制更快地解决不太复杂的问题，并选择解决投诉而不必联系政府。

　　规定所有投诉都由一名申诉专员处理，将导致大量案件涌入，其中许多可能是轻微的，很容易通过自动化程序解决。优化应用内部报告和申诉官渠道的更平衡的方法，同时确保每个渠道都有效运作，可能会为用户提供多个解决渠道。

　　从法律授权到实际回应

　　深度造假问题是多方面的，它的解决方案需要一种超越法律规定的多维方法。

　　完善和加强现有的法律规范和程序比制定可能被证明是繁琐的新规定更为务实。根据现行的IT规则，在法院或政府命令下达后，内容删除的时间为36小时。更微妙的方法是根据内容的严重程度对时间线进行分级。

　　对于像深度造假这样的关键问题，可以考虑在特定情况下采取更短的行动时间框架，如选举，及时采取行动至关重要，而不太严重的罪行可以分配更长的时间。这种分级将使中介机构能够更有效地确定其反应的优先次序，从而在最需要的地方采取更有效和更有针对性的行动。同样，IT规则要求平台在72小时内向执法当局(LEAs)提供协助。

　　通过建立一个标准的环境评估援助格式，可以更好地执行这项任务。通过制定标准操作程序，并明确界定哪些官员有权向中介机构索取信息，对深度造假相关网络犯罪的调查可能会更加迅速和有效。

　　同样重要的是，投资于更多的技术研究，找到细致入微的技术解决方案，促进有效预防和检测深度造假。此外，最重要的是设想对小型第三方应用程序进行更大的保护和审查，这些应用程序允许在没有足够检查和预防措施的情况下使用人工智能软件。

　　通过平衡法律措施与有效的补救制度、技术创新和对各种基于人工智能的服务提供商的适当监督，我们可以创造一个更具弹性的数字环境。这种平衡的战略尊重了deepfakes等新兴技术的复杂性，确保我们的应对措施与我们面临的挑战一样复杂和适应性强。

　　施卢蒂·施里亚是对话平台监管与性别与技术高级项目经理。个人观点，不代表本出版物的立场。

　　邀请你的朋友和家人注册MC Tech 3，我们的每日通讯，打破了当天最大的技术和创业故事

　　DAILY-EVENING

　　订阅你的收件箱里最热门的科技和创业故事，以此结束你的一天

　　DAILY-EVENING

　　订阅你的收件箱里最热门的科技和创业故事，以此结束你的一天