人工智能平台有“赏金”系统，可以制作普通人的深度伪造作品

　　一份令人不安的报告显示，互联网最大的人工智能平台之一Civitai正在激励用户深度模仿真人。

　　据报道，人工智能模型市场已经从安德森·霍洛维茨的a16z基金获得了数百万美元的资金，最近推出了一项“赏金”功能，这是一个货币化的系统，在这个系统中，各种用户可以竞争制作LoRA图像模型，以换取数字货币。基本上，用户发布“赏金”，或者呼吁使用可以生成超特定图像的人工智能模型。其他Civitai用户尝试构建请求的模型，原始赏金海报选择获胜者。获胜者将获得一种名为“Buzz”的虚拟现金，可以用真钱从Civitai购买。

　　Civitai已经被认为是一个平台，在这里，未经同意的深度色情作品很容易被制作和传播。可悲的是，毫不奇怪，这些有价值的作品中的大部分似乎都是未经同意的色情图像，几乎全部是女性。

　　据报道，这包括不受欢迎的公众人物，如名人和有影响力的人，以及至少一个没有公众形象的人——据报道，悬赏只提供了从这个人的社交媒体账户上拍摄的几张照片。这是一个令人不安的时代迹象，考虑到这项技术的可用性、滥用的厚颜无耻，以及主要金融机构不顾一切地为这样一个平台提供资金的意愿。

　　需要明确的是:未经同意的深度伪造的任何人的色情作品，无论是名人还是普通人，都是错误的，令人不安的。但普通、非公众人士面临风险这一事实本身就令人担忧;事实上，在一个由易于使用的生成式人工智能工具主导的蓬勃发展的互联网时代，人们越来越觉得，对他们公众形象的控制正在迅速消失。

　　更糟糕的是，目前几乎没有对受害者进行报复的途径。Civitai一开始就对性图像有着令人困惑的规定，该公司表示，其赏金工具不应用于深度伪造的色情目的。但Civitai似乎并没有花费太多的执法资源，尽管受害者可以自己报告这类材料，但这对托管这些内容的平台来说，门槛低得令人难以置信，在这种情况下，这些内容可以赚钱，更不用说在后台为平台提供动力的资助机构了。

　　“我非常害怕这会变成什么样子，”米歇尔·阿尔维斯(Michele Alves)说，她是一名Instagram网红，拥有一笔不想要的西维塔(Civitai)赏金。“我不知道我能采取什么措施，因为互联网似乎是一个失控的地方。”