请您点击上方【AI界新鲜事】→右上角菜单【...】→设为星标★来源：清元宇宙 ID：qingboMetaverse
曾几何时，色情产业甚至被认为是科技进步的“试金石”，新技术往往先在此领域得到验证和应用。如今，AIGC时代也不例外。只需几句提示文字，AI就能生成逼真的色情图片和视频,满足人们的各种幻想。在一年以前，AI绘画刚刚问世的时候，一些专属于“色情”领域的AI模型还处于初级阶段，数量不多，生成的结果也一言难尽。这些模型对人体解剖学的微妙差异一窍不通，也经常生成出一些在科幻电影里都不会出现的身体扭曲。以Unstable Diffusion为代表的平台打着“表达自由”的旗帜，允许用户可以随意生成“涩图”。这一方面激发了大众的创造力，另一方面也导致平台沦为纯粹满足猎奇需求的聚集地。
Unstable Diffusion作为目前最大的AI色情内容生成平台，已经筹集了超过2.6万美元的捐款，购买了用于训练AI的硬件设备，并创建了超过3000万张照片的数据集。
据说，现在每天有超过35万人，在这个平台上生成超过50万张图片。在Unstable Diffusion的Discord服务器上，图片分享部分有两个主要类别，“SFW”和“NSFW”。SFW中的图片涵盖了各种主题，比如动物、食物、室内、城市和风景。而NSFW则包含了各种更重口味的东西，甚至包括非二元人、非人类和“合成恐怖”（比如有多个附肢或与背景融合的皮肤）。一开始，NSFW的子类数量略多于SFW，但老司机们在猎奇的道路上越走越远，并且乐于“自己动手丰衣足食”，利用AI生成器直接把车开到了外太空。现在的Unstable Diffusion，内容几乎都可以归类为“合成恐怖”频道，整个服务器已经完全变成老司机的形状了。然而，Unstable Diffusion和Equilibrium AI的联合创始人之一Arman Chaudhry却表示，Unstable Diffusion的目标是创建一个“维护表达自由”的AI艺术平台。“在这个平台上，创造力可以自由发挥，没有太多限制。我们相信艺术应该是无审查的。”
与其他色情产业一样，Unstable Diffusion的存在也引发了各种争议，大家灵魂发问：创作自由是建立在侵犯别人权益之上的吗？比如，最近有网友发现，Twitch上一位知名主播Brandon Ewing（网名Atrioc），会直播观看一些著名女主播的暴露图片，这些图片由AI深度伪造而成，但其生成和公开都没有经过这位女主播的同意。最后，制作这些深度伪造图片的人在舆论压力下删除了它们，但是损害已经造成了。直到现在，那些受到攻击的创作者还会在私信中收到这些图片的副本。网络上大多数色情深度伪造图片，实际上都是描绘女性的，而且经常被用作“武器”。《华盛顿邮报》就曾报道过一个小镇教师的故事，学生家长发现她的形象被用于AI色情，她就因此失去了工作。更让人不安的是，在暗网上流传着很多AI生成的儿童色情材料。福克斯新闻报道过这样一个例子，一个15岁的男孩被一个在线健身爱好者团体的成员勒索，对方使用生成AI，将男孩光膀子的照片编辑成了裸体照片。与此同时，Reddit上的用户也被AI色情模型给骗了，他们购买了一些现实中根本不存在的色情图像和视频。虽然对这些用户来说，这些片子是真是假，可能并不影响实际使用。但相关艺术工作者对此表示非常担忧，毕竟AI在用一种“不讲武德的方式”抢走他们的生意。
面对争议，Unstable Diffusion不得不收紧政策，设置过滤器自动查删除违规内容，来确保他们的平台被合法和道德地使用。他们要求用户遵守一系列规定，比如不制作虚假的色情内容、不侵犯他人隐私和权益等。此外，他们还鼓励用户举报任何违规行为。“无审查”变成了“有审查”，Chaudhry的脸被打得啪啪响。在一些“老司机”眼里看来，Unstable Diffusion已经惨遭和谐，快乐老家被一锅端了。但Unstable Diffusion解释说，他们只是在可能使其陷入法律困境的图片上划定了界限，比如名人的深度伪造色情作品以及描绘未成年的色情作品。
毕竟Unstable Diffusion也不想挨上一顿法律的铁拳。如今，美国的一些州已经制定了反对深度伪造色情作品的法律，国会也在努力将“在美国分享非自愿AI生成的色情作品”定为非法。为此，Unstable Diffusion的审核系统还利用了一个AI模型，试图识别并自动删除违反其政策的图片。它们的过滤器目前设置为“高度敏感”，以谨慎为重。但他们也在征求社区的反馈意见，想要“找到合适的平衡”。 Chaudhry说：“我们优先考虑用户的安全，并致力于使我们的平台成为一个创造力可以蓬勃发展而不担心不适当内容的空间。我们希望用户在使用我们的平台时感到安全和放心，我们致力于维护一个尊重这些价值观的环境。” 不过，深度伪造过滤器似乎并没有想象中那么严格。有网友尝试了几位名人的色情照片，Unstable Diffusion的过滤系统没有察觉，除非特别逼真或准确的，比如川普被性别转换这种。接着，Unstable Diffusion表示他们发现并修复了这个bug，并在过滤系统中添加了统计监控，“以便更早地发现此类问题再次发生”。 一位发言人通过电子邮件表示：“Unstable Diffusion一直以严厉打击深度伪造而闻名，并为了我们的反深度伪造政策而拒绝了许多融资和合作交易。”“我们在解决这一问题时立即禁用了我们的网站，现在它已经恢复在线，并且我们已经测试了这些名人，他们都被适当地禁止了。”
但不管怎么解释，Unstable Diffusion的心貌似都已经不再只向着老司机们了。假设Unstable Diffusion终于拿到了他们一直在追求的投资，他们会计划加强计算机基础设施，毕竟社区规模一直在不断增长。此外，他们还计划增加更多定制选项和社交分享功能，利用Discord服务器作为跳板。Chaudhry说：“我们的目标是将我们活跃而互动的社区从Discord转移到我们的网站上，鼓励用户分享、合作和相互学习。社区是我们的核心优势之一，我们计划将其与我们的服务器整合，并为他们提供扩展和成功的工具。”说人话就是，Unstable Diffusion想撕掉AI色情生成平台这个标签，不再专为老司机谋福利，它想做个成功的正经平台。但是，对于Unstable Diffusion来说，“成功”到底是什么样子？一方面，他们希望被认真看作为一个生成艺术平台。另一方面，就像Discord服务器证明的那样，它仍然是色情作品的源泉之一。没有多少人会正经看待这个“已经脏了”的平台，老司机们或许也只会怀念它下海时的模样。
即使Unstable Diffusion真的放弃了成人内容，它仍然需要面对生成AI领域中令人头大的问题：艺术家的同意和补偿。就像大多数生成式AI模型一样，Unstable Diffusion的模型是在网上众多艺术作品的基础上进行训练的，并不一定得到了创作者的知情。许多艺术家相当反对，并提起了诉讼——这些AI模仿他们的风格，却不给予适当的认可或报酬。事实上，Unstable Diffusion的问题也确实不太可能很快解决。试图自力更生，同时又避免争议，试图博得用户的欢心，同时又不想吃上艺术家们的官司，这些都够它愁的了。随着越来越多的人开始关注AI生成背后的问题，Unstable Diffusion不管是只想为老司机谋福利，还是想绿色发展做大做强，都没有那么简单了。只有科技与伦理并进，技术才能造福人群，我们才能共享AI的美好未来。参考资料：https://techcrunch.com/2023/07/21/as-ai-porn-generators-get-better-the-stakes-raise/
