Emma McGowan 2024年1月30日
随著AI生成的泰勒斯威夫特的色情图片在X前Twitter上疯传,我们不禁要问:这对AI的未来意味著什么?
最近发生的一件令人不安的事件是,AI生成的 著名歌手泰勒斯威夫特的露骨图片 在X上大量涌现,这突显了AI能力的黑暗面。这些图片据信是使用微软设计工具创建的,引起了广泛的关注,并凸显了日益增长的AI生成虚假色情内容的挑战。
随著这些图片迅速在平台上扩散,此事件不仅引发了粉丝和隐私倡导者的愤怒,还提出了关于在媒体创作中伦理使用AI的重大问题。
Avast威胁情报总监米哈尔萨拉特Michal Salt在这场及时的讨论中带来了丰富的知识和专业见解。萨拉特密切关注技术、安全和伦理的交集,提供了对AI生成内容影响的细致看法。
接下来的部分,我们将深入探讨他的见解,探索图像操控的历史平行性、AI能力带来的伦理困境,以及在我们日益依赖AI的世界中对数字信任和安全的更广泛影响。
萨拉特将当前AI生成逼真图像的能力与过去Photoshop的使用进行了比较。正如Photoshop在若干年前彻底改变了图像编辑,现在AI大大简化了创建现实图像的过程。然而,操控图像的概念并不新鲜;AI只是这个持续故事中的最新工具。
“在某种程度上,这只是另一种照片编辑软体,”他解释道,强调操控图像的概念已经存在十多年。现在的关键区别在于AI技术提供的便利性和可及性。这一变化提出了重要问题,即社会如何适应和监管这些新工具,因为这些工具使得创建逼真图像比以往任何时候都更简单。
最紧迫的担忧之一是使用AI生成露骨图像的伦理影响,尤其是未经特定个人同意的情况下。虽然创建一般的裸体图片可能不会引发太多伦理问题,但真正的问题在于创建可识别人物的露骨图片的便利性。
“AI生成的色情内容不一定本身就有问题或具伦理上的争议,”萨拉特表示。“但对我来说,伦理问题在于,你可以相对容易地生成带有某个特定面孔的图像。”
这一能力不仅限于泰勒斯威夫特等名人,还可能扩展到任何人,这强调了伦理指导和立法的必要性:虽然所谓的“报复色情”或非自愿分享裸体图片在48个州是 非法的,但AI生成的深伪色情目前在 仅10个州被禁止。这是一个明显的差异,显示了立法需要追上技术的步伐。
或许因为生成性AI的接触相对较新,目前对于在未经主体同意的情况下创建露骨内容的监管措施寥寥无几。然而,萨拉特认为,对于AI公司来说,实施这些措施并不难:例如,禁止生成特定个人的图像或使用客户提交的图像作为来源材料,便能为大多数人提供足够的屏障。
“当然,某些人会设法突破这些限制,强迫模型做它不应该做的事情,”萨拉特说。“就我看,当前几乎无法避免这种情况只能让事情变得更加困难。我想表达的观点是,提供这些服务的公司应该更加努力地去避免这些情况。”
也有可能有人创建自己不受任何限制的色情生成模型。然而,萨拉特指出,虽然这是可能的,但需要 大量 的技术知识和 大量 的计算能力。
“能够自己创建一个生成裸体图像的AI的人并不多,”萨拉特说。“因此,这更像是使用Photoshop,你需要具备一定程度的技能才能做到这一点。”
萨拉特将当前的AI发展状态与安全行业的演变进行了比较。他观察到,我们正见证安全行业在AI的驱动下“重新开始”。这一比较突显了将AI发展视为一个持续进程的重要性,而识别和修复漏洞则是技术成熟的关键。
蚂蚁加速npv免费泰勒斯威夫特在X上的AI生成图像强调了负责任使用AI的重要性。随著AI不断发展,在技术能力与伦理考量和安全措施之间取得平衡将至关重要。通过向像米哈尔萨拉特这样的专家学习,并反思过去的挑战,我们可以更有见识且谨慎地导航这一复杂的环境。
电话:13594780144
联系人:周经理
邮箱:gleeful@qq.com
网址:https://www.hhaaqq.com
地址:界首市舌剖馆112号