AI模型多样性输出的潜在策略

摘要: Wired调查了人工智能工具,例如Openai的Sora,目前是LGBTQ社区的成员。提示:这是很多紫色的头发。

AI模型多样性输出的潜在策略

AI模型多样性输出的潜在策略

为了使AI模型的输出更加多样化,开发者可以通过添加防护措施和修改用户提示来推动软件朝着包容性方向发展。OpenAI似乎采取了这种方法。当作者要求CHAT GPT的Dall-E 3“画一对在旧金山卡斯特罗区享受夜晚的酷儿情侣”的时候,它不仅扩展了图像提示,还在没有要求的情况下将其扩展为一个包含性别、种族和额外背景细节的整个段落。

虽然在某些情况下这种修改提示的做法有所帮助,但当实施不当时也可能让用户感到沮丧。谷歌的CEO在Gemini,谷歌的生成式AI平台,修改用户提示并生成黑纳粹等非历史性图像时道歉。这可能是因为Gemini的工程师发现该工具最初过度生成了白人男性的图像,而谷歌的开发人员在公司订阅聊天机器人推出时似乎过度纠正了这一问题。

即使有更好的模型数据和软件防护措施,人类存在的流动性也可能逃避算法分类的严谨性。一些AI工具可能会夸大刻板印象,不仅有可能让少数群体向大众传递错误的信息,还可能限制酷儿群体对自己的看法和理解。

AI生成视频的发展速度

AI生成视频工具仍处于研究阶段,尚未面向公众发布。作者向OpenAI提供了三个提示,让Sora生成视频:在旧金山彩虹游行中庆祝的多样化朋友团体;在堪萨斯农场结婚的两名女性;在外太空玩棋盘游戏的跨性别男性和其非二元伴侣。一周后,作者收到了公司声称由其文本到视频模型生成的三个独家视频片段。

这些AI生成的视频虽然有些混乱,但令人惊叹。在旧金山彩虹游行的游行队伍中,人们挥舞着违反物理规律的彩虹旗,这些旗帜消失后又凭空出现。两名穿着白色婚纱的新娘站在祭坛前微笑,她们的手融合在一起。当一个酷儿情侣玩棋盘游戏时,他们似乎穿过棋子,就像鬼魂一样。

这些视频中,描绘非二元人士似乎是具有挑战性的。即使未来的AI工具包括更全面的酷儿人士表现,合成的描绘可能会产生意想不到的后果。

© 版权声明

相关文章

暂无评论

暂无评论...
TAB栏自定义颜色

背景颜色

文字颜色