专访:Sarah Kreps – AI 领域杰出女性

摘要: 莎拉·克雷普斯(Sarah Kreps)是TechCrunch在AI中的女性系列系列的一部分,是康奈尔大学(Cornell University)的政府教授。

专访:Sarah Kreps - AI 领域杰出女性

专访:Sarah Kreps – AI 领域杰出女性

Sarah Kreps是康奈尔大学政府学教授,同时也是康奈尔法学院兼职教授和西点现代战争研究所的兼职学者。她是一位政治科学家、美国空军退伍军人和分析师,专注于美国外交和国防政策。

Kreps最近的研究探讨了人工智能技术(如OpenAI的GPT-4)在政治领域中的潜力和风险。她在去年为《卫报》撰写的一篇专栏中写道,随着越来越多的资金涌入人工智能领域,人工智能的竞赛不仅在公司之间,而且在国家之间将加剧,同时人工智能政策挑战也将变得更加困难。

简介和启蒙

在新兴技术领域的国家安全影响方面开始我的职业生涯。我曾是空军军官,当时“捕食者”无人机被部署,我参与了先进雷达和卫星系统的研究。我在这个领域工作了四年,所以作为博士,我对研究新兴技术对国家安全的影响很感兴趣。我首先写了关于无人机的文章,而无人机的讨论正朝着自主性问题发展,这自然涉及到人工智能。

2018年,我参加了华盛顿特区一个关于人工智能的研讨会,OpenAI介绍了他们开发的新GPT-2功能。我们刚经历了2016年的选举和外国干预,那时相对容易发现,因为非英语为母语者的语法错误等小细节——这些错误并不令人惊讶,因为干预来自俄罗斯支持的互联网研究机构。当OpenAI做这个介绍时,我立即关注到可能以规模生成可信的虚假信息,然后通过微目标定位,在远比这些个体手工撰写内容时更有效地操纵美国选民的心理。我联系了OpenAI,并成为他们分阶段发布战略的早期学术合作者之一。我的研究旨在调查可能的滥用案例,评估公众是否会认为这些内容可信,然后进行大规模实地实验,生成“选区信函”,将其与实际选区信函随机混合,以了解立法者是否会以相同的速度回应,以了解是否可以愚弄他们——恶意行为者是否可以通过大规模信函写作活动塑造立法议程。

这些问题触及了作为主权民主国家的核心,我断言这些新技术确实对我们的民主构成了新的威胁。

值得骄傲的工作

我非常自豪于我进行的现场实验。没有人做过类似的事情,我们是第一个展示在立法议程背景下的颠覆潜力。

但我也为一些未能推向市场的工具感到自豪。我与康奈尔大学的几位计算机科学学生合作开发了一个处理立法来信并帮助他们以有意义的方式回复选民的应用程序。在CHAT GPT之前,我们就开始研究这个问题,利用人工智能处理大量的电子邮件,并为与选民沟通的时间紧迫的工作人员提供人工智能帮助。我们进行了一些实验,评估人们对人工智能帮助回复的感受,并得出结论,也许社会还没有准备好接受这样的应用。但在我们放弃几个月后,CHAT GPT出现了,人工智能如此普及,以至于我几乎怀疑我们曾经担心这是否具有道德问题或合法性。但我仍然认为,我们提出了关于合法用例的艰难伦理问题是正确的。

面对男性主导的科技行业的挑战

作为研究人员,我并没有感到那些挑战非常严重。我曾在旧金山湾区,所有人都是男性,在酒店电梯里直接做他们的电梯演讲,这是一种我可以理解会让人感到威胁的陈词滥调。我建议他们找到导师(男性和女性),培养技能,让这些技能证明自己,接受挑战并保持韧性。

给女性进入人工智能领域的建议

我认为女性有很多机会,她们需要培养技能,拥有信心,她们将蓬勃发展。

人工智能发展面临的一些最紧迫问题

我担心人工智能社区已经开展了许多研究项目,关注“超对齐”等问题,这些问题掩盖了关于我们试图将人工智能与哪些价值观对齐的更深层次或实际上是正确的问题。Google Gemini的问题导致了滑稽的历史错误,显示了通过与一组开发者狭窄价值观对齐可能出现的夸张描绘。我认为这些开发者的价值观是善意的,但揭示了这些大型语言模型正在被编程为一组特定的价值观,这将塑造人们对政治、社会关系和各种敏感话题的看法。这些问题不是存在风险的问题,但确实构成社会结构,并将大量权力赋予负责这些模型的大型公司(如OpenAI、Google、Meta等)。

AI用户应该注意的问题

随着人工智能的普及,我们已经进入了一个“信而验之”的世界。不相信任何事情是悲观的,但有很多人工智能生成的内容,用户在相信之前确实需要谨慎。在假设一切准确之前,最好寻找其他来源验证真实性。但我认为我们已经从社交媒体和虚假信息中吸取了教训。

负责任地构建人工智能的最佳方式

最近我为《原子科学家公报》撰写了一篇文章,该公报最初涵盖了核武器,但已适应以解决人工智能等颠覆性技术。我一直在思考科学家如何成为更好的公共监护人,并希望将一些我一直在为书籍项目研究的历史案例联系起来。我不仅概述了我支持的负责任发展步骤,还谈到了一些人工智能开发者正在提出的问题是错误的、不完整或误导的。

© 版权声明

相关文章

暂无评论

暂无评论...
TAB栏自定义颜色

背景颜色

文字颜色