微软限制美国警察使用面部识别AI技术

摘要: 微软已更改其服务条款,以禁止某些警察部门使用Azure OpenAI服务。

微软限制美国警察使用面部识别AI技术

微软限制美国警察使用面部识别AI技术

微软最近更新了Azure OpenAI Service的服务条款,禁止美国警察部门使用生成式AI进行面部识别。这项服务是微软针对企业的OpenAI技术的全面管理包装。

新的服务条款明确禁止Azure OpenAI Service与美国警察部门进行面部识别的集成,包括与OpenAI的文本和语音分析模型的集成。

此外,新的条款还涵盖了全球任何执法机构,并明确禁止在移动摄像头上使用实时面部识别技术,如身体摄像头和行车记录仪,以尝试在“未受控制的野外”环境中识别人员。

这些条款的变化发生在Axon宣布利用OpenAI的GPT-4生成文本模型总结身体摄像头音频的新产品推出一周后。评论家们迅速指出潜在的风险,如幻觉(即使是今天最好的生成式AI模型也会创造事实)以及由训练数据引入的种族偏见。

微软表示,Azure OpenAI Service的完全禁止仅适用于美国,而不是国际警察。它不涵盖在受控环境中使用固定摄像头进行的面部识别,比如后勤办公室(尽管条款禁止美国警察使用任何面部识别)。

这与微软及其密切合作伙伴OpenAI最近对AI相关执法和国防合同的处理方式一致。

在一月份,彭博社的报道揭示了OpenAI正在与五角大楼合作开展一些项目,包括网络安全能力。此外,微软曾提议使用OpenAI的图像生成工具DALL-E帮助国防部门建立执行军事行动的软件。

Azure OpenAI Service于二月份在微软的Azure Government产品中推出,增加了额外的合规性和管理功能,面向包括执法机构在内的政府机构。微软联邦政府部门高级副总裁Candice Ling在一篇博文中承诺,Azure OpenAI Service将提交给国防部进行额外授权,以支持国防部任务的工作负载。

更新:微软表示,其原始的服务条款更改包含错误,实际上禁令仅适用于美国的面部识别,而不是对警察部门使用该服务的全面禁令。

© 版权声明

相关文章

暂无评论

暂无评论...
TAB栏自定义颜色

背景颜色

文字颜色