规范AI先从美国政府内部下手!拜登据称即将签署行政令……

更新时间:2023-10-28 12:05:11作者:橙橘网

规范AI先从美国政府内部下手!拜登据称即将签署行政令……

财联社10月28日讯(编辑 黄君芝)根据媒体获得的一份命令草案,美国总统拜登(Joe Biden)将于下周一(30日)签署一项行政命令,要求人工智能(AI)工具在联邦机构使用之前完成安全测试,这是他迄今为止控制新兴技术的最重要一步。

这份日期为10月23日的草案利用了政府作为微软(Microsoft Corp .)和亚马逊(Amazon.com Inc.)等科技公司最大客户的地位,推动其人工智能产品的变革。它指示劳工部为联邦承包商编写指导方针,防止人工智能驱动的招聘系统中的歧视,这是民权组织关注的问题。

美国立法者对限制人工智能表现出了广泛的兴趣,但一个全面压倒性的战略尚未出现。拜登的指示为这项技术设置了初步的护栏,而国会正在努力制定更强有力的立法。美国人已经在使用人工智能撰写演讲稿、计划膳食、加快研究速度等。

据称,这项命令至少有三个目标。首先,该命令将要求先进的人工智能模型在被美国政府及其联邦工作人员使用之前接受评估。目前尚不清楚该规则可能适用于哪些模型以及评估可能包括哪些标准。

其次,该命令将责成美国国防部、能源部和某些情报机构等特定机构研究如何利用人工智能来改善国家网络安全。最后,该行政命令还将让技术熟练的技术工人更容易移民到美国。

此外,这份111页的命令草案还鼓励美国联邦通信委员会(Federal Communications Commission)考虑使用人工智能来阻止消费者不想要的机器人电话和短信。

这项备受期待的命令建立在安全部署人工智能的自愿承诺的基础上。今年夏天,在白宫的要求下,包括谷歌、微软和英伟达在内的十几家科技公司都签署了这一承诺协议,以帮助推进白宫所称的“安全、可靠和值得信赖的AI发展”。

该协议的主要内容包括:在发布AI产品前,先由独立专家进行内外部安全测试; 定期公开报告AI的能力和局限性,及其适当和不适当应用的领域; 同意开发数字水印系统等强大技术机制,确保帮助用户识别AI生成内容; 优先研究AI可能带来的社会风险,以避免偏见与歧视、保护隐私。