加州今日通过了一项重要投票，该投票是为创建美国首个针对最大人工智能系统的安全措施的举措之一。这一改变可能为美国对飞速发展的人工智能技术进行监管铺平道路。
该提案旨在降低人工智能带来的潜在风险，要求公司测试其模型并公开披露其安全协议，以防止模型被操纵，例如摧毁该州的电网或帮助制造化学武器。专家表示，随着该行业的快速发展，未来可能会出现这种情况。
该法案是数百名议员在会议最后一周投票表决的法案之一。州长加文·纽森必须在 9 月底之前决定是否签署该法案、否决该法案或允许其在没有他签署的情况下成为法律。
该措施在议会勉强通过，需要参议院最终投票才能送到州长的办公桌上。
支持者表示，该法案将为美国大规模人工智能模型制定首批急需的安全基本规则。该法案针对的是需要超过 1 亿美元数据进行训练的系统。目前还没有人工智能模型达到这一门槛。
该提案由民主党参议员Scott Weiner起草，遭到了风险投资公司和科技公司的强烈反对，其中包括 OpenAI、谷歌和 Facebook 和 Instagram 的母公司 Meta。他们表示，安全法规应该由联邦政府制定，加州的立法针对的是开发者，而不是那些使用和利用人工智能系统造成伤害的人。
加州众议院的几名议员也反对该法案，前众议院议长南希·佩洛西称其“意图良好，但信息不灵通”。
进步商会 (Chamber of Progress) 是一家由硅谷资助的左翼行业组织，该组织表示，该法案“基于对人工智能的科幻幻想”， “我们不应该因为一个理论情景而束缚加州领先的经济部门。”
这项立法得到了由亚马逊和谷歌支持的人工智能初创公司 Anthropic 的支持。社交媒体平台 X 的所有者埃隆·马斯克本周也表示支持该提案。Anthropic 在致纽森的一封信中表示，该法案对于防止强大的人工智能系统遭到灾难性滥用至关重要，而且“其好处可能大于成本。”
维纳的提议是加州立法者今年提出的数十项人工智能法案之一，这些法案旨在创建公众信任、打击算法歧视和取缔涉及选举或色情内容的深度伪造。随着人工智能越来越多地影响美国人的日常生活，州立法者试图在控制技术及其潜在风险的同时，不扼杀蓬勃发展的本土产业。
加州拥有全球 50 强人工智能公司中的 35 家，是人工智能技术的早期采用者，未来也可能很快就会部署生成式人工智能工具来解决高速公路拥堵和道路安全等问题。
