加州推进AI安全法案 科技领袖意见分歧

摘要 【太平洋科技快讯】加州州议会通过了一项备受争议的人工智能安全法案SB 1047,该法案要求公司确保其技术不会造成重大损害,该立法在州议会...

【太平洋科技快讯】加州州议会通过了一项备受争议的人工智能安全法案SB 1047,该法案要求公司确保其技术不会造成重大损害,该立法在州议会获得了41票赞成和9票反对。

马斯克在投票前一天表达了对该法案的支持。 OpenAI的竞争对手Anthropic也谨慎支持该法案,认为“收益可能超过成本”,并称其可以合理地实施这些条款。OpenAI、科技孵化器 Y Combinator 和风险投资公司 Andreessen Horowitz 都是 SB 1047 法案的反对者。

SB 1047 要求开发强大 AI 模型的公司采取“合理的措施”确保其技术不会造成“严重伤害”。例如大规模伤亡或超过 5亿美元(约合37.5亿人民币)的财产损失时,AI公司必须采取措施,例如设置能够随时关闭技术的“紧急开关”,并将模型提交第三方测试,以确保其在最大程度上降低重大风险。 此外,该法案将为希望分享安全担忧的AI公司员工提供举报人保护。如果公司不符合该法案的要求,加州总检察长可以对其提起诉讼。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢。