究竟何去何从

标题：加州州长否决SB-1047法案：AI大佬们的欢庆与图灵巨头的决裂

新智元报道：近日，加州州长宣布一项重大决定，正式否决SB-1047法案。
这一决定在AI圈内掀起巨大波澜，引得众多科技巨头以及AI专家们为之欢庆。
喜大普奔的时刻来临，OpenAI、谷歌、Meta等公司纷纷逃过大劫。

一、事件背景

去年，加州州长签署了一项行政命令，强调加州对前沿AI的态度要更加审慎，追求AI的道德、透明、可信。
今年2月，加州拟定了名为《SB-1047前沿AI大模型安全创新法案》的法案，对于大模型安全、透明的使用给出了更具体的条例。
这一法案中多项内容引发争议，被指责对AI开发者过于严苛，甚至可能阻碍AI的创新和发展。

二、AI大佬们的立场

SB-1047法案被提出后，引发了AI圈内的广泛讨论。
以lecun、李飞飞、吴恩达等为代表的大佬们多次公开表示不满，担心该法案会对AI研究和创新产生负面影响。
他们对法案中的一些不合理内容深恶痛绝，认为这些规定可能会给科技公司和初创企业带来毁灭性的打击。

三、SB-1047法案争议焦点

SB-1047法案的争议焦点主要集中在以下几个方面：

1. 对大模型的严苛要求：法案对于开发、训练成本超1亿美元，且浮点运算超过10^26次的大模型，要求防止其造成“重大伤害”。这一规定引发了争议，因为许多大型科技公司的模型都符合这一条件。
2. 模糊的定义和规定：法案中的一些定义如“关键伤害”等语焉不详，让人对何为“重大伤害”以及开发者应承担的责任感到困惑。
3. 对开源软件的限制：法案要求开发者评估其模型的衍生产品，防止他们可能造成的任何伤害。然而一旦开源软件发布，人们可以直接将模型下载到个人设备上，因此开发者根本无法了解其他开发者或客户的具体操作。
4. 其他不合理规定：例如，法案要求公司开放模型给其他国家使用时，需提交客户的所有资料。开发者还必须创建能够解决ai模型风险的测试程序，并每年聘请第三方审计员来评估其AI安全实践。

四、图灵巨头的决裂

令人意想不到的是，图灵三巨头中的Yoshua Bengio和Geoffrey Hinton强烈支持这项法案通过，甚至觉得现在的条款定得有些太过宽松了。
LeCun、李飞飞和吴恩达等主流观点则对此持反对态度。
这一分歧使得图灵巨头之间出现了决裂。

五、加州的决定及其影响

加州州长的否决意味着SB-1047法案不再生效，这对于全球范围内的AI开发者、科技公司和初创企业来说无疑是一个好消息。
他们纷纷表示庆祝，对于这一决定深感欣慰。
这个决定也意味着Meta、谷歌等大厂的开源模型可以继续使用，小型科技公司也无需担忧被打击。

六、总结与评价

SB-1047法案的否决是一个值得庆祝的时刻。
这一决定对于AI圈来说是一个积极的信号，表明决策者开始关注并理解AI领域的担忧和争议。
尽管存在一些争议和分歧，但最终的结果是对AI创新和发展的有力支持。
期待未来能有更多理性、科学的AI政策出台，推动AI行业的繁荣发展。

（注：文章中的参考资料已省略）

---

---

相关标签： openai、 李飞飞、 加州ai法、 吴恩达、 lecun、

上一篇：全新科学报道披露地下埋木材的积极影响力

下一篇：揭秘复杂操作背后的挑战与机遇