美國加州州長 Gavin Newsom 周一 (30 日) 凌晨正式否決了 SB-1047 法案，引發廣泛關注，尤其是在全球人工智慧（AI）領域內。過去 30 天，Newsom 州長簽署了 17 項與大型模型和生成式 AI 安全使用相關的法案，唯獨否決了 SB-1047，顯示他對該法案潛在影響的深刻理解。
SB-1047，全名《前沿人工智慧模型安全創新法案》，於 2024 年 2 月 7 日提出，加州政府於 6 月 2 日投票通過，旨在增強大型 AI 模型的安全性、透明性和使用規範。然而，該法案中包含多項不合理條款，特別是對開發和訓練成本超過 1 億美元的大型模型的嚴格監管。這意味著像 Meta 的 Llama-3 系列和 Google 的 Gemma 系列等開源模型，若被用於非法用途，來源開發商將面臨嚴厲處罰。
此外，法案規定大公司在向其他國家用戶開放其模型時，需提交用戶的詳細資料，包括身分、信用卡資訊及交易記錄等。這些要求不僅增加了企業的合規成本，也可能對新創企業的生存構成威脅。
Newsom 州長在否決公告中指出，全球 50 家頂級 AI 企業中有 32 家位於加州，這些企業對 AI 技術的發展和創新至關重要。他認為，儘管 SB-1047 的初衷是出於善意，但在實施上存在嚴重問題。該法案過於關注大型 AI 模型，可能導致公眾對技術控制的虛假安全感，而小型專業化模型同樣可能帶來更大的風險。
此外，法案缺乏彈性，沒有為不同類型的 AI 應用提供足夠的適應性，可能導致實施過程中的混淆與不確定性。Newsom 指出，該法案沒有考慮到 AI 模型是否部署在高風險環境中，而這是非常重要的，因為在低風險環境中可能不需要同樣嚴格的監管措施。同時，法案沒有明確哪些類型的決策是關鍵決策，也沒有定義什麼是敏感數據，這可能會導致在保護個人隱私和資料安全方面的不足。
Newsom 強調，保護大眾免受 AI 技術威脅的最佳方法是採取更細緻、有針對性的監管，而非一刀切的解決方案。
先前諸多人工智慧研究者 (如：李飛飛、吳恩達) 認為 SB-1047 法案將對人工智慧技術發展產生「寒蟬效應」，並且讓人工智慧技術發展受限，因此該法案的否決對於全球開發者和科技企業來說是一個積極的信號，意味著他們可以繼續利用 Meta、Google 等公司的開源大型模型進行創新。
不過，雖然 Newsom 否決 SB-1047 號提案，顯然將使多數發展人工智慧的科技業者鬆口氣，但不少人也認為人工智慧技術發展依然需要有更明確管理辦法，例如有深度學習教父之稱的 Yoshua Bengio 與 Geoffrey Hinton，他們贊成通過 SB-1047 號提案。
隨著 AI 技術的快速發展，如何在保障安全與促進創新之間找到平衡，將是未來政策制定者面臨的重要挑戰。
本報告是基於美國加州官網的最新消息，旨在提供有關 SB-1047 法案及其影響的深入分析。