加利福尼亞州議會批準了一項備受爭議的人工智能安全法案，要求企業確保其技術不會造成重大傷害。

這項名為 SB 1047 的法案得到了一系列美國知名人士的批評和贊揚。現在，這項法案將回到州參議院進行確認投票，可能進行修改，此后將提交給州長加文?紐森（Gavin Newsom）。該法案已經在州眾議院以 41 票贊成、9 票反對獲得通過。

SB 1047 法案規定，開發強大人工智能模型的公司必須采取“合理的謹慎措施”，確保其技術不會造成“嚴重傷害”，比如大規模傷亡或超過 5 億美元的財產損失。這項法案由加利福尼亞州參議員斯科特?維納（Scott Wiener）提出，于今年 5 月在州參議院獲得通過。該法案將要求企業采取預防措施，比如引入可以隨時關閉其技術的“終止開關”。該法案還要求將模型提交給第三方測試，以確保將嚴重風險降至最低水平。

此外，該法案還將為希望分享安全隱患的人工智能公司員工提供舉報人保護。不遵守該法案的公司可能會被加州總檢察長起訴。

“創新和安全可以攜手并進，而加州正在引領這一潮流，”維納在聲明中說，“通過這次投票，州眾議院邁出了真正具有歷史意義的一步，積極主動地開展工作，以確保一項令人興奮的新技術在發展過程中保護公眾利益。”他還稱該法案是一項“簡單易行的常識性措施”，將許多大公司已經做出的安全承諾編纂成法律。

在過去的幾個月里，該法案遭到了許多主要科技領袖、初創公司和風險投資家的激烈反對，他們認為該法案代表了政府對一項仍處于起步階段的技術的過度干預，可能會扼殺加利福尼亞州的科技創新。上周，OpenAI 公開表示反對該法案，認為此類政策應在聯邦層面而非州層面實施。

包括美國眾議員羅?卡納（Ro Khanna）、舊金山市長倫敦?布里德（London Breed）等政界人士也對該法案表示反對，他們對科技行業的擔憂表示認同，即該法案可能會阻礙加州在人工智能創新方面的領導地位。

但在這次投票前的最后階段，該法案也贏得了人工智能領域一些重要人物的支持。8 月 27 日，埃隆?馬斯克（Elon Musk）出人意料地表示了支持，盡管他說這是一個“艱難的決定，會讓一些人不高興”。OpenAI 的競爭對手 Anthropic 以注重安全而著稱，也謹慎地支持了這項法案，并在上周表示，“收益可能大于成本”，而且可以切實地實施這些條款。在維納實施了該公司建議的幾項修正后，Anthropic 對該法案更加支持。

面對批評者，維納為該法案進行了辯護，強調其條款僅適用于花費超過 1 億美元訓練大型模型或花費 1000 萬美元微調模型的公司，這將使大多數規模較小的初創公司免受影響。這位議員還表示，雖然他會支持聯邦立法，但國會在科技監管方面歷來行動遲緩，在缺乏全國性行動的情況下，他認為加州有責任發揮帶頭作用。

現在，隨著 SB 1047 法案提交給州長紐森，有關該法案的爭論還將繼續。OpenAI、科技孵化器 Y Combinator 和風險投資公司 Andreessen Horowitz（SB 1047 的批評者）都注冊了游說人員為該法案工作。