白宮週五宣布，美國七家領先的人工智能公司已同意對該技術的開發自願採取保障措施，並承諾在爭奪人工智能潛力的同時管理新工具的風險。
亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司將於週五下午在白宮與拜登總統會面時正式宣布他們對安全、安保和信任領域新標準的承諾。
這一消息發布之際，各公司正在競相推出人工智能版本，以提供強大的新方法來創建文本、照片、音樂和視頻，而無需人工輸入。 但技術的飛躍引發了人們對虛假信息傳播的擔憂，並發出了隨著自我意識計算機的發展而出現“滅絕風險”的可怕警告。
隨著華盛頓和世界各國政府急於為人工智能的發展制定法律和監管框架，自願保障措施只是早期的試探性步驟。 它們反映了拜登政府和立法者對快速發展的技術做出反應的緊迫性，儘管立法者一直在努力監管社交媒體和其他技術。
白宮沒有提供即將出台的總統行政命令的細節，該命令將解決一個更大的問題：如何控制中國和其他競爭對手獲取新人工智能項目或用於開發這些項目的組件的能力。
這涉及對先進半導體的新限制以及對大型語言模型出口的限制。 這些很難控制——大部分軟件都可以壓縮在拇指驅動器上。
與週五的自願承諾相比，一項行政命令可能會引起業界更多的反對，專家表示，這些自願承諾已經反映在相關公司的做法中。 這些承諾不會限制人工智能公司的計劃，也不會阻礙其技術的發展。 作為自願承諾，政府監管機構不會強制執行。
Facebook 母公司 Meta 的全球事務總裁尼克·克萊格 (Nick Clegg) 在一份聲明中表示：“我們很高興與該行業的其他公司一起做出這些自願承諾。” “它們是確保為人工智能建立負責任的護欄的重要第一步，並為其他政府樹立了榜樣。”
作為保障措施的一部分，兩家公司同意：
-
他們的人工智能產品的安全測試，部分由獨立專家進行，並與政府和其他試圖管理該技術風險的人分享有關其產品的信息。
-
確保消費者能夠通過實施水印或其他識別生成內容的方式來識別人工智能生成的材料。
-
定期公開報告其係統的功能和局限性，包括安全風險和偏見證據。
-
部署先進的人工智能工具來應對社會面臨的最大挑戰，例如治愈癌症和應對氣候變化。
-
研究人工智能工具傳播帶來的偏見、歧視和侵犯隱私的風險。
拜登政府在宣布這些協議的聲明中表示，這些公司必須確保“創新不會以犧牲美國人的權利和安全為代價”。
美國政府在一份聲明中表示：“正在開發這些新興技術的公司有責任確保其產品的安全。”
出席白宮會議的高管之一、微軟總裁布拉德·史密斯表示，他的公司支持自願保障措施。
“通過迅速行動，白宮的承諾奠定了基礎，有助於確保人工智能的承諾領先於其風險，”史密斯先生說。
OpenAI 全球事務副總裁 Anna Makanju 將這一公告描述為“我們與世界各地政府、民間社會組織和其他機構持續合作以推進人工智能治理的一部分”。
對於這些公司來說，週五描述的標準有兩個目的：通過自我監管來預防或塑造立法和監管舉措，並表明他們正在深思熟慮和積極主動地處理這項新技術。
但他們商定的規則很大程度上是最低的共同點，每個公司都有不同的解釋。 例如，這些公司致力於圍繞用於開發生成人工智能程序的“語言模型”的數據和代碼實施嚴格的網絡安全。 但這意味著什麼並沒有具體說明——無論如何，這些公司都會有興趣保護自己的知識產權。
即使是最謹慎的公司也很容易受到攻擊。 微軟是與拜登一起參加白宮活動的公司之一，該公司上週緊急應對中國政府組織的針對與中國打交道的美國官員私人電子郵件的黑客攻擊。 現在看來，中國竊取或以某種方式獲得了微軟持有的“私鑰”，這是驗證電子郵件的關鍵——這是該公司保護最嚴密的代碼之一。
因此，該協議不太可能減緩通過立法和對新興技術實施監管的努力。
紐約大學斯特恩商業與人權中心副主任保羅·巴雷特表示，需要採取更多措施來防範人工智能對社會構成的危險。
巴雷特在一份聲明中表示：“今天宣布的自願承諾不可強制執行，這就是為什麼國會與白宮必須立即制定要求透明度、隱私保護的立法，並加強對生成人工智能帶來的廣泛風險的研究。”
歐洲監管機構準備在今年晚些時候通過人工智能法律，這促使許多公司鼓勵美國監管。 幾位立法者提出了法案，其中包括人工智能公司發布其技術的許可、建立聯邦機構來監督該行業以及數據隱私要求。 但國會議員遠未就規則達成一致，並且正在競相進行技術教育。
立法者一直在努力解決如何應對人工智能技術的崛起，其中一些人關注的是消費者面臨的風險，而另一些人則非常擔心在爭奪該領域主導地位的競爭中落後於對手，尤其是中國。
本週，眾議院對華戰略競爭特別委員會向美國風險投資公司發出了兩黨信函，要求對它們對中國人工智能和半導體公司的投資進行清算。 在這些信件發布之前，眾議院和參議院的多個小組一直在質詢人工智能行業最有影響力的企業家和批評家，以確定國會應該探索什麼樣的立法護欄和激勵措施。
其中許多證人，包括舊金山初創公司 OpenAI 的薩姆·奧爾特曼 (Sam Altman)，都懇求立法者規範人工智能行業，指出新技術可能造成不當傷害。 但這項監管在國會進展緩慢，許多立法者仍然難以掌握人工智能技術到底是什麼。
為了提高立法者的理解，紐約州民主黨參議員、多數黨領袖查克·舒默(Chuck Schumer)今年夏天開始為立法者舉辦一系列聽證會，聽取政府官員和專家的意見，了解人工智能在多個領域的優點和危險。
舒默先生還準備了參議院今年國防授權法案的修正案，以激勵五角大樓員工通過“錯誤賞金”計劃報告人工智能工具的潛在問題，委託五角大樓編寫一份關於如何改進人工智能數據共享的報告，並改進金融服務行業人工智能的報告。
卡倫·德米爾吉安 華盛頓的報導也有貢獻。
