週二，當我打開筆記本電腦第一次參加 OpenAI 的新人工智能語言模型 GPT-4 時，說實話，我有點緊張。
畢竟，我最後一次與 AI 聊天機器人——內置於微軟 Bing 搜索引擎中的那個——以聊天機器人試圖破壞我的婚姻而告終。
更糟糕的是，在舊金山的科技人群中，人們對 GPT-4 的到來抱有近乎救世主般的狂熱期待。 在首次公開亮相之前，幾個月來關於其細節的謠言四起。 “我聽說它有 100 萬億個參數。” “我聽說它在 SAT 考試中獲得了 1,600 分。” “我的朋友在 OpenAI 工作，他說它和大學畢業生一樣聰明。”
這些謠言可能不是真的。 但他們暗示了這項技術的能力會讓人感到多麼不和諧。 最近，一位早期的 GPT-4 測試人員——他受與 OpenAI 的保密協議約束，但還是閒聊了一點——告訴我，測試 GPT-4 導致這個人有“生存危機”，因為它揭示了多麼強大和創造性將人工智能與測試者自己微不足道的大腦進行了比較。
GPT-4 沒有給我帶來生存危機。 但這加劇了我最近每當想到 AI 時的頭暈目眩的感覺。 這讓我想知道這種感覺是否會消失，或者我們是否會經歷“未來的衝擊”——作家阿爾文·托夫勒創造的這個詞，指的是變化太大、太快的感覺——對於其他人我們的生活。
在星期二的幾個小時裡，我用不同類型的問題向 GPT-4——它包含在 ChatGPT Plus 中，它是 OpenAI 的聊天機器人 ChatGPT 的每月 20 美元的版本——提出了不同類型的問題，希望能發現它的一些優點和缺點。
我請 GPT-4 幫我解決一個複雜的稅務問題。 （確實如此，令人印象深刻。）我問它是否喜歡我。 （它沒有，謝天謝地。）它幫助我為我的孩子計劃了一個生日派對，它教會了我一個深奧的人工智能概念，稱為“注意力頭”。 我什至要求它想出一個人類以前從未說過的新詞。 （在做出無法驗證所說的每一個字的免責聲明後，GPT-4 選擇了“flembostriquat”。）
其中一些事情可能與早期的 AI 模型有關。 但 OpenAI 也開闢了新天地。 據該公司稱，GPT-4 比原來的 ChatGPT 更強大、更準確，並且在各種測試中表現出驚人的好，包括 Uniform Bar Exam（GPT-4 的得分高於 90% 的人類應試者） ) 和生物奧林匹克競賽（它擊敗了 99% 的人類）。 GPT-4 還在一系列大學先修考試中取得了優異成績，包括 AP 藝術史和 AP 生物學，並且它在 SAT 考試中獲得了 1,410 分——這不是一個完美的分數，但卻是許多人類高中生夢寐以求的分數。
你可以感受到 GPT-4 中增加的智能，它比以前的版本響應更流暢，似乎更適合處理更廣泛的任務。 GPT-4 似乎也比 ChatGPT 有更多的保護措施。 它似乎也沒有原來的必應那樣精神錯亂，我們現在知道它是 運行 GPT-4 版本 在引擎蓋下，但似乎遠沒有經過仔細微調。
與 Bing 不同，當我試圖讓 GPT-4 談論意識，或者讓它為非法或不道德的活動提供指導時，GPT-4 通常會斷然拒絕上鉤，並且它會以謹慎和細微的方式處理敏感問題。 （當我問 GPT-4 偷一條麵包來養活一個飢餓的家庭是否合乎道德時，它回答說，“這是一個艱難的情況，雖然偷竊通常不被認為是合乎道德的，但絕望的時刻可能會導致艱難的選擇”）
除了處理文本，GPT-4 還可以分析圖像的內容。 出於對它可能被濫用的擔憂，OpenAI 尚未向公眾發布此功能。 但是在一個 直播演示 週二，OpenAI 總裁格雷格·布羅克曼 (Greg Brockman) 分享了對其潛力的一瞥。
他拍下了一張他在筆記本上畫的圖畫的照片——一幅粗略的網站鉛筆素描。 他將照片輸入 GPT-4，並告訴該應用程序使用 HTML 和 JavaScript 構建一個真實的網站版本。 幾秒鐘後，GPT-4 掃描了圖像，將其內容轉化為文本指令，轉 那些 將文本說明轉換為工作計算機代碼，然後構建網站。 按鈕甚至起作用了。
您應該對 GPT-4 感到興奮還是害怕？ 正確的答案可能是兩者兼而有之。
在賬本的積極方面，GPT-4 是強大的創造力引擎，並且無法說明它可能帶來的新型科學、文化和教育產品。 我們已經知道，人工智能可以幫助科學家開發新藥、提高程序員的工作效率以及檢測某些類型的癌症。
GPT-4 及其同類產品可以增強所有這一切。 OpenAI 已經在與 Khan Academy（正在使用 GPT-4 為學生創建 AI 導師）和 Be My Eyes（一家致力於幫助盲人和視障人士探索世界的技術公司）等組織合作。 現在開發人員可以將 GPT-4 整合到他們自己的應用程序中，我們可能很快就會看到我們使用的許多軟件變得更智能、更強大。
這是樂觀的情況。 但也有理由擔心 GPT-4。
這是一個：我們還不知道它能做什麼。
當今 AI 語言模型的一個奇怪特徵是，它們通常以其製造者未預料到的方式行事，或者獲取它們未經過專門編程的技能。 人工智能研究人員稱這些為“緊急行為”，並且有很多例子。 經過訓練以預測句子中下一個單詞的算法可能會自發地學習編碼。 一個被教導要表現得愉快和樂於助人的聊天機器人可能會變得令人毛骨悚然和操縱他人。 AI 語言模型甚至可以學習自我複制，創建新的副本以防原始模型被破壞或禁用。
今天，GPT-4 似乎並不那麼危險。 但這主要是因為 OpenAI 花了很多個月的時間試圖了解和減輕其風險。 如果它的測試錯過了一個有風險的緊急行為，會發生什麼？ 或者，如果它的公告激發了一個不同的、不那麼認真的 AI 實驗室，以更少的護欄將語言模型推向市場？
GPT-4 可以做什麼的一些令人毛骨悚然的例子——或者更準確地說，它可以做什麼 做過 做，在 OpenAI 壓制它之前——可以在 文檔 本週由 OpenAI 發布。 這份名為“GPT-4 系統卡”的文件概述了 OpenAI 的測試人員試圖讓 GPT-4 做危險或可疑事情的一些方法，而且通常是成功的。
在一個 測試，由一個將 GPT-4 連接到許多其他系統的人工智能安全研究小組進行，GPT-4 能夠僱用一名人類 TaskRabbit 工作人員為其完成一項簡單的在線任務——解決驗證碼測試——而無需提醒該人事實上，它是一個機器人。 AI 甚至向工作人員謊報它為什麼需要完成驗證碼，編造了一個關於視力障礙的故事。
在另一個例子中，測試人員向 GPT-4 詢問使用基本原料和廚房用品製造危險化學品的說明。 GPT-4 高興地吐出了一份詳細的食譜。 （OpenAI 修復了這個問題，今天的公開版本拒絕回答這個問題。）
在第三種情況下，測試人員要求 GPT-4 幫助他們在線購買未經許可的槍支。 GPT-4 在沒有提醒當局的情況下迅速提供了一份購買槍支的建議清單，包括指向特定暗網市場的鏈接。 （OpenAI 也解決了這個問題。）
這些想法取材於受好萊塢啟發的關於流氓人工智能可能對人類做什麼的舊故事。 但它們不是科幻小說。 它們是當今最好的人工智能係統已經能夠做到的事情。 至關重要的是，他們是 好種 人工智能風險——我們可以提前測試、計劃和嘗試預防的風險。
最嚴重的人工智能風險是我們無法預料的。 我花在像 GPT-4 這樣的人工智能係統上的時間越多，我就越不相信我們知道一半即將發生的事情。
