每經編輯 杜宇

4月5日，ChatGPT官網宣布，由于需求量過大，暫停Plus付費項目的購買，一度引發(fā)關注。目前該功能已恢復，并可進入付費環(huán)節(jié)。

值得注意的是，4月6日凌晨，Open AI在官網發(fā)布了《Our approach to AI safety》，以確保安全、可靠地為全球用戶提供ChatGPT服務。

圖片來源：Open AI公司官網

建立廣泛的安全和監(jiān)控系統(tǒng)

Open AI表示，在發(fā)布任何新系統(tǒng)之前，我們會進行嚴格的測試，聘請外部專家進行反饋，通過人工反饋的強化學習等技術來改善模型的行為，并建立廣泛的安全和監(jiān)控系統(tǒng)。

例如，在我們的最新模型GPT-4完成培訓后，我們花了6個多月的時間在整個組織中工作，以使其在公開發(fā)布之前更安全、更一致。

Open AI認為，強大的人工智能系統(tǒng)應該接受嚴格的安全評估。需要進行監(jiān)管以確保此類做法得到采納，我們積極與政府就此類監(jiān)管的最佳形式進行接觸。

圖片來源：Open AI公司官網

從實踐中學習、優(yōu)化、改善

Open AI表示：在部署之前，我們努力防止可預見的風險，然而，在實驗室中所能學到的是有限的。盡管進行了廣泛的研究和測試，但仍無法預測人們使用我們技術的所有有益方式，也無法預測人們?yōu)E用我們技術的所有方式。

Open AI表示，隨著時間的推移，從現實世界的使用中學習是創(chuàng)建和發(fā)布越來越安全的人工智能系統(tǒng)的關鍵組成部分。所以，從實踐項目中學習、優(yōu)化和改善產品，成為重中之重。

圖片來源：Open AI公司官網

關鍵重點：保護兒童

我們安全工作的一個關鍵重點是保護兒童。我們要求年滿18歲或13歲以上的人必須獲得父母批準才能使用我們的人工智能工具，并正在研究驗證選項。

我們不允許我們的技術被用于生成仇恨、騷擾、暴力或成人內容等類別。與GPT-3.5相比，我們的最新模型GPT-4響應不允許內容請求的可能性降低了82%，我們已經建立了一個強大的系統(tǒng)來監(jiān)控濫用情況?，F在，ChatGPT-Plus用戶可以使用GPT-4，我們希望隨著時間的推移，更多的人可以使用它。

我們已經做出了重大努力，最大限度地減少我們的模型生成傷害兒童的內容的可能性。例如，當用戶試圖將兒童性虐待材料上傳到我們的圖像工具時，我們會阻止并向國家失蹤和被剝削兒童中心報告。

除了我們默認的安全護欄外，我們還與非營利組織Khan Academy等開發(fā)人員合作，該學院構建了一個人工智能輔助系統(tǒng)，既可以作為學生的虛擬導師，也可以作為教師的課堂助理，為他們的用例量身定制安全緩解措施。我們還在開發(fā)一些功能，允許開發(fā)人員為模型輸出設置更嚴格的標準，以更好地支持想要這些功能的開發(fā)人員和用戶。

圖片來源：Open AI公司官網

尊重隱私

Open AI的大型語言模型是在廣泛的文本語料庫上訓練的，這些文本包括公開可用的、許可的內容以及由人工審閱生成的內容。

Open AI不會使用數據來銷售服務、做廣告或建立人們的檔案——會通過使用數據使大語言模型對人們更有幫助。例如，ChatGPT 通過與人類之間進行的對話，以進一步培訓和改善產品。

圖片來源：Open AI公司官網

ChatGPT恢復Plus訂閱服務

4月5日，ChatGPT官網宣布，由于需求量過大，暫停Plus付費項目的購買。

這一情況在社交平臺Reddit上引起討論，有網友表示因為需求過高而關閉付費服務“一點也不奇怪，（和ChatGPT對話時）10%-15%的回復會出現網絡錯誤情況，且回應速度比以前至少慢了2倍”。

也有不少網友將這一情況歸咎為OpenAI人手不足。此前1月，該公司的首席執(zhí)行官Sam Altman曾在推特上表示，該公司的總人數為375人，遠遠小于大型科技公司的員工數量。

《科創(chuàng)板日報》今早實測發(fā)現，OpenAI的ChatGPT已經恢復了Plus訂閱服務，并可進入付費環(huán)節(jié)。

ChatGPT風險引發(fā)多國警惕！千人聯(lián)名呼吁暫停

繼意大利宣布禁用ChatGPT后，多國政府和企業(yè)開始調查或采取措施限制使用該軟件。據加拿大廣播公司（CBC）4日報道，加拿大聯(lián)邦隱私監(jiān)管機構宣布，已經對開發(fā)ChatGPT的美國公司OpenAI展開調查，因為該公司涉嫌“未經同意收集、使用和披露個人信息”。報道同時提到，美國總統(tǒng)拜登及其科技顧問委員會在4日舉行的會議上也討論了人工智能的“風險和機遇”。英國《衛(wèi)報》4日稱，英國信息專員辦公室已經向科技公司發(fā)出警告，不要使用個人信息來開發(fā)聊天機器人。英國信息專員辦公室技術和創(chuàng)新總監(jiān)阿爾蒙德表示，類似ChatGPT的生成式人工智能“如果被不負責任地使用，有可能對數據隱私構成風險”。

據第一財經，上周，包括OpenAI共同創(chuàng)始人馬斯克在內的上千名科技領袖通過非營利組織未來生命研究所（FLI），簽署一份聯(lián)名信，呼吁OpenAI暫停對GPT的訓練，理由是對社會的潛在風險。這份聯(lián)名信引用了包括OpenAI、谷歌及其子公司DeepMind等機構的12項研究。

不過這份聯(lián)名信已經引發(fā)了激烈的爭辯。一些人工智能權威人士認為，人工智能的威脅被夸大了。

清華大學智能產業(yè)研究院首席研究員聶再清對第一財經記者表示：“我認為GPT-4主要還是人類助手和提升效率的工具，而且是完全在人類的控制下工作的，暫停6個月的訓練這一要求過于一刀切了。”

ChatGPT概念股集體重挫

4月6日，AI應用端相關板塊陷入調整，ChatGPT概念股領跌，截至午盤，中文在線跌超8%，鴻博股份跌超7%、海天瑞聲跌超6%。

每日經濟新聞綜合Open AI官網、科創(chuàng)板日報、澎湃新聞、公開資料

免責聲明：本文內容與數據僅供參考，不構成投資建議，使用前請核實。據此操作，風險自擔。

封面圖片來源：視覺中國-VCG111421680440