當地時間4月11日,OpenAI在官方發文稱,該公司推出了一項漏洞賞金計劃(Bug Bounty Program)。
(相關資料圖)
OpenAI的使命是創建惠及所有人的人工智能系統。為此,我們在研究和工程方面進行了大量投資,以確保我們的人工智能系統安全可靠。然而,與任何復雜的技術一樣,我們明白漏洞和缺陷可能會出現。
OpenAI認為,透明度和合作對于解決這一現實至關重要。這就是為什么我們邀請全球安全研究人員、道德黑客和技術愛好者來幫助我們識別和解決系統中的漏洞。
OpenAI漏洞獎勵計劃是我們表彰和獎勵安全研究人員的寶貴見解的一種方式,他們為維護我們的技術和公司安全做出了貢獻。我們邀請您報告您在我們的系統中發現的漏洞、錯誤或安全缺陷。通過分享您的發現,您將在使我們的技術對每個人都更安全方面發揮關鍵作用。
圖片來源:視覺中國(000681)-VCG111421680440
為了激勵測試,作為我們的贊賞,OpenAI將根據報告問題的嚴重程度和影響提供現金獎勵,我們的獎勵范圍從低嚴重性發現的200美元到特殊發現的2萬美元(約14萬元人民幣)不等。
OpenAI發文:加強監管
4月6日凌晨,Open AI在官網發布了《Our approach to AI safety》,以確保安全、可靠地為全球用戶提供ChatGPT服務。
圖片來源:Open AI公司官網
Open AI表示,在發布任何新系統之前,我們會進行嚴格的測試,聘請外部專家進行反饋,通過人工反饋的強化學習等技術來改善模型的行為,并建立廣泛的安全和監控系統。
Open AI認為,強大的人工智能系統應該接受嚴格的安全評估。需要進行監管以確保此類做法得到采納,我們積極與政府就此類監管的最佳形式進行接觸。
我們安全工作的一個關鍵重點是保護兒童。我們要求年滿18歲或13歲以上的人必須獲得父母批準才能使用我們的人工智能工具,并正在研究驗證選項。
我們不允許我們的技術被用于生成仇恨、騷擾、暴力或成人內容等類別。與GPT-3.5相比,我們的最新模型GPT-4響應不允許內容請求的可能性降低了82%,我們已經建立了一個強大的系統來監控濫用情況?,F在,ChatGPT-Plus用戶可以使用GPT-4,我們希望隨著時間的推移,更多的人可以使用它。
ChatGPT一度暫停Plus付費升級服務
4月5日,ChatGPT官網宣布,由于需求量過大,暫停Plus付費項目的購買。
這一情況在社交平臺Reddit上引起討論,有網友表示因為需求過高而關閉付費服務“一點也不奇怪,(和ChatGPT對話時)10%-15%的回復會出現網絡錯誤情況,且回應速度比以前至少慢了2倍”。
也有不少網友將這一情況歸咎為OpenAI人手不足。此前1月,該公司的首席執行官Sam Altman曾在推特上表示,該公司的總人數為375人,遠遠小于大型科技公司的員工數量。
《科創板日報》4月6日實測發現,OpenAI的ChatGPT已經恢復了Plus訂閱服務,并可進入付費環節。
每日經濟新聞綜合Open AI官網、科創板日報
封面圖片來源:視覺中國-VCG111421680440
關鍵詞: