廣受歡迎的ChatGPT AI聊天機器人背後的公司OpenAI推出了一項漏洞賞金計劃，以確保其系統“安全可靠”。
爲此，該公司與衆包安全平臺Bugcrowd合作，讓獨立研究人員報告其產品中發現的漏洞，以換取“低嚴重程度發現200美元，特殊發現最高2萬美元”的獎勵。
值得注意的是，該程序不包括模型安全或幻覺問題，其中聊天機器人會被提示生成惡意代碼或其他錯誤輸出。該公司指出，“解決這些問題通常需要大量研究和更廣泛的方法。”
其他被禁止的類別包括拒絕服務(DoS)攻擊、強制OpenAI api以及旨在破壞數據或獲得對敏感信息的未經授權訪問的演示。
“請注意，授權測試並不會使您免除OpenAI的所有服務條款，”該公司警告說。“濫用服務可能會導致限速、屏蔽或禁止。”
然而，涉及的範圍包括OpenAI API、ChatGPT(包括插件)、第三方集成、公開OpenAI API密鑰以及公司運營的任何領域中的缺陷。
這一進展是爲了迴應OpenAI修補平臺上的賬戶接管和數據暴露缺陷，促使意大利數據保護監管機構對該平臺進行更密切的調查。
意大利數據保護機構提出解除聊天gpt禁令的措施
Garante於2023年3月31日對ChatGPT實施了臨時禁令，此後概述了微軟支持的公司必須在月底前同意實施的一系列措施，以便解除禁令。
Garante表示:“OpenAI必須起草一份信息通知，並在其網站上發佈，該信息通知描述ChatGPT運營所需的數據處理安排和邏輯，以及數據主體所享有的權利。”
此外，意大利用戶在註冊服務之前應該可以隨時獲得信息通知。用戶還需要聲明他們的年齡超過18歲。
OpenAI還被要求在2023年9月30日之前實施年齡驗證系統，過濾掉13歲以下的用戶，並制定規定，對13歲至18歲的用戶徵求父母同意。該公司被要求在5月31日前提交年齡限制系統的計劃。
作爲行使數據權利的一部分，如果該服務不正確地生成了個人數據，該服務的用戶和非用戶都可以要求“糾正他們的個人數據”，或者如果糾正在技術上不可行的情況下刪除數據。
根據加蘭特的規定，非用戶應進一步提供易於訪問的工具，以反對OpenAI算法處理他們的個人數據。預計該公司還將在2023年5月15日之前開展廣告宣傳活動，以“告知個人將其個人數據用於訓練算法”。