微軟近期向美國弗吉尼亞東區聯邦地區法院提起了一項法律訴訟，指控一組織故意開發并使用非法工具，繞過其云AI產品的安全防線，非法訪問并制造有害內容。該訴訟涉及十名匿名被告，他們的行為引發了微軟的高度關注。
據訴訟文件顯示，被告被指控通過盜取的客戶憑證和定制軟件，非法侵入了Azure OpenAI服務。Azure OpenAI是微軟基于OpenAI技術開發的全托管服務，提供包括ChatGPT在內的多種AI模型。微軟指出，被告的行為違反了《計算機欺詐和濫用法》《數字千年版權法》以及聯邦反敲詐勒索法，他們利用自己的軟件和服務器，生成了具有攻擊性、有害且非法的內容，盡管具體內容微軟并未詳細透露。
微軟在調查中發現，部分Azure OpenAI服務的客戶憑證，特別是API密鑰，被用于生成違反服務使用政策的內容。經過深入調查，微軟確認這些API密鑰是從付費客戶處被非法竊取的。被告通過系統性的API密鑰盜竊行為，從多個客戶處獲取了密鑰，并利用這些密鑰進行了非法活動。
更令人震驚的是，被告利用竊取的API密鑰，創建了一種“黑客即服務”的模式，并開發了一款名為“de3u”的客戶端工具。這款工具允許用戶無需編寫代碼，即可通過DALL-E模型生成圖像，并試圖繞過Azure OpenAI服務的內容過濾機制。當用戶輸入的文本提示包含觸發內容過濾的詞匯時，de3u會阻止服務修改提示內容，從而生成可能有害的圖像。
微軟還指出，被告通過非法編程訪問Azure OpenAI服務，對微軟的內容和濫用防護措施進行了逆向工程，給服務造成了重大損失。目前，托管在GitHub（微軟旗下公司）上的de3u項目代碼庫已經無法訪問。
在微軟發布的一篇博客文章中提到，法院已授權微軟查封一個對被告運營至關重要的網站，以便收集證據、分析其盈利模式，并破壞其技術基礎設施。微軟還表示，已針對觀察到的非法活動采取了相應的反制措施，并在Azure OpenAI服務中增加了額外的安全防護機制，以確保服務的正常運行和用戶的數據安全。
