國際網絡安全團隊近日研發了新型 AI 蠕蟲病毒，能夠在生成式人工智能服務之間獨立傳播、竊取數據并通過電子郵件發送垃圾郵件。

　　伴隨著 OpenAI ChatGPT 和 Google Gemini 等生成式 AI 系統的快速發展，AI 開始被應用于解決某個特定問題或者任務，例如創建日歷項、訂購某件物品等等。

　　網絡安全技術研究人員表明生成式 AI 存在漏洞，并將其命名為“Morris II”。

　　IT之家在這里簡要介紹下這個名稱的背景，Morris 被認為是人類發現的第一個計算機蠕蟲病毒，于 1988 年被發現，感染了超過 6200 臺計算機，占當時連接到互聯網的所有計算機的 10%。

　　“Morris II”可以基于生成式 AI，繞過了 ChatGPT 和 Gemini 的保護，能從電子郵件中竊取數據并發送垃圾郵件。

　　研究作者表示在沙盒環境中測試了新的攻擊模型，但目前尚未在實踐中被發現，不過個人開發者、初創企業和科技公司都應考慮到這一威脅。

　　大多數生成式人工智能系統的工作原理是接收文本指令：要求回答問題或創建圖像。

　　這些命令可以用來對付系統，使其忽略安全措施并生成不恰當的內容;還可以向系統發出隱含指令，例如，向其提供一個隱藏有此類命令文本的惡意網頁地址。

　　攻擊生成式人工智能的蠕蟲病毒的運行原理基于“對抗性自我復制提示”機制。這種命令會導致生成式人工智能模型發出另一條命令作為回應，這很像 SQL 注入和緩沖區溢出等傳統攻擊模式。

　　為了演示該蠕蟲的工作原理，研究人員通過連接 ChatGPT、Gemini 和開源 LlaVA 模型，創建了一個可以使用生成式人工智能接收和發送信息的電子郵件服務。

　　然后，他們使用自我復制的文本指令和嵌入圖像文件的類似指令兩種方法，成功利用人工智能漏洞發起攻擊。

　　研究報告的作者指出，由于人工智能生態系統的架構設計錯誤，這些攻擊方法成為可能。他們與谷歌和 OpenAI 分享了他們的發現--OpenAI 證實了威脅的存在，但補充說該公司正在努力提高其系統的穩定性，而谷歌拒絕發表評論。