1 月 2 日消息:在網絡安全前線戰斗了數十年的 Mikko Hyppönen，這位 54 歲的專家最近在一次視頻通話中向 TNW 透露了他對 2024 年最令人擔憂的五大人工智能(AI)網絡威脅。這些威脅并沒有特定的順序，盡管其中有一個是導致他最為失眠的。

　　深度偽造（Deepfakes）

　　研究人員長期以來一直將深度偽造描述為 AI 犯罪中最令人擔憂的用途，但這種合成媒體尚未實現他們的預測。然而，最近幾個月，他們的擔憂開始變為現實。根據來自倫敦的 ID 驗證獨角獸 Onfido 的研究，2023 年深度偽造欺詐嘗試增加了 3000%。

　　深度詐騙（Deep Scams）

　　盡管名稱上與深度偽造相似，但深度詐騙并不一定涉及操縱媒體。在這種情況下，「深度」指的是詐騙的大規模。通過自動化，可以將目標從少數擴大到無限。

　　支持 LLM 的惡意軟件（LLM-enabled Malware）

　　AI 已經開始編寫惡意軟件。Hyppönen 的團隊發現了三種蠕蟲病毒，它們啟動 LLM 來重寫每次惡意軟件復制的代碼。盡管這些還沒有在現實網絡中被發現，但它們已經在 GitHub 上發布——而且它們有效。

　　零日漏洞的發現（Discovery of Zero-Days）

　　另一個新興的擔憂涉及零日漏洞，這些漏洞是由攻擊者在開發人員創建解決方案之前發現的。AI 可以檢測這些威脅，但它也可以創建它們。

　　自動化惡意軟件（Automated Malware）

　　WithSecure 已經將自動化整合到其防御中，這使得該公司在攻擊者(他們仍然主要依賴手動操作)之上擁有優勢。對于犯罪分子來說，關閉差距的明顯方式是：完全自動化的惡意軟件活動。

　　Hyppönen 將全自動化惡意軟件列為 2024 年的頭號安全威脅。然而，在轉角處潛伏著一個更大的威脅——通向 AGI(人工通用智能)的危險道路。根據 Hyppönen 的預期，我們將在他的有生之年看到這種影響。 「我認為我們將在我有生之年成為這個星球上第二智能的生物，」他說。「我不認為這會發生在 2024 年。但我認為這會在我有生之年發生。」

　　為了保持對 AGI 的人類控制，Hyppönen 主張我們需要與我們的目標和需求強烈一致。

　　「我們正在構建的東西必須理解人性，并與人類分享其長期利益...... 好處是巨大的——比任何事情都大——但壞處也比任何事情都大�！�