與歐洲刑警組織及聯合國區域犯罪與司法研究院共同揭露 AI 威脅及反制建議

香港 - Media OutReach - 2020年11月20日 -  歐洲刑警組織（ Europol ） 、聯合國區域犯罪與司法研究院（ UNICRI ） 及 趨勢科技 今天發佈一份共同製作的研究報告，揭露歹徒如何利用今日的人工智能技術來犯案，並預測未來的可能發展。 報告點出了今日與未來一些可能運用 AI 技術的網絡攻擊，並提供相關建議給執法人員、政策制定單位以及其他機構，讓他們了解如何降低這類風險。

歐洲刑警組織網絡犯罪中心主任 Edvardas Šileris 表示：「 人工智能 為世界提升了效率、自動化與自主性。然而，隨著大眾對 人工智能被 濫用的疑慮不斷提高，我們有必要公開揭露這些威脅，並探討 人工智能 技術的一些發展潛力。這報告不僅有助我們預測 人工智能 可能會如何被濫用，也可以協助我們主動防範並降低這些威脅，如此才能真正釋放 人工智能 的潛力，讓 人工智能 系統發揮正面影響力。」

報告結論指出， 人工智能 既是網絡犯罪集團的攻擊手法，也是攻擊目標。雖然 Deepfake 是目前最為人熟知的 人工智能 攻擊手法，但我們未來仍然需要新的偵測技術來防範假訊息攻擊與網絡勒索，並防範專門以 人工智能 資料為目標的攻擊。

人工智能 可能 被 歹徒利用的方式包括：

• 製造難辨真偽的大規模社交工程攻擊。
• 開發文件內容辨識惡意程式以提升攻擊效率。
• 躲避影像辨識與語音生物辨識技術。
• 勒索程式攻擊，利用人工智能來篩選攻擊目標並躲避偵測。
• 資料污染，發掘偵測規則中的盲點。

UNICRI 人工智能與機器人中心主任 Irakli Beridze 指出：「隨著 人工智能 應用程式開始對現實世界發揮重大影響，它顯然將成為我們未來技術的基礎。然而，如同 人工智能 對人類社會具體而真實的貢獻一樣，其受到歹徒不法濫用的威脅也同樣存在。我們很榮幸能與 Europol 及趨勢科技合作，共同揭露人工智能技術的黑暗面，希望能藉此發揮拋磚引玉效果，激發更多關於這項重大議題的討論。」

此外，報告也警告，歹徒正開發一些 人工智能 系統來提升惡意程式的成效，並干擾惡意程式防護與臉部辨識系統的運作。

趨勢科技香港澳門區顧問總監李浩然表示：「網絡犯罪集團一直都搶先使用最新技術，而 人工智能 技術也不例外。正如報告指出， 人工智能 已經被用於猜測密碼、破解 CAPTCHA 認證、複製人類語音，以及其他眾多開發中的非法技術。我們很榮幸能與 Europol 及 UNICRI 攜手合作，共同提升大眾對這些威脅的認知，為人類打造一個更安全的數碼前景。」

以下是三家機構在結論中提供的幾項建議：

-  發揮人工智能的潛力，讓它成為打擊犯罪的工具，也讓網絡資訊保安產業與執法機關跟上時代洪流。

-  透過不斷研究來激發更多防禦技術的發展。

-  提倡並發展安全的人工智能設計架構。

-  減少政治化，讓人工智能應用於網絡資訊保安用途。

-  透過公私部門合作來建立跨領域專家群組。

參考完整報告： https://www.trendmicro.com/vinfo/hk/security/news/cybercrime-and-digital-threats/exploiting-ai-how-cybercriminals-misuse-abuse-ai-and-ml 。