歐洲刑警組織(European Union Agency for Law Enforcement Cooperation, Europol)、聯合國區域犯罪與司法研究院(United Nations Interregional Crime and Justice Research Institute, UNICRI)及資安廠商趨勢科技共同製作研究報告,揭露有心人士如何利用人工智慧(Artificial Intelligence, AI)技術進行犯罪活動,並提供相關建議予執法人員、政策制定單位及其他機構,以降低此類風險。AI技術可提升工作效率,為企業與生活帶來便利,同時亦可遭有心人士濫用於犯罪活動。現階段,最廣為人知之AI技術攻擊手法為Deepfake,此外,AI技術亦被使用於猜測密碼,破解CAPTCHA認證,以及複製人類語音等。該報告指出,未來需要新過濾技術,以防範假訊息攻擊與網路勒索等資安威脅,並需加強防範以AI資料為目標之攻擊活動。報告內容指出,AI技術可遭有心人士利用之攻擊方式條列如下:
1. 製造難以辨別真偽之大規模社交工程攻擊
2. 利用惡意程式直接擷取文件資料內容,以提升攻擊效率
3. 規避影像辨識與語音生物辨識技術
4. 利用AI篩選攻擊目標並規避偵測,以進行勒索軟體攻擊
5. 識別偵測規則之盲點,以進行資料汙染
報告結論說明,AI可同時是網路犯罪集團之攻擊手法,但AI資料也可能成為未來各種攻擊行動之目標,三家機構共同建議,應透過公私部門合作、建立跨領域專家群組、持續研究AI技術,以強化防護技術發展。