按Enter到主內容區

研究報告指出,有心人士可能利用AI技術進行犯罪活動

  • 發布日期:109-12-31
  • 發布單位:刑事警察大隊

參考網站:
行政院國家資通安全會報技術服務中心/研究報告指出,有心人士可能利用AI技術進行犯罪活動
https://www.nccst.nat.gov.tw/NewsRSSDetail?lang=zh&RSSType=news&seq=16485


歐洲刑警組織(European Union Agency for Law Enforcement Cooperation, Europol)、聯合國區域犯罪與司法研究院(United Nations Interregional Crime and Justice Research Institute, UNICRI)及資安廠商趨勢科技共同製作研究報告,揭露有心人士如何利用人工智慧(Artificial Intelligence, AI)技術進行犯罪活動,並提供相關建議予執法人員、政策制定單位及其他機構,以降低此類風險。AI技術可提升工作效率,為企業與生活帶來便利,同時亦可遭有心人士濫用於犯罪活動。現階段,最廣為人知之AI技術攻擊手法為Deepfake,此外,AI技術亦被使用於猜測密碼,破解CAPTCHA認證,以及複製人類語音等。該報告指出,未來需要新過濾技術,以防範假訊息攻擊與網路勒索等資安威脅,並需加強防範以AI資料為目標之攻擊活動。報告內容指出,AI技術可遭有心人士利用之攻擊方式條列如下:
1. 製造難以辨別真偽之大規模社交工程攻擊
2. 利用惡意程式直接擷取文件資料內容,以提升攻擊效率
3. 規避影像辨識與語音生物辨識技術
4. 利用AI篩選攻擊目標並規避偵測,以進行勒索軟體攻擊
5. 識別偵測規則之盲點,以進行資料汙染
報告結論說明,AI可同時是網路犯罪集團之攻擊手法,但AI資料也可能成為未來各種攻擊行動之目標,三家機構共同建議,應透過公私部門合作、建立跨領域專家群組、持續研究AI技術,以強化防護技術發展。


資料來源:https://www.trendmicro.com/vinfo/us/security/news/cybercrime-and-digital-threats/exploiting-ai-how-cybercriminals-misuse-abuse-ai-and-ml
https://www.europol.europa.eu/newsroom/news/new-report-finds-criminals-leverage-ai-for-malicious-use-%E2%80%93-and-it%E2%80%99s-not-just-deep-fakes