活動紀錄
GenAI Stars【創新創業組】大師講座：資安for百工百業－生成式AI資安風險與機會
2024/10/01
GenAI Stars「創新創業組」深度輔導，10/01舉辦第五場大師講座！特邀台灣科技大學資工系特聘教授李漢銘，以「資安for百工百業－生成式AI資安風險與機會」為題，分享生成式AI的資安風險。
為何企業資安很重要？李漢銘指出，「企業做資安很花錢，但若不做資安，會損失更多錢（付駭客贖金）。」至於資安要做到什麼程度？他強調，資安永遠都做得不夠，端視企業要保護的資產價值，進而決定企業的資安費用，因為未來的資安威脅只會變多，不會變少。
資安威脅無所不在，5G物聯網時代，李漢銘形容，「資安威脅從『謀財』進階為『駭命』」。物聯網設備威脅持續升溫，當企業未能即時且持續提供韌體更新，加上使用者對設備資安防護意識較薄弱，將導致物聯網設備成為駭客攻擊目標。
企業面對資安的心態得改變。李漢銘表示，「資安沒做好，甚至會讓企業失掉市場。因此，所有系統和產品在設計時，就要先考慮資安！」否則當企業被政府要求必須提供設計的資安、檢測報告時，將因無法合規而失去在該市場銷售的機會。
生成式AI有許多開源程式，導致AI可能十分脆弱，已有駭客開始研究如何欺騙AI，例如繞開防護機制、汙染模型訓練資料，甚至駭進訓練資料的流程。只要一個環節出錯，將會出現嚴重的問題。
2024年，國家政策的四大支柱包括AI和資安，加上資安即國安的戰略，政府將會對AI系統有資安要求，同時企業在外銷的過程也得達到ESG的規範。
為了不讓AI系統曝露在風險之中，李漢銘給AI團隊三大建議：第一，在軟體開發時就要導入資安規範。第二，考慮萬一被網路攻擊時，應變策略是什麼？備援計畫是什麼？第三，要做資安演練。
