← 回到摘要列表

AI技術對資安、深偽及錯假訊息之國安影響與因應評估

外交及國防委員會會議日期：2024-11-18

立法院外交及國防委員會針對AI技術在資安、深偽影片及錯假訊息的影響與因應進行專題報告與質詢。國家安全局、數位發展部、法務部調查局、內政部警政署及國家科學及技術委員會報告了AI帶來的威脅，包括網路攻擊自動化、錯假訊息快速傳播及資料外洩風險。委員們關切政府防禦策略、零信任架構推動、AI監管法規進度、詐騙防制成效及深偽案件調查透明度等議題。會議要求相關部會就特定議題提交書面報告，以強化國家安全與民眾資安防護。

討論事項一

宣讀上次會議議事錄

核心議題

無相關核心議題

相關爭議

無相關爭議

立法委員發言

無相關發言紀錄

相關人員回應

無相關發言紀錄

相關後續

上次會議議事錄經確認無誤，予以確定。

討論事項二

邀請國家安全局局長、數位發展部等單位報告「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢

核心議題

會議聚焦於評估AI技術在資安威脅、深偽影片及錯假訊息傳播方面的影響，並探討政府各部門的因應策略與防制措施。
討論範圍涵蓋AI技術普及化帶來的資安風險、錯假訊息的產製與快速傳播、資料外洩問題，以及政府在國際合作、公私協力、技術反制及法規建立上的應處作為。

相關爭議

錯假訊息應對策略：立法委員洪申翰質疑政府目前事後闢謠策略的有效性，認為面對中共系統性敘事布局，應化被動為主動，建立臺灣主體敘事機制，並由國安局扮演更重要角色。
零信任架構推動進度：立法委員羅美玲質疑數位發展部在政府機關導入零信任架構的進度不一且緩慢，特別是資安A級機關的設備鑑別與信任推斷機制，並關切特定非公務機關的導入時程。
AI風險分級框架：立法委員羅美玲關切數位發展部黃部長曾提及年底推出的人工智慧風險分級框架，目前推動受阻，因國際間對監管方式（歐盟分級禁止與美國分類指引）存在分歧，導致臺灣內部討論空間仍大。
深偽案件調查公開性：立法委員徐巧芯質疑羅致政及蔡英文總統相關深偽影音、錄音檔案件的調查結果未公開，認為涉及國安問題，民眾有權知悉真偽，而非僅視為私人訴訟。
AI聊天機器人傳播錯假訊息：立法委員徐巧芯質疑政黨開發的AI聊天機器人（如ChatDPP）可能傳播錯誤資訊，詢問政府如何管理未來類似利用AI傳播假訊息的行為，特別是涉及境外敵對勢力投餵資訊時。
社群平台下架效率與問責：立法委員徐巧芯、黃仁、洪孟楷、王鴻薇、葛如鈞質疑TikTok等社群平台對選務錯假訊息下架速度緩慢，以及Meta誤下架財經粉專事件，批評社群平台在臺無實體客服、政府協調困難，並質疑數位發展部與警政署的責任歸屬與應對能力。
政府濫用AI疑慮：立法委員黃仁與馬文君擔憂政府在強調「以AI反制AI」的同時，可能缺乏明確指導規範，導致AI技術被濫用在監控國人言論自由或混淆民眾認知上，侵害公民權利。

立法委員發言

羅美玲立法委員

引用微軟報告指出臺灣是印太地區國家級網路攻擊首位，IT產業為主要目標，關切生成式AI加劇資安威脅。
質疑數位發展部推動零信任架構進度緩慢，各單位預算書與成果報告揭示不一致，並詢問年底前完成47個A級機關身分鑑別機制目標是否能達成。
關切AI風險分級框架推動受阻，建議參考美國NIST及FAIR等國際標準，成立跨部會AI資安技術聯防小組。
要求數位發展部與國安單位應加強對關鍵基礎設施（特定非公務機關）導入零信任架構的進度。

洪申翰立法委員

質疑政府目前事後闢謠與事實查核方式，無法有效應對中共具戰略性、敘事結構布局的認知作戰。
主張國安局應在建構以臺灣為主體的資訊布建與傳散敘事機制上扮演更主動、戰略性的角色，而非僅止於事後應對。
提醒生成式AI已被中共用於分眾精準打擊，透過真假混合訊息欺騙，應採取「提前破解」（prebunk）而非僅「事後查核」（debunk）的策略。

徐巧芯立法委員

要求國安局與調查局公開高嘉瑜深偽影音、羅致政影音及蔡英文總統錄音檔等案件的調查結果，認為其涉及國安問題與境外勢力介選，非僅私人官司。
質疑政黨製作的AI聊天機器人（ChatDPP）傳播錯誤訊息，詢問政府是否有管理方式來處理未來類似利用AI傳播假訊息的狀況。
批評中選會與國安團隊在TikTok抖音選務錯假訊息下架速度緩慢，要求國安局加強處理境外平台上的假訊息。
建議國安局應調整AI資安人才招募與訓練標準，強調專業能力而非傳統體能要求，以用人唯才，吸引頂尖AI人才加入。

黃仁立法委員

關切中國大陸製AI聊天軟體Talkie在臺灣可下載，認為其蒐集用戶思維邏輯與習性對國安構成威脅，要求國安局與數發部研議反制或警示公告。
詢問政府是否針對個別AI軟體區分威脅程度，而非僅以開發國家區分，並要求提供相關評估報告。
提醒美國國家安全及情報部門使用AI新規範強調不能壓迫言論自由，質疑臺灣政府「以AI反制AI」時，若缺乏明確指導規範，恐被濫用在國人身上，混淆民眾認知。
批評警政署處理高嘉瑜深偽影片反應遲緩，影片至今未下架，要求警政署制定軍警檢調處理AI訊息危害的SOP，以警示防範未來事件。

沈伯洋立法委員

指出中共常在國際會面後，透過官方媒體發布會面中未提及的假訊息（如拜習會點名賴清德），建議國安局強調中國事後操弄訊息的行為，以提高國人警惕。
建議數發部與社群平台溝通，設立Deepfake回報專門路徑，不限於詐欺定義，以加速Deepfake內容的辨識與下架，特別是針對Facebook、YT等平台。
強調防禦性AI的重要性，指出美國DARPA已有相關計畫，臺灣應強化AI在防禦方面的應用，特別是針對假消息和Deepfake。

陳永康立法委員

質疑國安局高階長官是否親自使用AI，或僅依賴研析人員報告，強調AI應用應由使用者理解其邏輯框架，避免AI產生扭曲價值觀的「真現象」而非「真相」。
以川普對應中國大陸的邏輯框架圖為例，說明AI在邏輯順序調整後會產生不同論述，提醒幕僚判斷需收斂，並持續投資於研析人員的工具、資料庫及邏輯框架更新。
建議國安局應持續研究AI生成技術的方法論，並透過設計競賽比較AI與人工分析預判，不斷策進AI運用經驗。

林憶君立法委員

建議國安局應更加積極主動與友好國家交流AI情蒐經驗，共同因應假訊息與網路攻擊威脅。
關切中國大陸抖音散播高嘉瑜深偽影片及習近平祝賀賴清德當選等虛假訊息，要求國安局說明如何有效防範、教育國人明辨真偽及揭露中共認知作戰。
質疑數位發展部對抖音（被列為危害國家資通安全產品）僅限制公部門設備，未對民眾私人手機或一般民眾做出限制，認為是缺乏法規、人力或意願。
批評數位發展部打詐成效不彰，負聲量高，認為其功能不明確，並要求數發部針對打詐提出更多宣導與具體作為。

王鴻薇立法委員

指出AI深偽影片被廣泛用於投資詐騙，造成民眾巨額金錢損失，質疑政府打詐策略成效不彰，要求各單位提出具體防堵策略與時效。
批評Meta（臉書）誤下架證交所等正版財經粉專，質疑數發部與警政署與Meta溝通協調的機制問題，要求確保不再發生類似錯誤，並強化打詐機制。

賴士葆立法委員

質疑臺灣遭受網路攻擊頻繁（全球平均2.7倍），詢問國安局與數發部如何有效因應，並追問主要攻擊來源國家。
關切機器狗等新型無人載具可能用於攻擊，詢問國安局是否有針對此類威脅的具體應對措施與整體作法。
質疑各單位在AI深偽影像檢測平台採購上重複花費，詢問是否有整合單位統籌AI深偽防制工作。
質疑政府在處理深偽案件時有「大小眼」之嫌，認為蔡英文總統案件快速偵破，而其他政治人物案件卻遲遲未有結果，要求國安單位不應看人辦案。

洪孟楷立法委員

質疑警政署提供白名單給Meta，以及數發部在Meta誤下架事件中扮演客服角色，認為政府淪為Meta「小弟」，要求Meta對其內部控管問題正式回應並負起責任。
指出Meta平台詐騙案件佔九成，要求數發部應利用「打詐專法」對Meta進行源頭管理、開罰，而非僅限於「喝咖啡」協調。
關切高嘉瑜深偽影片案件進度，詢問是否為集團犯罪，並提醒國安單位應重視深偽技術可能入侵指揮系統、變造訊息的風險，建議觀看電影「不可能的任務：致命清算」以了解潛在威脅。

葛如鈞立法委員

針對Meta誤下架事件，質疑網紅收到通知稱來自「刑事局」的法律要求，詢問警政署是否有人偽造單位身份，要求調查並要求Meta澄清。
質疑數發部是否有收集網紅白名單，並詢問若有，其目的、資料欄位及與本次事件的重疊比例，以確認是否存在程序或資安漏洞。
質疑數發部在事件中聲稱「沒有直接責任」，但作為平台經濟主管機關及打詐專法通過後，應對詐欺廣告業者平台負有責任。
要求警政署、數發部一週內提供相關書面資料，包括刑事局法律要求內容、白名單資訊及數發部在事件期間的通報紀錄，以釐清真相並強化資安環境。

楊瓊瓔立法委員

表達民眾對AI資安危機的高度不安，質疑數發部在Meta粉專誤下架事件中聲稱「與其無關」的說法，要求數發部說明清楚。
詢問國安局面對AI資安外洩、駭侵威脅的具體因應措施，批評其說明未能解決問題，並追問數發部在其中可扮演的角色及橫向聯繫狀況。
強調AI威脅無國界，要求數發部與各國加強情資交流，並詢問國安局是否已參考美國「國家安全備忘錄」，制定自己的AI技術使用、管理與風險控管指引，並進行滾動式檢討，以確保人民安全。

相關人員回應

蔡明彥國家安全局局長

說明AI普及降低運用門檻，導致資安威脅擴增、偽造爭訊誤導視聽及錯假訊息快速傳散，並因缺乏資安意識肇生資料外洩。
指出中共運用AI技術遂行駭侵及洩漏，國安局透過國際友盟合作，加強情（技）資分享，強化數位聯防及錯假訊息應處機制。
說明運用公私協力，將AI結合資安防護機制，強化網駭偵防技術及影音真偽辨識能力，並採「AI反制AI」模式，厚植錯假訊息防制效能。
表示已統合國安團隊預應AI侵擾，強化情蒐統合與分享，並配合政府建立AI監管法遵，本局已訂定「使用生成式人工智慧作業規定」。
回應羅美玲委員關於AI風險分級框架的進度，表示國科會主導的「人工智慧基本法」草案仍在研擬，國際間對監管方式（歐盟與美國）存在分歧，需社會討論。
回應洪申翰委員關於主動敘事機制，表示行政院系統及國安局均有跨部會機制，針對新聞議題事先應處與討論立論，但涉及內部攻防操作模式不便公開。
回應徐巧芯委員關於深偽案件調查，表示已將情資移送檢調，結果由檢方審理決定是否公開，國安局會處理涉及國安威脅的假訊息。
回應黃仁委員關於中共製AI軟體風險，表示會提醒業管單位數發部評估警示公告，並說明國安局內部運用AI系統查找境外IP與攻擊來源的正確率高。
說明對AI使用與管理應有法規規範，國科會研擬「人工智慧基本法」，國安局將提供威脅態樣送參，內部亦有「使用生成式人工智慧作業規定」避免濫用。
回應陳永康委員關於AI運用方法論，表示局內已投入研究，透過研析人員設定70個指標預測中共人事布局，正確率高，關鍵在於資料庫與指標設定貼近決策思維，並持續投資與策進。

林宜敬數位發展部政務次長

說明AI技術發展帶來創新應用與倫理社會影響，數發部持續關注並評估AI在資安、深偽及錯假訊息的影響。
指出AI已被駭客及網軍用於社交工程攻擊、生成惡意程式碼，提升網路攻擊效率與成功率。
說明數發部因應AI資安威脅採兩大面向：導入零信任架構建立多重柵欄，以及「以AI之道還AI之身」利用AI提高識別、因應與阻擋速度。
在面對錯假訊息輿論戰上，除NLP技術外，正結合多種技術發展多模態辨識機制，包括AI錯假訊息辨識與AI深度偽造辨識。
強調除技術手段外，人員培訓與提升人民對AI威脅的認識、強化識讀能力至關重要，已納入資安推動工作。
回應羅美玲委員關於零信任推動阻力，坦承導入對使用者會增加困難，並請資安署補充說明進度。
回應洪申翰委員關於應對錯假訊息策略，強調除抑制假新聞傳播，也要讓優質媒體健康發展；承認生成式AI被用於真假混合欺騙與分眾精準打擊，是巨大挑戰。
回應徐巧芯委員關於ChatDPP問題，表示涉及政黨文宣平台，若有個人權益受損可循司法途徑，若涉及國安威脅（境外敵對勢力投餵資訊）國安局會處理。
回應林憶君委員關於抖音限制，說明抖音被列為危害國家資通安全產品，目前僅限公部門設備與場域禁用，因臺灣為法治國家，行政部門無法直接限制民眾使用，需有立法依據。
回應林憶君委員對打詐成效的質疑，說明詐騙為產業鏈，數發部負責前端防堵詐騙廣告將民眾騙入封閉空間（LINE群組），已建立系統接受民眾通報，並通知平台下架可疑詐騙廣告，避免更多民眾受騙。
回應馬文君委員對打詐宣導的建議，表示臺灣防疫成功因政府與民間合作，打詐議題也需跨部門合作，數發部將加強宣導，並利用網路機制接受民眾報案處理前端詐騙廣告。
回應王鴻薇委員關於Meta誤下架事件，說明事件發生後數發部立即與臉書聯絡協助恢復，經了解是警政署通報詐騙網站時，臉書海外執行單位溝通問題導致誤下架正版粉專。
回應賴士葆委員關於臺灣頻繁遭受網路攻擊，說明臺灣處於地緣政治前線，面臨來自中國大陸、北韓、俄羅斯等境外不友善國家的練兵式攻擊，數發部將做好事前、事中、事後的防禦。
回應葛如鈞委員關於Meta誤下架事件，表示數發部在事件期間未發公文或以其他方式通知臉書下架財經粉專，並承諾提供白名單資訊（去除個資）及相關調查資料。

吳富梅法務部調查局副局長

說明羅致政委員影片案件已繫屬新北地檢，調查局鑑定報告已移送，目前在新北地檢偵處中。
回應徐巧芯委員關於深偽案件公開性，表示鑑定結果已送檢方，由檢方決定是否公開，調查局無法決定。
說明調查局有鑑識能力，與刑事局使用共通工具，可在2小時內對深偽影像進行初步判定。
回應黃國昌委員關於羅致政案與蔡英文總統錄音檔鑑定，表示鑑定結果已送地檢署，案件仍在偵查中，由地檢署決定是否對外說明，並同意此案攸關國安，應對國人說明。

林信雄內政部警政署刑事警察局副局長

回應黃仁委員關於高嘉瑜深偽影片，表示抖音分國際版與中國大陸版，國際版有聯繫管道，但中國大陸版無法直接要求下架，國內可進行網域封鎖（屬TWNIC權責）。
回應黃仁委員對深偽影片處理遲緩的批評，表示會與相關部會聯繫，努力處理國內可處理部分，並承諾與檢調制定SOP防範未來事件。
回應馬文君委員關於詐騙防制效果，表示今年已通報相關公司下架超過11萬則詐騙廣告，聯繫上效果不錯，但仍有進步空間。
回應王鴻薇委員關於Meta誤下架事件，澄清並非警政署問題，而是臉書內部篩選機制與聯繫作業問題，已要求臉書當天恢復真實網站。
回應洪孟楷委員關於白名單機制，說明提供白名單是為便利Meta加強審核，並確認高嘉瑜深偽影片出自中國大陸抖音「三只狼工作室」，發布人已被禁權，推斷為個人行為，影片註明為生成製造。
回應葛如鈞委員關於「Meta收到警政署法律要求」通知，澄清刑事局並未要求下架真實粉專，認為是臉書內部聯繫錯誤，承諾將向臉書反映要求更正，並調查是否有偽造警政單位犯罪情事。
承諾一週內提供「Meta收到警政署法律要求」之內容及調查報告給葛如鈞委員。

蔡妙慈國家科學及技術委員會前瞻及應用科技處處長

說明「人工智慧基本法」草案已送行政院，將由行政院進行跨部會討論與審查，主要規範國家推動AI的整體政策方針及政府相關施政，兼顧鼓勵創新與人民權益。

張元斌國家安全局副局長

回應馬文君委員關於AI技術規範，表示國科會正在草擬「人工智慧基本法」，國安局有參與討論，旨在兼顧鼓勵創新與人民權益，並規範不能濫用AI。
回應王鴻薇委員關於AI深偽詐騙防堵，說明AI生成深偽影片已是趨勢，政府已成立機制負責情報掌蒐、辨偽、溯源、處理，並透過司法機關要求平台下架，關鍵在於引進最新技術快速應處。
回應賴士葆委員關於頻繁網路攻擊，表示AI生成攻擊是趨勢，攻擊發起不可控但可有效防禦，國安局幾年前已成立AI小組密注技術，並將引用最新技術防範。
回應賴士葆委員關於機器狗等無人載具威脅，表示中國大陸在無人載具發展快速，國安局會持續掌蒐情資提供相關單位應處，若涉軍事則由國防部評估。
回應賴士葆委員關於AI深偽防制整合，說明深偽是假訊息延伸，國安局與相關政府機關已成立假訊息防制機制平台，針對AI新現象進行討論與協作。
回應賴士葆委員關於蔡英文總統深偽案快速偵破，解釋處理訊息有既定機制，影響國安或社安擴大、快速者會優先處理，並非看身分辦案，尊重司法機關調查結果。
回應陳冠廷委員關於安全核可機制，說明國安局僅負責局內查核，各單位應有查核機制，並表示國安局內部對接密等級有不同查核標準，包含素行、與外國接觸、心理、藥物使用等，同意跨部會建立統一安全核可架構的重要性。
回應楊瓊瓔委員關於AI風險，說明AI帶來資安及假訊息威脅，應從機制面（邊界設備防護、零信任、實體隔離）、加強人員資安意識及落實資安規範三方面因應。
說明國科會訂定的「人工智慧基本法案」已涵蓋民眾隱私權及權益保障，國安局亦依行政院規範訂定內部作業原則，將參考美國國家安全備忘錄精神，檢討內部機制以確保人民安全。

陳處長國家安全局國內處處長

說明國安局內部對同仁進行安全查核時，會依接密等級規定進行身分核可，查核內容包括素行（含家人）、適性訪談等。
回應陳冠廷委員關於安全核可應包含更多面向，表示國安局內部查核已涵蓋與外國接觸、心理、藥物使用等，並同意共同研究跨部會統一安全核可架構。

林建隆內政部警政署科技犯罪防制中心主任

說明刑事警察局檢測深偽影像的軟體花費1,000萬，與調查局共同討論出檢測流程與標準，有信心達到95%以上準確度，但仍有影像限制。
表示112年至113年10月辦理檢測的11個案件，部分已送鑑單位，將清查偵查情形與最終結果，以避免虎頭蛇尾。

林青嶔數位發展部數位產業署組長

說明Meta誤下架網紅粉專事件，約在11月15日凌晨12點13分陸續恢復，數發部同仁在事發後立即聯繫所有粉專並監控恢復狀況，直到確定恢復後才適當因應。

相關後續

登記質詢在場委員均已發言完畢，報告及詢答結束。
委員王定宇、林楚茵書面質詢列入紀錄刊登公報，請相關機關（數位發展部、法務部調查局、內政部警政署、國家安全局）於2週內以書面答復。
委員口頭質詢未及答復或要求補充資料者，請相關單位（國家安全局、數位發展部、法務部調查局、內政部警政署、國家科學及技術委員會）於2週內以書面提供，委員另指定期限者，從其所定。
警政署需於1週內提供「Meta收到警政署法律要求」之內容及調查報告，以確認是否有偽造警政單位之犯罪。
數位發展部需於1週內提供白名單資訊（去除個資），包括人數、資料欄位及與本次事件受影響網紅的重疊比例，以確認有無程序或資安漏洞。
數位發展部需於1週內提供關於次長發文「這段期間數發部並沒有發公文，也沒有用其他任何方式通知臉書」的具體期間及調查資料，以釐清狀況。

原始資料

公報: 11310101
卷／期／冊: 113／101／1
發布日期: 2024-12-10
原始連結: 立法院頁面官方 PDF 文字檔 Parsed JSON