會議：立法院第11屆第1會期財政委員會第5次全體委員會議（2024-03-25）
議程：邀請行政院主計總處朱主計長澤民、金融監督管理委員會黃主任委員天牧、國家通訊傳播委員
會、法務部、內政部、數位發展部就「新世代打擊詐欺策略行動綱領1.5版」預算執行情形及成
效進行專題報告，並備質詢
發言委員：吳秉叡

吳委員秉叡：（9時42分）主席，麻煩請法務部黃次長跟數發部李次長。
主席：請法務部黃次長及數發部李懷仁政務次長。
黃次長謀信：委員好。
吳委員秉叡：兩位好。從今年以來人工智慧AI就是非常紅的一個問題，其實這個不是只有現在才出現，之前就出現Deepfake深度造假這樣的狀況出現，甚至在網路上面的影片，如果沒有跟你講這個是造假，你根本就看不出來這個是假的，完全就是跟街景等等什麼東西都一模一樣，所以現在想要先請問法務部次長，AI生成的作品有沒有著作權？
黃次長謀信：這是個法律問題，所以這部分我目前還沒有一個確定答案，因為它是個新的法律問題，可能要等到實務見解形成一定的固定見解之後，才能回答委員的問題。
吳委員秉叡：好，另外一個就是我剛剛講的，AI現在產生的影片跟真的拍的影片幾乎是一模一樣，這些將來能不能當作在訴訟上的法律證據？
黃次長謀信：跟委員報告，現在相關的，只要是證據，它有證據能力，在訴訟法上都是可以當證據能力、都是有證據能力的。
吳委員秉叡：我的意思是，因為我以前也是從法院來的，法院在看這些影片的時候，以前是影片為證，像現在大部分的警察機關在辦案子的時候，很多都是從監視器來破案，監視器也是影片，那麼AI將來生成的影片幾乎就跟拍的影片一樣的時候，請問如何去分辨呢？
黃次長謀信：跟委員報告，如果它是透過AI偽造、變造，當然在法律上就沒有證據能力了，如果它不是偽造、變造的……
吳委員秉叡：我的意思是說如何檢視它是不是偽造、變造？如果是偽造、變造，我們明知它是偽造、變造，那當然沒問題啊！問題是他拿出來的影片跟拍的一模一樣，跟實際的錄影一模一樣時，你如何去辨識它是偽造跟變造呢？
黃次長謀信：跟委員報告，所以現在我們法務部所屬的調查局就有相關鑑識上的能力及購買相關鑑識上的器材，在技術上，我們調查局已經對外宣稱很多次了，它是有能力去鑑識出是不是AI偽造的相關影片。
吳委員秉叡：因為現在有能力，但是AI的技術一直在提升，大數據的速度一直非常快地在進化，可能三個月前跟三個月後拍的影片已經完全不一樣了。
黃次長謀信：我完全贊同委員所說。
吳委員秉叡：所以你現在有能力，不代表將來有能力，法務部調查局今天有人來嗎？
主席：請調查局。
吳委員秉叡：何處長，你要不要來幫忙講一下？你現在有能力，代表將來繼續有這方面的能力嗎？
何處長復生：跟委員報告，我們確實有採購AI的偵測軟體，但是目前它還是有受限制，偵測成功率大概只有八成而已。
吳委員秉叡：是啊，所以我就舉一個例子，將來法院的鑑識，我如果主張這個影片是偽造的，你如何鑑別它是不是偽造？技術會越來越進步，AI的技術也會越來越進步，因為人工智慧會一直累積，累積到後面比人還……我記得我年輕的時候，那時候談到下棋，一開始電腦是下不贏人的，到後來最厲害、全世界第一名的都下不贏電腦，這個只是人工智慧初步的開始，我今天早上看到一個影片怵目驚心，他就拍一個街景，跟街景一模一樣，最後跟你講答案，說這個是AI做的，跟街景無關，但是它做出來就是某一個路口，連紅綠燈、光影變化、下雨的時候，那個燈光反射全部都一模一樣，跟實景一模一樣。我現在針對這部分就是要請教你跟李次長，這個AI生成越來越厲害，將來在防詐方面，你們有沒有什麼想法？
黃次長謀信：跟委員報告，剛才委員提到鑑識的問題，現在AI犯罪技術更加發達，未來在法庭上，法院也委託更具專業的相關AI技術人員去做鑑識，這是第一點。第二點，有關於本部就AI方面的努力，法制面上，我們去年在刑法或者是相關的法令，它都有做AI特別法的規定……
吳委員秉叡：沒關係，何處長先請回座。
黃次長謀信：所以就技術上，像我們今天也跟大院報告，無論是高檢署也好，無論是調查局也好，已經就相關AI的偵蒐工具或相關的分析工具有做一些採購上的升級，希望透過人員的訓練、技術上面的提升以及設備上的提升來對付AI犯罪。
吳委員秉叡：次長，我只是先提醒你們要注意這個事情，我舉個例子，現在大家的手機都這麼方便，將來手機AI已經可以弄到跟本人一模一樣的人在跟你講話，如果一個老人家接到他的孫子打電話來，然後就是用視訊，本人的聲音也一模一樣，相片也一模一樣，來跟老人哭訴說他現在遇到什麼樣的困難，立刻需要匯款，換過來講，你說你有這麼高的技術，問題是一般的人沒有，他如何去判斷、如何去分辨？今天的報告裡面也有單位講說我們每一個人要加強人工智慧，對於資訊的判斷能力，我覺得方向是對，但問題是現在技術的進步實在速度太快，每一個人的能力跟一個國家、一個組織的能力當然是不一樣的。李次長，你有什麼樣的看法？
李次長懷仁：是，謝謝委員。從技術面來看，目前各國包含美國、歐盟的人工基本法或人工法規開始，都對AI生成的部分要求要準備往強制加上生成標籤的方向來製作，也就是說，未來各國的法規如果通過，包括臺灣可能在人工基本法也會有這樣的考慮，就是未來人工智慧生成的內容必須要加上標籤作為辨識，包括來源、包括製作的方向。另外，在打詐專法的部分，數位部參與的部分，我們也在討論並推動這個方向，就是把人工智慧生成的內容用在網路廣告上面必須要強制揭露這件事情。如果委員有注意到的話，YouTube最近已經有開始新的政策，YouTube上面的影片如果使用人工智慧生成，必須強制揭露。
吳委員秉叡：它如果沒有強制揭露，或是強制揭露後到時候會不會又有人講說這個是不是又違反了什麼言論自由或其他方面的講法？臺灣很容易就發生這樣的講法。
李次長懷仁：對，揭露只是說你必須告訴大家這個是用什麼製作，讓大家判斷這個的來源是什麼、是不是真人或者是人工智慧，讓大家注意加強判斷這件事情，並沒有去強制要求你的內容不可以怎麼樣。
吳委員秉叡：另外就是加強的時候，如果他不遵守，有什麼辦法呢？
李次長懷仁：打詐專法的部分罰則，我們還在跟各部會討論，但是以YouTube等社群平臺來說，只要你不揭露，他們就強制下架。
吳委員秉叡：好，請加油，因為現在AI的技術，我認為速度會非常快，一日千里。兩位請回座。請我們金管會黃主委。
主席：請金管會黃主委。
黃主任委員天牧：委員早。
吳委員秉叡：主委，我要跟您再次提醒，據我們辦公室的統計，到3月22號禮拜五，即上個禮拜五下班的時候，00940所謂的自救會，即在Meta上面的自救會成員達到22萬2,000人，22萬2,000人！但是00940事實上根本都還沒有建倉完成，它根本就還沒有開始交易，就有22萬2,000人的自救會成員，你有沒有想要去瞭解這裡面到底在幹嘛？一個還沒有上市的產品，自救會就已經二十二萬多人了，是不是準備要鬧事？你會不會覺得有這樣的可能性？
黃主任委員天牧：謝謝委員提醒這個資訊，您長期對這個事情的關心，我想我們不論對ETF的發行或是投資人的權益都非常重視，那您關心的自救會，我們要瞭解一下它的訴求是什麼。
吳委員秉叡：對啊！我是覺得你光是只有瞭解夠嗎？因為現在資訊的時代，它要號召人很容易，然後它利用資訊的落差，譬如參加這個社團的人，到時候講了什麼，你來不及，因為人數這麼多，你記不記得過去曾經有一個負油價事件？
黃主任委員天牧：元大石油正2。
吳委員秉叡：對，導致非常多的人在金管會的門口，自救會的成員在那邊抗議很久，你要記得這個前車之鑑。
黃主任委員天牧：是，瞭解。
吳委員秉叡：當然，那個不是你們的錯，但是問題是，他就是要怪到你身上來，常常就是這樣子，這個東西事實上是一個投資產品，應該要去瞭解它的投資完整資訊，有賺有賠，很不可思議的是，在時間上面，這個東西都還沒上市，現在事實上是它在上市前，要先建倉，建倉完成之後才發行，那時候投資才會有賺有賠，現在連這個都還沒有完成，自救會就已經開始在搞了，而且人數這麼多，22萬2,000人！所以我很憂慮這個後面不知道會發生什麼樣的因素，我覺得你們應該有必要詳細去瞭解。
黃主任委員天牧：瞭解，我們會密切注意這個事情的發展。
吳委員秉叡：各部會之間應該橫向聯絡，如果有需要協助的，應該要請各部會之間互相幫忙。
黃主任委員天牧：瞭解，謝謝委員關心，謝謝。
吳委員秉叡：好，謝謝，加油，謝謝。
主席：謝謝。下一位質詢請賴士葆賴委員。