財政建設部門質詢第3組
質詢日期：中華民國114年10月30日
質詢對象：財政建設部門有關各單位
質詢議員：吳世正　郭昭巖　陳錦祥　楊植斗　李芳儒          計5位 時間90分鐘
※速記錄
－114年10月30日－				           速記：陳德芳
主席(林議員世宗)：
開始進行第3組質詢，質詢議員有郭昭巖議員、吳世正議員、李芳儒議員、楊植斗議員、陳錦祥議員，時間共計90分鐘，請開始。
楊議員植斗：
請資訊局趙局長備詢。
資訊局趙局長式隆：
請多指教。
楊議員植斗：
局長，昨天只有向您質詢5分鐘。
趙局長式隆：
是。
楊議員植斗：
昨天剛好向你提到，我在民政部門質詢時曾經問過陳永德局長。我給他看一部AI生成的影片，他看了開頭幾秒，也看了後面的內容，但是他沒有意識到那是全部由AI生成、內容有錯誤虛假資訊的影片。
在我質詢完之後，我有把相關連結傳給市長，我不知道他看到的反映是什麼，但是現在網路上有很多流量非常好的生成影片，1個月就有106萬次的點閱，也有非常多人分享。我相信如果看到相關影片已經有很多分享數，大部分的人不會質疑是不是AI做的，他們只會就影片內容討論。
甚至像我所提供的影片，內容是1位牙醫師敘述職涯，留言一片好評，很少有人質疑到底是真的還是假的，但是整部影片是AI生成的影片，至於到底有沒有這位醫師呢？沒有人表達相關疑問。
我想請教你，面對現在的AI技術，資訊局應該有相關的業務，關於全體市府同仁資安及資訊相關的教育訓練，是由你們局處負責的業務，對不對？
趙局長式隆：
向議員報告，分成兩段，第一段是本府與公訓處合作，對於全府同仁進行人工智慧素養的訓練課程，這部分是我們與公訓處合作的；另外一部分是對於社會教育，我們目前在數位平權方面，有針對反詐騙跟人工智慧相關議題授課，以特別容易被詐騙集團鎖定的長者為主。本局目前主要是這兩部分業務，以上報告。
楊議員植斗：
容易被詐騙集團鎖定的長輩族群這部分，資訊局的政策面向大概是哪些？
趙局長式隆：
我們在12個行政區開設相關的課程，主要是宣導反金融數位工具詐騙，另外是一般基本的使用。我們也希望讓大家覺得人工智慧不是可怕的東西，是同時可以成為大家的工具，例如讓長者能夠使用人工智慧，協助完成每天發送長輩圖等等。
楊議員植斗：
這些內容非常好，剛剛休息時有看到你和翡翠水庫的林局長聊天，他自己也有做AI圖向我問候，我覺得很好，他應該是使用生成繪畫。我覺得對於局處的人員而言，將相關AI應用在日常上，發想自己的業務範圍可以如何使用，是非常好的。就你剛剛所講，我們不應該把AI視為洪水猛獸，所以我看到你們大部分的新聞稿都是舉辦相關程式比賽。
趙局長式隆：
對。
楊議員植斗：
可是為什麼我會特別提到？因為我覺得市府同仁教育訓練還是不太足夠。像陳永德局長，他也不是定義上的長輩，60幾歲也是能夠接受新知的範圍，也還是老當益壯，還是可以學習很多新知。可是他看完整段影片，而且那天我的助理還稍微有一點洩題，不小心按到第2頁，有寫是假的，我趕快把畫面拉回去。結果他看了影片，看了一分多鐘，還是沒有抓到其實影片是AI詐騙。不能說是詐騙，但是AI生成的影片中有很多錯假資訊會誤導民眾。
趙局長式隆：
有一些誤導訊息。
楊議員植斗：
牙醫師公會希望下架這部影片，結果仍然在線上。從臺北市局長級的案例來看，我不能說他有錯，不能檢討被害人，因為影片非常像真的，底下有那麼多的留言，都在說這位醫生仁心仁術，詢問這位醫生的診所在哪裡，想要他來幫忙服務看牙齒。所以你可以知道受害、受騙的群眾非常廣大，而且養生的頻道有哪些人會看？
趙局長式隆：
長者。
楊議員植斗：
如同你剛剛所講得，大部分都是長輩互相轉傳，因為覺得影片講得很有道理，所以就在群組轉傳相關資訊，向親屬朋友分享。以本市局長的例子來看，民眾AI識別判斷的能力，是不是遠遠還不夠？
趙局長式隆：
向議員報告，這個類別我們稱為Deepfake（深偽），是Deep learning（深度學習）加上fake（偽造），稱之為「深偽」的技術。
楊議員植斗：
對。
趙局長式隆：
在這1、2年，「深偽」的技術越做越好，就技術上面，其實我們很難辨識它是真的還是假的，技術上面其實是辦不到。所以我們的策略是從平臺方著手，找出廣告是誰下的，用誰是背後的贊助者的角度來進行處理。這部分在中央是由數發部數產署、內政部警政署一起合作，臺北市政府當然也是責無旁貸，由本局與本市警察局一起合作
楊議員植斗：
我為什麼昨天特別質詢資訊局、警察局，因為昨天是市長對於預算編列的報告說明，市府針對防禦詐騙，並沒有顯著地把它列到清單內，市府未來有沒有加深、加強這部分的教育？我目前看不到。當然很多防範詐騙的作為是由警察局這一端來負責。
資訊教育AI運用的部分，你剛剛講得很好，資訊局有很多相關的業務，你們發了很多新聞稿，大部分是鼓勵青年或者年輕優秀團隊參與程式設計比賽，藉由這些技術，讓臺北市在市政或者是民生方面的運用上可以有一些技術突破，我覺得是好事。
可是你要去想，現在每年有那麼多詐騙被害者，就像你所說的，深偽的技術現在做得非常好，以前我們還可以看的出來，像是在平臺方YouTube下的廣告，如果很明顯有誘導、誤導，看起來就是詐騙嫌疑，我們還可以向YouTube檢舉，可能涉及刑事犯罪，必須要下架。但是現在狀況不同，現在是長輩間轉傳，可能已經不是傳連結，而是有人已經把影片給存下來，像分享照片一樣分享出去，因為看不到連結，所以也很難向line公司檢舉影片應該從此下架。內容多是長輩們喜歡聽的養生資訊，一傳十、十傳百，就這樣子擴散出去，根本抓不到源頭是誰。
尤其你剛才講的，深偽的技術現在做得很好，以前還比較可以判斷AI生成的影片，我們有玩，所以知道，有些比較有良心的公司會加註一些警語「此為AI生成內容，不要太較真、不要太介意」等等，甚至有一些生成影片會有公司的浮水印，對不對？
趙局長式隆：
對。
楊議員植斗：
現在很多人買了會員，浮水印就消掉了，我們要怎麼去判別呢？這部分你應該比我們專業很多，所以我想了解你的看法。
趙局長式隆：
其實還是兩個角度，因為我本身是專業資料科學家，所以我說出來的內容應該有一定的指標性。我自己的看法，實質上，即使用數位工具去跑這些影片，其實還是沒有辦法完全篩選出哪些是人製作的、哪一些是人工智慧製作的，所以這部分必須還是要市府與平臺方協力，像是我們有持續與google公司、line公司、meta公司對話，剛剛提到包含誤導內容的影片，我們目前在這個領域還沒有碰到這麼多，我們目前是優先處理潛在金融詐騙的議題，但是後面這一段，謝謝議員提醒，我們來思考看看可以怎麼做。
楊議員植斗：
我向你報告，也是向你討論。
趙局長式隆：
不敢。
楊議員植斗：
我們剛才所講的106萬瀏覽的影片，政府其實有作一些措施管制它，因為106萬瀏覽之後，基本上跑不動了，它被下了幾個限制，不能再發廣告，擴散及演算法可能降低了，影片會被YouTube標註是AI，會有一些警語表示可能包含大量的AI生成內容，我覺得這是平臺現在的努力之一。
可是有些時候，它已經擴散那麼廣了。我們有人意識到了，牙醫師公會也經過確認，內容確實有錯假訊息，經向中央提醒之後，政府才可以發文請平臺標註是AI生成的內容，阻止影片藉由演算法傳播。因為YouTube現在很喜歡作法是，越多人看，就越燒，就會再給更多人看到，所以當我們提醒影片是有錯假資訊的影片，平臺方可能才會壓制它的演算法，讓它不要被那麼多人看到。你剛剛有講，我們現在很難用相關的技術去判斷哪些是真的、哪些是假的。
趙局長式隆：
對。
楊議員植斗：
在過去1、2年，警政署與警察局面對最多的詐騙類型就是名人投資。
趙局長式隆：
對。
楊議員植斗：
透過臉書等平臺，有些詐騙會講說自己是某名人，例如「我是楊植斗，我最近掌握一檔飆股，希望你們加入我的群組，我們會有很多專業的老師講投資技巧、理念分享等等。」，過去我們可以很直觀的判斷，很多人會知道大部分是詐騙。在今年或是去年，雙北與高雄抓到一個利用黃仁勳形象作詐騙的廣告，好像總共損失了1,700萬元，大家知道黃仁勳日理萬機，他比較不會有時間在臉書上面發廣告，找大家投資他的什麼東西，再把你弄到群組裡面，由講師分享。
可是如同局長講的，現在深偽的技術非常可怕，陳永德局長家裡就有人這樣因此受騙，也損失不少。由於深偽技術很難破解，很難向大家講這就是錯的、假的，假如未來有人深偽黃仁勳，利用他形象、動作、語言吸引民眾，請問我們現在有沒有辦法提早預防事態發生？
趙局長式隆：
目前我們與中央有一個通報的網絡，本局在這部分其實也作了一些努力，向議員分享，本局新任副局長李楷元副局長，就是從數產署過來的，這也代表我們與中央之間在打詐相關事項的聯繫更加密切。
另外，我們過去很重視數位平權，協助長者獲得更多數位知能，數產署也有對應的計畫，叫作「T大使」，其實中央與地方一起努力，希望像過去資安情資通報的系統，是很綿密的網路，大家一起來努力面對網路世界。
楊議員植斗：
因為在已經沒有辦法辨別影片是真是假的情況下，當然就是多方的詢問，要請警察或者是其他人看一下。
趙局長式隆：
只要有通報，我們就會查看。
楊議員植斗：
最後一定是變成這樣。
趙局長式隆：
是。
楊議員植斗：
如同我剛才所說的，我相信陳永德局長只是剛好比較倒楣被我點到回答這一題，他也表達他看不出來影片是真的還是假的，但是這也沒有辦法，因為很多人都不知道是真的還是假的。
所以至少你們應該有一些想法，如果未來有一些影片在進行真偽辨別，你們應該多多教導局處同仁。你看，連局長級的都被騙，所以局處部分，尤其主管級的首長，應該要特別加強，不然首長自己都被騙了，如果再傳給其他人，別人反而會覺得很有可信度。我們身邊的長輩，也常常就忙著把這些群組的資訊給傳出去。
趙局長式隆：
是。
楊議員植斗：
接下來要請教另外一個關於AI的問題，局處內現在有很多AI的試用，在市府的局處是不是也會有人使用AI軟體協助工作的進程？
趙局長式隆：
肯定有。
楊議員植斗：
不管是年輕的或者是比較資深的同仁，會有同仁利用AI來回覆工作，進行工作進度的推進。請問未來撰寫議員索資，是不是也允許使用AI？
趙局長式隆：
有分兩個部分，因為我們有訂定使用指引，其中明確指出在公開資訊或是開放資料部分使用商用的服務，其實還算ok，但是例如像是索資這一類比較具有機敏性的資料，就必須要是落地的系統才能處理。關於落地的系統，必須全府統籌進行，這部分我們和秘書處有持續進行討論，包含像是文檔的精進，我們有對應的計畫處理，不過目前為止，如果不是系統化的……
楊議員植斗：
我不太懂落地系統是指什麼？你覺得GPT不夠安全，你們要自己做一個嗎？不太可能吧？
趙局長式隆：
對。
楊議員植斗：
你們要自己做一個嗎？
趙局長式隆：
如果是像市府的規模，我們未必要會飛天遁地的大型語言模型，但是我們必須要有一個落地的、讓這些資訊不會有任何的機會外洩的系統。
楊議員植斗：
局長，你不能畫大餅，你們打算花多少錢做這件事？
趙局長式隆：
其實是分階段進行，我們一開始先以租代買，到最後建置資料中心，我想這是比較長期的進程。
楊議員植斗：
我想了解你們從租再到買，過程大概要花多少錢？
趙局長式隆：
以目前是小規模的話，大概在1,000萬元左右的預算規模。楊議員植斗：
1,000萬元就可以實現一個比較安全、有隱私性的AI模型？
趙局長式隆：
對，未必需要到像ChatGPT或是Gemini這麼強大。
楊議員植斗：
主要的功能大概有哪些？
趙局長式隆：
其實還在盤點。
楊議員植斗：
我覺得需要評估思考一下，當然面對中國大陸的軟體，現在是民進黨政府執政，對於對岸的軟體是絕對不行使用的，對於對岸的AI絕對是保有戒心的，所以像DeepSeek就沒有辦法使用。可是如果是ChatGPT的企業版本可以和市府進行合作的話，市府真的有需要花1,000萬元設計大型AI嗎？
趙局長式隆：
我認為其實場域有很多，像是直接面對民眾，本來就是公開或是開放資料的場域，其實會比市府內部封閉的場域來得更多，這些我們甚至不需要自己建立資料中心，就能夠有完整的服務，這些我們要先推動，所以我想到最後的規模，主要比較多也是與這些外部夥伴合作。
楊議員植斗：
我大概可以了解，因為市府平常處理民眾資訊會有一些隱私或身分的問題。
趙局長式隆：
對。
楊議員植斗：
我可以了解。你剛才說市府未來要有自己的AI處理所有市府局處的服務，現在進程到哪裡？
趙局長式隆：
今年其實是第1年，所以今年的預算開始進行之後，可能到明年第2季、第3季就會開始有一些初步的導入。
楊議員植斗：
所以現在是租了一個AI系統，由市府的員工來使用嗎？
趙局長式隆：
目前我們還沒有系統化處理，所以暫時還都放在市府10樓的機房，剛剛我們提到的是如果全府完全適用的情形下，目前是若干的局處先小規模適用，所以現在的設備是我們自己買的。
楊議員植斗：
現在有哪些局處使用這個AI模型？
趙局長式隆：
現在還在建置，目前還沒有比較具規模的使用。
楊議員植斗：
建置之前，就會有你剛才說的問題，如果現在的員工使用ChatGPT或是Gemini來促進工作的話，會不會有資料外洩的問題？
趙局長式隆：
如果處理包含機敏資訊的內容，是完全禁止的。
楊議員植斗：
我認為指引需要完善，有一些對外的工作，即使比較沒有隱密性或不具機敏性質的，也應該要向外界說明相關資料是透過AI完成的，需要加上相關備註。
處理機敏資訊，同仁當然是非常小心，如果是對外不涉機敏、需要大量處理的部分，公務人員都很忙，使用AI幫助自己工作加速，無可厚非，每天要處理那麼大量資訊。
但如果對外發布錯誤的資訊，身為公務員也要負責，有些時候政府是平臺的角色，把政令宣導給民眾。像YouTube放了一些錯假內容的牙醫影片，他也有責任提醒其實有部分內容是AI，大家在判別的時候要謹慎小心。也許哪一天、哪一些企業或是公民團體，使用AI生成影片誤導你們而將相關的宣導上架，而你們就用了。所以我認為在你們完整建置府內具機密性保護的AI之前，你們如果使用AI，當然在機敏的工作上面是不允許的，但如果是對外的部分，有可能會有資訊的誤解，我覺得還是要有備註比較好。
趙局長式隆：
對，這部分我很快的向議員補充，議員剛剛提到的幾個議題都滿重要的。第1個，我們談到的是大型語言模型或是生成式人工智慧面對到幻覺的問題，我們如何避免這些一本正經的胡說八道，導致民眾受到誤導，我想這是公務部門很重要的責任。
楊議員植斗：
對。
趙局長式隆：
我們有兩個最重要的責任，第1個是信賴保護，人民相信政府，我們理當給他們正確的內容。另外，誰為這件事情負責？所以市府出去的訊息，無論是否由人工智慧生成，其實政府都要把關。舉個例子，目前在新聞稿生成系統內有一項摘要，我們已經標註是AI生成，但是聯絡人仍然要為生成出來的內容負責，我想這是目前我們對於人工智慧比較嚴謹的態度，也向議員報告，以上。
楊議員植斗：
沒問題。
趙局長式隆：
謝謝。
楊議員植斗：
我覺得這樣算是相對嚴謹了，也期待可能下個會期，系統就會開始落地，某些局處可以使用AI生成服務，看看好不好用。
趙局長式隆：
除了公文與索資之外，現在已經有一些初步的應用，效果也還不錯，例如剛剛提到的，判別有些照片是不是重複出現，這部分在自來水處處理得非常好。
楊議員植斗：
好，謝謝。
趙局長式隆：
謝謝議員。
郭議員昭巖：
時間暫停，我先請自來水處處長、水利處、商業處、市場處、產業局備詢。觀傳局來了嗎？我好像有找觀傳局？沒有？好吧，那先這幾位。
臺北自來水事業處范處長煥英：
議員好。
郭議員昭巖：
各位首長，因為我父親是前自來水處處長，他的任內推動自來水管線更新汰換，之前自來水的水悟空樂園、水岸的整體改造，也都是他推動的，連親水節也是從他開始，所以我都說我是水處的女兒，對於自來水園區整體的開發，我一向都非常關心。
我首先要肯定自來水處，它結合了水利處、商業處以及民間團體，使用跨局處經費辦理了「秋OUT音樂節」活動，當天我有出席活動，我覺得很棒，人潮滿滿，而且老、中、青都有，還有上百個各式攤位，不管是飲食攤還是青創藝文攤位，小孩子們都玩得很開心，年輕朋友們還可以去聽演唱會，而且也與周邊的商家、市集、市場，都有相關特惠活動的配合，聽說當天的人潮將近31,000人。
范處長煥英：
是。
郭議員昭巖：
我覺得兩天有這樣的成果很不容易。「秋OUT音樂節」，也就是自來水處善用你們的場地，出一點小小的錢，進行跨局處資源整合並且公私協力的結果，對不對？
范處長煥英：
是。
郭議員昭巖：
當然很重要的一點是你並沒有忘掉周邊的店家，大家一起共同推展城市觀光、宣導水資源，我覺得這是很棒的。我為什麼要找商業處、產業局與市場處上臺備詢，我希望自來水處這次非常棒的公私協力模式，要套用在市政府舉辦的相關活動上。
我必須講實話，我長年都在質詢商圈及市集的各種活動，可是我覺得現在辦理活動，常常會流於形式化，一成不變，沒有辦法帶來很大量的人潮，後續的經濟效益也不夠。可是在自來水處的「秋OUT音樂節」當中，我看到成果了，所以我希望如果當天你們沒有去看，你們可以向他們索取一些照片。希望這樣的模式能夠成功複製在市政府舉辦的各項活動，好不好？才能夠帶來更大的商機與效益，可以嗎？謝謝。
時間暫停，只留自來水處處長備詢，其他都先下去，體育局有到了嗎？是主秘來，是不是？
接下來，我們來談親水庭園與躍動館，親水庭園主要是在以前的漂漂河以及在非常刺激好玩的大型親水體驗的滑水道上面，這邊保留原來的規劃，但是因為年代久了，有些設施壞掉，所以進行全面更新，讓它更多元與更安全。
體育局部分，主要是在溫水池、spa、烤箱與體健設施的空間，把它改名為躍動館，是不是？據我所知，未來這裡要規劃結合所謂的電競、AR、VR相關科技運動，成為很有特色的場館。因應AI時代的來臨，我覺得運動場館能夠有科技、多媒體的規劃，打造成年輕人非常喜歡的競技場域，我當然給予支持。
不過我也要提醒，既然這邊勢必成為臺北市推展電子競技、AR、VR科技教育的場域，我希望你們能與教育局作相關結合，看是活動觀摩或者是活動舉辦也好，我希望能讓孩子們有相關的體驗與感受，好不好？
另外，因為很多居民反映中正運動中心與大安運動中心太遠了，所以當時這裡封了以後，他們覺得很可惜。現在好不容易要重新開張了，他們很希望未來還是能夠開放溫水游泳池、SPA、體健能教室，讓他們可以繼續參加課程。現在都在推廣長照，所以我也希望你們能夠開放公益時段給民眾使用，能夠給退休的長輩們去運動休閒，臺北市也希望打造健康休閒運動城市，所以我希望你們有公益時段。另外，非公益時段部分，希望周邊居民使用場館的時候，也能夠有票價優惠，可以嗎？你一直點頭，可不可以？
體育局羅主任秘書國偉：
向議員報告，這部分我們會來規劃。
郭議員昭巖：
可以？
羅主任秘書國偉：
是。
郭議員昭巖：
我希望你們最後規劃的資料都要交給我，好不好？
時間暫停，你可以回去了。
處長，我們接下來談親水庭園，我非常肯定你與同仁規劃親水庭園未來重新開張，我有看到你們的努力，但是我希望你們最好趕在明年6月讓它開幕。
范處長煥英：
我們會努力。
郭議員昭巖：
夏天到了，大家就會很開心，對不對？
范處長煥英：
是。
郭議員昭巖：
好不容易有這個場地，北臺灣大概已經找不到這樣的空間了，對不對？
范處長煥英：
我們希望明年的親水節可以擴大辦理。
郭議員昭巖：
對，我希望是這樣子，現在北臺灣八仙樂園都關了，就剩這裡了，對不對？不過我也提醒你，未來一定還是會有一些收費，對不對？希望針對周邊居民，與躍動館一樣，還是應該給居民一些優惠。
范處長煥英
這一點我向議員報告，其實這一次的定價訂得還滿低的，全票在假日180元，平日160元，而且我們有所謂的優惠票，假日只有90元。
郭議員昭巖：
優惠票是針對誰？