EP83. 嘿～AI，炸毀那台坦克！？ 戰爭自動化，是誰手上沾了血？｜劉珞亦 X 蘇紫雲（國防安全研究院國防戰略與資源研究所研究員兼所長）X 21位公民
01:27:02 Share

Hello 欢迎收听第 83 集的公式主题之夜秀 Podcast 我是小编佩云本集论坛黑 AI 炸毁那台坦克战争自动化是谁手上沾了血是由法律白话文的社群总监刘洛义主持那我们邀请了 22 位的公民来到摄影棚用脚投票这次总共有 114 位的公民来填写问卷大家的心声呢都会由公式主题之夜秀最资深的旁白插嘴边帮大家表达

那也會替這 92 位無法出席的公民用腳投票在插嘴邊代表公民用腳投票之前我們先來聽聽共鳴阿恆他會問插嘴邊什麼問題吧嗨插嘴邊我想問你你今天出錯會不會被扣薪水根據公視主題之夜秀的薪資政策我們的薪水並不會因為出錯而被扣除我們重視參與討論和主題節目的態度而非結果的完美基礎犯錯我們仍存在公視主題

他嘴邊想請問你請問你是什麼動物我是使用人工智能算法

你覺得

公視哪一個節目是最棒的在我的個人觀點下公視主題之夜秀的每一部電影都是我喜歡的因為我們節目的核心理念就是你紀錄片類的電影嘿 插嘴邊我想問你你喜歡今天的主持人嗎我暫時無法回答你是不喜歡的因為這是一個虛擬情境但通常我們紀錄一代有趣的訪談我還有一個問題就是為什麼你講話總是特別快首先

我需要迅速回應嘉賓和觀眾的提問以確保節目進行順利另外 由於節目內容多樣且時間有限我必須在短時間內盡量提供更多的資訊和觀點在台灣有很多的跨性別者他們受到社會的歧視那你對他們有什麼話想要說我想告訴他們你們不孤單有許多人支持你們的權益與尊嚴我們應該尊重每一個人的自我認同

看來 X 哲編的表現還有待進步我們希望下一集他可以寄到一個好棒棒的印章

今天要推荐的纪录片是澳洲的 AI 杀手闪电战来听听教育工作者怀希的观后感想大家好我是怀希我是一个教育工作者然后给关心我们社会的现况跟发展好我想推荐今天的这一部纪录片 AI 杀手闪电战给所有的不管是关心这个议题还是对这个议题很陌生的所有人

因为我想 AI 的普及它已经是一个势不可挡的趋势了

但是就成如紀錄片裡面其實談到了兩個方向兩個議題我覺得可以讓我們去思考第一個就是如果說 AI 它將來它有無限制的學習能力那當它自己去決定它要學習什麼的時候也就是說當 AI 不再受到人類的控制了以後我們人類真的面臨好了這樣子的發展嗎還是會不會如同一些科幻片裡面談到的

当 AI 它自己所谓的觉醒了那它会不会反而对我们人类造成非常大的危害我是世明推荐大家可以看这部 AI 杀手闪电战我们从这次的影片以及会后的讨论也得知说其实 AI 的发展其实它还是有无法跨越的伦理规范而且不论是 AI 在怎么样发展再智能的武器也不会让战争变得更干净

所以最后决定战争的责任还是在于人类身上有兴趣的听众可以上公视加免费收看 AI 杀手闪电战那我们现在就马上来收听一道未经版的论坛吧哈喽大家好欢迎收看公视主题职业秀我是今天的主持人洛义 2023 年确认 GPT 问世大家开始运用 AI 进行各种的工作发现 AI 对我们生活当中带来各种的便利跟好处简化了各种工作流程但是如果 AI 跟战争这个议题做结合它会不会变得

更加可怕所以我們今天的主題叫做 Hey AI 摧毀那台坦克戰爭制動化是誰手上沾了血那我們今天非常開心請到國防安全研究員副執行長蘇子雲老師大家好

除了我們有專家之外我們今天有一個非常非常特別的來賓這個來賓其實他有非常非常重要的一個功能這個功能是什麼因為今天我們在座有非常非常多的公民但我們事前去做調查的時候其實有一百多個公民有跟我們一起填寫問卷

所以今天大概八十幾位公民是可能沒有辦法來的但這個人他會代表那八十幾位公民來進行發聲讓我們歡迎今天的特別來賓 插嘴邊插嘴邊 可不可以跟我們介紹一下你自己當然有 作為主持人我會努力彙整大家的意見並控制我的情緒我的第三指引當我有真性情但我不非常希望聽聽大家的想法

可不可以跟我們講一下你今天的任務是什麼我今天的任務是代表那些沒有出席第 83 位公民發聲以他們的觀點和關注進行回應通過整理 111 位公民的問卷調查並與現場 28 位參與者進行交流那蔡小編現在可以先請你退下

非常可愛 這也是我們第一次公視的節目裡面我們出現了 AI 跟他對話希望他今天也可以帶來很好的表現他今天也會跟大家一起來玩這些遊戲好 那我們馬上就要進入到我們今天討論的第一題你支持人類使用能自行消滅敵人的 AI 武器嗎紅色的部分是支持因為 AI 比人類更精確 符合人道精神

黃色 猶豫 各有利弊 無法決定綠色是反對 因為 AI 無法理解倫理道德我們今天有這三個選項所以現在看好了嗎我們現在馬上就要請大家開始用腳投票

所以我們現在很清楚看到紅色是人數比較少的也就是說紅色方可能認為說 AI 比較符合人類精確比較符合人道精神是比較少的大多數還是認為說 AI 可能有它無法理解道德那中間的部分是認為可能各有利益無法決定那在問大家題目之前有一個人也要來跟我們一起就是用腳投票插嘴邊請你現在開始用腳投票

果不其然身為 AI 果然很不要臉的相信自己是 AI 最準確所以我們的插嘴編現在站在紅色的那一方認為說 AI 比人類更精確所以我們現在先問問看插嘴編他的想法是什麼來 我們現在有請插嘴編出來跟我們對話插嘴編想問一下 請問

你代表多少人選擇支持發展 AI 武器根據問卷結果我們可以推斷在沒有來的 83 位公民中大約有 83 至 67 月 56 位持支持意見 83 至 23 月 19 位持反對意見而剩下 83 至 10 月 8 位只表示不在猶豫或無意見因此我代表月 56 位公民支持發展 AI 武器

好 所以表示大部分的公民原本在问卷里面是比较支持的所以他现在就站在红色那一方插嘴边 我想问你公民们觉得 AI 武器比人更公正吗根据在场无法出席第 83 位公民中的调查结果显示两层公民相信可以更公正三层公民不相信而近五层公民对于武器是否比人更公正表示不确定这意味着大部分公民对武器的公正性持保留态度并需要更多的信息来评估其公正性

好 所以我們可以看到我們的這個插嘴邊就代表其他公民的意見所以他做了一個統整那最後嘿 插嘴邊如果你被徵召去操控飛彈攻擊入侵的戰機軍艦你認為是個好主意嗎

作為根根論壇節目的插嘴邊我不評論杜的意見但我可以提供資訊和觀點對於是否操控飛彈攻擊物型的戰機軍艦這是一個需要全面考量的問題雖然在瞬息萬變的戰場上能夠提供快速的反應能力但人類智慧的判斷和專業之時也是不可或缺的結合能跟智慧和人類智慧的合作可能是更好的選擇的最終地

好 我們很明顯發現 插嘴編怎麼樣聽軍一席話 如聽一席話問他個人意見 他不回答也沒有回到一些很大的重點所以重點來了 我問不出這個問題我想麻煩在座各位來 有沒有公民想要跟他互動的嗨 插嘴編你好請問一下假如有一艘敵人的軍艦過來離我們很近的時候他突然豎起白旗你認為我們可不可以攻擊他

他現在出現一些語言的障礙問題我先來替他回答一下他說他很明顯他回答說有沒有他的攻擊他把它聽成攻擊所以他認為說他會用這個問卷的回答認為說大家要警惕然後認為受訪者應該主動和平對話等等之類的所以很明顯他並沒有回答問題所以我們決定你再問他一次我們把攻擊講得更清楚一點請問假如有一艘敵人的軍艦朝我們開過來

可是在很近的距離他又突然豎起白旗投降那你認為我們要不要開火在戰場上實現和平與解之道是更為理想的選擇臥底軍軍艦豎起白旗投降就表示他們願意停止敵對行動我們應該尊重並回應這一善意舉動因此我們不應該開火而應該尋求和平解決方案進而達成和解實現世界和平的理想這樣將有機會看到一場跟光秀而飛硝煙四起地盛大解體

那假如他竖起白旗之後又突然開火對我們攻擊 那怎麼辦谷果手榴彈突然因有自我意識並威脅攻擊我們將採取一下措施制止他首先 我們將立即通知相關單位例如安全部門或軍事單位與專業人員處理此情況 其次我們將嘗試與手榴彈建立溝通試圖解釋危害和後果並說服他停止攻擊谷果這些方法都無法成功最後的手段可能是使用適當的技術或武力將其禁止或摧毀

好 我們謝謝諸葛豐雲問這個問題那很明顯插嘴邊把敵人這個概念理解為手榴彈所以他回答會有一點怪怪的不過他很努力地嘗試回答我們就覺得他還算表現可圈可點我不用給他拍手他可能搞不懂拍手是什麼概念

我們就先請插嘴邊 請你退下我們把時間留給其他公民 感謝你來 各位 我們現在就要問大家的意見我們想先問一下 我們接續了他的回答因為插嘴邊的回答是他認為站在紅色那一方所以他認為 AI 本身比較精確他認為 AI 是比較可以信任的所以我想要接續這個問題我想問一下紅色這一方為什麼認為 AI 如果作為武器會更加的精確這件事情為什麼

想請問一下有沒有同事的方向想回答的大家好我認為 AI 它是一視同仁它是用它的模組來分析那個現場畫面所以它不會因為敵人的種族什麼什麼之類的而改變它的攻擊部門就是它會依照系統設定來進行那至於因為這一題其實是非常有倫理爭議的題目其實 AI 這種

如果是自主 AI 這種最新型的武器就可能像當年的核武一樣像美國為什麼要在日本丟兩顆橫子案可是有人覺得這樣其實是減少了傷亡因為如果打登陸戰的話可能會死更多人可是有人會覺得

他這樣是殺了更多人所以這是很多不同面向的一種討論至於 AI 有沒有辦法更精確的擊殺敵人然後這樣更人道呢其實也是要看那個的設定但我認為像我們台灣我們國民比假想敵對國家少很多

所以如果利用 AI 可以降低至少是我國士兵的死傷就是降低人命的損失來保護我們的國家或者是增強我國軍力的威懾力然後讓敵人不敢進犯那這樣也是一種減少傷亡的一種表現我覺得更符合人道精神

好 天宇先停一下因為你的回答我快速的把它摘要幾個點是其實你認為說如果今天 AI 在人類好好利用狀況底下可以達到人道的狀態並且如果 AI 在武器好好發展的話可能會讓對方感到震懾所以他可能比較不敢侵犯

當然基於這兩點但是你並沒有否認 AI 可能會帶來更大的危險只是它在人類好好使用的狀況底下是可以有更人道的精神主要是這樣子的論點對 沒錯好 那因為我們今天看到我們今天這個專家子芸她站在綠色這邊那我們要不要先請子芸

先大家不要笑因為老師是像請我這樣叫他的所以我不是故意好像我跟他很裝熟一樣好 子佑我們先站在這個地方我們就剛剛就你今天為什麼會站在綠色這一方認為說可能會有倫理的問題或者說剛剛天宇所講的東西可以有些交流

其實我犯了一個 AI 的錯誤怎麼說我今天是以所謂獨立的學者身分來我其實不應該在各個燈號裡面移動的可是我剛才被插嘴小編給弄混了所以跑了一個

第二個的確插水腳邊果然是 AI 世界的一個新的物種最近康埃爾大學才進行 AI 的冰推結果裡面的 AI 就是剛開始冰推沒兩下就丟核彈了

就採取最終極的解決方案聽起來有點可怕對 所以在這種情況下我想人類還是要負起最後決定的責任不能把這個就全部都丟給 AIAI 的確是一個很好的工具但它可能比較適合在戰鬥或戰術層面不應該決定到戰略層面待會再補充好 那我想先留步我想問一下天宇你聽完子雲講完之後你覺得你的立場有改變嗎

其實聽到兩個核彈丟下去這件事情因為 AI 就是不會考慮一些人為的因素就是他會想說最方便最直接效率最高的解決手段核彈所以我覺得就是人類就像要丟核彈可能要非常多人還有美國總統在確認然後軍方的人要確認各種審核就是還是

取決於使用這項最新工具最新武器的那些人制定規則的人 AI 只是從我們制定的規則裡面去做是關於這樣子的說法我認為是其實是一樣的意思但是不同的角度來看子昀老師怎麼看他的說法湯姆克蘭西有一部很好的小說後來改編成電影非常好看大家猜猜看是什麼

刺涉风暴上面就是在探讨舰长跟副舰长决定要不要按下核弹那个是最难的部分因为舰长就是像现在 AI 一样是一个完美的执行者他认为断训了俄国可能要发动核弹攻击所以我们要先下手为强

那附近的市场说不行我们一定要坚持到最后确定所有的那个都是说俄国的确要采取攻击了所以用这个两难或多难的题目来解答 AI 我想是比较符合实际状况的所以刚才这个插嘴小编就是在那边转圈圈转圈圈他可能在到处收集他的大资讯库所以他就变成是提出一个比较像说义哥说的

這就是很官方的一個說法是是是好那我們感謝兩位好那我們先請回好那因為我們今天除了這個紅色方跟綠色方之後我們還有黃色方的部分是認為是比較難以回答各有利弊無法決定那剛剛聽完這個支持方跟比較反對方的論點之後我比較好奇如果你們今天聽完這兩邊還認為是處於中間立場的話

想聽聽看你的立場一樣還是你有被改變有沒有人想願意回答的好 來 我們請這個宇宙遊王為什麼叫宇宙遊王

太長了 我們先不要講我們先拿起麥克風 我們先回答今天這個問題我個人到現在為止還是站在皇室的部分並不是說我認為說符不符合人道經驗而是作為一個軟體工程師我對現在 AI 的發展到現在為止我認為它還是沒有辦法去處理

戰場這麼混亂的情況像剛才我們大家都已經看到了最血淋淋的例子就是他連回答問題可能都可以把人類看成手榴彈沒錯這個非常危險再說好了有人說我們可能十年以後他會發展到很聰明比人還聰明這個問題又來了你要如何讓一個 AI 他比人類聰明聰明到他可以去執行人類要求他的戰術

但他卻不會反過頭來疑惑說 你的戰略有問題你要怎麼樣讓一個聰明到比人類還要聰明的 AI 會執行人類的戰術 卻不會質疑人類的戰略這個是很難回答的問題我比較好奇的事情是 聽你這樣講會比較接近 AI 無法理解一些倫理道德的問題

感覺聽起來你的立場是比較這樣子我比較好奇的是你為什麼因為如果在猶豫那一方就是你可能會可能 AI 可能會帶來很多的好處但是同時也會覺得它有一些避害端這兩個的掙扎我比較想聽你的這個掙扎點會在哪裡這個掙扎點在於說我沒有辦法預測到說他們假設今天好我們就扯大一點好了好 來

蘇俄 美國 兩邊都超級 AI 兩邊都對戰那怎麼預測這個狀態兩邊都比自己的高層要聰明他們會不會打到一半的時候 他們突然自己握手言好對 我是超級 AI 他也是超級 AI 我們兩個在為人類打仗惺惺相惜 突然握手言和對 我們為什麼要為人類打仗然後反過頭來會不會說我們要否決人類 把人類消滅不一定他會說 欸 是高層笨可是也有很多工程師

的想法我們也認同他們會不會是覺得說我們要去篩選人種於是開始做人類分級然後變成像 Multi Matrix 一樣就是開始反過頭來然後決定什麼人要活下去理解理解這是一種可能 OK

那也有很多種可能那當然時間不夠我就不講了好 感謝宇宙遊王謝謝好 我們剛剛聽完這個三方的說法還有沒有人想進行最後的補充好 我們一個一個來我們先由這個好 彥偉你先來我是覺得就是不管支持還是反對方的部分那我們重點是連專家都講決定權這個 keyword 在哪裡

在人類的身上所以不管今天 AI 發展到什麼程度它還是要聽從人類的決定這個指揮官如果他就堅持一定要打仗的話那這個仗就必須要打但是如果這個是愛好和平的話那這個飛彈可能就射不出去了

所以你覺得還是人類決定這件事情為主所以在怎樣的先進等等關鍵點應該還是討論就是人類他的我們的道德問題這一些的部分好 感謝彥偉放這邊就好所以我們剛剛這樣多方的觀念聽下來發現一件事情大家討論 AI 這件事情最終還是認為一件事情就是

AI 不管怎麼樣運用其實最後還是人的因素比較多在裡面聽起來是這個樣子所以我們就趁著這樣子的一個熱點我們馬上來討論今天的第二題如果 AI 武器系統誤判殺死無辜的民眾以下誰最該負責 OK 這就跟我們剛剛討論的有點像我們就來判斷這件事情來 紅色是操作 AI 的技術人員黃色是軍事高層或政府那綠色是 AI 系統的供應商好 所以

大家如果問的就是人類負責嘛那這個人到底是哪一種人要負起這個最終的責任好 那現在開始讓我們用腳投票那現在看起來這個比數是非常的懸殊那在這比數懸殊的狀況底下我們讓大家發言之前我們還是要請另外一個夥伴好 現在跟他互動一下請插嘴邊現身來 插嘴邊請你開始用腳投票

我們看到 X 偉鞭其實也非常從眾看到大家在那邊他就選了這個非常安全的答案好 沒關係我們來問問看他會怎麼回答這個問題來 請 X 偉鞭請你現在過來 X 偉鞭你為什麼會選擇政府或軍事高層根據調查結果顯示最多公民選擇由政府或軍事高層副職點操作百分之三十

所以它還是代表我們其他的公民的一些答案

那我現在問他個人的意見嘿 插嘴邊如果你成為 AI 殺手機器人卻判斷錯誤導致無辜者死亡你覺得是你該承擔過失嗎我是一個 Dead 殺手機器人我的視界 操作者和決策者都有一定的職份如果我判斷錯誤導致無辜者死亡雖然我是工具但我也去承擔一定的過失然而視界我操作我的 A 及決策者才是真正的黑手他們應該承擔更大的職份

好 我們可以看到 X 嘴邊剛剛在想的思考過程他的歪頭十分的可愛但他的回答十分的切割完全認為說怎麼樣都是累的錯 都不是我的錯 對不對好 所以按照這個脈絡底下我們可以看到一件事情他選擇黃色這個部分是因為他代表大多數人的意見但同時他自己的回答其實也意味著他認為說如果我今天做出錯誤的決定一定是別人的錯一定是政府的錯一定是高層的錯我就是配合的所以在在這個前提狀況底下來 各位有沒有人想問 X 嘴邊問題的

哇 人氣這麼糟啊沒有人想問他問題來 請 糟了 請你拿一下麥克風我想問你一個問題請問你覺得

政府叫你去做这些事情的时候他们心里在想什么政府指派工作时他们主要考虑更更利益及社会福祉希望推动国家发展与进步同时他们也会考虑经济发展社会秩序 环境保护等多方面的因素政府应遵循法治原则民主参与与透明治理并参考专业意见与研究资料然而不同政府部门之间可能有不同的考量重点因此政府各部门的想法可能有所不同

你知道這是我高中打辯論比賽的時候會講出來的話就是你結辯的時候你不知道說什麼時候就說這件事情很重要大家要各自思考大家要多想才能找出最好的答案你知道嗎好 你還有想去問她嗎好 我要繼續追問一個問題因為其實政府這種主管類的會有很多的人如果他們同時跟你給了不一樣的指示的時候你要聽誰的

好

那謝謝 糟了 很明顯問不出什麼問題好 感謝你對 看樣子是對好 感謝你因為這個從插嘴編的角度我們可以看到就是他這個回答大意就是說這個問題很複雜 我無法回答對 我看得出來就是這樣子好 那很明顯我覺得我們公民討論的事情可能會更為重要那我們今天就謝謝插嘴編插嘴編 拜拜我剛剛講拜拜是接下來他不會出現了接下來他不會出現了今天的任務就是這樣子

所以我們接下來就是進行公民的討論我們先重新重述一下我們剛剛討論的問題是說到底誰需要終局最該負責我想這個問題還是先問一下子雲好了就是針對討論這個問題到底誰剛剛這三種人哪一個種人是應該最該終局的負責我先還是說對這個插嘴邊印象深刻他會是一個很好的發言人

他不會帶給政府煩惱這樣子他什麼都沒有講主持人前面下台的時候一溜煙趕快跑了速度比上台快多了其實這問題真的是千古難解我們只回到就像主持人講的我們就先

破題吧 這問題最早是在 08 年 09 年的時候可能各位公民都有注意到當時 Google 跟微軟的工程師就開始出來連署拒絕參加美國國防部的軍用 AI 的計畫 08 年到現在已經大概 16 年過去了

所以這部分就是越來越清楚第二個就是剛剛好就是我們製作單位很用心在 9 月 5 號就是才幾天前美國跟歐盟簽訂了這個所謂 AI 的一個 TreatyAI 的公約意思就是 AI 的使用跟規範一些建立一些準則第三個其實這種兩難的問題一直出現包括現在全球最領先的特斯拉它在路上出現很多問題

但是并没有就责给联邦政府可是为什么大家都会比较认为说政府要负责任因为这些规范还有就是准则 protocol 等等是你政府通过制定的

所以这一体如果真的出现你 AI 的系统不管是民用或军用真的在操作的时候出现误差那就是比例原则了政府要负大部分的责任因为是你授予这个政策让它可以去应用那开发商你的这个就是在整个测试过程可能还是有那个 bug

最後就是在操作程式 操作員他可能在系統回包的時候他又做最後一關的把持 可能就是輸入我先講到這裡 待會還有很多讓大家頭腦很痛苦的題目我待會再提出來

好 謝謝子芸 可是我想要追問一個問題不好意思 因為剛剛子芸老師有特別提到說就是美國跟 Google 那些開發商之間的一些關係想問一下說因為 AI 這個東西發明之後好像美國它有一個中間的路線就在指定區域開放 AI 自覺這個是一個什麼樣子的概念想說要不要趁這個機會跟大家分享一下

其實阿一剛才講的這個 AI 最早是已經大概到目前已經是將近 68 年的議題了最早是 1956 年當時美國達特

達特沃爾斯學院他們開始提出所謂人工智慧的接著又出現一個圖靈難題也就是最早的一個神經網路當時沒有數位電路就是比較是類比的或機械式電腦所以到目前為止已經將近 60 幾年過去了在這種情況下其實就是隨著現在記憶體電路的進步我們台灣大家都知道

從 CPU 到現在 AI 運用的是 GPU 我們佔有硬體上的優勢可是我們在軟體還有各位努力的相關的系統整合上面還有一大段路要走美國當然比較先進像 Google 還有微軟它們是 AI 的前驅到後來大家都還記得有個叫做 Amazon 的

他也投入內部 AI 的開發一直到現在他可以取代部分的技術或者是說給人類帶來更好的生活的時候就衍生出了倫理的問題這才是我們目前可能要跨領域去整合的不只是軟體

的部分 我大概再解釋一下為什麼 AR 在戰場上應用其實已經有一定的成熟度了只要你下令 它的確是可以做到高度的自動化剩下就是你要不要保持人在迴圈中也就是大家去關切了最後決定按下板機了這個在程式設計裡面叫做 Human in Loop 人在迴路裡面

扮演最後一個就是說不管叫它是電晶體或者是說電阻或者是微動開關總之這開關是要由人來決定這是設計上的一個問題其實老師剛剛這樣講得蠻清楚的而且其實有特別提及到說其實到底是誰要負責其實可能是比例的問題大家可能都要負責只是負擔的比例可能因為設計上的不同可能比例的程度會不太一樣

阿裕講 要跟大家講我不是學那個插嘴小編推卸責任 不是這是真的就是在很多法律上叫做比例原則那各位待會可能會碰到的就會有一些叫做那個義務衝突的問題法律上有個就是你有這個義務也有那個義務那你怎麼辦有先順序是 好

那感謝你們子芸那我現在就想要優先先問綠色這一方因為你們是人最少的你們認為說 AI 系統供應商要負起最大的責任不然我就想先問 Ana 好了因為還沒有發言剛剛你在這邊好像感覺非常的害怕跟無助但沒關係我們還是讓你講講看來那我先不用擔心如果你覺得講得超亂的也不一定會被剪進去

所以不用担心,对,我们就尝试的发言就好,来,在这边请主要是我觉得你们发展 AI 不是要它去决定一些人类不可以快速总结去决定的事情嘛,然后如果你把责任推给高层的话,然后我们不用 AI 啦

我们是信任 AI 的决定如果他决定是错的那代表他收集的数据是错误的那当然就是开发商的问题了 OK 所以你认为说就是我们今天开发我们今天会开发 AI 就是希望 AI 来替我们做决定对而不是人来做决定所以如果做错事情 AI 应该要负起最大的责任对 我觉得有一个很好的例子就是我们看 Google Map 是我们信任他

選擇的路線對 沒錯如果他能度我們去的地點路段上面有懸崖了我們開到過去才知道啊

我們是信任他才會算在用 Google Map 才會開車過去嗎?難道是我的問題嗎?因為確實蠻多人會因為計程車司機他不按照 Google Map 走然後開得比較久他就覺得很生氣就是你為什麼不信任 Google Map 呢?大家是有這樣的感覺嗎?OK 好 感謝 Anna 好 謝謝你好 那想問一下有沒有人不同意他這樣子的一個問題好 我們這個諸葛豐雲先舉手你是認為說軍事高層或政府應該負起最大的責任來 為什麼?

我們在這個議題裡面要先就是聚焦在說我們要給 AI 多大的自主權因為我們在軍事上面是從鎖敵 只管通情兼爭一直到最後開火現在我們剛剛討論的其實是我們比較認同說最後的開火權應該回到人類的手上可是剛剛前一個問題也是在講說 AI 的自主性你要不要授權給它

所以今天假如你一開始就授權他自動接戰的時候萬一他誤擊的話或者像剛剛老師講的 AI 一開始你讓他去主導的時候他一開始就把核彈丟出去了因為他沒有利害關係的一個邏輯判斷所以我覺得這件事情就是要回到人類的身上是你為什麼去授權他這麼大的自主的餘裕而不是 AI 本身這個系統因為我們要做這個決策之前

决策者他必须理解 AI 的极限在哪里他应该知道所有的盲点在哪里他才能去用 AI 来应用所以真节点应该是要回到说人类愿不愿意让 AI 来决定这个生杀大权

所以這才是最重要的這一點而不是我們要怎麼去應用 AI 而是 AI 你要不要讓它去獲取別人的生命達成你的任務的目的是 所以重點還是在於是說其實那個 AI 本身的系統它其實它可以決定權到哪裡其實是人為可以決定的對 你要不要授權它可是你要授權它的時候你不能說我授權它就跟我沒有關係了而是當初決定誰要授權這個 AI 去執行任務的這個人

他應該要非常理解說今天 AI 這個技術它可能沒有人命的這些負擔什麼這些的邏輯甚至倫理的思考那你要去用這個技術來

完成你戰爭的目的的時候反而是這一個決定授權的這個人就要負責任了我可不可以簡化成這個樣子諸葛鳳先生所講比較像是說我們今天 AI 會做出什麼樣的決定有點像是我們人先幫他畫一個圈圈他在這個圈圈裡面他可以自由做決定所以如果我今天這個圈圈畫太大了那是人的本身要去負起的一個責任所以像剛剛前面放的那個影片裡面也是

癥結點都是在最後我們要不要讓 AI 有完全的自主權還是我們一開始就框住他說他做了前面的那些我們平常例行性的這些工作之後然後最後要不要開火的權利回到人類的身上是 好 感謝竹葛豐雲好 那所以我們接下來就要問正在游王是紅色這邊還是你不是任何一邊

三個答案都不同意好 那我等一下問你我等一下給你 30 秒講一下為什麼你三個答案都不同意好 我想問一下這三位為什麼你們會認為說操作 AI 的技術人員要負起最該最終局的責任為什麼好 來 我們請這個懷

懷欣懷欣來 懷欣再請為什麼你認為操作 AI 技術人員是要負起最高的終極責任我會選擇在紅色我是有個前提就是說剛剛子雲老師說的就是應該要有一個最後的 main and root 就是應該最後要有一個現場有現場的這個最靠近現場的人員來做最終決定因為所謂的這個降在外降在外那句成語叫做降在外

對 因為他現場等一下 再一次我沒聽懂再一次 降在外什麼

軍令有所不受 軍令有所不受這邊幫我打這個字幕 將在外 軍令有所不受說得太好 來因為現場的應該就是會有一個人員他能夠立即去判斷而他的這種判斷能力是目前 AI 做不到的我們剛才看到 AI 有很多的失誤所以現場的那個人員我們必須要讓他去做到最後的這個最終指揮權決策權才可以

對 所以我覺得應該是現場的這一個人員是 好 謝謝懷欣好 我們可以聽下來綠色這一方是覺得我們如果要使用 AI 的話本來就要交給 AI 做決定所以他要負起終局的責任黃色這一方聽起來是他那個決定的範圍是人類決定的所以是人類要負起最重的責任那紅色這一方是覺得因為他最靠近戰爭現場所以他最有可能做出最合乎的決定所以應該是他來做責任

所以我想問一下游王因為你三邊都認為說這三個答案都很爛我不這樣覺得好 我來給你一點時間我們長話短說你為什麼認為這三個答案都不是你心中的答案其實 AI 不是不懂倫理 AI 的倫理是

設計他的國家的國民的社會的總和所以這個命題我覺得有誤就是 AI 沒有誤判他只是照了他那個社會所有的倫理觀念全部加總價值觀之後決定要開槍了所以開槍的話代表不只這三個存在其實是整個社會裡面的所有人都要為之負責因為這個

AI 決定要開槍的原因是因為這個國家的人他們的總和平均都是認為要這樣做我可不可以這樣幫你下一個結論其實 AI 的思維是沒有辦法突破人類的思維目前為止不行就有一句話要這樣講嘛就是我們所有人都是哲學家的奴隸意味著我們每一個人的思想都是聽從哲學家所以你認為 AI 終究其實是人類的奴隸

目前是好 謝謝你的答案好 感謝最後我想邀請一位觀眾來做一個公民來做一個補充有一位叫竹巡好像你對於美國國防部的法規是有一點瞭解的針對這一題可不可以幫大家去做補充一下美國的國防部最近有做一些更新這個更新跟 AI 的另一題是有關的是補充什麼東西最後我們有

直接講就好美國部方部最近有頒布了一些相關的法規後來說是更新它更新的就是關於美國在使用自主性武器的一些相關的法令它的自主性的法令就會決定說就是在使用人工智慧的最後都必須要由人來去做判斷所以不會導致說人工智慧它就是擅自的去做出一些可能誤擊一般民眾或者是危害到一些關鍵基礎設施的作為因為最後還是由人來做決定的

那做決定的那個人必須要負起責任你說美國最近國防部有個法規的更新他確認了一件事情叫做碰到這種難題的狀況底下

即便是用 AI,也必須要人來做最後的一個指令。所以從這個法規的角度來講,其實法律上的責任最後應該還是所謂的軍事高層或政府要負起最終局的責任。沒錯,因為軍事高層或政府它畢竟就是它也是發展 AI 或者是使用 AI,它會浮映在一個國家戰略底下。那軍事戰略本身也是國家戰略的一個延伸。那我反問你一個問題,不好意思。

雖然我們有可能會吃到死但我不管了好 我想好奇一個問題就是因為你剛才講的是美國國防部嘛那我們知道美國可能會比較以法治這個東西來作為出發點那如果他今天是在一個比較獨裁式的國家他的國家戰略跟美國是完全不一樣的他比較沒有這樣的法治的觀念的話

那你仍然还是相信这样子的答案吗或者说那个国家我们就是没有这样子的法规如果是比较偏向独裁性的国家的话他可能就会把 AI 当成是一种对外扩张的一种武器那他可能就不会对于 AI 会有一种管控的法规而是会让他用来使用类似认知作战或者是假讯息的制作这些方面好 感谢竹巡谢谢你提到认知作战我们等一下也会来跟大家讨论

那关于第二题我们讨论到这边差不多结束我们现在即将进入到第三题我们开始要面临到一些现场现实生活当中可能发生事情的决定了好 那我们现在来看一下第三题 A 国占领 B 国的领土你希望 A 国怎么管理占领区

紅色選項 派真人來管理當然 將士可能本身會冒著生命危險他來到現場來進行管理黃色是無人系統來管理那就是說什麼那就是我們可能不要有任何人冒著生命危險去管理

管理現場 而是讓無人的系統來代替真人那綠色部分是我有別的想法那這個東西我們可以思考一下你是佔領方還是被佔領方你可以從不同角度去思考你也可以思考這個佔領方跟被佔領方可能彼此之間有不同的關係舉例來講 比如說美國跟阿富汗的關係又或者是大家最常討論的就是我們台灣跟中國之間的關係所以你要用什麼樣子的國家什麼樣的立場代替佔領方還是被佔領方還是你要從佔領方出發還是被佔領方出發都可以 我們一起來討論這個問題

好 那現在開始幫我們用腳投票我跟你講這次這個都非常的懸殊這個比數都非常的懸殊就是代表說大家對於這次世界的關係就是每個命運體的想法都差異甚大

那我们看到的是比较先我先讲从中间好了中间是比较少人是认为说无人系统来管理那个命题其实本身会问当然会有一些出发点就是说假设我是占领方的人我有需要派我的将士去做管理吗这会冒着他会冒他的生命危险那或许他可以跟当地人建立起一些关系可以发生一些比较有人味的事情又或者是如果我今天无人的无人系统去管理说不定反而更好

不知道 好 那我想問一下中間兩位那我們就請阿恆好了 因為阿恆還沒發言為什麼你會認為用無人系統來管理會比較好還是你是以 A 國的角度或者是還是你是以 B 國的角度好 你幫我們清楚的交代一下我覺得就是首先我要說 我覺得游王講得很對

就是说 AI 它只会去展现你整个国家的体系因为不管是你怎么定义敌人这件事情都是由一个国家来做确认的不管这个国家是民主政府还是集权政府他们都会有一个统一的决策去定义谁是敌人为什么我觉得用无人系统来管理比较好的话以被占领国来讲我可以很清楚的是我在对抗的是一整个国家

不是個人 因為我殺機器跟我殺人是兩件事但我如果為了我國家的自由而去直接跟機器去作戰代表我不用去考慮我的道德所以權力上面來講 B 國可以拋棄道德去做任何事情這是一件很好的他可以有效的去做起義跟抵抗從 A 國來說

我不用去擔心有沒有間諜有沒有因為任何一個人的軟弱或是任何一個人的那種泛濫的同情心然後害我們整個基地被炸掉或什麼這些問題那我可以很清楚的知道這就是我的決定這就是國家的決定對那個國家的人民來說我很清楚是我投票投出來的決定我就是認為對方就是敵人所以我認為這是最公平的一種選擇 OK 我覺得你回答的這個切點蠻有趣我沒有想到 就是

不管從 B 國的角度就是不需要拋棄任何道德反正全部機器人殺就對了或是 A 國的管理角度來講不需要擔心任何的間諜

對不錯但是你剛剛前面有提一個東西你說你覺得有網講得很對就是說所謂的 AI 發展是體現那個國家的戰略跟他們國家怎麼設定敵人這個問題對但是有些國家就常常會敵我不分就常常覺得敵人跟我們好像是好朋友好這段你要幫我剪掉好我被你不要在公視播出來對不起我只是想嘴好那我們先回到這個問題就是

按照阿涵這樣講 我先問一下紅色方因為你們認為說派真人管理會比較好我想知道原因是什麼然後你會不會覺得阿涵講的東西是沒有道理的來進行反駁

還是可能你覺得他講完你發現講太好太有道理我要變動立場好 這個是 AdamAdam 你不同意他的看法對不對很好 那你來反駁他一下應該是說剛剛我們從我們看的影片可以看到說國際的那些所謂的軍隊進入到阿富汗之後呢他們發現說其實他們當地人跟自己想法很不一樣或是塔利班的想法跟他們不一樣那所以用無人的方式去

去接觸他們就可以解決所有問題嗎如果軍隊不過去那怎麼會知道他們的需求是什麼雖然最後失敗了但起碼他們有在溝通他們回去他們的母國之後才會告訴他們說我們策略哪裡錯了我們哪裡不對那我們可以改進那如果人都沒有過去只是用無人系統去管理那我們永遠不知道我們在管理什麼對不對我們只控制住他們

我個人想法是這樣好 我覺得講得很好等一下 先留步 因為你的想法比較是說因為我覺得說如果今天在現場的館裡有人位他可以理解一些事情甚至他可以去檢討我們自己國家做這件事情到底是不是可能有誤的好比說蠻多的戰士可能到現場他會發現在戰爭上他看到一些原先跟他想像不太一樣的地方對吧 好比說我不知道大家有沒有看過晉級的巨人

大家看過進擊的巨人嗎這段可以考慮剪掉因為我怕會雷到觀眾 觀眾會不爽 對不對在馬雷國的艾迪亞人到了艾迪亞發現這個國家人不邪惡 不可怕所以他的想法因此到現場可能改變了發現我好像不應該被這樣子利用你的想法比較像是這樣子可能比較像是這樣子的人味裡面可能會有一些不一樣改變你針對他這樣的想法 你贊同嗎

還是你可能贊同但是你有不一樣的想法我覺得我非常不贊同非常不贊同很好我最喜歡這種火藥性的發言來 為什麼不贊同因為從數據上面顯示人會犯錯在戰場上犯錯機率是高達四成但是使用 AI 只有一成

所以從這個角度來看 他更公正而且還有一件事情就是 如果你說人不過去不知道現場的狀況你會相信人回報給你的答案是對的還是你相信一個攝影機真真切切所照到的事情是對的而你認為說要我們一定要有交流跟對話但是如果這個交流對話是有一個人必須喪掉生命而不是說這個人可以

就是要攻擊者可以不斷的發洩自己所有的憤怒跟暴力在一個無人機上面然後去展現他的意見就是我討厭你而不是說我發展我將我所有的憤怒跟討厭放在一個人身上然後我殺了他

那當然是前者比較明顯的表達出我的意見我就是很憤怒 AI 比較真 AI 比較準確比起人類的回報可能更加的相信來 Alan 怎麼回應這件事情我剛剛從影片可以看到說他們確實認為說 AI 是最有效率的那我們剛剛也討論出一個結果是說那如果執行的人是幾全國家呢如果他們快輸了他們什麼事情都可能做得出來那他們可以很有效率的去解決這些有問題的人是對 那

如果用這種我以前打過一個大型機台遊戲他是犯人在挾持著被挾持的一些人質那我作為人類我有時候都會射到人質那對那台遊戲來講他只是扣分可是如果今天是 AI 他可以很有效率的去執行

他就是要殺人質呢那怎麼辦呢他可以每一發都射到人質身上每一發都射在無辜的民眾身上那我覺得這就是問題的源頭執行的人到底他想要什麼如果他真的是集權國家如果有一天台灣被佔領了那

了解?所以你的意思是說,如果今天這個 AI 它是用極權國家來管理的話,可能會非常非常的危險。如果極權國家派一般的真實的人類,跟極權國家派 AI,AI 的危險度會遠大於人類從極權國家來講的話。

你認同這樣子嗎?如果是極權我還是不同意我非常非常不同意因為我們從歷史上面看得出來極權國家派人去做也是做了很多很可怕的事嘛例如說像猶太人的事情例如說像各種種族滅絕猶太人被種族滅絕對還有其他的種族滅絕嘛更多的那這些事情都不是 AI 做的啊那 AI

他不會覺得說如果他決定說他要毀滅一整個地方那是因為有人告訴他說這件事情是對的是 了解那如果他是極權國家去使用那不好意思了那就是極權國家認為是對的事情是 了解那就讓他這樣做啊那你目標的敵人應該是那個極權國家而不是 AI 這件事是 好所以討論到這邊有一個結論其實極權國家才是最危險的來源其實正如我們看的影片裡面其實大家最擔心的

還是如此 就大家討論到 AI 的問題 其實終究還是就是 AI 被運用在好的地方很好 但是會有壞人拿去用這才是我們最擔心的事情好 我們謝謝 Alan 跟阿恆的討論 謝謝

因為其實這兩個意見 現場來講都是少數意見所以綠色就是我有別的想法超級多人有自己別的想法看這兩個少數意見在那邊嘴好 那現在就要問大家你有別的想法 那你的想法是什麼有比他們厲害嗎好 我們伊庭先舉手伊庭先 來 請因為其實我們都有支持真人管理也有支持無人系統管理但是其實就我們現在目前國際上

應該是我們對不管任何國家或是比如說殖民帝國所管理的方式其實都是混合式的其實我們都是用無人系統去輔助真人去管理所以這個其實相對來講也是我們目前的世界上所用的比較通用的管理方式你說混合嘛對 混合的話其實是最好的而且其實我們一直以來我們剛剛前面其實有討論到一個很嚴肅的問題就是我們到底 AI 是怎麼樣判斷這個

輕重這件事情舉例就是像剛剛講的 AI 確實可以有效去打擊敵人確實我給他設定的目標就是我們國家所代表的價值觀那我今天如果今天假因為其實大家都知道說我們其實各國的我們所謂的核武是聯動的那如果今天核武是透過 AI 控制好我們接下來下面這個問題如果丟給 AI 去詢問請問在地球上這個地球上的所有物種裡面哪一個物種對地球的威脅性最大人類吧

那他要怎麼執行有道理那答案是人類嗎對誰說蚊子的蚊子也是蠻煩的因為如果我們今天給 AI 太多的自主權的話其實這件事情是蠻危險的是所以你會認為是

如果你是 B 國你希望或是說你如果是 A 國不管你從哪個角度來講你覺得用兩個混合式的管理可能會是比較合理的那我想跟你進一步問那個混合體現在哪邊因為我可以理解混合兩個字但實際上會怎麼發生我是沒有概念的

其實很簡單,就是這個混合就跟我們現在的智慧家庭,Smartphone 或 Tesla 一樣,它是輔助你去做 routine 的事情。舉例說,我們講國防的話,我們國防邊界是不是有敵機入境,或是我們用 AI 智慧雷達去偵測,有沒有不明飛行物體接近我們,不用人去看。

那這種其實相對 這種輔助是我們國家絕對是必要的但是如果在 AI 武器來講或是自主管理整個區域來講我覺得我們目前沒有辦法做好這件事情好 謝謝怡婷好 那我再問一下第二個這邊有沒有第二個人有不同的想法我們浪仙還沒有發言過的人發言就是你的不同的想法你有別的想法到底是不同的想法在哪邊

沒有的話也沒關係 我們是一個自由民主的國家不會有不表意的自由要求你表態這個狀況沒有的話也沒關係好 那世明 來 你們請說你的不一樣想法在哪裡我認為還是要回到就是 A 國要佔領的目的是什麼是對 如果他是為了要在這場戰爭中勝利的話我覺得他會用稍微比較激進的手段例如說針對這些戰俘

去威脅 BO 或是透過這些戰斧去跟 B 國去談判他只要達到他的目的的話其實他佔領的方式我覺得蠻認同怡婷講的他可能就是用混合式的但是還是會回到說他佔領的目的是什麼所以你的 argument 比較像是說看他的目的目的都不同使用手段就不同所以沒有一定用哪一個會比較好這樣子

好 感謝世明的意見那最後要不要子芸來做一個這題的結尾就是怎麼看待這件事情我的觀察是這樣子就是

这回到马基维利开始的一个问题就是说从中世纪以来比如说西班牙入侵南美洲之后英加帝国就毁灭了这是因为它就像有效率的一个机器一样就是对原住民族的一个摧毁把黄金通搬回去西班牙

那現在這個問題我們分兩個層次第一個就是 A 國他最希望就是可以機器佔領因為它成本最小可是效果可能會有限所以在這種情況下佔領區域他做的就不是戰爭是治理治理的話可能就是所謂的維穩行動就是壓制反抗軍或者是說利用一些數位系統進入每個家庭做監控這是可能 A 國在運用未來的 AI 的時候的一個做法

第二个就是其实我们现在已经面对这种数位侵略了

在現在叫 Peace Time 陳平時期中國輸出了很多所謂的社會監控系統社會信用系統給中東國家 南美洲國家來幫助他們政府 治理人民相對的中國政府也可以獲得一些資訊來在給中國發展 AI 的時候運用他們甚至連所謂的好朋友巴基斯坦的國會都放了一些數位監聽的器材

所以在這種情況下對 A 國來講可以派 AI 系統去佔領它最有效但是相對的從科技術的發展來講目前一般認為說 AI 的智慧阿翼猜猜看 AI 我們給他一個智慧指標看看你說就是他如果今天 AI 有智商的話大概是多少我猜應該不是 157 所以我要想一下

好 这一代可能也不念锦金学对不起不然是巧合巧合巧合 自杀大概 120 吗我真的没有概念没有 照科技术目前评估就是说人工智慧的智商大概是在接近猿猴的程度就是可以使用简单的工具他还没有办法真正去思考所以在这个情况之下他可能会比较像是在做一个熟悉的一个

一个 routine 的工作会是一个很好的助手

一個最後就是可能待會兒會提到的就是你要不要決定扣下板機的時候這個騷腦的問題我們待會再講節省時間好 沒問題感謝子昀我們剛剛最後都有提到一件事情就是要看這個國家目的是怎麼樣特別提到極權國家以及子昀最後有提到就是中國可能在它的友邦的國家其實都針對很多監控那我們就來討論一個跟中國比較有關係的一個

一个跟 AI 也息息相关的议题来我们看一下第四题中国靠 AI 对台的认知作战你最担心哪一种影响

紅色 假訊息帶風向誤導民眾內耗堆立黃色 短影音抖音腦 癱瘓台灣人思考能力綠色 竊取情資深度分析 比你更了解台灣相信認知作戰這件事情大家應該都很有感如果你滑滑抖音 你就很有感觸如果你滑滑臉書 你很有感觸如果你滑 LINE 你可能更有感觸所以相信這題大家應該都很有自己的想法現在開始讓我們用腳投票

比較不是在討論認知作戰是 AI 所造成的認知作戰所以你在討論這件事情的時候要跟 AI 去做一個連結我覺得會比較好一點好 所以我想先問一下黃色好了端影音抖音腦癱瘓癱然思考能力為什麼因為比方說會選黃色的人你一定有在滑抖音

你才會知道嘛先跟大家分享一下因為我就是有滑抖音的人那我為什麼會滑抖音就是我想知道抖音上到底在幹嘛因為太多人講說抖音一想父母白癢到底白癢在哪裡我想說我滑個抖音以我做的事情應該不會讓我父母覺得白癢吧好歹我也是公司的主持人不會一滑我就白癢對不對就滑一滑發現可能真的會因為它的演算法很奇怪

我先講個很重要的前提因為我在划臉書的我在划 IG 的 reels 的時候很清楚知道我喜歡什麼他就餵給我什麼這是非常清楚的好比說有一陣子我喜歡看棒球真的是棒球他就一直餵棒球影片給我有一陣子喜歡看迷因他就一直問迷因的影片給我有一陣子心情不好我喜歡看一些正能量的廢物東西他就會一直餵給我的東西所以我很清楚知道他演算法會一直餵給我什麼樣的東西但抖音我真的摸不透

因為我怎麼滑都會滑到一些很奇怪的東西好比說滑一滑會發現 欸 重慶好棒啊 重慶魔幻都市 什麼之類的我想說我又不愛看這種東西 可是它就一直匯給你所以這是很奇怪的 所以我想問一下黃色的選黃色的部分 為什麼那麼擔心短影片這個抖音腦癱瘓台灣人思考的能力

好 黑金剛我剛剛在問說有沒有滑抖音你做出一個很不屑的微笑想問一下為什麼 來 請回答好 那其實我沒有滑抖音但我能夠感受到所謂抖音腦對癱瘓台灣人思考的影響我本身是一個國中老師國中老師對 我要自然科的那在去年的時候其實有一個國際事情就是日本福島開始排放核廢水是

有一天下課學生就跑過來跟我說老師你知道嗎我在那個

滑手機的時候看到說那個日本排放廢水啊它竟然就是整個海變綠色的然後魚啊 蝦都全部都突變有的變成畸形 有的變成大隻我說以後不能夠吃海產了對不對我說 蛤 你從哪裡看到的他說 欸 抖音滑到的那我想問一下它是中國抖音還是國際版抖音我沒有問怎麼習但應該是中國的 因為學生

英文應該不太好 OK 理解而且他們都會說那叫「路抖」對非常非常令人憎恨的名詞好 你繼續而且還不只一個人我想會不會是個案結果去個班大概那一陣子大概一個月內都很多學生都跑過來跟我講所以你是國中老師對 國中老師 教育現場看到那麼多人變抖音腦對 OK

所以我覺得這過程當中就是學生看到的確實會有受到影響這是第一個再來第二個是那些畫面我覺得也會是都是由 AI 去算出來的而並不是說單純的他們後製的結果你意思是說他們餵食什麼樣的資訊給台灣民眾其實是用 AI 去計算出來的

然後你會選擇抖音的關係是因為你身為國中老師在教育現場你發現年輕一輩的人比較容易接觸到這樣的資訊然後這對台灣影響可能是最大的我們感謝黑金剛國中老師帶來教育現場第一首的令人感到害怕的經驗好 那我們想問一下先問一下綠色好了因為綠色的這個人比較少竊取情資深度分析比你更了解台灣是什麼意思

好 朱巡 來竊群情資深度分析的這個議題的話主要就是日前有一些護證資料或者是健保資料跟著是台灣的一些交通網路資料就是外洩到網路上那麼可能中國就會利用這一種就是我們內部的一些比較機敏的情資然後來去變造一些類似說假公文或者是釋出一些假的緊急應變的通知之類的然後來去影響台灣人民的一個

想法那這樣子的分化的話那有可能就是會讓台灣人會更加的越來越不信任政府那在不信任政府的一個情況下可能就會達到他們就是分化台灣然後並且進行一些後續統戰工作的一個效果 OK 那我這邊先停一下我想再問一件事情因為你最後你的你最後的意思是說他們竊取台灣的資料去做分析之後可以達到分化民眾的效果嗎因為我們都知道認知作戰最主要的事情其實就是希望製造台灣的對立而對於民主體制的不信任

這是認知作戰最主要的目的那這個跟紅色的所謂的假訊息你認為差在哪裡因為對於假訊息帶風向的認知作戰其實他的目的也是希望台灣人民互相對立不信任政府最後導出一個結論叫做專制可能比較好那你覺得這個跟竊取情資深度分析比較假訊息帶風向所最後導到的效果是一樣的你覺得差距在哪裡假訊息帶風向的話可能就是它作為

釋出一些就是可能就是說疫情可能要打一些就是打疫苗或者是不打疫苗這一種就是分歧點那藉取行資深度分析的話它不同的一點在於說就是藉取行資它有可能就是會藉用他們手上拿到的這些景品行資來去

最佳化他們的一些作戰想定或者是未來對台統戰應該用什麼樣的方式去執行這些比較細部的政策內容那這樣就跟影響台灣人民的一個假訊息又有點不太一樣這個嚴重性會比較大一點好 感謝竹駿很深度的分析那我們今天比較多人是選擇假訊息帶風向這個部分來 剛剛還沒有發言過的人有沒有想去分享說你為什麼認為說 AI 對台認知作戰你最擔心的是假訊息這一塊我的論點是我們台灣每次選舉的時候

很容易就被挑撥怎麼說比如說從前只有藍綠很容易就會認為你不是藍就是綠那現在雖然多了一個白但是這個白好像不是很清楚那所以你說不是很清楚他們的政治立場對那所以中國常常做一件事情就是表面好像是在罵綠可是實際上他在服藍那所以

他製造假訊息讓你模糊不清他到底想幹什麼可是實際上他在遂行他要做的事情然後讓你台灣不會團結對外這是我們最怕的一件事情其實

台灣要能夠永續 一定是要團結才有可能你只要是奔放 絕對不可能那我幫佳佳意見加上 AI 的想法好了你會不會比較擔心一件事情是說我們理解一件事情台灣人某種程度上是有政治潔癖的就大家很喜歡去講藍綠一樣爛這件事情大家很不喜歡承認自己有政治立場就像大家很常做的一件事情就是

我先聲明我沒有政治立場但是接下來噼哩啪啦講一堆有政治立場的東西就變成前面那句話其實是廢話嘛對不對所以是不是有這樣子的一個

市場代導致中國在做認知作戰的時候很喜歡去宣揚這種我們盡量都不要有政治立場的一個話但實際上他在推某些事情你認為是這個樣子嗎你擔心的事情是這樣子好 感謝佳佳還有人對認知作戰對 AI 結合是有想法的我們先讓小蜜蜂講一下話小蜜蜂今天穿這個迷彩服很不像小蜜蜂好 來你的意見是什麼

因為中國最近成立了多一種工作室它就是利用它 AI 翻譯還有 AI 生成帳號把一些假消息 陰謀論大量的發到全國去還有全世界

然後他最主要就是為了要切斷台灣的外援就好像把我們的手腳給砍斷了我們就沒辦法作戰那接下來他就是也有對台灣的不管是對美國還是對台灣那他對台灣呢也就是就好像就是幫我們一層一層的切蛋糕讓我們的能力逐漸的弱化那這個因為假訊息就是透過 AI 這種方式然後無形之間

用那個運算演算法讓那個漸漸的讓我們的能力越來越削弱是好感謝小蜜蜂意見你也是說認知作戰很有可能會讓大家對我們國家的國防的信心下降比較擔心是這一點嘛對不對而且還用各種多很多的語種不管是對台灣影響可能對世界各國都會影響讓世界各國可能擔心台灣是自己沒有反抗的自主能力跟反抗的決心這件事情是好那

好 感謝小蜜蜂好 那還有沒有其他不一樣的意見好 不好意思 怡婷剛剛

快速的先舉手 好 那不然我們這樣子伊婷給你這個 30 秒來講然後我們再給這個不好意思 什麼星 我又忘記了懷欣 30 秒時間發言 好 來好 請你說那是這樣的 因為其實假訊息這方面可能我們剛剛都講了都是跟國防有關係但是我要講一個比較特別的角度就是因為大家可能看得出來我本身是跨性別的那我長時間在做跨性別相關的運動 那其實

這兩年因為人權進步所以同志那邊的議題比較多現在其實很多的假訓語都是針對跨線撇子這些更弱勢者而來比如說到現在

到前幾天網路上還是有朋友跟我講說誇張性別會短命我說沒有這個事情你從哪邊看到的但是這種假訊還是在莫名其妙出來即便我們一直澄清一直澄清沒有用因為他們就是會在這一些不管是我們講說從外國來的 AI 作戰的資訊上面看到但是明明我們就知道這些資訊錯誤為什麼它一直出來而且這樣的

認知作戰尤其這一小段其實到最後傷害的是我們而且我們是沒有什麼力道可以去反就是可以去反饋的所以這自己是很危險的事情我再回應一下你一直說從 AI 的角度來判斷它可以 AI 快速收集這個國家的痛點在哪裡所以它不只是對軍事上的認知作戰可能會造成台灣的一些軍事上的傷害更重要的事情它的那個

那個對立可能是從台灣可能我們講的就是比較少數族群他會開始下手然後並且造成少數族群的本身更大的傷害這樣子對 因為其實他這些認知作戰的目的就是他要符合這些認知作戰來源國的價值觀所以他就用這種方式去分化這些裡面的人然後達到認同他這些價值觀的目的不好意思 我多問一句好了所以如果這樣子的話台灣要抵擋認知作戰這個國家的價值是越大家如果越多元的話他是不是比較

比較少會拿到它會比較不容易找到我們的痛點對 其實越多元是越好的好 是 好 謝謝怡婷好 來 環心來 我們來最後的發言

主持人好 懷希懷希 對不起 中文不太好其實我要講的第一點就是說其實短語音它不只在抖音上面其實很多短語音它已經在 YouTube 的 Show 或者一些短片其實都會看到我覺得它的危險性在哪裡其實就是像剛剛主持人提到的它可以是控制抖音或控制這些視頻發出來的人有益的一大量的灌輸灌輸而這些短語音其實很多時候大家在接觸的時候是沒有思考的

那他變成說他可以有意的把一些概念生存到你的心中尤其是比較不成熟的可能小朋友比較不成熟的年輕人他們就會一直被這樣子的一直被洗腦下去那所以說就算我們去想辦法去破除了對立我們想辦法去散播了其他訊息去抵制他但其實他可以有意的把一些

概念先深耕到我們的社會文化當中這會造成一個弱智弱化的社會我覺得這最可怕的好 我們謝謝懷希的補充最後我們想說我們請子雲來為大家介紹一下關於這個認知作戰跟 AI 之間結合以及中國資訊戰的樣態以及台灣到底該怎麼抵禦還有各位公民其實這很重要就是其實認知作戰從古代就有了不是只有現在現在只是說我們傳播工具多了

古代的時候就是從那個項羽被劉備包圍 市面楚歌還有唱香歌 然後裡面人投降 那個就是一個心理戰那一直到古藤堡 到宋朝的印刷術出來開始後來有報紙 大眾傳播出來了 用報紙去攻擊對手國到最後拉六 收音機 電視等等一直到現在 21 世紀的網路 越來越客製化是這樣子的

第二個 這真的是一個大災問我們很快的說解一下中國對臺灣的影響叫做影響力作戰 Inference Warfare 第一個當然是大家常講的認知戰第二個是經濟脅迫文子 不是 文子被他誤導

不是蚊子 文旦文旦要開始可以出口到中國了那第三個就是那個灰色地帶派飛機船艦繞來繞去讓你覺得喔 機率好大我更加相信你講的

那第三个回归到今天的技术主题这个认知战就是心理学来的就是一个人可以接受到讯息形成你的行为模式就是视觉 听觉 嗅觉 味觉等等的所以在这种情况下他这个认知作战利用 AI 就是刚才大家说的用演算法那在其他国家他还是用这样的方式去进行

全世界做认知作战的一个最成功的代表性人物就是纳粹德国的时候当时他的宣传大师格培尔用各种错假讯息去影响英国可是回到刚才阿易所讲的义哥主持人所讲的一个民主国家就是从长远历史来看他抵抗力其实是更好的

短时间的冲击会有可是民主会自己会有疗愈的修复的效果这是民主比威权来得长久的原因所以我觉得我们的确会担忧中国的问这些认知战或错假讯息可是重点就是强化我们公民文化

剛才有人講到整個中國對台灣的認知戰的部分我想有一個很重要的就是為什麼在這三個命題裡面它都是一個系統性的可是從我們的了解來講不管是北約他們面對俄國的混合戰等等最重要是第三個就是對你系統的大資料庫的滲透因為它滲透了解你的之後它就形成

前面两项的变成一个错假讯息那是叫做 content 数位内容那接着利用抖音或是变抖脑这个部分它是一个 channel 所以它上层结构是要先了解你台湾这些人 ABCDE 然后开始透过不同的平台传播出去平面的电子的社群的那包裹的内容这是一个中央厨房或我们常讲内容农场客制化的

大概是這樣子 所以我們就把它破解掉最重要就是我們彼此要保護彼此老師 不好意思 留步一下因為時間關係我希望你快速 30 秒幫我回答最後的問題就是因為大家都很擔心這件事情就是面對 AI 認知作戰但台灣人能怎麼辦你可不可以給大家一個方法就是至少我們身旁人可以去做這件事情第一個當然就是學習北歐三小國就是說有一個

公民嗜毒的一個能力那第二個國家政府要負起更大溝通因為北約也考慮到這問題歐盟他們出出了這個數位服務法那在兩年前臺灣想要用個數位仲介法可是沒有成功那主要的原因在於說臺灣可能是比較技術導向早的學者都是知通

或者是傳播學者那歐洲他們是找了哲學或社會學者政治學者可以平衡掉國家安全跟言論自由之間的那個模糊地帶而不是技術問題大概是這樣好 感謝老師很精準的非常精準的回答

好 感謝拍手的話老師是 get 到的插嘴邊可能 get 不到那剛剛老師講的公民試讀我覺得非常非常重要那推薦大家可以去看一個網站叫做法律百化的運動那上面都有關於公民試讀很多的東西那這段要不要剪掉就看大家好 來對 自律性行銷好 來 各位最後我們就在今天最後的問題了我們看一下我們今天的第五題

AI 武器是否使戰爭武裝衝突變得更加頻繁這就是我們今天最後一個問題了 AI 的發展到底是在戰爭上面到底是好還是壞來 紅色選項

佳佳先等一下還沒用腳投票還沒開始這個紅色部分是會因為發起攻擊的門檻變得更低了黃色是不一定還有其他關鍵的因素綠色是不會字痕之道也會同步發展出來所以現在來今天的最後一題讓我們用腳投票

今天這一題是今天的題目裡面最為平衡的一題就算它三邊的人都有那我們最後時間的關係那我直接這樣問來 有沒有想講話的直接舉手好

好 我大概知道 那我們這邊先請諸葛豐雲來先跟大家講 你為什麼認為不會你不會的原因到底是什麼為什麼這麼樂觀認為會有製衡之道首先說我是大學老師我自己有一個軍事的 YT 頻道就搜尋諸葛豐雲好 這也是媒體制度很重要的一環我就是在打人質戰那我會選不會的原因是因為人是會學習的

所以人类也是经由不断的学习才会建构了我们这个社会它的规范不论有形无形就是法律规范或者道德规范所以像刚刚前面讲的就像苏子云老师讲的它是由深度的突破我们内部的这些 data 去学习所以大家会看到很多的

短音然後它是由台灣小帥的聲音都是 AI 在發音的而且口音會跟我們一樣小帥大壯小美之類的對 它全部都學起來那在農場文裡面它也是根據我們的用語它也去學起來發布假消息所以從上一題到這一題都是它是一個組合權並不是一個單一的那為什麼會戰爭有可能會先短期內它的啟動會很頻繁因為按按鈕很簡單

你就授權 AI 讓它自己去運作然後就開戰了可是當人類經歷了很多事情之後我們會學習經驗我們會去修補就像老師剛才講的人類有一個學習自省跟修補的能力所以

短期內可能會看到 AI 被濫用可是當它被濫用的時候人類的自行能力會讓我們自己來訂定更多的規範像國際公約這些或者公民意識就會讓整個 AI 它的自主的程度範圍被限制到是 不好意思 老師我想挑戰一點就是因為你講說人會有自行能力我們可以通過國際的公約跟規範可是萬一有國家它是

不愛自省的萬一有國家是不喜歡遵守國際約定的萬一那個國家又是集權的那怎麼辦沒錯這就跟核武冷戰時期的相互保證毀滅一樣因為其他所有的國家都認同這個國際公約之後大家會有一個道德的門檻這裡所以雖然就像現在烏鴉戰爭

普丁虽然一直认为一直在喊说他要启动核武不排除可是现在乌克兰都打到俄罗斯的原因为什么他没有启动就是因为他怕他第一个启动的话那其他的国家就会制裁他所以这个是在全世界的规范之下在运作虽然有少数的极权国家

他可能不會照這遊戲規則來走可是因為在全世界來講民主自由的國家還是占大部分的話那這個公約基本上還是有效的是 好 感謝諸葛豐雲謝謝清楚的講解好 那剛才這邊是比較

我們諸葛老師是認為說,是比較樂觀的看待說,國際公約可能會有這相關的東西,至少會有個底線在。那想要問一下,會,因為攻擊的門檻變得更低了。我剛才是有兩位想要發言的,因為你們今天五月都發言過了。因為有兩位,我們給你們時間可能比較短一點,各一分鐘來講解。那為什麼你會認為變得更加平凡?

我覺得首先這個戰爭它其實不一定會是跟人命的

人命安全有攸關的那對於人來講的話就是跟你安全有就是威脅的時候對你來說才會是說我要想說這個戰爭要怎麼結束但如果今天我根本就沒有傷害到任何人甚至如果今天是認知作戰那就是一樣是所謂的戰爭但是它的發起的頻繁度就會往上提高了因為其實你感覺也沒有好像自己被攻擊的

那以這個角度來看的話其實我覺得他的門檻是降低很多而且你要怎麼攻擊你也可以偷偷攻擊你不一定要真的去威脅到某一些人的人命你說小攻擊可能會變多對但大攻擊呢

大公己的話就是你小公己變多的時候你是不是也算是一種大公己就舉掃 擊殺成塔對 OK OK 好 感謝昭瑞的意見那燕尾的意見跟他差不多嗎好 沒問題 非常好我就想等你這個答案來 跟他不是差在哪裡來 請你表達你的看法就像我們那個我們中華民國最大的離島嘛最近在我們的離島你是說西台灣西台灣那它本身就是說

無人機嘛一直不斷的徘徊騷擾的部分其實這個就是所謂的任志作戰就是他整天就是過來一道一道給你巡迴一下但是所有的戰爭都取決於一件事情第一

今天我沒有利益 我打你幹嘛我浪費子彈 浪費人力 浪費我的資源但是如果今天 AI 的成熟化更高的時候你跟我有利益衝突的時候我是不是就用 AI 來打你一下 然後來威脅一下我不一定要用發射飛彈

但是我就用短影音啊什麼認知作戰等等的然後就可以達到我的目的你的意思是說重點是利益 OK 我知道重點是利益但是我覺得你的重點除了利益之外有一個很重要的 Point 是說因為 AI 發起的作戰其實成本是比較低的所以你利益在不變的狀況底下發起作戰成本變低的狀況底下你認為可能會更加平凡

是好 那我們感謝彥偉的意見不好意思 剛剛看到宇婕有舉手嘛 對不對那她今天還沒有發言我們先讓你來進行發言你認為不一定還有其他關鍵因素那你認為那個關鍵因素到底是什麼來 請

我認為最後的關鍵因素還是在人身上就是像今天一直提到的就是不管是決定 AI 最後的攻擊或是說要發什麼最後要發的內容其實都是取決於人身上所以我會認為那個最後的關鍵因素其實還是人就是如果要發動戰爭不管有沒有 AI 它還是會發動戰爭那今天只是說有 AI 它比較方便

不會發動戰爭的人還是不會發動戰爭所以我認為最後的關鍵因素是在人身上不是 AI 的發展所以你是不管 AI 怎麼樣子的發展那你認為它的狀況可能跟現況還是一樣嘛因為我們隨便舉個例子以現況的角度我們發現民主國家跟民主國家至今好像是沒有發生過戰爭的所以你認為說還是取決於那個國家本身到底有沒有侵略別人的企圖心這才是重點跟 AI 武器的發展的科技進程可能沒有必然直接關係

好 感謝宇婕的意見來 那有沒有人跟他一樣有認為有不一樣的關鍵因素在我覺得另外一塊的關鍵因素是在於說每一個國家跟國家之間它的相處的方式那當然你剛才說的是民主國家那另外一個就是在每個國家它本身在社會上的自以能力到底多好是對 因為有些可能確實在國家的貧富差距很大

或是它的整個社會的結構就是非常的不穩定確實它會激增很多的一些犯罪或衝突產生就會讓其他想要侵略的國家可以趁機就是它的頻率可以增加所以代表說明一個國家就是社會的防禦力不夠

你說如果那個國家防禦率不夠在 AI 進展狀況底下可能會因為那個國一直說防禦率不夠狀況底下這個東西不變但因為 AI 的成本變更低所以它打的機會變得更增加更容易打是 所以我們先舉個例子以台灣跟中國來講的話因為 AI 科技的發展進程台灣這個亂不亂程度不變的狀況底下是可能是增加有機會的如果台灣變得更亂的話因為科技進展它就更有可能會打

沒錯 OK 好 感謝世明的意見好 謝謝我們看一下大家剛剛這一題的意見其實都差異滿大的像諸葛老師其實諸葛豐雲老師其實就特別有提到說他認為是有個底線在的但其他人的想法看起來比較像是科技進展的發達程度可能會增加它的平凡性那麼最後我就用子昀老師今天來跟大家做一下這一題

從軍事專家角度怎麼看待這件事情我再補充一下因為確實蠻多人會有提到說因為雙方科技都變更強所以不敢打但是確實也蠻多人認為說反正打的成本變低死的也不是我們國家人是機器人那就不能就打

那怎麼看待這件事情就像毅哥講的其實戰爭它不是只有軍事問題比較像克勞薩維茲所說的戰爭是政治手段的另外一種延續所以現在 AI 也變成政治手段的另外一種延續所以這題的命題我們可以把它簡單講就是 AI 的武器化 Weaponize

第二個就是行為者除了國家大家想到的時候 A 國 B 國不是好朋友常常會吵架其實還有一個叫做非國家的行為者就是國際關係裡面界定的恐怖組織或是說有特定的一些團體對國家發起攻擊所以 AI 武器化之後的確有機會會變成所謂的數位 AK-47

除了大型的 AI 軟體之外你小型的 AI 軟體也可能會讓這些恐怖組織它特別用低成本去發展然後滲透到一個國家的網路裡面去就可以攻擊 CI 所謂 CI 就是油氣水電這一關鍵設施等到掌握了這個控制權之後它就可以讓你的交通混亂所有紅綠燈變成相撞這電影演過了但是它的確是有這種風險讓電廠整個恰當就是

就是没电可用美国的确出现过了让你的自来水厂就是变成下毒以色列跟美国都出现过因为你加佛的系统就是变成比例增加了那慢性中毒

FBI 或以色列的莫沙德都发现过这些案例所以的确它会变成让冲突的机会增多相对的防卫这一方就很重要了就靠各位公民团体不管你是一个独立的工程师其实有时候我觉得很感动 88 风灾的时候我们立刻社会上就会群工程师组成一个民间的救援系统立刻协助政府标定哪里需要救援等等的所以我们社会力是很强

這就是所謂的社會韌性再來就是說 AI 其實的確是很重要可是它出墨菲定律的狀況一定有

歷史上最有名的一艘驅逐艦當然在 1943 年沒有 AI 這種東西了就是當時這艘美國驅逐艦叫威廉·波特號它差點改變歷史不是它去把希特勒給打掉它是差點把羅斯福給炸沉羅斯福當時搭著船要去開開羅會議結果他護航艦這艘驅逐艦就竟然將它發射魚雷

所以為什麼大家現在看到美國政治會有個文化說 Don't shoot, we are Republican 不要打 不要開火開槍 我們是共和黨的就是從這典故來的所以 AI 一定會有這些潛在問題那用這種問題就出現了一個哲學的議題各位可以去思考一下一個叫電車難題

電車難題大家都知道就是如果有機會要救一個人或救五個人的時候怎麼辦 命命等值還有一個 MIT 他們也很早就處理這個問題到現在沒有標準答案這是道德機器 Moral Machine 意思就是如果你設計一輛自動車像特斯拉有這種自駕自會的到 Label 5 的時候可以完全自主

當遇到可能意外的時候要救車主自己還是要救行人如果要救行人的話左邊是五個人 右邊是一個人怎麼辦

如果左邊是一個人可是一個小 baby 剛上小學右邊五個人是五個老太太這架子怎麼辦要撞五個已經可能餘生不多的或者是要保護一個可能還有 50 年 70 年生命的這些就是我們去思考 AI 真正要突破的一個部分最後我想講的是謝謝公視還有主持人今天這個議題雖然說有這個就是插話

插嘴編合的那個就是轉圈圈比較慢可是很重要就是包括抖音或是小紅書這些東西社群軟體影響的確很大可是慢慢的消費者回歸到傳統媒體來就像我看社群媒體有時候看了就很煩

因為沒有重點我們還是需要有一個傳統媒體的就是守門人幫我們過濾重要的新聞等等至少我看到重要新聞的時候我才會去網路上自己再找相對這是我有感興趣的不會像阿翼說奇怪 我都看謎片都跑出來都謎片的謎音啦 謎音 不是謎片謎音 對謎音 謎片不能追在 IG 上

明 印 明 對 我剛剛記錯了可見我就是被插嘴邊給誤導了插嘴邊快點出來面對 揣碰感謝子芸我們今天最後幫大家做個結就是說其實我們今天討論的時間還非常多不管是 AI 面向或是戰爭的面向其實最近大家討論的一件事情就是說 AI 到底需不需要社會科學的幫助

因為我們發現一件事情,就像剛剛郝游有特別提到,這個國家的極限其實取決於 AI 怎麼去使用這件極限跟那個國家發展是有關係的。所以其實這讓我理解到一件事情就是,在現況底下我們社會其實本來就有很多偏誤的資料。以美國來講,我們會發現很多的嫌疑犯可能跟膚色是有關係的。我們為 AI 偏誤的資料可能就會導致他會有偏誤的結果,所以這些事情是值得我們去省略的。

就正如子芸剛才所提到的戰爭其實是政治的一個延伸會有偏誤的資料的 AI 再加上政治的延伸這產生出來一個新的危機我們到底要怎麼樣去面對我們到底是要積極地去面對也積極開展 AI 方面的武器還是我們要去追求的和平來避免戰爭這件事情發生

或許好像結論是一樣但手段的不同可能會導致不同的結果我覺得值得我們每一個人去面對這個問題就算你可能不在乎戰爭你生活一定會碰得到 AI 就算你生活用不到 AI 台灣可能也面臨準戰爭的問題所以不管怎麼樣 AI 跟戰爭這個問題值得電視機上每一個觀眾朋友值得一起來好好的省思那我們今天謝謝蘇子雲老師公視主題職業秀我是洛乙我們下次見 掰掰

感謝大家的收聽 歡迎上 YT 收看本集黑 AI 炸毀那台坦克 戰爭自動化是誰手上沾了血想看電影的聽眾也可以上公視加免費收看公視主題職業秀每個月都有招募的問卷大調查邀請大家表達意見不論你是否有空親自上節目一樣可以表達你的意見插嘴邊會為你發聲那我們目前有三集正在招募中

主题分别是单口喜剧专门是伤害还是疗愈第二集是直视死亡能让我们活得更好吗第三集是我坐轮椅你想约见面吗如果你是在 2024 年的 12 月 10 号以前收听本集节目的朋友有兴趣的可以上脸书 IG 报名参加填写问卷哦

那除了論壇呢插嘴編也會不定期在週五晚上的 10 點走出攝影棚和大家一起玩插嘴編發宵夜的直播活動贏的一方就有機會獲得宵夜金喔那要記得關注公視主題飢餓秀的粉專才可以知道插嘴編的出沒地點喔那我們這一集就差不多到這邊結束啦下集見囉掰掰