直播線上

網紅小玉靠「換臉謎片」牟利千萬 蔡英文怒了要修法

網紅小玉靠「換臉謎片」牟利千萬 蔡英文怒了要修法

知名百萬YouTuber小玉(本名朱玉宸),於今年4月宣布引退後,經營粉專「台灣網紅挖面」,利用AI Deepfake(換臉)技術,將網紅或藝人的面部五官移植到成人片AV女優身上,並製作成色情片盈利販售。有網友好奇,他們這種做法已經一段時間了,怎會到最近才被抓,更討論起「小玉真正被抓的原因」。

網路論壇PTT有網友18日在八卦版發文提出疑問:「小玉是不是動到不該動的人?」,他更點出這類型換臉謎片早已興盛一段時間,怎麼直到最近才被逮,最後網友還附上總統蔡英文也被換臉的影片。

蔡英文總統18日晚也強力譴責科技犯罪,強調「我們不能坐視這樣的事情發生」,將會重新盤點法規,研擬推動修法工作。也呼籲網路平台業者,阻止錯假影像傷害無辜的人。「請大家一起關注分享,一起遏止科技犯罪」。

警方調查,去年7月起,有數名網紅性愛影片在網路上流傳,影片都來自「台灣網紅挖面」推特粉絲團,經查是小玉等人透過DeepFake技術,將網紅、藝人等臉部圖像移植到色情AV女優身上,許多粉絲為了能收看網紅性愛影片,支付數百元不等的會費給小玉,加入他經營的私密聊天群組,線上瀏覽完整的色情片,且私密聊天室會不時舉辦「票選」、「集資」活動,選出某位網紅當被害人,再由小玉製作性愛影片上傳,粗估被移花接木受害的網紅人數超過百人,不法獲利上千萬。

消息曝光後,震驚各界,就有網友挖出去年奎丁的爆料影片表示「提告小玉的名單都準備好了,根據奎丁去年影片,以及推特預覽影片整理出詳細的肖像權,很多都是受侵害的可憐網紅們」只見影片中,奎丁去年就表示,最近有非常多女性直播主、網紅、YouTuber都被使用Deep Fake的技術,將臉移植到謎片上去,我們更應該去注意科技所衍生的「新興性別暴力犯罪」。

政治人物:高嘉瑜立委、黃捷議員、學姐黃瀞瑩市府副發言人

YouTuber: 笑笑(小玉搭檔)、愛莉莎莎、白癡公主、滴妹、咪妃、球球、千千、本本、許瑜、奎丁、 美麗妄娜、泥泥汝、阿樂、艾瑞絲、蕾菈、這群人木星、鄭茵聲、關關、Skimmy、可凡、 阿民、陸子玄、解婕翎、妙見神小茉(老高老婆)、電獺少女宇恩、金魚腦、晨晨、品子、 閃亮亮、米砂、魚乾、媛媛、盛夏微涼Ryo、安啾咪、那個女生kiki、眾量級家寧、 一隻阿圓 實況主 桃園娜美、貝莉莓、小墨、小熊、小葵、大魚、老王、學長Abby、Leggy、LNG李迅、 Mita、Rami瑞咪、Sandykaka、葉子、阿寧、月希、開水小姐、蝴蝶兒、妮妮子、 凱琪K7、蛋捲、瑀熙、阿寧

外國人: 柏木由紀、新垣結衣、橋本環奈、伊織萌(伊織もえ)、阿部瑪麗亞、吳卓源、 陳芳語、馮提莫、李元玲、鄧紫棋

藝人:鄭家純、峮峮、粿粿、泱泱、溫妮、Albee、張景嵐、鄧福如、柯佳嬿、黑嘉嘉、苗可麗 、唐綺陽、周曉涵、梁凱莉、吳怡霈、蔡瑞雪、蔡依林、瑤瑤黃喬歆、郭書瑤、曾之喬、 陳意涵、許藍方、馬嘉伶、夏語心、李優、虎牙陳伊、梓梓、喬喬兒、鮪魚徐瑋吟、 邵雨薇、林明禎、愷樂蝴蝶姐姐、 網紅青青、龍龍、祈錦钥、林襄、主播張齡予

男YouTuber:館長

蔡英文在臉書表示,今天網路上最大關鍵字叫做Deepfake,她也想請大家一起來關注這件事情。有人涉嫌利用科技軟體,製作換臉不雅影片在網路上牟利,造成許多人受害,使用的就是這種科技。

她說,科技的運用,是為了創造人類更好的生活,而非用來傷害他人。這些受害者,可能是你我關心的對象,也可能是你我的親友,我們不能坐視這樣的事情發生。

此外,蔡英文指出,台灣也一直面臨假影片、假訊息的威脅,這些都是利用科技造假、威脅民主制度的挑戰。尤其疫情期間,我們看到大量假訊息的流傳,試圖擾亂人心、影響防疫工作。「這些假訊息和影片有一天都可能傷害到你我」。

她說,從幾年前開始,政府就積極展開作為,強化科技犯罪防制工作。除了各單位在社群網路上,對於假訊息進行即時澄清,調查局也成立資安工作站,進一步提升政府打擊各類網路犯罪的能力。

針對換臉色情犯罪等多種類型的網路性別暴力,蔡英文強調,我們會重新盤點法規,研擬推動修法工作。同時,她也想呼籲網路平台業者,應該多關心這類新型科技犯罪行為,我們都有責任阻止錯假影像傷害無辜的人。台灣的民主自由面臨許多挑戰,需要所有人來捍衛,請大家一起關注分享,一起遏止科技犯罪。