南韓網紅用YouTube當平台，直播或製作影片、賺取廣告收入，已經成為一股龐大商機。然而在追求點閱率的背後，衍生濫用AI深偽技術的弊端。大家可能還記得，前任南韓總統尹錫悅戒嚴時，當時反對黨領袖、現在已經成為總統的李在明，看到社群媒體流傳的軍隊動員影片，當下還以為是AI合成的虛假片段。可見很多深偽影片，已經到達真假難辨的程度。就連前陣子南韓各地豪雨淹水，也有大量假影片被放上影音平台，構成嚴重社會問題。

在淹水街道開心直播，或者乾脆換上泳裝表演吃播。網紅半截身子泡在水裡，一旁貓咪游來游去。還有年輕女生把鬧水災的地方當作跳水台。 FNN記者說：「影片中是首爾觀光勝地景福宮，穿著黃色雨衣的男子旁邊，游來了一頭海豹。」

一系列反映全國大水災的片段，充斥南韓的影音分享平台，然而這些全是用AI製造的深偽片。由於畫面太匪夷所思，很多人或許能意識到這是假的。然而要是結合一些熱門話題，描述得煞有介事，閱聽眾第一時間恐怕真假難辨。

FNN記者柳谷圭亮說：「這個YouTube頻道，全在捏造韓國藝人的假新聞，而且上傳大量不法影片。」像在《冬季戀歌》當中，飾演崔智友母親的「國民媽媽」金海淑，前陣子傳出她70歲過世，一時沸沸揚揚，後來確認是假新聞。

今年6月南韓總統大選，兩個主要政黨支持者也忙著做深偽影片，當中擴散最廣泛的片段，是李在明去幫尹錫悅探監的假影片。龍谷大學教授李相哲說：「李在明總統之所以被(深偽)激怒，是因為他小時候當童工的往事，被人加料做成假新聞到處傳。」

一支造假影片說，前任美國國際刑事司法大使揭發李在明，曾在少年時代犯過罪，導致他無法上大學。南韓保守派陣營，有一群激進的YouTuber，他們是這類政治假新聞最大的產銷者。

龍谷大學教授李相哲說：「YouTube已成為重要產業，影響力不容小覷。」虛假內容大肆傳播，已經構成嚴重社會問題，外界預料李在明將立法整治。