AI在中國成為詐騙工具，官方也藉機出手控制言論！中國網路監管機構預告，未來由人工智慧AI生成的內容都必須標上「浮水印」表明。外媒質疑中國牆內培養出來的聊天機器人ChatGPT可能內建審查機制。而在中國江蘇省有不肖業者貼出「女僕」照片，向賓客收費、謊稱要舉辦遊艇派對。事後才被揭發，照片中的女子全都是AI繪圖作品。

長髮女子在照片中展露傲人身材，跟著這分花名冊放上中國網站微博的就是這張蘇州金雞湖女僕派對海報。有中國民眾掏出人民幣3千元、相當於台幣1萬3千多塊訂位想一親芳澤，卻落入AI詐騙陷阱。而誘人的花名冊圖片原來全都是人工智慧生成，影中人只是電腦數據。不只虛擬影像，光是一句句甜言蜜語AI已經能擄獲使用者的心。就像電影《雲端情人》裡頭主角愛上AI語音助理，防毒軟體邁克菲情人節公布報告，發現全球平均69%的受試者，無法分辨眼前的情書是不是機器生成。這回中國AI詐騙或許反映當地AI技術驚人的發展速度。

中國匯豐晉信基金經理陳平說：「資本市場每年都炒作數10種概念大部分都被公眾遺忘，但當我們看到ChatGPT快速引人注目，接下來我們預期看到資訊科技應用創新及數據概念，也會有新的政策因應。」百度喊出3月完成內部測試準備開放使用，阿里巴巴、京東等中國科技巨頭也積極釋出ChatGPT聊天機器人的研發消息。另一頭，中國網路監管機構跟進推出管制政策。中國的國家互連網信息辦公室要求AI生成內容必須標上浮水印。

中國央視記者說：「提供智能對話合成人聲、人臉生成沉浸式擬真場景生成，或者顯著改變信息內容功能的，服務的應當進行顯著標示。」機器生成內容得讓官方驗明正身，標上的印記也禁止刪除、修改、隱匿。中國政府伸手管控表面上是要減少犯罪行為，但外國媒體質疑在網路長城裡頭長大的中國ChatGPT可能內建審查機制。美國新聞記者說：「訓練在中國牆內牆外進行，說到審查機制這對中國的ChatGPT產品是個重要的問題，什麼能講什麼不能講。」從言論審查到色情詐騙，AI技術是助人還是害人終歸取決於使用者一念之間。