中國雙十一熱潮剛過，不少商家藉此大賺一波，不過現在卻傳出，有賣家慘遭AI詐騙。中國官媒央視報導，有買家將商品圖片，透過AI生成方式，惡意變造成破損、或是帶有污漬的照片，接著再透過申請退款、不退貨的方式，成功騙過賣家，這樣的亂象，陸續傳出，也讓許多電商賣家相當困擾。

人工智慧進步飛快，幫助人類提高工作效率，但卻不是所有人都能從中受益，甚至可能因AI面臨巨額損失，這樣的案例已出現在中國網路購物平台，賣家王女士說：「他(買家)那個圖片上，就有一些類似燒焦的感覺，又有一點，就是看了那個照片，會感覺好像是掉在火裡了一樣。」

中國雙十一購物熱潮剛過，有多名電商賣家就發現，明明發出的商品完好無損，卻收到賣家附帶破損的照片，並且申請退款不退貨，仔細發現，原來賣家提供的證據，竟是透過AI生成的假圖片，賣家于女士說：「我們畢竟是肉眼去看，我們也沒有一個證據，去證明它是AI圖，而且現在這個AI做的這個圖，確實也是很難分辨。」

礙於網購平台相當保護買家權益，許多受騙賣家，透過各種管道申訴，依舊無法拿回損失金額，多名賣家現在也在網路上，組成受害者團體，希望討回公道，中國政法大學刑事司法學院教授郭旨龍說：「比較常見的自力取證，也就是將客戶發過來的圖片和視頻，放到自己下載的AI識別軟件上，然後將整個過程給它錄像錄下來。」專家呼籲賣家，自行下載AI識別軟體，來保護自身權益。

不過有記者親自實測，將相貌完好的新鮮蘋果，透過AI生成將外觀變成發霉的樣子，接著再將圖片丟進AI識別軟體，詢問是否有AI改造痕跡，多個識別軟體給出的答案都不一樣，賣家要如何保護自己依舊是個問題，人工智能技術算法工程師蕭子豪說：「可能在某些情況，如果這個合成內容，它是跟食物，跟一些商品有關的情況下，需要他們加大(對)用戶指令意圖判斷。」

專家認為必須加大監管AI平台，同時也得針對，不法意圖的用戶進行偵測，雙管齊下的管理方式，對AI生態才有幫助，目前相關單位已經展開調查，同時警告這樣的行為已構成詐騙，呼籲民眾切勿以身試法。