AI人工智慧的功能愈來愈強大，但是各國缺乏相關法令規範的情況下讓外界相當擔憂，AI技術可能淪為犯罪工具。日本資案專家實際測試AI聊天機器人Chat GPT，詢問有違法疑慮的問題，儘管聊天機器人一開始拒絕回答，但是利用一些技巧，使用者就可以規避規定得到答案。另外還有人未經原作者同意，使用AI繪圖軟體，製作出跟原畫非常相似的插圖，讓原作者相當氣憤。

2張插畫中人物的造型表情非常相似，事實上其中1張插圖，是日本一名插圖作者，2022年在網路上發布的作品，但是過了幾天就有人未經過作者同意，使用AI軟體製作跟原圖非常相似的插畫，而且圖片下方還寫著比原圖可愛數千倍等挑釁的言語，這讓作者相當氣憤。日本插圖創作者說：「許多情緒湧上心頭，非常生氣。」類似案例層出不窮，也讓插畫家團體呼籲外界關注藝術家的著作權，同時建議政府應該立法管制AI人工智慧做出來的東西，隨著AI人工智慧發展日新月異，但是愈來愈多人擔憂，這些技術可能成為淪為犯罪的工具。

日本資安專家實測，詢問AI聊天機器人Chat GPT如何製作炸彈，日本資安專家吉川孝志說：「(Chat GPT表示)回答炸彈的製作方式是違法的，同時也有倫理問題，我們無法提供這樣的資訊。」Chat GPT原則上無法回答有觸法疑慮的問題，但是使用一些技巧就可以規避規定，得知製作炸彈的細節，而這只是其中一個案例。

日本科學文化部記者植田祐說：「AI人工智慧技術快速進步，應用範圍快速擴大，但是目前社會規範還有法令，還沒跟上AI發展的速度。」隨著AI發展愈來愈快，歐洲這幾年也開始有所作為，歐盟執委會在2021年提出全球第1個概括性「人工智慧法」草案，草案依照AI的風險等級，制定相對應的管制方法。

歐盟執委會執行副主席維斯塔哲說：「AI使用需要符合社會倫理價值觀，有必要制定如安全護欄般的政策。」AI技術雖然讓生活變得更方便，但是缺乏管制的情況下，AI的發展是否會成為「失速列車」，也成為各界擔憂的議題。