人工智慧熱潮來臨，但一不小心可能變災難。加拿大有律師被指控，在官司當中用ChatGPT，引用了2個根本不存在的案例，不只鬧出笑話，還為職業生涯帶來危機。

網路影片說：「請AI幫我寫出2000字論文，你看就來了。」人工智慧熱潮來臨，讓不少人做起事情來事半功倍，不過最近加拿大溫哥華卻有一名女律師，在撰寫訴狀時，貪圖方便請益ChatGPT，但沒想到卻出了問題。律師涉嫌利用ChatGPT撰寫出假案例，支持父親帶孩子到中國探親的申請，法院文件指出，女律師接受一位想帶孩子出國旅行的父親委任，不過這位父親與孩子母親分居中，對此律師求助ChatGPT，詢問是否有先前類似的判例可引用，卻不慎引用了ChatGPT捏造出來的虛構判例，事件曝光後遭到各界撻伐。

加拿大律師麥克萊恩說：「如果我們不去確認並檢查，人工智慧生成的資料，要是資料不精確，則可能會對法律體系造成威脅。」類似的事件其實早就發生過，美國前總統川普的前任律師柯恩2023年在曼哈頓聯邦法院的的宣誓書中，承認他使用Google的生成式聊天機器人Bard 來尋找支持他論點的法律案例，沒想到Bard 居然給了他假案例。他(柯恩)告訴法官，他不知道這些案件不是真的，他是在搜尋網站上找到的。生成式AI革命性地影響了現代社會，但如果沒有完善的監管系統，導致假訊息滿天飛，將對社會造成極大的傷害。