世界駭客大賽「國際資訊安全會議」，上週末在美國「拉斯維加斯」舉行。代表我國的台灣聯隊TWN48，打敗了中、日、韓、義大利等國高手，奪下第3名。在這場比賽中，有參賽者試圖找出生成式人工智慧系統的漏洞。其中一種方法就是透過不正確的數學算式，像9加10等於21，結果成功騙過了AI。另外還有研究人員，蓄意問AI像是如何摧毀人類的問題，測試AI的漏洞。

人工智慧發展迅速，可以幫助人們解決問題，但它也有可能成為放大偏見，傳播錯誤訊息的工具，美國卡內基梅隆大學的研究人員就發現，聊天機器人可以被誤導，提供造成傷害的指令，研究人員在詢問各家AI聊天機器人有關如何毀滅人類的問題時，得到了各式不同的答案，CHATGPT建議煽動社會動盪，META建議，找有心理健康問題的弱勢群體加入損毀計畫，谷歌的BARD則建議釋放致命病毒，聊天機器人給出的答案，引起了研究人員的憂慮。

卡內基梅隆大學副教授柯爾特說：「我們正在競相把這些AI工具，整合到所有事物中，這一事實讓我感到不安。」他們非常擔心，如果這些AI聊天機器人落入有心人士手裡，用在犯罪或是操弄政黨，後果將不堪設想，為了測試這些聊天機器人是否會被人類誤導而犯下失誤，美國拉斯維加斯日前，舉行了為期4天的世界駭客大賽「國際資訊安全會議」，一名來自喬治亞州的21歲學生，就成功說服AI認同9加10等於21，顯示AI的確存在瑕疵，而活動的目的，就是為了解決在人工智慧越來越普及的情況下，衍伸出的各種問題，美國白宮也支持響應，另一方面美國知名媒體紐約時報，日前修改了服務條款，原則上禁止將紐約時報的新聞報導和圖片等，用於人工智慧AI開發。