隨著人工智能(AI)科技的不斷進化，外界憂慮，網路上流傳的照片影片，到底哪一張照片是真，哪一段影片是假？這些虛假信息一旦被廣泛散播，可能導致恐慌、混亂，甚至引發國家安全危機。而面對即將到來的美國總統大選，恐怕有會有不肖分子，利用AI來散播混亂，發布不實消息。美國國防高等研究計劃署DARPA，過去五年，就與不同機構研究，要開發能夠反制深偽技術的利器，打擊深偽，不遺餘力。

濃濃黑煙直衝雲霄，地點就在美國國防部五角大廈，這張深度偽造的圖片，5月份在網路上瘋傳，讓人誤解美國發生了恐怖攻擊，美國股市一度急速下跌，DeepMedia科技業者古普塔說：「所以如果我們看一下，在檢測器中實際被標記為，偽造的部分，其中很多是關於雲層的，因此這些煙霧的光線條件，與現實世界中爆炸的表現不同。」美國科技公司DeepMedia專門開發檢測深偽技術，只要把照片放到識別平台上，假照片立刻無所遁形。

CNN記者VS.DeepMedia科技業者古普塔：「來了它能夠將五角大樓的圖像，標記為78％的偽造(哇)。」科技業者古普塔表示，只要運用網路上的素材，就能夠做出深偽照片，在電腦上動動手指頭，CNN當家主播庫珀卡拉OK寫真照就出現了，CNN記者VS.DeepMedia業者古普塔說：「好了，你最喜歡哪一張，(我喜歡第四張，他的頭髮變長了)」玩笑歸玩笑，但是當美國總統拜登跟美國前總統川普，在深偽平台上互嗆，外界憂慮，深偽技術生成的假照片影片，很可能被有心人士用在2024美國總統大選上，製造混亂與糾紛。

加州柏克萊數位鑑識科學教授法力德說：「我認為各陣營必須開始思考，該如何打擊這些假消息組織，因為他們來勢洶洶。」1958年成立的美國國防部高級研究計劃局DARPA，過去5年多，一直與其他研究機構合作，研發AI反變臉偵查工具，DARPA信息創新辦公室副主任Turek VS.CNN記者：「生成式人工智能的能力將繼續增長，從國安的角度來看這會有什麼擔憂，這張顯示五角大廈發生爆炸的照片就是一例，這能夠被用來針對影響美國領導人的決策。」AI科技持續進化，也讓深偽內容氾濫成災，一旦虛假信息被廣泛散播，很可能造成國安危機，就怕道高一尺魔高一丈，DARPA和科技公司DeepMedia  ，也用科技反制，以AI攻AI，開發偵測深偽技術的利器。