TechNews 科普文引述 MIT「AI 植入假記憶」研究，並重提 9 月彭博 Palantir AI 誤擊伊朗小學舊報導

據外媒報導，麻省理工學院（MIT）科學家帕蒂·馬斯（Pattie Maes）向《華盛頓郵報》（Washington Post）說明團隊研究：受試者先觀看一系列照片，休息後部分人觀看原圖，另一部分人看的則是經 AI 修改的版本。隨後進行記憶測驗時，看過 AI 修改圖片的人不僅更容易記錯原圖，甚至對錯誤回憶展現出高度自信。
外媒指出，人類記憶容易受暗示影響，自 19 世紀以來的心理學實驗已大量證實此現象，這也是錯誤資訊特別危險的原因。部分研究顯示，即使事後已發布更正，錯誤資訊仍會持續干擾包括政治在內的各項決策。除了 Maes 的研究外，多項實驗亦顯示 AI 生成的錯誤資訊能植入假記憶；2025 年一項研究更發現，深偽（Deepfake）與 AI 生成文字都能有效植入關於虛構政治醜聞的假記憶，甚至降低受試者的投票意願。
即使不是惡意使用，生成式 AI 也會產生輸出錯誤或虛構資訊的「幻覺」（Hallucination）。當政府機關、銀行、軍方與醫院等組織競相導入 AI 時，常強調「人在迴路中」（Human-in-the-Loop）機制，由具專業知識的人員審核 AI 輸出，期望加快流程的同時，能在錯誤造成傷害前攔下。
然而外媒指出，研究顯示使用者並不擅長辨識 AI 幻覺，加上人類記憶本身不可靠，又傾向相信 AI 系統，即使 AI 輸出與專家原本知道的資訊互相矛盾，專家的判斷仍可能遭到扭曲。
研究引述數據稱，一般人辨識 AI 生成內容的能力基本上跟擲硬幣沒兩樣。雖然許多研究人員正積極尋找介入與培訓方法，幫助人們更擅長辨識深偽，但目前仍沒有萬無一失的辦法；與此同時，AI 產業正加速發展代理式 AI（Agentic AI），競相把人類移出決策迴路。
報導舉例，美軍 2026 年稍早空襲伊朗一所小學，造成逾 150 人死亡、其中包含至少 123 名兒童。據《彭博》（Bloomberg）2026 年 9 月報導的美國國防部內部調查，這次空襲部分肇因於過度依賴 Palantir 開發的 AI 系統，該系統因資料過時，將這所小學列為首日打擊目標。
（首圖來源：Unsplash）