近期，斯坦福大學社會媒體實驗室的創立者及錯誤信息領域的專家杰夫·漢考克，在一項涉及明尼蘇達州選舉法案的法庭文件中，承認借助了人工智能工具ChatGPT來輔助整理文獻資料。然而，這一行為卻引發了關于文件可信度的廣泛爭議。
漢考克提交的這份宣誓證詞，旨在支持明尼蘇達州一項旨在規范使用深度偽造技術影響選舉的法案。然而，該法案正面臨來自保守派YouTuber克里斯托弗·科爾斯及明尼蘇達州眾議員瑪麗·弗蘭森等人的挑戰。在審查過程中，他們的律師發現漢考克的宣誓證詞中引用了并不存在的文獻，質疑其可靠性，并請求在審議過程中將其排除。
面對質疑，漢考克坦然承認了自己使用了ChatGPT這一事實，但堅決否認用它來撰寫證詞內容。他強調，證詞的全部內容均出自他之手，并且每一項主張都基于最新的學術研究，同時反映了他作為專家對于人工智能與虛假信息社會影響的深刻見解。
關于引文錯誤的問題，漢考克給出了詳細的解釋。他表示，在準備證詞時，他利用Google Scholar和GPT-4來搜索可能與證詞相關的文章，以便將已知知識與新研究相結合。在創建引文列表的過程中，他使用了GPT-4，但并未意識到該工具生成了兩個錯誤的引文，即所謂的“幻覺”，并且為另一個引文錯誤地添加了作者。
漢考克對此表示深感抱歉，他強調自己無意誤導法院或律師，并對由此造成的混亂表示誠摯的歉意。盡管如此，他依然堅持認為宣誓證詞中的所有實質性觀點都是站得住腳的。
這一事件再次提醒我們，在利用AI輔助工作時，必須高度重視人工審核和驗證的重要性。盡管AI工具能夠為我們提供便捷和高效的服務，但其生成的內容仍需經過嚴格的審查，以確保其準確性和可靠性。
