依賴ChatGPT會變笨？麻省理工學院解答了

新研究顯示，與純粹靠大腦思考的人相比，依賴大型語言模型（LLM）的人的神經活動水平較低。麻省理工學院（MIT）指出，持續使用像ChatGPT這樣的LLM可能會降低大腦活動和神經連接性（神經細胞之間通過突觸進行訊息傳遞的網路），這是全球數百萬學生每天使用的工具，如今這項研究將敲響警鐘。

隨著LLM變得越來越普及，研究人員好奇依賴人工智慧會如何影響大腦功能和批判性思考。麻省理工學院媒體實驗室（MIT Media Lab）的科學家警告，使用人工智慧（AI）可能會影響你的學習、思考和記憶能力。

為了測試這一點，研究人員讓參與者進行一系列寫作任務，其中一些人完全依靠自己的大腦，一些人可以使用Google搜索引擎，而另一些人則使用OpenAI的大型語言模型ChatGPT。在三輪寫作中，研究人員注意到，LLM使用者在第3輪提供內容時「努力程度較低」，幾乎完全複製貼上ChatGPT的答案。

透過腦電圖（EEG）記錄參與者的大腦活動，研究人員發現不同組別之間的神經連接性和認知策略存在顯著差異。那些持續使用LLM的人神經連接性最弱，神經網路參與程度也最低。而完全依靠大腦的人，儘管承受了更大的認知負荷，但表現出更好的記憶能力，並重新激活了廣泛的枕葉、頂葉和前額葉節點，這可能支持了視覺處理。LLM使用者也難以聲稱對自己的文章擁有著作權，許多人甚至無法引用幾分鐘前自己寫的文章內容。結果顯示，純大腦組的人促成了更深入的學習成果。

值得關注的是，搜索引擎組可能在努力和成果之間表現出最佳的平衡，因為他們能夠搜索事實，使他們可以更準確地回答問題，同時仍然依靠自己的創造力和認知來撰寫文章。此外，Google使用者表現出「中等程度的參與」，而完全沒有外部幫助的組別則在內容中表現出更多的大腦活動和原創想法。如果這些學生後來嘗試使用ChatGPT，他們的大腦活動仍然會增加。研究人員推測，這是因為學生會試圖將新工具與他們已有的知識結合在一起。

總結來說，儘管ChatGPT提供了更高的效率，但LLM這組的整體記憶痕跡較弱，自我監控水平降低，著作權可信度也較差。研究人員解釋：「隨著LLM在教育中的影響才剛開始被大眾所認識，我們的研究結果顯示了一個迫切的問題：過度使用可能會導致學習能力下降。使用LLM對參與者產生了可測量的影響，儘管初期好處顯而易見，但我們在4個月的觀察中發現，LLM組的參與者在腦神經、語言等各個層面的表現都比『純大腦組』更差。」

LLM的使用者則表示：「這種便利性是以認知成本為代價的，減少了使用者批判性評估LLM輸出或『意見』（基於訓練數據庫的概率性答案）的傾向。這凸顯了類似『回聲室效應』的1種令人擔憂的演變：它並未消失，而是透過算法來塑造使用者的接觸範圍。」

雖然該研究尚未經過同行評審，但它揭示了教育工作者對過度依賴AI的擔憂。研究人員在發表於開放知識庫arXiv的研究中總結：「隨著如今像OpenAI的ChatGPT這樣的LLM產品被廣泛採用，人類和企業每天都在接觸和使用這些模型。就像任何其他工具一樣，它有其優勢和局限性。這項研究專注於探討在教育寫作情境中使用LLM的認知成本。」

文章出處：CTWANT｜作者：陳煜濬