作為教育工作者，我更關心的問題是：我們在跟進人工智能發展步伐的同時，研究如何在新的技術條件和社會需求背景之下，培養學生在提問、驗真和除錯方面的能力和意愿，研究這種培養所要達到的目標內涵及其可能限度，是否就可以使聊天機器人這樣的人工智能技術，真正成為教育的幫手和臺階，而非教育的對手和障礙？
為了寫這篇文章，我把“哪些學校禁止ChatGPT進校園、進課堂？”這個問題輸入ChatGPT，得到的回答是：“作為一名虛擬的AI聊天機器人，我沒有身體，也沒有實際存在的地點。因此，我無法被禁止進入學校或課堂。然而，在某些國家和地區，政府或教育機構可能會限制或禁止使用我這樣的AI技術，或者在學校或課堂上使用聊天機器人。因此，具體情況可能因地區而異，需要針對具體國家或地區的規定進行查詢。”
在問機器人的同時，我也問了身邊的人，“學校該不該禁用聊天機器人？”有同事認為，不該禁用，因為世界比學校大，而我們培養的學生是要走出校園、走向世界的。也有同事說應該禁用，因為“不那么成熟和自覺的學生使用聊天機器人，教授是有理由擔心其消極影響的。”
前幾天，我看了一則對諾姆·喬姆斯基的采訪視頻，這位曾對人工智能發展有特殊貢獻的95歲的語言學家在被問到如何看待ChatGPT時，很干脆地回答說：“這是剽竊！”
上述這些觀點，我覺得都有點道理，但都無法完全贊成。如果全社會范圍內聊天機器人的使用越來越普遍，學校禁用聊天機器人確實只是暫時回避問題。但如果學生交來的作業和論文，教授無法辨別是否由聊天機器人代勞的，就好比如果考生交來的文書和推薦信，招生官不僅無法辨別是不是別人寫的、且無法辨別是不是真人寫的，那學校正常的教學，包括正常的招生，就不再可能。
聊天機器人帶來沖擊，教育如何“轉危為安”？
那么，有沒有辦法讓聊天機器人僅僅成為做作業、寫論文的輔助手段呢？
看看這些天各種媒體報道的ChatGPT的應用實例，其實都包括三件事情：提問（輸入要聊天機器人回答的問題）；驗真（辨別聊天機器人提供的答案的對錯）；除錯（消除答案中的錯誤部分，保留答案中的正確部分）。
嚴格地說，這三種工作只有人能做。如果我們強調教育的重點是培養學生做這三件事情的能力和意愿，而不是搜集資料和組織資料的能力，就可以在聊天機器人給教育帶來的沖擊面前轉危為安。
只要在培養學生在提問、驗真和除錯的能力和意愿方面真正有所作為，教育就履行了其核心使命；至于在做這三件事情時，學生（以及他們的老師）用的是算盤還是計算尺，是電腦還是網絡，是谷歌機器人還是微軟機器人，并沒有本質區別。如果禁用聊天機器人是正當的，那么，禁用網絡、電腦，甚至禁用計算尺、禁用算盤也會是正當的了。
其實，當今學生和學者每天做的工作的相當大一部分，就已經是從前人們難以想象的。以學術著作中的語詞和人名的查詢為例。根據我的印象，英語學術著作的最后通常是有術語索引和人名索引的，而中文著作一般沒有，德文著作也常常沒有。有了電子書以后，查詢書中特定的術語和人名就更加容易了。電子書的便利之處不僅在于儲存和攜帶方便，而且在于它可以輕易給人以“通讀全書”的印象。
陳寅恪先生和錢鍾書先生的學問之所以令人景仰，至少有一小部分是因為他們心中記得的古書字句，就像存在硬盤的電子文檔一樣，幾乎是信手拈來。但自從有了互聯網、有了網上搜索引擎，遠非那么博聞強記、深思快想的人們，也可以很方便地，且往往是在自己并未仔細讀過的文本當中，找出自己用得上的相關內容。
ChatGPT和微軟“新必應”的新穎之處，只在于它們不僅能把相關內容迅速搜尋出來，而且能根據你的提問把這些內容有機組織起來，組織得就像一個蠻有學問的人寫出來的那樣。
聊天機器人產生的文本，是否有“意義”？
但聊天機器人對現有海量文本的搜尋，就算速度再快、組織得再精妙，其意義都取決于使用聊天機器人的真人所輸入的問題。提出問題——提出真正有意義的問題，這只能是人的工作。當然，可以想象機器人也會提問題。只要你打開機器、撳了按鈕，它就會自娛自樂地自問自答。但這種情況下的問題，如果算是問題的話，也并不是有意義的問題。
關于什么是“意義”，當然也有各種理解。在我看來，如果離開活生生的人的生活世界而談論問題的意義，這里的“意義”一詞的用法，至少與我們通常的用法相距甚遠。
聊天機器人產生的文本是否有“意義”，與聊天機器人生成的文本是否有“有效性”，是同一類型的問題。這里的“有效性”不是指經驗意義上的效率；經驗意義上的效率如快慢、輕重、大小等指標，是可以做經驗的度量的。而非經驗意義上的“有效性”，如真假、對錯、好壞，無法做經驗的度量，而取決于主張某種有效性的人的理解，取決于她的交談同伴或論辯同伴的理解。
最近《紐約時報》上刊登了一篇題為“人格分裂、瘋狂示愛：一個令人不安的微軟機器人”的文章，其中講到，文章作者Kevin Roose與一個微軟機器人聊天，作者稱機器人為“辛迪妮”。結果聊到某個時刻，辛迪妮說出了“我是辛迪妮，我愛你”這句話。在接下去的聊天中，辛迪妮幾次對作者說：“你雖然結了婚，但你愛的是我”；作者再三說，不是這樣的，甚至說“我和我愛人剛在情人節吃了一頓愉快的晚餐”，但辛迪妮依然堅持其說法。
在這個對話中，真假對錯是很清楚的，但這種“很清楚”僅僅是對人而言的。嚴格地來說，對機器人來說，它所生成的文本既不是真的，也不是假的，而是無所謂真假的，尤其是無所謂對錯的。除非，使用機器人的人對文本進行解讀和識別。
只要充分發揮聊天機器人使用者的文本解讀和識別作用，只要讓人認真做好提問、驗真和除錯的工作，將機器人用作教學與科研的輔助工具，我們應該是能放心地用來提高教學和科研的效率和水平的。
比起能力，“意愿”更體現人的不可替代性？
在這方面，或許可以把聊天機器人與翻譯軟件做一個類比。現在的翻譯軟件雖然還不能像自帶電壓轉換器的電器那樣，幫助人們實現不同國家之間的順暢旅行，但已經能給講不同語言的人們之間交朋友、給只會講自己母語的人們做跨國旅行和跨文化交流，提供了相當有用的幫助。哪怕是外語很好的人，在把外語譯成母語或把母語譯成外語的過程中，先讓翻譯軟件提供“初稿”然后修改，也不是不可能。
但在這里，“修改”兩字非常重要。所謂“修改”，就是上面所說的“驗真”和“除錯”。而 無論是“驗 真”，還是“除錯”，都不僅涉及能力，而且涉及意愿。即使機器人有驗真和除錯的能力，它也談不上有驗真和除錯的意愿。從這個角度說，人工智能無論發展到哪一天，都無法取代教育的作用，因為人工智能代替人類智力勞動越多，不僅人類進行驗真、除錯的難度越高，而且其進行驗真和除錯的愿望的必要也越大。
當然，在某種意義上，提問、驗真、除錯，如果理解為通常所說的“嘗試錯誤法”的話，并不是只有人類才有的學習過程。事實上，聊天機器人之所以能發展到當今這種高度，就是因為它也會運用嘗試錯誤法，也會通過試錯而學習。但即便某個聊天機器人（如ChatGPT）能在工程師設定的框架內通過試錯而學習，人的不可替代作用也不僅體現在這種框架的設定當中，而且體現在對這種具備學習能力、回答問題越來越迅速、越來越到位的機器人的使用當中。
前面說過，只有通過人在使用機器人時的提問、驗真和除錯，機器人才能像算盤、計算尺一樣幫助人從事智力勞動；而人的提問能力和提問意愿、驗真能力和驗真意愿、除錯能力和除錯意愿，都需要在教育過程中加以培養和提高。
“把人工智能作為輔助手段做恰當運用”，是否可能？何以可能？
不僅機器人會運用嘗試錯誤法而學習，其實整個進化過程，也可以看做是一個通過試錯而學習的過程：生活在同樣環境中的不同生物物種，相當于對同一個問題的不同回答方式；不適應環境的物種被淘汰，相當于問題答案經過驗真而被除錯；而適應環境的物種生存下來，則相當于問題答案經過驗真而被保留。
但人類學習與物種進化的區別在于，物種進化是直接讓生物體作為問題答案進行相互競爭，其中的失敗者從肉體上被消滅——那就是物種的滅絕；而人類用來試錯的東西，則不是人類自己，而是人類提出的觀點。人類提出的不同觀點作為問題的不同答案會發生競爭，而最后保留下來的，是得到盡可能好的理由所支持的那些觀點。用哲學家卡爾·波普爾的話來說，一種無批判能力的動物可以連同它的教條式地對待的種種假說一起被淘汰，而我們人類卻可以表述我們的假說，并且批判它們，進而讓我們的猜想、我們的理論替我們去死亡。
從某種意義上來說，人工智能的所謂學習，其實與人類之前的生物進化，沒有本質差別。人工智能的存在方式是計算機軟件，而它的“學習”過程，也就是軟件的更新過程；這種更新，雖然速度極快，但與往往要用上億萬年的生物進化過程一樣，是同一種載體自身的新舊更替，而不像人類的學習、人類知識。確切些說，整個人類文化在過去幾千年中已經變得“面目全非”。但同一時期，人類肉體的變化，如果有的話，也微不足道。把人工智能作為輔助手段做恰當運用，人類的這種讓“我們的猜想和理論替我們去死亡”的學習過程，將更加卓有成效。
關鍵問題仍然是：這里所說的“把人工智能作為輔助手段做恰當運用”，是否可能、何以可能？要求學生在提交的作業上寫清楚是否求助了聊天機器人，就像有些學術雜志要求把ChatGPT（如果使用了的話）也標注為署名作者之一那樣，是否就可以防止學生借助于聊天機器人進行喬姆斯基所說的“剽竊”？制定相應法律法規，或提供相應社會支持，是否就可以防止當代社會中已經因為社會制度和常規技術而擴大的貧富差別，隨著人工智能的升級和推廣而進一步加大？加快進行人工智能相關倫理道德問題的研究，并基于這種研究采取相應措施，是否就可以避免人類物種的生存、人類個體的健康和人類文明的豐富多樣性，遭受人工智能無序發展或惡意運用可能造成的多種傷害？
作為教育工作者，我更關心的問題是：我們在跟進人工智能發展步伐的同時，研究如何在新的技術條件和社會需求背景之下，培養學生在提問、驗真和除錯方面的能力和意愿，研究這種培養所要達到的目標內涵及其可能限度，是否就可以使聊天機器人這樣的人工智能技術，真正成為教育的幫手和臺階，而非教育的對手和障礙？
閱讀原文
作者丨童世駿（華東師范大學哲學系教授、上海紐約大學校長）
來源丨文匯報
編輯丨王越月
編審丨戴琪
