編者按：當(dāng)前，全球高校正掀起關(guān)于人工智能參與學(xué)術(shù)研究的倫理邊界大討論。立陶宛維爾紐斯大學(xué)一年內(nèi)開(kāi)除10名違規(guī)使用AI的學(xué)生，復(fù)旦大學(xué)出臺(tái)本科畢業(yè)論文AI使用禁令，明確“六個(gè)禁止”，嚴(yán)控AI介入論文選題、數(shù)據(jù)分析、文本生成等核心環(huán)節(jié)。在AI助力科學(xué)家實(shí)現(xiàn)“一個(gè)月讀完十年文獻(xiàn)”的效率革命時(shí)，也不可避免帶來(lái)“AI幻覺(jué)”虛構(gòu)數(shù)據(jù)、算法偏見(jiàn)誤導(dǎo)結(jié)論等問(wèn)題。如何把握學(xué)術(shù)本身和技術(shù)工具的平衡？光明網(wǎng)特邀北京師范大學(xué)未來(lái)教育高精尖創(chuàng)新中心執(zhí)行主任余勝泉教授，共同探討智能時(shí)代的知識(shí)生產(chǎn)新范式。

　　深化人工智能應(yīng)用，推動(dòng)科研范式轉(zhuǎn)型

　　光明網(wǎng)：近年來(lái)人工智能在數(shù)據(jù)處理、文獻(xiàn)分析等領(lǐng)域的應(yīng)用不斷深化，您認(rèn)為AI工具目前在學(xué)術(shù)研究中發(fā)揮了哪些作用？這些技術(shù)加持如何改變了傳統(tǒng)科研工作者的思維方式和研究范式？

　　余勝泉：我認(rèn)為我們應(yīng)當(dāng)大力推進(jìn)人工智能在科研中的應(yīng)用，積極擁抱AI。人工智能可能會(huì)改變我們科研的方式。比如說(shuō)，用人工智能來(lái)輔助探究海量數(shù)據(jù)中的一些隱藏的規(guī)律，這是整個(gè)研究范式的基本的轉(zhuǎn)型。例如蛋白質(zhì)結(jié)構(gòu)的預(yù)測(cè)、基因結(jié)構(gòu)和基因性狀之間的關(guān)聯(lián)關(guān)系，這些東西都是由海量的數(shù)據(jù)組合起來(lái)的，光靠人根本不可能搞得清楚，這個(gè)時(shí)候人工智能就能憑借強(qiáng)大的算力，在海量的數(shù)據(jù)中找出確定性的擬合函數(shù)擬合規(guī)律，我覺(jué)得這是它最重要的應(yīng)用。

　　社會(huì)科學(xué)的研究也是如此，應(yīng)該進(jìn)一步鼓勵(lì)擴(kuò)大社科領(lǐng)域的量化研究。我們不應(yīng)當(dāng)把AI作為簡(jiǎn)單的文字組合工具。現(xiàn)在學(xué)界實(shí)際上存在大量文字組合型研究追求數(shù)量而不追求質(zhì)量的問(wèn)題。這樣的研究沒(méi)有經(jīng)過(guò)問(wèn)題提出、實(shí)驗(yàn)方案設(shè)計(jì)、數(shù)據(jù)分析和推理驗(yàn)證等嚴(yán)格的論證過(guò)程，它就不是一個(gè)非常有價(jià)值的研究。在社會(huì)科學(xué)領(lǐng)域，我們可以關(guān)注AI在仿真領(lǐng)域的應(yīng)用，例如利用AI提高編程效率，加持智能代理，分析社會(huì)角色之間的互動(dòng)和協(xié)作，這就使研究更嚴(yán)謹(jǐn)。

　　在論文寫(xiě)作中，AI應(yīng)用于文獻(xiàn)閱讀，我覺(jué)得也是很有益的。尤其對(duì)于研究生來(lái)說(shuō)，在入門(mén)一個(gè)新領(lǐng)域時(shí)，利用AI更高效地閱讀文獻(xiàn)，了解這個(gè)領(lǐng)域的發(fā)展現(xiàn)狀，有利于快速地了解、把握這個(gè)領(lǐng)域的基礎(chǔ)內(nèi)容，節(jié)省查閱文獻(xiàn)的時(shí)間。

　　健全科研倫理規(guī)范，筑牢學(xué)術(shù)誠(chéng)信根基

　　光明網(wǎng)：2023年《衛(wèi)報(bào)》報(bào)道指出，AI的應(yīng)用導(dǎo)致“學(xué)術(shù)文獻(xiàn)中出現(xiàn)有缺陷甚至捏造的研究”。近期國(guó)內(nèi)外多個(gè)醫(yī)學(xué)期刊對(duì)AI論文造假發(fā)布聲明并退稿，因過(guò)度依賴AI導(dǎo)致學(xué)術(shù)不端的案例屢見(jiàn)不鮮。在您看來(lái)，當(dāng)前AI深度介入學(xué)術(shù)研究面臨哪些問(wèn)題？

　　余勝泉：首先這種學(xué)術(shù)不端，我覺(jué)得不是算法的問(wèn)題，是人的問(wèn)題。我們現(xiàn)在有一些社科領(lǐng)域尤其是社會(huì)學(xué)的研究，他不去做實(shí)際調(diào)查，而是用AI編訪談，編調(diào)查數(shù)據(jù)，這就是絕對(duì)的學(xué)術(shù)不端，是必須嚴(yán)格禁止的。就是我用AI生成這些訪談數(shù)據(jù)、調(diào)查數(shù)據(jù)，看起來(lái)挺合理，但是實(shí)際上都是虛假的，這就是絕對(duì)的學(xué)術(shù)不端。

　　那另一種情況，就是假設(shè)他是無(wú)心之失，那就是他本身能力不足，沒(méi)有完全地理解和把握AI，我覺(jué)得這就是科研素養(yǎng)、運(yùn)用AI的能力出現(xiàn)了問(wèn)題。我們使用任何工具，都要首先明確它擅長(zhǎng)做什么，不擅長(zhǎng)做什么。AI有長(zhǎng)處，也有問(wèn)題，我們要做的就是發(fā)揮他的長(zhǎng)處，避免它的問(wèn)題。比如它可能存在算法偏見(jiàn)，那么相關(guān)領(lǐng)域的學(xué)者就應(yīng)當(dāng)了解這個(gè)問(wèn)題，在使用AI時(shí)予以避免。

　　所以AI絕不是全能的，要清楚它的適用邊界才能有效發(fā)揮其作用。就像我們用其他數(shù)據(jù)分析工具時(shí)，也要考慮具體研究場(chǎng)景下該選擇什么檢驗(yàn)方法。這本質(zhì)上是要明確工具的問(wèn)題解決域——它能處理什么類型的數(shù)據(jù)、適應(yīng)怎樣的研究假設(shè)。

　　光明網(wǎng)：那對(duì)此，您覺(jué)得我們應(yīng)當(dāng)如何應(yīng)對(duì)，未來(lái)是否需要建立新的科研評(píng)價(jià)體系？

　　余勝泉：這其實(shí)需要相關(guān)領(lǐng)域需要健全科研倫理規(guī)范，例如有關(guān)部門(mén)牽頭，出臺(tái)相關(guān)的運(yùn)用人工智能的負(fù)面清單。這種負(fù)面清單不是說(shuō)禁止使用人工智能，而是鼓勵(lì)充分地使用人工智能。現(xiàn)在有些學(xué)校禁止學(xué)生使用AI寫(xiě)作，這實(shí)際上就像跟風(fēng)車斗爭(zhēng)的巨人一樣，是沒(méi)有意義的，而且也不應(yīng)該限制AI的使用。人工智能本身就是我們腦力的延伸，我們應(yīng)該用人工智能來(lái)完成更具創(chuàng)造性的工作。所以我還是主張堵不如疏，要鼓勵(lì)學(xué)生用人工智能。但是使用人工智能需要符合一定的規(guī)范。如果將AI用于文字的修改潤(rùn)色或者是跨語(yǔ)言翻譯，它是非常有效的，我覺(jué)得可以鼓勵(lì)A(yù)I在文字表達(dá)層面的使用。但是如果將AI用于編造數(shù)據(jù)、直接生成觀點(diǎn)和論文結(jié)構(gòu)，這就屬于學(xué)術(shù)不端行為，要加以禁止，需要完善科研誠(chéng)信規(guī)范，嚴(yán)格審查AI偽造實(shí)驗(yàn)數(shù)據(jù)、機(jī)器合成理論框架等新型學(xué)術(shù)造假。再比如，引用AI的觀點(diǎn)也應(yīng)當(dāng)注明，例如在引用規(guī)范中新增一個(gè)AI引用的條目，在參考文獻(xiàn)中明確標(biāo)注哪些是AI生成的觀點(diǎn)和內(nèi)容。如果引用了AI的觀點(diǎn)而不標(biāo)注也屬于學(xué)術(shù)不端。此外，我們也要制定相關(guān)的倫理規(guī)范，確保AI的工具性特征，劃定一些界限。

　　把握AI工具性本質(zhì)，保持科研思維主體性

　　光明網(wǎng)：您剛才也提到，要保證AI的工具性，那么在具體科研實(shí)踐中，我們應(yīng)當(dāng)如何界定“工具性輔助”與“主體性替代”的臨界點(diǎn)？

　　余勝泉：我認(rèn)為在使用AI的過(guò)程中，要區(qū)分是抄襲還是輔助，臨界點(diǎn)就在于有沒(méi)有自己的思維框架。在面臨AI從外部提供的知識(shí)的過(guò)程中，研究者能不能整合知識(shí)，把外部人工智能生成的知識(shí)嵌入到自身的認(rèn)知鏈條中去。如果研究者自己沒(méi)有能力整合知識(shí)，只是簡(jiǎn)單的照搬或修飾，人工智能說(shuō)什么就相信什么，沒(méi)有自己的想法，這就是抄襲和替代。

　　但是如果研究者有自己的思維框架和觀點(diǎn)，能把人工智能所提供的信息嵌入到思維框架中去，保持思維的主體性，只需要依照規(guī)范標(biāo)明對(duì)人工智能的引用就可以了。

　　改革高校教學(xué)模式，推動(dòng)人才培養(yǎng)體系轉(zhuǎn)型

　　光明網(wǎng)：目前人工智能的應(yīng)用，不僅深刻影響著科研工作者，也廣泛輻射了作為科研人員后備軍的高校。因此，您認(rèn)為面對(duì)智能技術(shù)的沖擊，高校在人才培養(yǎng)方面需要作出哪些戰(zhàn)略性調(diào)整？

　　余勝泉：我認(rèn)為學(xué)生使用AI工具和科研人員有所不同。科研需要利用AI賦能前沿領(lǐng)域的突破，所以要充分鼓勵(lì)A(yù)I工具的使用。但是在人才培養(yǎng)領(lǐng)域就不一定了，為什么？因?yàn)閷W(xué)生的學(xué)習(xí)是他的思維和能力成長(zhǎng)的過(guò)程。

　　我之前經(jīng)常講認(rèn)知外包，說(shuō)的就是我們?cè)诶萌斯ぶ悄艿臅r(shí)候，實(shí)際上是把一部分認(rèn)知過(guò)程外包給人工智能。因?yàn)锳I可以使人突破個(gè)體認(rèn)知的邊界，駕馭超越個(gè)體認(rèn)知邊界的復(fù)雜性和創(chuàng)造性，這是它積極的一面。但是當(dāng)我們?cè)趯W(xué)習(xí)的時(shí)候，我們不僅僅是只為了獲得一個(gè)答案，而是要通過(guò)學(xué)習(xí)過(guò)程的體驗(yàn)促進(jìn)學(xué)生的思維的發(fā)展，促進(jìn)學(xué)生對(duì)學(xué)科的基本知識(shí)結(jié)構(gòu)的形成。在這種情況下，一味地做認(rèn)知外包，就很不合適了。

　　我覺(jué)得最核心的是我們的人才培養(yǎng)模式要轉(zhuǎn)型。如果老師還是停留在傳統(tǒng)的教學(xué)模式，課后布置一個(gè)文字作業(yè)，無(wú)論再怎么強(qiáng)調(diào)，人都是天性偷懶的，很多學(xué)生還是會(huì)選擇直接用AI生成。乍一看他用人工智能生成的可能會(huì)是一個(gè)不錯(cuò)的結(jié)果，但是在這個(gè)過(guò)程中他沒(méi)有獲得知識(shí)和思維的體驗(yàn)，他的思維沒(méi)有得到鍛煉，慢慢地就會(huì)造成他的思維幼稚化、認(rèn)知短路，所以長(zhǎng)期而言就會(huì)對(duì)我們的教育質(zhì)量產(chǎn)生嚴(yán)重的負(fù)面影響。

　　所以教師在問(wèn)題設(shè)置上，就要打破這種淺層次的作業(yè)布置，要認(rèn)真設(shè)置一些有挑戰(zhàn)性的問(wèn)題。人的思維有兩種，一是直覺(jué)性的，二是反直覺(jué)的，需要長(zhǎng)期的有邏輯的推理思考。教師要做的就是設(shè)計(jì)反直覺(jué)的、有邏輯性的研究問(wèn)題，或者說(shuō)設(shè)計(jì)這種認(rèn)知強(qiáng)制功能，來(lái)培養(yǎng)學(xué)生的批判思維，考查學(xué)生的邏輯推理、思維整合、思維延展能力；在教學(xué)中嵌入認(rèn)知強(qiáng)制功能，可以顯著減輕學(xué)生對(duì)人工智能的依賴，而且對(duì)于具有高認(rèn)知需求的人更有價(jià)值，人的動(dòng)機(jī)也能夠調(diào)節(jié)AI方案的有效性。

　　要從講課做作業(yè)那種教學(xué)形態(tài)轉(zhuǎn)變?yōu)榫脑O(shè)計(jì)問(wèn)題、精心準(zhǔn)備資源、精心設(shè)計(jì)活動(dòng)、精心設(shè)計(jì)評(píng)價(jià)的教育生態(tài)，同時(shí)讓學(xué)生有更多的交流、討論、協(xié)作和自主學(xué)習(xí)的機(jī)會(huì)，比如讓學(xué)生做展示、自己講，這個(gè)過(guò)程他就對(duì)知識(shí)有了更深刻的理解。

　　具體而言應(yīng)該如何設(shè)計(jì)教學(xué)呢？我覺(jué)得主要有四點(diǎn)：一是設(shè)計(jì)獨(dú)立思考策略，在教學(xué)設(shè)計(jì)中設(shè)計(jì)啟發(fā)的交互模式，通過(guò)引導(dǎo)性提示和多元視角激發(fā)學(xué)生思考，增加批判性思維訓(xùn)練，增加對(duì)AI生成內(nèi)容的評(píng)價(jià)與反思的環(huán)節(jié)，提升學(xué)生的分析驗(yàn)證和重構(gòu)信息的能力。二是設(shè)計(jì)創(chuàng)造力與內(nèi)驅(qū)力的激發(fā)策略，在教學(xué)中融入開(kāi)放性、探索性和跨學(xué)科的任務(wù)，強(qiáng)調(diào)AI的輔助性定位。例如，通過(guò)項(xiàng)目制學(xué)習(xí)，讓學(xué)生在真實(shí)場(chǎng)景中運(yùn)用AI，通過(guò)自身努力解決復(fù)雜問(wèn)題，激發(fā)內(nèi)在動(dòng)機(jī)和創(chuàng)造力。三是系統(tǒng)化策略，就是強(qiáng)調(diào)建立知識(shí)整合機(jī)制，在教學(xué)中融入開(kāi)放性、探索性和跨學(xué)科的任務(wù)，通過(guò)AI工具為學(xué)生提供知識(shí)地圖或者學(xué)科框架，引入思維可視化的工具，引導(dǎo)學(xué)生形成完整的知識(shí)框架和學(xué)科體系。四是改革考試與評(píng)價(jià)體系，要增加開(kāi)放性問(wèn)題和思維記錄環(huán)節(jié)，重視推理論證與分析能力的評(píng)價(jià)，減少對(duì)直接結(jié)論或結(jié)果的考核。（光明網(wǎng)記者劉夢(mèng)甜、實(shí)習(xí)生楊雨熹采訪整理）