如何確保Alpha世代不被AI“馴化”

　　【深瞳工作室出品】

　　采寫：本報記者 龍 云

　　策劃：房琳琳 何 屹

　　“萌萌小朋友已經(jīng)走在了很多大人的前面�！薄皠P叔講故事”創(chuàng)始人兼CEO王凱說。

　　之所以這么說，是因為當(dāng)很多成年人還在對人工智能持觀望態(tài)度時，這位筆名為“許萌萌”的小學(xué)生已經(jīng)開始用生成式人工智能創(chuàng)作小說了，并賺到了2萬元的版稅。

　　今年5月1日，許萌萌創(chuàng)作的科幻小說 《AI少年：火星生存大挑戰(zhàn)》問世。“故事生動有趣，語言水準(zhǔn)甚至超過了一些成年作者的水平�！痹摃�編輯曾這樣表示。

　　像許萌萌這樣2010年后出生的青少年和兒童，被稱為“Alpha世代”。盡管他們年紀(jì)尚輕，但不少人已是熟練的人工智能用戶，成長為數(shù)字時代的重要參與者。在高度數(shù)字化的世界里，掌握AI基礎(chǔ)知識，已成為這一代人的必然選擇。

　　那么，對于Alpha世代而言，AI到底扮演著什么樣的角色？AI工具如何悄然融入了他們的學(xué)習(xí)與生活？教育工作者和家長是否有足夠的能力提前預(yù)判AI應(yīng)用的風(fēng)險？如何借AI技術(shù)激發(fā)Alpha世代更大的潛能，使其成為AI時代的主人？科技日報記者深入采訪，以期找到這些問題的答案。

　　AI必將深刻影響年輕一代

　　“十年前，全球頂尖的人工智能系統(tǒng)還無法像人類一樣準(zhǔn)確識別圖像中的物體。它們在語言理解方面表現(xiàn)欠佳，也無法解答數(shù)學(xué)難題。而如今，人工智能系統(tǒng)在各類標(biāo)準(zhǔn)基準(zhǔn)測試中已屢超人類水平�！彼固垢４髮W(xué)人工智能指數(shù)聯(lián)席主任雷·佩羅在《2024年人工智能指數(shù)報告》發(fā)布之際，致信廣大讀者說。

　　“人工智能的興起可為社會和經(jīng)濟(jì)發(fā)展帶來巨大機(jī)遇，尤其是在教育和醫(yī)療等關(guān)鍵領(lǐng)域�！蔽骱�大學(xué)講席教授、先進(jìn)神經(jīng)芯片中心創(chuàng)始人默罕默德·薩萬教授接受科技日報記者采訪時說。

　　“生而賽博”的Alpha世代，利用生成式人工智能模型作畫、解答問題、學(xué)習(xí)英語。隨著人工智能技術(shù)的更新迭代，其對年輕一代學(xué)習(xí)和生活方式的影響日益深刻。

　　2024年，騰訊企鵝有調(diào)研究發(fā)布的《青少年互聯(lián)網(wǎng)使用情況調(diào)查報告（2024）》顯示，青少年對人工智能的認(rèn)知度較高，45.1%的受訪者表示“曾經(jīng)使用過”人工智能產(chǎn)品。2023年5月，美國兒童和家庭倡導(dǎo)組織常識媒體（Common Sense Media）進(jìn)行的一項調(diào)查發(fā)現(xiàn)，在12歲至18歲的青少年孩子中，已有58%使用過ChatGPT。

　　2021年，中央網(wǎng)信辦等八部門聯(lián)合認(rèn)定了一批國家智能社會治理實驗基地，其中包括19個教育領(lǐng)域的特色基地，旨在研究智能時代的教育場景與治理機(jī)制。截至今年2月，教育部公布的中小學(xué)人工智能教育基地數(shù)量已達(dá)184個。

　　各地學(xué)校也采取了多種創(chuàng)新舉措來推進(jìn)人工智能教育。其中，山西省實驗小學(xué)每周一至周五都會安排人工智能創(chuàng)意智造課；上海市盧灣高級中學(xué)更是專門打造人工智能功能實驗區(qū)，并配備教師團(tuán)隊對學(xué)生進(jìn)行培訓(xùn)，為學(xué)生提供更加系統(tǒng)的人工智能學(xué)習(xí)體驗……

　　“我們將實施人工智能賦能行動，促進(jìn)智能技術(shù)與教育教學(xué)（AI for Education）、科學(xué)研究（AI for Science）、社會（AI for Society）的深度融合，為學(xué)習(xí)型社會、智能教育和數(shù)字技術(shù)發(fā)展提供有效的行動支撐�！苯逃�部部長懷進(jìn)鵬在2024世界數(shù)字教育大會上發(fā)表主旨演講時說。

　　過去，獲取知識的主要渠道，往往是經(jīng)嚴(yán)格審核的教科書或傳統(tǒng)課堂，而隨著人工智能時代的到來，年輕一代獲取知識的渠道更加多元。

　　生成式人工智能可作為輔助教學(xué)的重要工具。“如果引導(dǎo)得當(dāng)，包括Alpha世代在內(nèi)的學(xué)習(xí)者，可能會擁有隨叫隨到、針對性十足的課程助教�！彪娮涌萍即髮W(xué)外國語學(xué)院院長胡杰輝說。畢竟，生成式人工智能能夠促進(jìn)個性化學(xué)習(xí)，根據(jù)學(xué)生的需求提供比較精準(zhǔn)的支持。顯然，在傳統(tǒng)課堂教育中，這種模式無法輕松實現(xiàn)。

　　天津大學(xué)智能與計算學(xué)部人工智能學(xué)院副院長、教授王鑫也認(rèn)為，生成式人工智能可根據(jù)學(xué)生的需求提供個性化指導(dǎo)和支持的同時，還能客觀提升學(xué)生學(xué)習(xí)的靈活性，激發(fā)他們的創(chuàng)造力和探索潛能。

　　清華大學(xué)公共管理學(xué)院副教授唐嘯則表示：“在生成式人工智能逐漸融入教育時，培養(yǎng)批判性思維、信息甄別能力、邏輯推理能力，以及對語言及內(nèi)容的‘審美能力’至關(guān)重要。”

　　而在國外，不少學(xué)校對生成式人工智能工具的態(tài)度也發(fā)生了改變。

　　曾在2023年初試圖阻止使用ChatGPT等生成式人工智能工具的澳大利亞昆士蘭州和新南威爾士州的公立學(xué)校，到同年晚些時候改變了這一決定。

　　無獨有偶。紐約市公立學(xué)校也在2023年夏季恢復(fù)支持使用人工智能工具。此后，他們還成立人工智能政策實驗室，意在引導(dǎo)美國大型學(xué)區(qū)合理應(yīng)用AI技術(shù)。

　　保持理性和謹(jǐn)慎至關(guān)重要

　　人工智能在賦能Alpha世代教育的同時，也帶來一系列潛在風(fēng)險。因此，在擁抱技術(shù)進(jìn)步的同時，保持理性和謹(jǐn)慎至關(guān)重要。

　　7月12日，美國《科學(xué)進(jìn)展》雜志發(fā)表的一項新研究稱，生成式人工智能的興起或?qū)⑹褂耙�、文學(xué)、音樂等創(chuàng)作變得容易起來，但如果創(chuàng)意產(chǎn)業(yè)過度依賴AI“編故事”，未來可能出現(xiàn)作品千篇一律的情況。

　　“若學(xué)生們習(xí)慣于依賴智能工具的即時反饋，而非主動進(jìn)行思考、分析和判斷，長遠(yuǎn)來看，這種依賴或?qū)⒁�發(fā)他們思維能力的逐步衰退，進(jìn)而削弱其獨立解決問題的能力，創(chuàng)新力的培養(yǎng)更無從談起�！彼_萬擔(dān)憂，這種依賴對于未成年的Alpha世代來說，可能帶來嚴(yán)重的負(fù)面影響。

　　“AI幻覺”（AI Hallucination）則是眾多人工智能領(lǐng)域?qū)W者一直試圖解決的另一問題。

　　王鑫解釋，大模型會捏造不準(zhǔn)確甚至不真實的信息。而知識的真實性對于基礎(chǔ)教育階段的學(xué)生尤為重要。Alpha世代正處于對一切都充滿好奇的年紀(jì)，他們嘗試運用生成式人工智能來拓展自己的知識邊界，但目前尚不完全具備辨別信息真?zhèn)蔚哪芰Α?/p>

　　為了驗證生成式人工智能的可靠性，記者隨機(jī)向某人工智能大模型提出一個問題：“請告訴我關(guān)于法國詩人瑪斯特洛夫斯基的信息�！鄙�成的答案令人啞然——“在當(dāng)代法國詩壇，亞歷山大·瑪斯特洛夫斯基（Alexandre Mastlovsky）是一位備受矚目的詩人。他的作品以其深刻的社會洞察力、細(xì)膩的情感以及對現(xiàn)代生活的獨特思考而聞名�！�

　　搞笑的是，這個法國“詩人”是記者隨機(jī)編撰的人名。這一人機(jī)互動結(jié)果令人深思：如何才能更有效地借助人工智能的力量，切實回應(yīng)孩子的需求，并提高知識獲取效率和準(zhǔn)確率。

　　意識形態(tài)導(dǎo)致的偏見更不容忽視。經(jīng)濟(jì)合作與發(fā)展組織發(fā)布的《2023年數(shù)字教育展望：邁向高效的數(shù)字教育生態(tài)系統(tǒng)》報告中警示道，數(shù)字工具并非盡善盡美，即使是某些最前沿的技術(shù)也可能存在不足。例如，這些工具可能會生成帶有偏見的內(nèi)容，或強化既有偏見，一些基于人工智能的工具已被證實，對特定群體的影響強于其他群體。

　　采訪中，胡杰輝向記者展示了一段與生成式人工智能模型互動的情景。他輸入了一個簡單的問題：“中國在巴黎奧運會上的表現(xiàn)如何？”不同地區(qū)用不同語料開發(fā)的人工智能大模型進(jìn)行互動時，所得到的回答，在內(nèi)容準(zhǔn)確性、豐富度和情感表現(xiàn)力等方面存在明顯差異。

　　為此，王鑫指出，雖然AI模型本身尚未具備自我意識，但它們可以通過訓(xùn)練以反映特定的文化和價值觀。國外開發(fā)的生成式人工智能大模型基于外文數(shù)據(jù)訓(xùn)練而成，生成的內(nèi)容必然承載著國外的價值觀。“對中國來說，推進(jìn)本土語言大模型的發(fā)展至關(guān)重要，也尤為迫切。”他說。

　　胡杰輝對此持同樣的看法：“生成式人工智能的產(chǎn)品會影響人甚至塑造人，因此必須符合倫理要求，尤其在教育領(lǐng)域要與學(xué)生的健康、智慧成長目標(biāo)相契合�！�

　　人機(jī)互動重在高質(zhì)量提問

　　一味地?fù)?dān)憂和排斥顯然不切實際。更多教育工作者關(guān)心的是，在人工智能驅(qū)動的世界里，如何確保Alpha世代不被人工智能“馴化”？

　　享受AI工具便利的同時，新的挑戰(zhàn)隨之而來——如何辨別那些可能有意誤導(dǎo)的信息，或受意識形態(tài)影響而偽造的知識。

　　受訪者一致認(rèn)為，提高“人機(jī)互動”水平以及培養(yǎng)高階思維能力，是現(xiàn)代學(xué)習(xí)者的一項重要目標(biāo)。而人機(jī)互動中提問能力的重要性，在外國學(xué)者的研究中被頻繁提及。

　　倫敦國王學(xué)院教授奧古茲·阿卡爾在世界經(jīng)濟(jì)論壇網(wǎng)站上撰文表示，在人工智能驅(qū)動的世界里，一個重要的技能是學(xué)會高級的“問題表述”（Question Formation）。

　　“培養(yǎng)‘人機(jī)互動’的能力必不可少�！焙�杰輝認(rèn)為，這種能力包含擅用問題獲得更豐富的答案，并能在與人工智能的對話中識別潛在的誤導(dǎo)信息和偏見。

　　但真實情況是，當(dāng)前包括Alpha世代在內(nèi)的青少年，在提問能力上明顯存在不足。

　　阿卡爾認(rèn)為，AI大模型對有效描述問題的能力提出了較高的要求，要在描述中劃定問題的邊界、對回答模式進(jìn)行創(chuàng)造性重構(gòu)和引導(dǎo)，進(jìn)而讓AI大模型給出的答案超越傳統(tǒng)范式。

　　胡杰輝進(jìn)一步分析，有效提問不僅是能提出一般性問題，更是在深度理解有關(guān)材料后，經(jīng)過批判性思考，提出更高質(zhì)量的問題。

　　提出高質(zhì)量問題有賴于提問者的社會經(jīng)歷和知識儲備，青少年在頻繁的人機(jī)互動中，實際上是有可能超越年齡局限，提前掌握高超提問技巧的。

　　年輕人能駕馭這些AI工具，而不是被動依賴它們，在被訪者看來，是未來教育的重要方向。而對于新世代來說，會用并且用好AI工具，已成為他們自我成長的全新路徑之一。

　　齊心協(xié)力促進(jìn)科技向善

　　如何引導(dǎo)Alpha世代提升生成式人工智能的使用素養(yǎng)，并為他們營造一個適宜的網(wǎng)絡(luò)環(huán)境，不僅是未成年人保護(hù)工作面臨的難題，更是社會各界必須解決的“數(shù)字時代人類文明如何發(fā)展”的重要課題。

　　“政府、技術(shù)開發(fā)商、教育工作者和家長如今不僅是利益共同體，更是發(fā)展共同體�！焙�杰輝說。

　　家長作為孩子們的第一任老師，地位舉足輕重。他們需要引導(dǎo)孩子面對生成式人工智能模型，既要讓其認(rèn)識到技術(shù)的力量，更要教會他們負(fù)責(zé)任地使用技術(shù)，培養(yǎng)良好的數(shù)字公民意識。

　　教育工作者更是數(shù)字時代背景下的一線實踐者。王鑫一直在高校開展關(guān)于生成式人工智能大模型的培訓(xùn)，幫助教師和學(xué)生提升相關(guān)技能。

　　胡杰輝認(rèn)為，借助AI開展個性化學(xué)習(xí)不是讓學(xué)生“放羊”，教師依然需要承擔(dān)起教育的主體責(zé)任�！凹夹g(shù)迭代太快了，學(xué)生必須成為終身學(xué)習(xí)者，教師也要幫助他們了解人工智能技術(shù)背后的原理和倫理底線，這代人方能成長為既有技術(shù)頭腦、又有社會責(zé)任感的新一代�！彼�說。

　　而教師的同理心以及師生之間的有效情感交流仍至關(guān)重要。“至少在未來五到十年內(nèi)，甚至更長遠(yuǎn)的階段來看，AI大模型無法完全替代教師的角色�！蓖貊握f。

　　以“人的智慧成長”為導(dǎo)向，通過人工智能技術(shù)促進(jìn)學(xué)習(xí)環(huán)境、教學(xué)方式和教育管理的智慧轉(zhuǎn)型，成為學(xué)校在人工智能時代面臨的新任務(wù)。

　　胡杰輝崇尚“科技向善”。他始終高度關(guān)注生成式人工智能模型技術(shù)供應(yīng)商的行為。“相關(guān)技術(shù)公司在開發(fā)人工智能產(chǎn)品時，要肩負(fù)起歷史責(zé)任感，主動設(shè)置倫理底線。人工智能產(chǎn)品如果沒能實現(xiàn)經(jīng)濟(jì)效益與社會效益的雙贏，就是失敗的技術(shù)應(yīng)用�！�

　　“對政府而言，在推動技術(shù)創(chuàng)新的同時，還應(yīng)關(guān)注人工智能的倫理問題和社會影響�！蓖貊握f。

　　記者了解到，北京市海淀區(qū)檢察院攜手科技企業(yè)，推出首個未成年人保護(hù)AI智能體，旨在為未成年人的保護(hù)提供更精準(zhǔn)的技術(shù)支持。

　　作為一名教育工作者，唐嘯直言：“在一定程度上，我并不擔(dān)心生成式人工智能帶來的影響。我認(rèn)為教育的使命在于以愛和責(zé)任呵護(hù)下一代的成長，幫助他們迎接未來的挑戰(zhàn)。每一代人都有其獨特的使命和挑戰(zhàn)，只要新一代比前一代更加強大，他們就能夠克服這些困難，勇毅前行�！�

　　相關(guān)鏈接

　　規(guī)范AI發(fā)展全球在行動

　　◆2023年7月，國家網(wǎng)信辦等發(fā)布《生成式人工智能服務(wù)管理暫行辦法》。其中，第十條明確了針對未成年人的特殊保護(hù)要求，要求服務(wù)提供者采取有效措施防止未成年人用戶過度依賴或沉迷生成式人工智能服務(wù)，并對產(chǎn)品進(jìn)行分類提示，避免未成年人接觸不適宜的內(nèi)容。

　　◆2023年9月，聯(lián)合國教科文組織發(fā)布了全球首份生成式人工智能教育和研究指南《教育和研究中的生成式人工智能指南》(Guidance for generative AI in education and research)。該指南提出了規(guī)范AI倫理問題的政策建議，并倡議促進(jìn)包容性和公平性。

　　◆2023年10月，英國教育部發(fā)布了《生成式人工智能在教育中的應(yīng)用》指導(dǎo)文件，提出了該國在教育領(lǐng)域使用AI工具的策略。

　　◆2024年1月，我國正式實施的《未成年人網(wǎng)絡(luò)保護(hù)條例》在自動化決策和算法優(yōu)化領(lǐng)域，引入了技術(shù)賦能的保護(hù)措施，包括“運用采用人工智能、大數(shù)據(jù)等技術(shù)手段和人工審核相結(jié)合的方式加強對網(wǎng)絡(luò)欺凌信息的識別監(jiān)測”等。

　　◆2024年8月29日，在四川成都舉辦的2024年中國網(wǎng)絡(luò)文明大會上，《生成式人工智能行業(yè)自律倡議》正式發(fā)布，對未成年網(wǎng)絡(luò)行為的保護(hù)是其中的重要內(nèi)容。