來源|多知網

　　編譯|多知網

　　圖片來源|Unsplash

　　9月7日，聯合國教科文組織今日頒布了《生成式人工智能教育和研究指南》，這是全球首份生成式AI相關的指南性文件，旨在促使生成式AI能夠更好地融入到教育。

　　聯合國教科文組織指出，2023年1月，ChatGPT活躍用戶已經突破100萬，但只有一個國家在7月發布了關于生成式人工智能的法規。(組織指的即是《生成式人工智能服務管理暫行辦法》)

　　對比今年7月國內頒布的《生成式人工智能服務管理暫行辦法》，我們會發現，兩份文件都提到了“對AI生成內容進行標識”的重要性;教育行業從業者更要正確考慮倫理原則;要求增加人工審核環節，以免出現大量AI生成的錯誤信源，這對教育行業是重要的信號。

　　除此之外，《聯合國指南》則更全面地分析了生成式人工智能目前存在的風險，借此傳達對教育行業從業者的建議。

　　在AI落地的探索上，《指南》也為未來AI在教育領域的正確使用方法上提供了多個方向，例如使用AI助手促進教學;利用AI生成一對一方案訓練學生的語言、計算機、藝術及編碼學習;幫助有聽力或視覺障礙的學習;利用AI對話進行心理及情緒疏導等路徑。

　　《指南》還建議將使用AI工具的年齡限制為13歲。

　　聯合國教科文組織總干事Audrey Azoulay指出，“生成人工智能可能是人類發展的巨大機遇，但也可能造成傷害和偏見。沒有公眾的參與，沒有政府的必要保障和規章，就無法將其納入教育。聯合國教科文組織的這一指南將幫助決策者和教師最好地導航人工智能的潛力，以滿足學習者的主要興趣。”

　　《生成式人工智能教育和研究指南》包含哪些重點?

　　01

　　圍繞生成式人工智能產生的爭論及其對教育的影響

　　在討論生成式AI的規范性指南之前，相關組織對目前Generative AI(生成式AI，后文簡稱 Gen AI)引起的爭議和風險作出了一系列總結，這些風險，常常被使用者忽略。

　　其中對于教育行業來說，最顯著的影響是：AI生成的大量存在偏差的信息，使學習者獲取的信息源混亂。如果沒有監管，未來的學生學習到的知識很有可能是不準確的、經AI加工提取后的片面信息。

　　《聯合國指南》中提到的風險主要包含以下幾個方面：

　　數字貧困加劇

　　《指南》指出，生成式AI除了在人工智能架構和訓練方法方面的迭代創新之外，還依賴與大量的數據和強大的計算能力，這些創新大多只適用于最大的國際技術公司和少數經濟體(主要是美國、中國、歐洲國家)。隨著獲取數據對于國家的經濟發展和個人的數字機會變得越來越重要，那些無法獲取或負擔不起足夠數據的國家和人民陷入了“數據貧困”的境地。

　　換言之，AI能促進公平，也能加劇不公平，關鍵在于使用者如何選擇。

　　研究者、教師和學習者應該批判地看待一般培訓模式中的價值取向、文化標準和社會習俗。政策制定者應意識到并采取行動，解決因訓練和控制通用模型的差距擴大而導致的不平等惡化問題。

　　超越國家監管適應

　　與此同時，許多開始使用Gen AI的公司發現，維護其系統的安全性越來越具有挑戰性。此外，盡管人工智能行業本身呼吁監管，但關于創造和使用所有人工智能的立法起草工作往往落后于快速發展的步伐。

　　雖然Gen AI可以增強人類完成某些任務的能力，但對推廣Gen AI的公司的控制有限。這就提出了監管問題，特別是在獲取和使用國內數據方面，包括關于地方機構和個人的數據以及在國家領土上產生的數據，需要制定適當的立法。

　　未經同意使用內容

　　正如前面所提到的，一般模型所需大量的數據經常從互聯網上搜集，而且通常沒有任何所有者的許可。許多圖像通用系統和一些代碼通用系統因此被指控侵犯知識產權。

　　研究人員、教師和學習者還應意識到，使用Gen AI創建的圖像或代碼可能會侵犯他人的知識產權，并且他們在互聯網上創建和共享的圖像、聲音或代碼可能會被其他Gen AI利用。

　　AI生成的內容造成信源不準確

　　由于GPT訓練數據通常是從互聯網上提取的，而互聯網上經常包含歧視性和其他不可接受的語言，由于缺乏嚴格的法規和有效的監督機制，生成式AI產生的帶有偏見的材料正日益在互聯網上傳播，使學習者獲得錯誤知識。

　　這一點對教育行業尤其重要，因為生成式AI生成的材料可能看起來相當準確和令人信服，但它往往包含錯誤和有偏見的觀點。這對年輕的學習者來說是一個很高的風險，因為他們對所討論的主題沒有扎實的先驗知識。

　　這也給未來的GPT模型帶來了遞歸風險，這些模型將在GPT模型自己創建的從互聯網上搜集的文本上進行訓練，其中也包括它們的偏差和錯誤。

　　試想一下，如果機構用AI生成課程，卻因缺乏審核傳播錯誤知識，這將對學生造成嚴重的影響。這也對教育者釋放出一個重要信號，基于AI生成的知識的可靠性可能會出現長期問題。

　　缺乏對現實世界的了解

　　文本GPT有時被輕蔑地稱為“隨機鸚鵡”，因為如前所述，雖然它們可以生成看起來令人信服的文本，但該文本通常包含錯誤，GPT從隨機模式開始，并不理解它們的含義——就像鸚鵡可以模仿聲音，但實際上并不理解它在說什么。

　　生成式AI所使用和生成的文本的一般模型與現實世界之間存在脫節，可能導致教師和學生對輸出給予一定程度的信任，而這種信任是不值得的。這給未來的教育帶來了嚴重的風險。事實上，生成式AI并不是基于對現實世界的觀察或科學論證，也不符合人類或社會價值觀。

　　產生深度贗品

　　除了所有生成式AI都存在的爭議之外，Gen AI還可以用來修改或操縱現有的圖像或視頻，以生成難以區分的假圖像或視頻。Gen AIl正在讓制造這些“深度造假”和所謂的“假新聞”變得越來越容易。

　　目前，只有中國、歐盟(EU)國家和美國調整了版權法，以說明生成人工智能的影響。例如，美國版權局(USCopyrigh toffice)裁定，通用系統(如CHATGPT)的輸出不受美國版權法的保護，認為“版權只能保護人類創造力的產物”(US Copyright Office，2023)。而在歐盟，擬議的歐盟人工智能法案要求所有工具開發人員披露他們在構建系統時使用的受版權保護的材料(歐盟委員會，2021)。

　　中國通過其2023年7月發布的關于生成式人工智能的法規，要求將Gen AI的輸出標記為AI生成的內容，并且只承認它們是數字合成的輸出。

　　02

　　促進在教育和研究中創造性地使用生成式 AI

　　當ChatGPT首次推出時，世界各地的教育工作者表達了他們對其生成論文的潛力以及它如何幫助學生作弊的擔憂。

　　與此同時，互聯網上也充斥著在教育和研究中使用Gen Al的建議。其中包括使用它來激發新的想法，生成多視角的例子，制定課程計劃和演示文稿，總結現有的材料，并刺激圖像創作。盡管互聯網上幾乎每天都有新的想法出現，但研究人員和教育工作者仍在研究基因對教學、學習和研究的確切意義。

　　特別是，許多提議用途背后的人可能沒有正確考慮倫理原則，而其他人則是由Gen Al的技術潛力驅動，而不是研究人員、教師或學習者的需求。本節概述了在教育中創造性地使用 Gen Al的方法。

　　教育和研究機構應制定、實施和驗證適當的戰略和道德框架，以指導負責任和合乎道德地使用通用系統和應用程序，以滿足教學、學習和研究的需要。這可以通過以下四個策略來實現:

　　道德原則的制度實施：確保研究人員、教師和學習者以負責任和合乎道德的方式使用通用工具，并嚴格對待輸出的準確性和有效性。

　　指導和培訓：向研究人員、教師和學習者提供有關通用工具的指導和培訓，以確保他們了解數據標簽和算法中的偏見等道德問題，并遵守有關數據隱私和知識產權的適當法規。

　　建立Gen Al提示工程能力：除了特定學科的知識，研究人員和教師還需要工程方面的專業知識，并對Gen Al產生的提示進行嚴格評估。鑒于Gen Al提出的挑戰是復雜的，研究人員和教師必須接受高質量的培訓和支持才能做到這一點。

　　在書面作業中檢測基于Gen Al的剽竊：Gen Al可能允許學生將他們沒有寫的文本冒充為自己的作品，這是一種新型的“剽竊”。一般供應商被要求用“由AI生成”的水印標記其輸出，同時正在開發工具來識別由 AI生成的材料。然而，幾乎沒有證據表明這些措施或工具是有效的。當前的機構戰略是通過人類的嚴格檢測來維護學術誠信和加強問責制。長期策略是機構和教育工作者重新思考書面作業的設計，這樣它們就不會被用來評估一般工具比人類學習者做得更好的任務。相反，它們應該解決人類能做而基因和其他人工智能工具不能做的事情，包括將同情心和創造力等人類價值觀應用于復雜的現實世界挑戰。

　　03

　　未來，生成式AI 在教育場景中的實際應用探索

　　《指南》中提供了一些例子，說明在使用中的協同設計過程如何為研究實踐提供信息，如何協助教學，如何為自定進度獲取基本技能提供輔導，如何促進高階思維，以及如何支持有特殊需求的學習者。

　　用于研究的生成式人工智能

　　基因模型已經證明了它們在擴展研究大綱的視野和豐富數據探索以及文獻綜述方面的潛力雖然可能會出現更廣泛的使用案例，但需要新的研究來定義研究問題的潛在領域和預期結果，以證明有效性和準確性，并確保人類通過研究理解現實世界的能力不會因使用人工智能工具而受到損害。

　　生成Al以促進教學

　　通用通用平臺的使用和特定教育通用工具的設計都應旨在增強教師對其學科的理解以及他們對教學方法的了解，包括通過教師與人工智能共同設計課程計劃、課程包或整個課程。受過預先培訓的輔助會話教師助理或“教學助理的雙胞胎”。

　　根據來自經驗豐富的教師和圖書館的數據，已經在一些教育機構進行了測試，可能具有未知的潛力以及未知的道德風險。這些模型的實際應用過程和進一步迭代仍然需要通過本指南中建議的框架進行仔細審核，并通過人工監督進行保護。

　　生成人工智能作為1:1教練，自定進度獲取基本技能

　　雖然高階思維和創造力在定義學習成果時吸引了越來越多的關注，但基礎技能在兒童心理發展和能力進步中的重要性仍然毋庸置疑。在眾多能力中，這些基本技能包括聽力、發音和寫作。

　　母語或外語，以及基本的計算能力，藝術和編碼。“訓練和實踐”不應被視為過時的教學方法;相反，它應該用通用技術來重新激活和升級，以促進學習者自定進度地練習基本技能，Gen Al工具有可能成為這種自定進度實踐的1:1教練。

　　支持有特殊需要的學習者的生成

　　從理論上講，基因模型有可能幫助有聽力或視覺障礙的學習者。新興的實踐包括為聾人和聽力困難的學習者提供通用字幕或字幕，以及為視障學習者提供通用生成的音頻描述。Gen Al模型還可以將文本轉換為語音以及將語音轉換為文本，以使有視覺、聽覺或語音障礙的人能夠訪問內容、提出問題并與他們的同伴交流。

　　然而，這一功能尚未得到大規模利用。根據前面提到的科文組織在2023年進行的關于政府在教育中使用人工智能的調查，只有四個國家(中國、約旦、馬來西亞和卡塔爾)報告說，它們的政府機構已經驗證并推薦了人工智能輔助工具，以支持殘疾學習者的包容性接入(教科文組織，2023年)。

　　最后，也有人建議，神經系統有可能進行基于對話的診斷，識別心理或社會情緒問題以及學習困難。然而，幾乎沒有證據表明這種方法是有效或安全的，任何診斷都需要由熟練的專業人員進行解釋。

　　04

　　聯合國教科文組織規定：使用人工智能工具的年齡限制為13歲

　　大多數Gen Al應用程序主要是為成人用戶設計的。這些應用程序通常會給兒童帶來巨大的風險，包括接觸不適當的內容以及潛在的操縱。鑒于這些風險，并考慮到繼續圍繞迭代通用應用程序的相當大的不確定性，強烈建議對通用技術進行年齡限制，以保護兒童的權利和福祉。

　　目前，ChatGPT的使用條款要求用戶必須年滿13歲，18歲以下的用戶必須獲得父母或法定監護人的許可才能使用服務。

　　在社交媒體廣泛使用之前，也早在易于使用且功能強大的通用應用程序(如ChatGPT)創建之前，就規定組織或個人社交媒體提供商不得在未經父母許可的情況下為13歲以下的兒童提供服務。許多評論員認為這一門檻太小，并主張立法將年齡提高到16歲。歐盟的GDPR(2016)規定，用戶必須至少年滿16歲才能在沒有父母許可的情況下使用社交媒體服務。

　　各種Gen AI聊天機器人的出現要求各國仔細考慮并公開審議與Gen AI平臺進行獨立對話的適當年齡門檻。最低年齡應為13歲。各國還需要決定自我報告年齡是否仍然是核實年齡的適當手段。

　　各國將需要強制規定一般服務提供者對年齡驗證的責任，以及父母或監護人對監督未成年兒童的獨立談話的責任。

　　05

　　結束語

　　從以人為中心的角度來看，人工智能工具的設計應擴展或增強人類的智力能力和社交技能，而不是破壞它們、與它們發生沖突或取代它們。長期以來，人們一直期望人工智能工具可以進一步整合為可用工具的一部分。

　　為了使人工智能在個人、機構和系統層面上成為人機協作中值得信賴的一部分，2021年聯合國教科文組織關于人工智能倫理的建議所提出的以人為中心的方法將根據新興技術(如基因)的具體特點進一步細化和實施。只有這樣，我們才能確保Gen AI成為研究者、教師和學習者值得信賴的工具。

　　雖然Gen AI應該用于教育和研究，但我們都需要認識到，Gen AI也可能會改變這些領域中已建立的系統及其基礎。由基因引發的教育和研究的轉變，如果有的話，應該以以人為中心的方法進行嚴格的審查和指導。只有這樣，我們才能確保特別是AI的潛力，以及更廣泛地用于教育的所有其他類別的技術，能夠增強人類為所有人建設包容性數字未來的能力。

　　(聲明：本文由多知網編譯，對原文有調整和刪減，轉載本文請在文首注明由多知網編譯。)

　　END