人工智能的倫理與安全
聯合國教科文組織 – 學生人工智能能力框架
聯合國教科文組織的人工智能能力框架將四個主要領域——「以人為中心的思維」、「人工智能倫理」、「方法論和應用」，「以及系統設計」——分為三個層級：理解、應用和創造。它專注於培養學生的態度、能力和知識，以便以倫理和有效的方式利用和構建人工智能，並將人工智能素養框架設為一種跨學科能力，融入課程和教學實踐中。
聯合國教科文組織 – 教師人工智能能力框架
聯合國教科文組織面向教師的人工智能能力框架將五個關鍵領域——「以人為本的思維」、「人工智能倫理」、「基礎知識與應用」、「教學法」和「專業發展」——劃分為三個層級：習得、深化，和創造。其目的是幫助教育工作者提高人工智能素養，利用人工智能改善教與學，並進一步發展相應的能力與專業知識，探索人工智能於教學中的倫理實踐與教學法創新。聯合國教科文組織也針對各個進展層級提供了能力模組，將教師能力與課程目標、學習目標以及情境活動相結合。教師人工智能能力框架旨在為教育工作者、學校領導者與政策制定者提供參考，說明在人工智能時代至關重要的能力演變，並強調教師在教育情境下推動人工智能有效且倫理應用的不可或缺性。
參考文獻:
[1] Miao, F., Shiohira, K., & Lao, N. (2024). AI competency framework for students. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000391105
[2] Miao, F., & Cukurova, M. (2024). AI competency framework for teachers. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000391104
教育局原則/框架
香港教育局（EDB）尚未發布一套獨立的人工智能專屬倫理原則或全面的人工智能治理框架，與聯合國教科文組織（UNESCO）或香港特區政府政府資訊科技總監辦公室相比尚有差距。然而，教育局已將倫理考量納入更廣泛的教育框架和課程資源中。
「香港學生的信息素養」學習框架
2024年，教育局更新了《香港學生資訊素養學習框架》，納入了識別新興技術（如人工智能）所引發問題的素養（教育局，2024）。透過涵蓋法律法規、學術誠信及過度依賴科技的相關課題，該框架彰顯培養學生成為資訊科技倫理使用者的重要性。（參見圖2.1）
香港特別行政區政府原則/框架
倫理人工智能框架
香港特區政府參考其他國家和地區的經驗，制定了政府內部採用的《倫理人工智能框架》，同時作為其他組織在實施人工智能或大數據分析時的一般參考（數碼政策辦公室）。該《倫理人工智能框架》包含兩個主要組成部分：
-
量身訂做的人工智能框架，包括：
-
「倫理人工智能原則」，用以界定人工智能的設計與開發；
-
「人工智能治理架構」，明確人工智能實施過程中的角色與責任；
-
「人工智能生命周期」，定義一個模型，用於構建《人工智能實踐指南》中的操作規範及《人工智能評估》中的評估問題；
-
「人工智能實踐指南」，基於倫理人工智能原則，詳細說明各人工智能生命周期階段的建議實踐。
-
「人工智能評估」，包含一份人工智能應用影響評估範本，該範本的問題與人工智能生命周期各階段相對應，確保在整個人工智能實施過程中皆考慮倫理原則。（參見圖2.2）
參考文獻:
[1] Education Bureau. (2024). “Information Literacy for Hong Kong Students” Learning Framework (2024). Education Bureau, The Government of the Hong Kong Special Administrative Region. https://www.edb.gov.hk/attachment/en/edu-system/primary-secondary/applicable-to-primary-secondary/it-in-edu/Information-Literacy/IL_learningFramework/InformationLiteracyforHongKongStudentsLearningFramework%282024%29_20241029_ENG.pdf
[2] Digital Policy Office. (2024). Ethical Artificial Intelligence Framework. The Government of the Hong Kong Special Administrative Region of the People’s Republic of China. https://www.digitalpolicy.gov.hk/en/our_work/data_governance/policies_standards/ethical_ai_framework/doc/Ethical_AI_Framework.pdf
學校的人工智能倫理框架
1. 教育領域人工智能倫理框架
由 Institute for Ethical AI in Education（尚無官方中文譯名）於 2021 年發布的The Ethical Framework for AI in Education（暫譯：《教育中的人工智能倫理框架》，尚無官方中文翻譯）適用於所有教育層級。該框架旨在支持教育領導者與從業人員在採購與應用人工 智能時，能夠做出知情且合乎倫理的決策。它強調教育者與人工智能開發者之間的共同責任，以確保人工智能工具具備倫理性設計，保護學習者免受傷害，並推動公平且符合教育學原則的使用方式。該框架呼籲開發者保持透明，遵守資料保護相關的法律與政策，並鼓勵所有教育領域人工智能提供者與其倫理目標保持一致。[1]
2. 將人工智能納入教育系統的框架
The Framework for Incorporating AI in an Education System（暫譯：《將人工智能納入教育系統的框架》，尚無官方中文翻譯）概述了三個相互關聯的重點領域，這些領域依賴持續改進並相互支撐：「指導與政策」、「組織學習」與「改進與轉變」（TeachAI，2025，尚無官方中文譯名）。該框架旨在指導教育領導者運用人工智能推動教學與學習的有意義變革。雖然以上領域在不同情境中的處理方式與相互關係可能有所差異，但建立指導與政策、強化學習組織，以及促進持續改進，對於支持由人工智能興起所帶動的轉變至關重要。由於學校需要做出知情且具適應性的決策，此一方法強調「引入、評估與調整」的循環。除了框架之外，TeachAI還提供了人工智能整合的入門工具，以協助提升學校在倫理人工智能應用上的準備度與能力。[2]
3. 教育科技產業面向未來教育的人工智能原則
人工智能技術具有極大潛力，可以改善教學與學習，包括提升學習體驗、教學實踐，以及家庭在教育中的參與度。Software & Information Industry Association（SIIA，尚無官方中文譯名）強調人工智能不應取代教育者或學習體驗，並於 2025 年制定了 Education Technology Industry’s Principles for the Future of AI in Education（暫譯：《教育科技產業面向未來教育的人工智能原則》，尚無官方中文翻譯），旨在透過人工智能技術推進教育目標。該文件以七項原則形成框架，用以指導人工智能的實施，使其以目標為導向、保持透明公開，並兼顧包容性。這些原則建立在教育科技產業應與教育界緊密合作的理念之上，並包含了對企業、教育者與學生的相關考量。雖然這些原則主要著眼於教育科技產業，但學校亦可調整或補充該框架，以在實際採用前評估人工智能工具是否具備倫理性與安全性。[3]
教育工作者的人工智能倫理框架
1. 教育者在教學與 學習中使用人工智能與數據的倫理指引
鑑於人工智能的興起，以及在人工智能系統開發與採用過程中所收集、使用與處理的大量數據，歐洲委員會於2022年發布了 Ethical Guidelines on the Use of Artificial Intelligence (AI) and Data in Teaching and Learning for Educators（暫譯：《教育者在教學與學習中使用人工智能與數據的倫理指引》，尚無官方中文翻譯），以支持學校領導者與教育者。該指引以四個核心倫理考量為基礎：人類自主性（Human agency）、公平性（Fairness）、人性（Humanity）與正當選擇（Justified choice）。在教育領域建立可信人工智能的核心要求包括：「人類自主性與監督」、「透明度，多樣性，非歧視與公平性」、「社會與環境福祉」、「隱私與數據管控」、「技術穩健性與安全性」、及「問責性」。每項要求均附有指導性問題，以協助理解並促進對人工智能應用的反思。此外，指引將教育者與學校領導者的操作建議分為六大方面，每一方面均配有基於真實學校情境的相關問題，包括：使用自適應學習技術以適應每位學習者的能力，使用學生儀表板引導學習者的學習，為特殊需求學生提供個別化干預，使用自動化工具進行論文評分，管理學生註冊與資源規劃，和使用聊天機器人引導學習者與家長完成行政事務。[4]
2. 教育中人工智能與數位技術倫理開發與應用的六項原則
大不列顛暨北愛爾蘭聯合王國的National Association of Schoolmasters Union of Women Teachers（NASUWT，尚無官方中文譯名）於2025年提出了 Six Principles for the Ethical Development and Application of AI and Digital Technologies in Education（暫譯：《教育中人工智能與數位技術倫理開發與應用的六項原則》，尚無官方中文翻譯）。這些原則旨在支持教師、學校領導者及工會代表，在學校中使用人工智能技術時，能夠做出知情且符合倫理的決策。此外，NASUWT還提供了一個框架，用於評估使用人工智能的目的與情境，包括考量誰負責決策、誰對決策有影響、誰的利益受到惠及，以及這些技術如何影響教師的角色與工作條件。這六項原則包括：公共利益與人權（A public good and human right）、促進人類專業能力、人工審查與人際互動（Promoting human expertise, human review and human interaction）、安全與隱私（Safety and privacy）、保障教師工作與勞動權益（Protecting teachers' jobs and securing workers' rights）、促進平等、多樣性與包容性（Promoting equality, diversity and inclusion）及人工智能使用的策略願景（Strategic vision for the use of AI）。[5]
兒童的人工智能倫理框架
1. 面向兒童的人工智能政策指引
聯合國兒童基金會（UNICEF）於 2021 年修訂了 Policy Guidance on AI for Children（暫譯：《面向兒童的人工智能政策指引》，尚無官方中文翻譯），強調在人工智能開發過程中，面向兒童的特定考量至關重要。這是因為人工智能與兒童的互動較為複雜，且人工智能技術對兒童的影響尚未明確。在該指引中，聯合國兒童基金會（Dignum et al.，2021）提出了四項適用於所有情境的總體建議：
-
只要人工智能系統與兒童互動或可能影響兒童，其使用均應符合相關要求，即使該系統原本並非針對兒童開發。
-
在開發與配置人工智能系統時，保障兒童的安全、使用權與參與權。
-
促進多方利益相關者的合作，包括政府與企業。
-
根據當地情況調整人工智能政策，並在適用時與國家發展計畫進行本地化銜接。
此外，指引根據Convention on the Rights of the Child （暫譯：《兒童權利公約》，尚無官方中文翻譯）提出了九項以兒童為中心的人工智能準則，並提供相關考量作為參考依據。在可下載的文件中，這些準則未設定優先順序。
聯合國兒童基金會同時提供了資源與實施工具清單，例如面向家長與青少年的人工智能指南，說明每個群體相關的機會與風險，並提供探索、反思與行動的方式。[6][7]
2. 面向兒童的人工智能工具包
世界經濟論壇（World Economic Forum, WEF）發布了 Artificial Intelligence for Children Toolkit（暫譯：《兒童人工智能工具包》，尚無官方中文翻譯），為企業、家長與年輕用戶提供指導，以支持負責任地開發與使用人工智能。隨著人工智能在生活中的日益普及，WEF 強調其對兒童生活的影響，包括學習、遊戲與互動方式，並強調負責任的人工智能開發的重要性，以確保人工智能工具符合倫理、安全、透明、包容，並尊重兒童權益。WEF 的 FIRST 清單聚焦於確保人工智能的開發與使用是公平（Fair）、包容（Inclusive）、負責（Responsible）、安全（Safe）、以及透明（Transparent）的。WEF根據 FIRST 清單提供了相應的指導方針，並設計了一套人工智能標示系統，涵蓋「年齡」、「可及性」、「感測器」、「網路」、「人工智能使用」和「數據使用」六個方面，以簡單明瞭的方式告知用戶人工智能的運作方式及可選功能。雖然 FIRST 清單主要面向開發者與企業，但其框架的基礎設計可協助教育生態系統中各方，包括教育者、校方領導及政策制定者，做出符合倫理的決策。[8]
參考文獻:
[1] Institute for Ethical AI in Education. (2021). The Ethical Framework for AI in Education. University of Buckingham. https://www.buckingham.ac.uk/wp-content/uploads/2021/03/The-Institute-for-Ethical-AI-in-Education-The-Ethical-Framework-for-AI-in-Education.pdf
[2] TeachAI. (2025). A Framework for Incorporating AI in an Education System. TeachAI. https://www.teachai.org/toolkit-framework
[3] SIIA. (2025). Principles for AI in Education. Software & Information Industry Association. https://edtechprinciples.com/principles-for-ai-in-education/
[4] European Commission. (2022). Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for Educators. Publications Office of the European Union. https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed-92ed-01aa75ed71a1/language-en
[5] NASUWT. (2025). Artificial Intelligence and Digital Technologies. National Association of Schoolmasters Union of Women Teachers. https://www.nasuwt.org.uk/advice/in-the-classroom/artificial-intelligence-and-digital-technologies.html?utm_source=chatgpt.com
[6] Dignum, V., Penagos, M., Pigmans, K., & Vosloo, S. (2021). Policy guidance on AI for children. The United Nations Children's Fund. https://www.unicef.org/innocenti/media/1341/file/UNICEF-Global-Insight-policy-guidance-AI-children-2.0-2021.pdf
[7] UNICEF. (n.d.). Policy guidance on AI for children Version: 2.0 Recommendations for building AI policies and systems that uphold child rights. The United Nations Children's Fund. https://www.unicef.org/innocenti/reports/policy-guidance-ai-children
[8] World Economic Forum (2022). Artificial Intelligence for Children. World Economic Forum. https://www3.weforum.org/docs/WEF_Artificial_Intelligence_for_Children_2022.pdf