2024年2月，东盟在其官网上发布了《东盟人工智能治理与伦理指南》（以下简称“《指南》”），为东盟地区人工智能技术的道德设计、开发和部署提供了全面的指导。2023年9月5日，委员会指定Apple为其操作系统 iOS、浏览器 Safari 和 App Store的看门人。同一天，欧盟委员会启动了一项市场调查，以评估苹果的iPadOS尽管没有达到DMA中规定的数量门槛，但是否构成企业用户接触最终用户的重要门户，因此应被指定为看门人。
01引言
《指南》包括导言、七大指导原则、人工智能治理框架、国家级建议、区域级建议、结论六大章节，旨在帮助东盟各组织负责任地设计、开发和部署人工智能，促进整个地区人工智能框架的一致性和互操作性，并为东盟各国政府、开发者和部署者提供相关建议。本文将对《指南》核心内容进行解读，分析东盟在人工智能领域的前沿治理措施，指出《指南》的意义与不足，为我们在相关领域的活动实践提供指引。
02人工智能治理七大指导原则
为确保人工智能系统的设计、开发和部署符合伦理道德，人工智能治理应当遵循七项核心指导原则：1. 透明度和可解释性（Transparency and Explainability）透明度：披露人工智能系统的使用时间及其在决策中的作用；告知用户人工智能使用的数据及其目的；允许个人在使用人工智能系统时做出知情选择。可解释性：以可理解的方式传达人工智能决策背后的推理；帮助用户理解人工智能如何做出决策，从而增进信任；提供从简单文字到影响人工智能决策的详细因素的各种解释。2. 公平与公正（Fairness and Equity）：人工智能系统应避免歧视，确保公平对待不同人群；用于人工智能的数据集应具有多样性和代表性，以防止偏见；在数据收集、培训和部署阶段，应采取措施减少潜在的偏见。3. 安全与稳妥（Security and Safety）安全性：保护人工智能系统免受恶意攻击，如数据中毒和模型反转；实施强有力的网络安全措施，包括身份验证、加密和零信任框架等；定期进行软件更新和适当的访问管理，以保护人工智能系统。稳妥性：确保人工智能系统不会对人类造成伤害，并有人工干预机制；进行风险评估，并对不安全的决策实施保障措施；在人工智能决策过程中优先考虑公众和用户安全。4. 以人为本（Human-centricity）：人工智能应增进人类福祉和社会效益；人工智能系统不应利用弱势个体；进行影响评估，以了解和减轻对用户的潜在负面影响；避免欺骗用户的操纵性设计。5. 隐私与数据管理（Privacy and Data Governance）：在整个人工智能生命周期中尊重数据隐私和保护法律；确保数据收集行为透明并获得必要的同意；实施数据保护框架并定期审查，以符合适用法律。6. 问责与诚信（Accountability and Integrity）：为人工智能决策和运营建立明确的问责制；遵守法律、道德和内部治理标准；确保人工智能系统故障和纠正措施的透明度，以防止未来问题的发生。7. 稳健性和可靠性（Robustness and Reliability）：确保人工智能系统能够抵御错误和意外情况；进行严格测试，确保在不同情况下性能一致；这些原则构成了人工智能道德治理的基础，指导企业开发符合社会价值观和道德标准的人工智能系统。
03人工智能治理框架
该文件在组织内部负责任地管理人工智能系统提供了详细的指导方针和框架，该框架包括内部治理结构、人类参与决策、运营管理和利益相关者互动四大领域：1. 内部治理结构和措施各组织应建立或调整内部治理结构，以监督人工智能活动。这可能包括设立一个中央管理机构，如人工智能伦理咨询委员会或伦理委员会，由来自伦理、法律、技术、隐私等不同领域的专家组成一个多学科团队。管理机构应制定标准、指南、工具和模板，以支持负责任地设计、开发和部署人工智能系统。要明确界定参与人工智能治理的人员的角色和职责。应当确保法律、财务、安全、产品和服务等各职能部门在任何委员会或监督团队中的代表性，并为参与人工智能管理的人员提供培训和资源，让他们了解法律和道德方面的考虑因素，以及他们维护用户利益的责任。此外，还要对整个人工智能生命周期的治理模式和控制措施的有效性进行定期评估。有效管理人工智能系统的潜在风险。提供培训计划，确保员工了解与人工智能相关的道德和法律问题。2. 确定人工智能辅助决策中的人工参与程度政府、企业等组织应根据风险评估确定人工智能决策过程中适当的人类监督程度。根据风险水平，可以采用人类参与的不同模式，包括人类在环、人类监督、人类脱环：
- 人类在环：人工智能系统仅提供建议，最终决策由人类做出。这种方式适用于那些需要高水平安全性和可靠性的场景，例如医疗诊断和法律判决；
- 人类监督：人类监督人工智能决策过程，并在必要时进行干预。这种方式适用于那些人工智能系统具有一定自主性，但仍需要人类监督以确保其决策正确性的场景；
- 人类脱环：在这种模式下，人工智能系统自主做出决策，无需人类干预。这种方式适用于那些人工智能系统在高速度和高频率下运行且无需人类干预的场景，例如某些金融交易算法。
各类组织应保持详细的文档记录，以追踪和记录人工智能系统的风险评估和决策过程。这些记录不仅有助于内部治理，还可以在需要时向外部利益相关者展示组织的透明度和问责制。3. 运行管理组织应管理人工智能系统的整个生命周期，包括项目治理、问题定义、数据收集和处理、建模、结果分析、部署和监控。这一生命周期通常是迭代的，需要持续评估和改进。在生命周期的每个阶段，组织都应对人工智能进行风险评估，识别和减轻人工智能系统可能带来的风险。特别是在数据收集和处理阶段，应确保数据的质量和代表性，以避免偏见和不公平的结果。确保用于人工智能系统的数据具有代表性。数据管理应包括数据收集、处理、存储和分析的所有方面。组织应实施严格的数据管理政策，确保数据在整个生命周期中保持完整性和安全性。记录数据来源、定期评估和更新数据集、采用多样且具有代表性，以减轻偏见并确保人工智能结果的公平性。通过对数据集进行定期审查，识别和纠正潜在的偏见，确保人工智能系统的输出是公正和准确的。4. 利益相关者的互动与沟通在人工智能系统的整个生命周期内，通过确保透明度和提供有关人工智能在产品和服务中的应用的一般披露，与利益相关者建立信任。建立沟通渠道，以便用户提供反馈或进行咨询并对相关意见进行反馈。采取措施帮助员工适应人工智能增强的工作环境，包括提供培训和资源以了解人工智能的影响。
04国家级建议
为帮助东盟各国政府推动人工智能技术的负责任发展和应用，文件给出的建议涵盖了人才培养、创新生态系统支持、研究与开发、公众意识提升以及治理工具的推广等方面：1.培养人工智能人才并提升劳动力技能政府应制定政策，鼓励教育机构和培训中心提供与人工智能相关的课程和培训项目，覆盖从基础到高级的各种水平；推动建立公私合作伙伴关系，提供实习和学徒机会，让学生和从业人员在实际环境中学习和应用人工智能技术；支持终身学习计划，确保劳动力能够不断更新技能，跟上技术发展的步伐。2.支持人工智能创新生态系统并促进人工智能初创企业投资政府应提供资金和政策支持，鼓励人工智能初创企业的成立和发展，如设立专项基金、税收优惠等；建立创新中心和孵化器，提供技术支持、办公空间和网络资源，帮助初创企业成长；促进跨行业和跨国界的合作与交流，推动人工智能技术的应用和推广。3.投资人工智能研究与开发政府应资助人工智能研究项目，特别是那些关注人工智能安全性、伦理性和治理的项目；支持建立研究机构和实验室，鼓励学术界和工业界合作，推动人工智能技术的基础研究和应用研究；通过奖励计划和竞赛，激励创新和突破，推动人工智能技术的发展和应用。4.提高公民对人工智能在社会中影响的认识政府应开展公众宣传和教育活动，通过各种渠道向公众普及人工智能知识和信息；编写和发布易于理解的人工智能指南和手册，帮助公民了解人工智能技术及其影响；组织社区讨论和公众论坛，提供与人工智能专家直接对话的机会，解答公众疑问。
05区域级建议
1.成立一个东盟人工智能治理工作组，以推动和监督区域内的人工智能治理举措。工作组应由东盟各成员国的代表组成，协同推进《指南》中提出的建议。2.开发针对AIGC的治理框架，涵盖AIGC的独特风险和挑战，如虚假信息、深度伪造和隐私侵权等问题。制定明确的标准和流程，以区分AI生成内容与真实内容，确保信息的真实性和透明度。3.汇编展示在东盟运营的组织实际应用《指南》内容的案例展收集和分享区域内成功实施《指南》的实际案例，以激励其他组织遵循负责任的人工智能实践。通过展示这些案例，帮助组织宣传其作为负责任人工智能从业者的形象，增强公众对人工智能技术的信任。4.通过区域合作，加强东盟国家在人工智能治理方面的一致性，确保人工智能技术的负责任发展和应用。定期组织区域性会议和研讨会，分享各国在人工智能治理方面的经验和最佳实践。建立区域性的人工智能治理标准和政策框架，促进跨国界的协同与合作。设立区域性的人工智能研究中心和创新实验室，支持前沿技术的研究与开发。促进跨国界的学术交流与合作，共同解决人工智能技术面临的挑战。
06意义与不足
《东盟人工智能治理与伦理指南》提供了详细的原则和框架，有利于确保东盟区域内人工智能技术的开发和应用符合伦理和法律标准。这不仅有助于提升人工智能技术的社会接受度，还可以减少潜在的法律和伦理风险。通过实施国家和区域层面的建议，各国政府和组织可以更好地应对人工智能技术带来的机遇和挑战，实现经济和社会的可持续发展。《指南》虽然给出了国家级建议和区域级建议，但是都比较宏观不够具体，在落地实施中可能会遇到一些困难。东盟内不同地区和国家之间对于人工智能技术治理的态度，相关的法律规定也存在显著的差异，不同国家和地区的文化和价值观差异会影响对AI技术的接受程度和理解，这在指南中未能充分考虑。《指南》没有约束力，并没有提到监督和评估机制。《指南》并没有与之配套的法律条文或监督体系，对人工智能治理效果的监督和评估机制描述不足，缺乏明确的评估标准和方法。
来源｜东盟官网
编译｜尚健
审核｜肖嘉晨
Last modified: 2024年 5月 27日
