原创 智能society
内容摘要：
本报告提出了一套30个以行动为导向的建议，旨在引导生成式人工智能走向有意义的进程。这些建议涉及了涵盖生成式人工智能整个生命周期的三个关键主题：负责任的开发和发布；开放的创新和国际合作以及社会进步。通过实施这些建议，行业相关者可以驾驭人工智能开发的复杂性，并负责任地且合乎道德地利用其潜力。从而有助于人类利用生成式人工智能的力量，减轻其风险，塑造一个更创新、公平和繁荣的未来。
负责任的生成AI:开发与发布
快速发展的生成人工智能系统可能引起不可预见的结果，本节主要评估保护人类社会免受其害的必要性，并据此就生成AI的开发和部署制定负责任的战略。这些建议旨在针对广泛的利益相关者，即人工智能开发人员到政策制定者和用户，其目标是促进人工智能开发和部署的负责任和包容性的过程，从而在生成式人工智能系统继续激增时增强信任和透明度。
1、建立精确与共享的行业术语
在讨论生成式AI模型的能力、局限以及在模型设计、开发、评估和测量时，行业相关者需要使用精确的术语。定义和规范这种专业语言是专家的责任。一旦达成共识，所有相关者都必须一致地采用这一术语。这种方法将提高辨析度，促进有效的沟通，导致各方达成共同理解。最终，它将促进一系列生成式人工智能应用程序建立强有力的、标准的指导方针和法规。
2、建立公众对AI能力及局限的认识
公共和私人部门应优先考虑提高公众对AI的理解。这包括使用与生成公众可以理解的AI模型相关术语。此外，行业相关者应该告知用户生成式AI模型的概率性（这意味着他们的输出不是确定性的，而是基于概率的）和随机性（这意味着他们的操作涉及一定程度的随机行为），同时为性能设置准确的期望。
3、关注人类的价值观和偏好
生成式AI模型与人类价值观和偏好尚存差距，需要进一步认识和解决。人工智能系统的开发者在设计人工智能模型时，应参与讨论规范的价值与偏好。
4、鼓励协调和参与
公共和私营部门应该认识到，AI系统需要多样化的用户基础反馈。决策者应促进不同的利益攸关方，包括非技术方参与人工智能的研究和开发，以确保与人类的价值观相一致。人工智能开发人员应该努力促进与广泛参与者的互动和反馈，以创建一个更具包容性和以人为核心的开发过程。
5、使用严格的基准测试和特定的案例测试
人工智能开发人员应该认识到，不仅要让模型对已建立的最高基准负责，还要超越传统指标并确保以人为核心。基准测试需要特定应用程序和补充测试，以确保对生成AI模型的全面评估。
6、采用多样性的“红色团队”
“红色团队”是一种批判性分析视角的方法，以识别潜在的弱点和改进空间。多样性团队意味着将来自不同性别、背景、经验和观点的成员结合起来，以便进行更全面的参与。公共和私营部门应实施框架和方法，以促进与“红色团队”的合作。
其他建议包括采用透明的发布策略；启用用户反馈；嵌入式模型和系统可追溯性；确保内容可追溯性；公开非人类互动；建立人工智能信任；实施循序渐进的审查过程；开发全面的、多层次的测量框；采用“沙箱”工艺；适应创新和知识产权的发展环境。
开放创新与国际合作
本节讨论技术知识共享与加强国际合作的重要性。尽管前沿研究能力通常集中在少数国家的头部企业中，但学术研究者在研发过程的作用是至关重要的，同时世界各国都应积极参与到生成式人工智能系统的治理中。这些建议是为一系列从业者设计的，包括研究人员、人工智能开发人员、标准制定机构和政策制定者。首要目标是在生成式人工智能的开发、实施和治理中培养透明度、问责性和包容性。
1、鼓励公私部门间进行研究协调
公共和私人相关方应积极设计激励结构，促进学术研究人员和企业之间的更大协调。潜在的合作领域包括联合研究方案、数据共享协议和知识产权分享。
2、建立包含模型、工具、基准测试和最佳实践的通用表
生成AI的生产者和研究人员应建立一个通用表格，包括共同与开放注册源代码、模型、数据集、工具、基准和实践指南，通过平台、学术和私营部门的合作，提升未来模型的系统性，透明性和公众负责性。
3、支持负责任的开放创新和知识共享
决策者和AI厂商应通过负责任的共享资源（包括数据、源代码、模型和研究结果），为人工智能的民主化做出贡献，鼓励共享认证过程，确保各方之间的透明度和信任。可以开发一项公私的长期倡议，以建立面向公共的平台，提供对计算、数据和预先训练的模型的开放访问，该平台可以被视为一种数字公共产品，并支持跨国推广。
其他建议有加强人工智能标准方面的国际合作；建立一个全球人工智能治理计划。
社会进步
本节探讨与AI驱动转变带来的相关阻碍，包括从劳动力转变、教育转变，以及在促进社会利益和倡导发展中国家公平获取人工智能方面的必要性。这些建议旨在针对广泛的利益攸关方，包括教育机构、社区组织、公司、个人、决策者和政府，主要目标是促进培养一个在面对这些新变化时更知情、更融入和更有适应能力的社会。
1、在生成式人工智能的开发和采用中，优先考虑社会进步
相关方应确保技术的社会影响是优先事项。必须向受人工智能社会转变影响的社区和工人提供全面支持，包括学习倡议、指导克服特定人工智能的挑战，并协助应对受AI影响的广泛道德、社会和技术转变，使工人在整个过程中积极参与。
2、推动人工智能的全社会素养
教育机构和社区机构必须采取主动，提高普通公众的人工智能素养。通过一种积极主动的方法来揭开生成式人工智能工具的神秘面纱，概述它们的潜在用途，并讨论它们的伦理含义。这将使个人能够更好地理解并与人工智能互动，培养一个更知情和高参与性的社会。
3、在人工智能驱动的环境中培养整体思维方法
培养多种多样的思维模式（批判性、计算性和责任性思维）以更好地为生成式的人工智能时代应用社会。促进这些跨部门和社区的核心竞争力，使个人能够清醒地参与人工智能生成的内容，了解底层技术，并对其使用做出负责任的决定。
其他建议包括引导生成式人工智能的变革性影响；激励社会公益性创新；解决资源和基础设施之间的差异；在政府内部促进生成式人工智能专业知识；增加发展中国家公平获得人工智能机会；保存文化遗产。
发布时间｜2023年6月
文章来源｜世界经济论坛
原文标题｜The Presidio Recommendations on Responsible Generative AI
原文地址｜https://www.weforum.org/whitepapers/the-presidio-recommendations-on-responsible-generative-ai/（12页）
Last modified: 2023年 7月 19日
