生成式AI发展建议
世界经济论坛(World Economic Forum,简称WEF)针对生成式AI的发展提出三十条建议,以便利用人工智能的力量塑造创新、公平和繁荣的社会。
生成式AI指的是利用算法和模型,以文本、图片、视频等方法创造内容的人工智能技术。今年四月,WEF与AI Commons联合举办了Responsible AI Leadership会议,旨在指导技术专家负责任地开发和应用生成式AI。
本次WEF提出的建议正是行业专家在本次会议的讨论中达成的共识。这些建议一共由三个部分组成,分别是研究与开发(Responsible Development and Release)、创新与合作(Open Innovation and International Collaboration),以及社会影响(Social Progress)。
生成式AI的研究与开发
WEF认为,为了保护社会免受生成式AI引发的意外影响,应当倡导利益相关者负责任地实施研究和开发。WEF对此提出如下建议:
- 使用精确和共享的术语:利益相关方需要在设计、开发、评估中使用更精确的术语,以便促进有效沟通,建立有效的标准;
- 建立公众对人工智能的预期:利益相关方需要告知用户生成式AI的不确定性和随机性,以便用户对它们有准确的预期;
- 关注人类的价值观和偏好:开发者在研究生成式AI时,需要符合人类规范的价值观和偏好;
- 鼓励多方参与:政策制定者应当促进各方参与到人工智能研发中,提高多样化和包容性;
- 采用严格的基准:测试者需要使用既定的基准对生成式AI进行实验,并全面评估模型的情况;
- 采纳多样的反方意见:测试者可以选择多样化的反方(Red Team,以批判视角分析潜在的弱点和漏洞的人员);
- 采用透明的发布策略:项目方在产品设计中,需要负责任地发布模型,以确保可以识别潜在风险;
- 听取用户反馈:项目方需要使用户能够对模型输出提供实时反馈;
- 增加可追溯性:项目方需要增加人工智能生命周期的可追溯性;
- 确保内容可追溯性:项目方需要追踪内容的生成方式,为用户提供辨别人类生成和人工智能生成内容的区别方法;
- 披露人工智能互动:项目方需要告诉用户,是在与人类互动还是机器互动;
- 建立人类对人工智能的信任:项目方需要考虑透明度、一致性的特点,让用户了解人工智能如何实现结果;
- 实施逐步审查程序:项目方需要指定循序渐进的审查流程,在产品上线前和上线后对人工智能进行监督;
- 制定全面的衡量框架:评估方需要采用多层次的框架,关注产品的技术性能和对社会的影响;
- 采用沙盒环境:利益相关者可以在沙盒环境中合作,确保产品的安全性和合规性;
- 更新知识产权政策:随着生成式AI的创作,监管机构需要重新审查更新知识产权相关法律,对现有内容的归属进行判定;
![生成式AI发展](https://www.setmyai.com/wp-content/uploads/2023/06/Creative-AI-1024x576.jpg)
生成式AI的创新与合作
在创新合作方面,WEF认为各国应当加强学术和行业的沟通。WEF对此提出如下建议:
- 鼓励公私研究合作:公共方和私营方应当促进技术开发生命周期内的合作;
- 建立通用平台:研究人员应当对代码、模型、数据、基准等内容的共同开发和使用作出贡献;
- 支持知识共享:研究人员应当为公众提供计算、数据和模型的开放访问;
- 加强国际合作:国际机构应当促进各国的人工智能合作;
- 建立全球人工智能治理倡议:国际机构应当制定全球人工智能治理倡议,协调人工智能面临的风险和挑战;
生成式AI的社会影响
WEF认为,生成式AI对社会将产生广泛影响,在新的变化面前社会需要有更充分的准备工作。WEF对此提出如下建议:
- 优先考虑社会进步:利益相关方需要确保人工智能技术的社会影响位于首位;
- 提高公众人工智能素养:教育机构需要提高公众对生成式AI的认知,创造知情和参与的氛围;
- 培养整体思维方法:教育机构需要培养用户的多样化思维,为适应人工智能时代做好准备;
- 解决人工智能产生的影响:利益相关方需要了解人工智能对人类互动、知识传播和评价机制的影响;
- 解决社会公益问题:利益相关方需要鼓励人工智能应用于医疗、气候变化等社会公益问题;
- 减少基准设施差异:利益相关方需要增加基础设施公共投资;
- 培养人工智能人才:各国需要采用定向激励、交流计划等方式培养人工智能人才,并在未来服务于公众利益;
- 增加发展中国家的机会:利息相关方需要提高发展中国家在人工智能技术中的参与能力;
- 保护文化遗产:利息相关方需要在人工智能发展同时,保护语言多样性和文化遗产;
参考链接:
The Presidio Recommendations on Responsible Generative AI