人工智能（AI）正越来越多地应用于利用信息技术的各个行业，并有望成为主要的经济驱动因素之一。但人工智能也会暴露出一些问题，主要表现在以下几个方面：
1. 通过对数据的大规模收集、使用，可能威胁隐私或引起隐私泄露；
2. 由于不透明的算法和数据分析所导致的对特定群体或个人的不公正对待；
3. 算法运行过程中的安全行、可控性，因不可控而造成的损害由谁来承担，安全责任的问题。
2023年12月，ISO发布全球第一部的人工智能管理体系标准，即ISO/IEC 42001。该标准是为提供或使用基于人工智能的产品或服务的实体设计的，规定了在组织内建立、实施、维护和持续改进人工智能管理系统(AIMS)的要求，以确保负责任的开发和使用人工智能系统。
建立人工智能管理体系给客户带来的收益包括：
1. 重点放在Al独有的特征上，通过采取不同的保障措施实施控制。采用人工智能管理体系管理是组织的战略决策；
2. 负责任地开发和使用 、维护AI系统 、确保数据安全与隐私安全，保护生命周期中的安全性、公平性、透明度；
3. 减少人工智能（AI) 系统应用对个人、群体、社会的不利影响。
