过去的十年见证了人工智能和机器学习(AI/ML)技术的广泛采用。
然而，由于缺乏对其广泛实施的监督，导致了有害的结果，而这些结果本可以通过适当的监督避免。在我们认识到AI/ML的真正好处之前，从业者必须了解如何减轻其风险。本书描述了负责任的人工智能，这是一种基于风险管理、网络安全、数据隐私和应用社会科学的最佳实践，用于改进AI/ML技术、业务流程和文化能力的整体方法。这是一项雄心勃勃的事业，需要各种各样的人才、经验和视角。需要招募数据科学家和非技术监督人员，并授权他们审计和评估高影响力的AI/ML系统。作者Patrick Hall为新一代审计师和评估人员创建了本指南，他们希望让AI系统更好地为组织、消费者和广大公众服务。
- 学习如何创建一个成功的、有影响力的负责任的人工智能实践
- 获取采用人工智能技术的现有标准、法律和评估指南
- 看看公司现有的角色是如何演变为包含负责任的人工智能的
- 研究实施负责任人工智能的商业最佳实践和建议
- 在系统开发的所有阶段学习负责任的人工智能的技术方法
如今，机器学习(ML)是人工智能(AI)中最具商业可行性的子学科。ML系统被用于在就业、保释、假释、贷款和世界各地的许多其他应用中做出高风险决策。在企业环境中，ML系统用于组织的所有部分——从面向消费者的产品到员工评估、后台办公自动化等等。事实上，过去十年带来了ML技术的广泛采用。但它也证明了ML会给运营商和消费者带来风险。不幸的是，就像几乎所有其他技术一样，ML可能会失败——无论是由于无意的误用还是故意的滥用。截至目前，人工智能事件数据库伙伴关系拥有超过1000份关于算法歧视、数据隐私侵犯、训练数据安全漏洞和其他有害故障的公开报告。在组织和公众能够意识到这项令人兴奋的技术的真正好处之前，必须减轻这些风险。直到今天，这仍然需要人们的行动——不仅仅是技术人员。解决复杂的ML技术带来的各种风险需要不同的人才、经验和观点。这种整合了技术实践、业务流程和文化能力的整体风险缓解方法，正被称为负责任的人工智能。
读完本书，读者将了解负责任人工智能的文化能力、业务流程和技术实践。本书分为三个部分，呼应负责任人工智能的每个主要方面。本书的每一部分都进一步分成几章，讨论特定的主题和案例。虽然本书仍在规划和编写中，但《面向高风险应用的机器学习》将以介绍这个主题开始，然后进入第1部分。下面是本书的初步提纲。
第1部分:人类的触觉——负责任的机器学习的文化能力
第一部分针对的是组织文化在更广泛的负责任人工智能实践中的重要性。第一部分第一章的计划涉及呼吁停止快速前进和破坏事物，重点是众所周知的AI系统故障以及相关的词汇和案例。第2章将分析消费者保护法、风险管理模型，以及其他指导方针、教训和案例，这些对人工智能组织和系统中培养问责制很重要。第3章将探讨团队、组织结构和人工智能评估器的概念。第4章将讨论人类与AI系统进行有意义交互的重要性，第5章将详细介绍传统组织约束之外的重要工作方式，如抗议、数据新闻和白帽黑客。
第2部分:为成功做准备——负责任的机器学习的组织过程关注点
第二部分将介绍负责任的人工智能过程。它将从第6章开始，探索组织策略和过程如何影响人工智能系统的公平性，以及令人吃惊的公平性缺失。第7章将概述人工智能系统的常见隐私和安全政策。第8章将考虑管理在美国部署人工智能的现有和未来法律和法规。第9章将强调AI系统的模型风险管理的重要性，但也指出了一些缺点。最后，第10章的蓝图是讨论在未来负责任的人工智能采用的背景下，企业如何听取过去对社会和环境责任的呼吁。
第三部分: 增强人类信任和理解的技术方法
第三部分的议程涵盖了负责任人工智能的新兴技术生态系统。第11章将介绍实验设计的重要科学，以及当代数据科学家如何在很大程度上忽视了它。第12章将总结提高人工智能透明度的两种主要技术:可解释的机器学习模型和事后可解释的人工智能(XAI)。第13章计划深入探讨机器学习模型的偏差测试和补救的世界，并应该解决传统的和紧急的方法。第14章将介绍ML算法和AI系统的安全性，第15章将结束第3部分，广泛讨论AI系统的安全性和性能测试，有时也称为模型调试。