人工智能(AI)似乎无处不在, COVID-19大流行等事件刺激了对人工智能的投资，因为组织加快了为日益数字化连接的员工提供动力的计划. 然而, 经过仔细检查, 现实情况是，许多组织在人工智能方面的投资尚未得到回报. 造成这种情况的原因有很多, 包括孤立的或混乱的数据, 数据科学或工程人才负担过重，难以将人工智能功能集成到澳门赌场官方下载应用程序中. 一个经常被忽视或忽视的重要因素是人工智能治理.
在考虑促进创新的因素时，治理可能不是最重要的, 但在人工智能的情况下, 建立良好的治理可能是释放真正价值的关键. 而不是将治理视为一种障碍, 把它想象成一组护栏是有帮助的, 最终, 数据科学和工程团队的力量倍增. 对于地面上的团队来说, 治理提供了要遵循的预先批准的流程, 使他们能够更快地行动并创造创新的新解决方案. 对于首席信息官(cio)和其他利益相关者, 治理以可审计性和透明性的形式确保遵从性, 最终产生更高质量和更好性能的系统, 哪一个。, 反过来, 创造更多价值.
建立治理和实现问责制
人工智能治理至关重要, 但有这么多利益相关者参与其中, 确保每个人都在同一页面上是具有挑战性的. 在缺乏治理的情况下, 许多团队采取“快速行动，打破常规”的方法来构建支持人工智能的解决方案. 这通常会导致影子AI, 或者在没有任何IT或安全监督或治理的情况下，由团体或个人建立的支持人工智能的工具或应用程序的扩散. 而不是担心数据科学家使用来自互联网的糟糕代码库, 为模型管理构建一个集中的系统是很重要的，在这个系统中，所有的东西都被记录下来, 跟踪和安全. 所有与模型背景相关的细节，比如体系结构, 培训框架, 训练数据, 预期的性能, 应该跟踪潜在的偏差和理想的应用, 随着时间的推移，能够轻松地添加或更新版本.
一旦模型被部署到生产环境中, 日志记录是关键——它包括从模型运行开始的所有内容, 作业完成细节和用户操作的基础设施使用情况. 通过建立基于角色的访问控制, 组织还可以限制谁可以访问敏感信息. 这种集中的方法允许所有涉众在一个地方进行合规性审查, 跟踪和监视性能, 并确定效率和优化，以产生增加的价值. 它还可以帮助团队将责任分配给合适的涉众, 确保每个人都对确保高水平的绩效负责.
对可追溯性和遵从性的前瞻性学习也可以实现透明度, 对于人工智能来说，这是一个持续的挑战. 特别是在考虑涉众的角色和质量控制和性能监控的责任时, 可解释性的概念可以打开潘多拉的盒子. 不同利益相关者(e).g., 数据科学家, 工程师, 首席信息官, 审计人员, 最终用户有不同程度的技术敏锐度, 所以可解释性对每个人来说都是不同的. 根据不同的场景，提供太多的信息可能会让人不知所措. 例如, 全球定位系统(GPS)系统可能会根据即将到来的交通情况改变司机的路线. 对于司机来说, 看到新的路线是为了避免减速，这可能是有用的, 但是他们不需要看到每一个细节来了解哪些元数据被捕获导致算法做出推荐. 通过使用清晰的可审计性和治理实践, 组织可以根据特定的用例，对适当的透明度和可解释性级别做出明智的决定. 最终, 这将有助于建立适当的绩效监测和风险缓解程序.
一旦正确遵守, 质量控制和性能监控协议到位, 就有可能开始衡量人工智能项目产生的价值. 虽然衡量人工智能项目的影响曾经是一个难以捉摸的概念，因为影子人工智能, 建立人工智能治理确保所有相关利益相关者都可以跟踪人工智能程序产生的价值.
一旦正确遵守, 质量控制和性能监控协议到位, 就有可能开始衡量人工智能项目产生的价值.
结论
有了正确的基础, 建立适当级别的可审核性和遵从性是可能的, 根据用例或应用程序确定适当的透明度和可解释性水平，并开发使用人工智能技术监控系统性能的程序. 最终, 这使得团队可以专注于创建该技术的应用程序，从而为他们的组织产生更多的价值. 建立人工智能治理为团队提供了一个安全的创新环境，并使首席信息官能够规划和监控人工智能项目的绩效, 同时确保人工智能系统在构建时考虑到公平性.
克里斯汀•劳埃德
他是Modzy的创始人和Go-to-Market的负责人吗. 以这种身份, 她领导Modzy的产品定位和市场适应性研究和分析，同时推动销售实现, 客户服务意识和支持营销策略，以推动增长和保留. 她撰写并撰写了许多关于伦理与人工智能交叉的报告，包括 评估人工智能的伦理风险, 美国国家机器智能战略, 和 AI系统中的偏置放大. 她在伦理和人工智能方面的研究已经被人工智能促进协会(AAAI) 2018年秋季研讨会等会议所接受, 卡内基梅隆大学(匹兹堡, 宾西法尼亚, 人工智能数据发现和重用(AIDR) 2019, 和ISACA® 2018 GRC大会. 在担任现职之前, 劳埃德曾在博思艾伦汉密尔顿公司战略团队工作, 通过检查新兴经济的交叉点，为组织识别新的商业机会, 技术和环境趋势. 她的建议有助于提高组织现有的客户能力，并为新能力的开发提供信息.