人工智能:达摩克利斯之剑?

人工智能:达摩克利斯之剑?
Author: Ravikumar拉马钱德兰, CISA, CISM, CGEIT, CRISC, CDPSE, OCP-Oracle云架构师, CISSP-ISSAP, SSCP, CAP, PMP, CIA, CRMA, CFE, FCMA, CIMA-Dip.MA, CFA, CEH, ECSA, CHFI, MS (Fin), MBA (IT), COBIT-5实现者, 认证COBIT评估员, ITIL 4 -管理专业人士, TOGAF 9认证, 认证SAFe5敏捷师, Chennai, India
发表日期: 2019年12月13日

“人工智能(AI)被证明是一把双刃剑. 虽然大多数新技术都是如此, 人工智能刀刃的两面都要锋利得多, 两者都没有得到很好的理解.” ——麦肯锡季度2019年4月

在希腊神话中, 朝臣达摩克利斯被迫坐在一把仅悬一根头发的剑下,以强调国王命运的不稳定性. 因此,表达“达摩克利斯之剑”的意思是一个始终存在的威胁.

比喻地使用这个成语, 人工智能的用户就像国王, 由于这项尖端技术带来的惊人和令人难以置信的功能, 但由于这种高度可扩展性的危险,他们的头上挂着一把剑.

人工智能:意义与意义
引用一个正式的定义,人工智能是 这是一门创造机器的艺术,这些机器可以执行人类需要智能才能完成的功能.” - Kurzweil 1990.

然而,智力是一个更加难以捉摸的概念. 尽管我们知道,人类需要智慧来解决他们的日常的日常问题, 目前尚不清楚,计算机解决这些问题所使用的技术是否赋予了它们类似人类的智能. 事实上,计算机使用的方法与人类使用的方法非常不同. To illustrate, 下棋的计算机利用其巨大的速度每秒评估数百万个位置,这是人类冠军无法使用的策略. 计算机还使用专门的技术,在筛选大量数据后得出消费者对产品的选择, 确定生物, 语音和面部识别模式.

话虽如此, 人类利用自己的情绪来做出更好的决定, 哪些是计算机(至少目前)无法做到的. Still, 通过发展先进的技术, 人工智能研究人员能够解决许多重要问题, 这些解决方案被用于许多应用中. 在健康和医学领域, 人工智能能够贡献并提供先进的解决方案, 通过提供开创性的见解.  人工智能技术已经无处不在,每天都有新的应用被发现. 根据2019年4月麦肯锡季度报告, 到2030年,人工智能每年可以为全球带来13万亿美元的额外经济产出.

人工智能风险和潜在的补救措施
以及前面提到的所有积极成果, 人工智能带来了无数不同类型的风险, 可能从轻微的尴尬与高度灾难性的, 潜在危害人类. 让我们列举和详细说明人工智能带来的一些已知风险:

1. 缺乏对AI复杂性的全面了解
人工智能在商业领域是一个新现象,许多领导者对潜在的风险因素并不了解, 即使他们被迫接受它由于市场和竞争压力. 后果可能是任何事情,从决策中的一个小错误到导致隐私侵犯的客户数据丢失. 补救措施是让澳门赌场官方下载中的每个人都参与进来,并让他们承担责任,除了在开始人工智能计划之前进行彻底的风险评估外,还要有董事会级别的可见性.

2. Data Protection
大量的数据主要是非结构化的,来自各种来源,如网络, social media, mobile devices, sensors, 和互联网的东西不容易防止丢失或泄漏, 导致违反法规. 需要构建一个强大的端到端流程, 具有健壮的访问控制机制和对需要知道的特权的清晰描述.

3. 技术接口
人工智能主要适用于接口,许多windows可供数据feed来自各种来源. 应注意确保数据流, 业务逻辑和相关算法都是准确的,以避免代价高昂的事故和尴尬.

4. Security
这是一个大问题, 正如ISACA的数字化转型晴雨表所证明的那样, 显示,60%的行业从业者缺乏信心在他们的组织的能力,准确地评估系统的安全性基于人工智能和机器学习. 人工智能适用于大规模的操作, 所以要采取一切预防措施确保周边安全. 逻辑的各个方面, 需要对物理和应用程序安全性进行更严格的研究,否则将得不到保证.

5. 人为错误和恶意行为
保护人工智能免受人类侵害,保护人类免受人工智能侵害. 心怀不满的员工注入恶意软件或错误编码等内部威胁可能会带来灾难性的后果,甚至导致关键基础设施遭到破坏等灾难性事件.  适当监察活动, 职责分离, 高层管理人员的有效沟通和辅导是很好的建议措施.

人工智能的部署可能会导致劳动力中的歧视和流离失所, 也可能导致那些需要与人工智能机器一起工作的人失去生命. 这可以通过提高技能和将人类置于供应链的有利位置来有效地补救,从而使他们在维持客户关系中发挥重要作用. 防止与人工智能相关的工作场所危险, 严格检查脚本和安装故障安全机制, 比如覆盖系统, 会很有帮助.

6. 正确的知识转移与萎缩风险
人类解决问题所需的智力通过程序转移给机器, 这样它就可以在更大的范围内以更快的速度和更高的精度解决同样的问题. Therefore, 应该小心免得代表数据或逻辑是遗漏或错误地明显, 以免导致糟糕的结果和决策,给澳门赌场官方下载带来损失.

因为一个熟练的人会把任务交给机器来完成, 随着时间的推移,人类的这种技能可能会被削弱, 导致萎缩. 这可以通过保持这些关键技能的最新手册来部分补救, 包括灾难恢复机制.

Disclaimer: 本文中表达的观点是作者的观点,并不代表的组织和专业机构,他是相关联的. 

ISACA年度报告

2023
Check mark

2022
Check mark

2021
Check mark

2020
Check mark

2019
Check mark