网络安全专业人员的目标是帮助组织保护他们的信息和IT基础设施. 他们的主要目的是避免负面影响, 不仅仅是对他们客户的澳门赌场官方下载, 也关系到他们的客户和用户的生活. 在过去的几年里, 随着数字化和物联网(物联网)和人工智能(AI)等新兴技术的使用改变了服务与生活互动(并改变)的方式，这些影响急剧增加. 网络安全专业人员的工作已经发展到应对这些新的影响和相关的道德问题.
新担忧
在2000年代中期，我为电信运营商进行了不同类型的项目. 我从事防欺诈工作, 检测利用移动交换机漏洞的SIM卡克隆攻击. 我还参与保护提供新兴云服务(主要是web和邮件托管)的数据中心。. 需要这项工作来帮助组织检测和控制可能对其客户造成伤害的攻击, 比如支付额外的电话费，或者无法访问他们的网络或电子邮件账户. 当时，网络攻击对用户生活的影响仍然很低.
从那时起，情况发生了变化. 现在，大多数组织提供的服务都是基于数据的，需要加以保护, 比如娱乐领域使用的推荐引擎.g.(如Netflix)、银行业务或虚拟助理(如Netflix)中使用的自然语言处理(NLP).g.Alexa). 随着用户对新兴技术的依赖程度越来越高，网络攻击的影响也越来越大. 这种依赖导致了新的风险场景和后果，例如:
- 虚拟助手对用户的反应不恰当，因为它们没有被正确编程. 例如, in 2016, 泰河, 微软的Twitter人工智能聊天机器人, 通过发表歧视女性和种族主义言论，表现出这种不恰当的偏见行为.1
- 带有偏见的人工智能决策工具. 例子包括COMPAS, 这是法庭上用来预测未来犯罪的人工智能工具, 表现出对美国非裔被告的偏见,2 以及亚马逊基于机器学习(ML)的招聘工具, 在技术职位上，男性求职者比女性求职者更受青睐.3
新兴技术为更多的风险情景打开了大门，这些风险不仅与偏见和缺乏人类尊严有关, 但也缺乏透明度, 人类自主性的丧失, 安全与, 当然, 网络安全和隐私. 世界各地的组织已经提出了这些担忧，并推出了100多个标准和框架，以确保在人工智能和物联网驱动的技术设计中包含以人为本的价值观. 这些标准包括《澳门赌场官方下载》，4 电气和电子工程师协会(IEEE) 7000标准，以解决系统设计期间的道德问题,5 《澳门赌场官方软件》;6 以及最近联合国教科文组织关于人工智能伦理的全球协议.7
与此同时，加拿大、8 中国9 俄罗斯10和美国11 在欧盟国家，12 是否制定了法规，以保护其公民在其人工智能国家战略中免受基于人工智能的服务的潜在滥用. 尽管明确的监管尚未出台，但IBM等大型科技澳门赌场官方下载、13 英特尔,14 微软,15 谷歌,16和Facebook,17也会为发展人工智能服务推出道德标准吗.
新兴技术为其他风险情景打开了大门，这些风险情景不仅与偏见和缺乏人类尊严有关，还与缺乏透明度有关, 人类自主性的丧失, 安全，当然还有网络安全和隐私.
使这些框架和即将出台的法规具有可操作性，并确保新兴技术值得信赖, 需要一种新的专业人员类别:有道德的新兴技术专家. 网络安全和隐私风险是问题的一部分, 但从业者现在也需要解决保障人类尊严的问题, 避免偏见, 透明度和确保并非所有决策都是在没有人类监督的情况下自主做出的. 一些大学已经将这些主题纳入了相关学位的教学大纲, 而且已经有专门的专业认证了.18
管理这些新的风险场景可以被视为网络安全中已经完成的工作的延伸:检测漏洞和威胁, 申请保护, 监视意外活动并处理事件. 可以使用工具来解决道德风险，例如人工智能公平36019 来自IBM的偏差检测或ML解释性资源，如LIME20 和世鹏科技电子.21 同时，越来越多的组织开始提供这些类型的服务和产品.
但事情并不像网络安全那么简单. 例如, 网络安全从业者可以精确地识别一个事件是否是一个可以被利用来破坏系统的漏洞，或者不是. 然而, 当所有设计师都来自同一群体并拥有相同的信仰体系时，确定聊天机器人何时行为不当(因为它可能非常主观)或避免人工智能决策工具中的偏见并不总是那么容易. 解决诸如此类的问题, 有道德的新兴技术专家必须与多学科团队合作，并准备好创建识别新风险领域的新概念.
结论
许多医院都有伦理委员会，帮助临床医生处理临床实践中提出的挑战. 一个类似的方法可以作为一个例子，说明道德新兴技术专家如何解决与新兴技术使用增加带来的转变和风险有关的道德问题.
2021年11月, Frances Haugen, 她揭露了Facebook是如何把利润看得比人重要的, 损害用户的健康和安全，威胁民主, 他表示，即将出台的法规有可能为在线平台设定全球标准. 如果不优先考虑这些法规的制定和执行，“我们将失去这一千载难逢的机会，使技术和民主的未来保持一致。.”22 有道德的新兴技术专家将是支持这些法规的关键人物.
尾注
1 文森特,我.; “Twitter在不到一天的时间里教会了微软的人工智能聊天机器人成为一个种族主义混蛋,” 边缘2016年3月24日
2 安格文J.; J. Larson; S. Mattu; L. Kirchner; “机器的偏见,” ProPublica2016年5月23日
3 Dastin, J; “亚马逊放弃了对女性有偏见的秘密人工智能招聘工具，路透社，2018年10月10日G
4 蒙特利尔大学，加拿大，“《澳门赌场官方下载》”
5 电气与电子工程师协会(IEEE)IEEE伦理在自主和智能系统中的应用”
6 欧洲委员会, 诚信道德指引，布鲁塞尔，2019
7 联合国，”193个国家通过有史以来第一个关于人工智能伦理的全球协议，《澳门赌场官方软件》，2021年11月25日
8 加拿大政府，”负责任地使用人工智能(AI)， 2021年10月12日
9 OneTrust数据指导，”中国:科技部发布新一代人工智能道德准则， 2021年10月11日
10 俄罗斯人工智能联盟人工智能道德准则”
11 着陆器,E.; A. Nelson; “美国人需要一个人工智能世界的权利法案,” 《澳门赌场官方下载》杂志2021年10月8日
12 欧洲委员会, 关于欧洲议会和理事会制定人工智能协调规则(人工智能法案)和修改某些联盟立法法案的法规提案，布鲁塞尔，2021年4月21日
13 IBM。”AI伦理”
14 英特尔。”人工智能造福人类”
15 微软。”将原则付诸实践”
16 谷歌。”人工智能:我们的原则”
17 Pesenti J.; “Facebook负责任人工智能的五大支柱，《澳门赌场官方软件》，2021年6月22日
18 CertNexus。”认证道德新兴技术专家”
19 IBM研究院信任人工智能。”AI公平性360”
20 GitHub。”h2oai / mli-resources”
21 GitHub。”slundberg /世鹏科技电子”
22 欧洲议会，”Frances Haugen对欧洲议会议员说:欧盟数字规则可以改变世界游戏规则， 2021年11月8日
巴勃罗·巴拉林·乌西托, 中钢协, CISM, CDPSE, CEET, CEHv9, CISSP, CSX-F, TOGAF, Iso 27001:2013, Iso 20000 li
Balusian S的网络安全专家和联合创始人.L. 他提供与网络安全相关的咨询和战略服务(首席信息安全官即服务), 虚拟CISO), 道德与可信赖的人工智能. 最近, 他曾协助过许多不同领域的组织，包括零售业, 银行, 电信, 公共管理部门, 媒体, 以及欧洲和南美的娱乐活动. Usieto还是一名安全教授，一名活动发言人，ISACA董事会成员® 瓦伦西亚(西班牙)分会和阿拉贡工业网络安全中心(CCI)协调员, 西班牙. Usieto感兴趣的是发现新兴技术(例如.g., 脑-机接口, 物联网, AI, 智能城市)影响用户的行为, 生命和身体的隐私, 伦理问题和生存风险. 他通过研究与制造商分享这些知识, 咨询顾问, 教育服务和标准建议.