ChatGPT是OpenAI开发的人工智能聊天机器人, 基于其先进的大型语言模型家族. 自2022年11月发射以来, 它在采用流行的社交媒体平台方面已经超过了其他平台, 比如Instagram和TikTok, 并保持着增长最快的用户群记录. 关于ChatGPT自去年年底以来人气飙升的速度,我可以列举出许多统计数据, 但我猜你已经知道了,因为, 像我这样的, 无论你走到哪里,你都能听到人们谈论它.
“完美风暴”中心的聊天
ChatGPT前所未有的采用率凸显了其在当今以数字为中心的世界中重塑沟通和参与实践的变革潜力. 在我最近的演讲中, 在波士顿举行的ISACA数字信任世界会议上的“掌握ChatGPT”, 我强调了过去半年中几个关键事件的汇合, 最终形成了一场“完美风暴”,推动了ChatGPT的崛起.
这场风暴的中心是ChatGPT能力的快速发展, 标志着我们所说的“人工智能时代”或“第四次工业革命”的到来.“我阐明了ChatGPT的转型能力, 尤其是它重塑商业运作的潜力. 就我个人经验而言, ChatGPT已经证明了自己在起草初始文档版本和创建LinkedIn帖子等任务中的价值, 甚至建议合适的表情符号! 然而, 伴随这场风暴而来的是对相关风险的有限理解, 由于缺乏为这种先进的人工智能模型量身定制的监管框架,以及对人工智能驱动的未来不同程度的组织准备,情况进一步恶化.
驾驭“完美风暴”:ChatGPT的含义
ChatGPT的集成, 或者任何人工智能技术, 应该被看作是组织的努力吗. 它要求涉及技术专长的跨学科合作, 法规遵从性, 风险管理和操作理解. 通过确保这种平衡和全面的方法, 组织可以充分利用ChatGPT等人工智能技术的优势,同时降低潜在的风险和陷阱.
在我的研讨会之后, 许多与会者找到我,表达了他们对ChatGPT的好奇和担忧, 其中出现了三个关键主题:
- 将ChatGPT用于治理、风险和遵从性(GRC)角色:与会者对了解这些领域的专业人士如何利用ChatGPT为他们带来好处很感兴趣. 例如,ChatGPT可以帮助评估风险场景吗?
- 引导转型变革成为一个人工智能驱动的组织与会者热衷于探索将其组织转变为人工智能驱动型组织的战略. 他们希望了解如何有效地管理这一转变,同时解决关键风险.
- 减轻劳动力流失对这种颠覆性技术的替代效应的担忧也很突出. 这引发了关于确定最有可能受到影响的角色的讨论,以及如何为提高技能提供机会,并使员工的技能与人工智能驱动的工作场所的新需求保持一致.
为了解决这些问题, 我利用了我的专业知识,并强调了“精通ChatGPT”演讲中的关键概念,以提供本文中所阐述的实用指导.
1. 将ChatGPT用于治理、风险和遵从性角色?
GRC, ChatGPT提供了几个潜在的应用程序, 我在与与会者的讨论中提出了一些实际的例子. 以下是一些值得注意的例子:
- 风险与控制关系: ChatGPT可以提供洞察力 与特定控制相关联的风险,以及用于验证和确认目的的相关文件.
- 政策及管治制定: ChatGPT可以帮助GRC团队制作目标消息传递和建立特定于行业的策略, 加强管治过程.
- 修复的指导:能够提供个性化的推荐, ChatGPT可以概述缓解措施和战略,以解决已确定的差距.
- 导航到流程的上下文更改:在业务经历流程修改的情况下, ChatGPT可以在创建新控件或调整现有控件以满足监管要求方面提供宝贵的建议.
这些实际应用显示了ChatGPT在增强GRC功能方面的变革潜力. 他们展示了它是如何加速决策的, 政策的形成, 补救行动和符合性验证, 从而提高效率和效益.
2. 引导转型变革成为一个人工智能驱动的组织?
不可否认的是,ChatGPT提供了一个变革性的机会, 认识到与它的使用相关的重大风险是至关重要的. 尽管有这么多好处,我们知道ChatGPT也有很多风险:
幻觉 | ChatGPT可以产生不相关、不正确或无意义的反应,称为“幻觉”.例如:, 如果ChatGPT被要求提供训练数据以外的历史信息或关于未来事件的信息, 它可能会产生看似合理但不正确的回应. |
自动化的偏见 | 这是指人类接受自动化系统建议的倾向. 例如, 金融分析师可能会在没有经过充分审查的情况下接受人工智能模型生成的预测, 哪些因素会导致糟糕的投资决策. |
社会的偏见 | 人工智能模型可能会无意中学习并延续它们所接受训练的数据中存在的社会偏见. 例如, 如果ChatGPT是在包含性别或种族偏见的数据集上训练的, 它可能会产生有偏见的反应, 从而强化了有害的刻板印象. |
错误信息 | 如果人工智能模型产生错误或误导性的反应,就会传播错误信息. 例如, 如果ChatGPT被问及阴谋论, 它可能无意中提供了一种似乎验证该理论的反应, 导致虚假信息的传播. |
隐私的影响 | ChatGPT可能会产生侵犯隐私的回复, 特别是当它被用于可以访问敏感数据的应用程序时. 例如, 如果AI模型用于医疗保健设置, 确保它在回应中不会泄露患者的个人健康信息是至关重要的. |
更一般的, 越来越多的人工智能应用加剧了人们对道德的担忧, 公平和负责任地使用协助或取代人类决策的技术. 部署人工智能系统需要仔细监督,以防止意外的结果,不仅是对组织的品牌声誉,而且是对组织的声誉, 更关键的是, 给员工, 个人与社会.
考虑到这些潜在的不利影响, 组织应该做些什么来适应这个新时代? 人工智能准备评估应该是第一步. 评估应该评估组织的当前状态, 确定ChatGPT可以带来好处的潜在用例, 确定业务路线图的优先级,以开发目标用例并解决人员的潜在差距, 可能妨碍有效部署的流程和技术.
人工智能就绪评估示例让我给你举个例子来说明这种方法是如何起作用的. 例如,一个组织可能想要提高他们的客户服务体验. 它可以从关注ChatGPT能力的人工智能就绪评估开始. 这项评估将从审查其目前的客户服务流程开始, 绩效指标和整体客户满意度水平. 下一个, 它将确定ChatGPT可以增强这些领域的潜在用例, 例如全天候客户支持或更快的查询解决方案. 一旦确定了这些用例,组织就可以建立业务路线图. 这可能涉及在客户服务中分阶段地推出ChatGPT, 从试点项目开始验证有效性, 然后是基于成功度量的增量扩展.
人工智能治理框架: 人工智能治理框架是一套原则, 旨在确保道德的政策和流程, 透明和可信地使用人工智能系统. 有几个现有的框架可以加以利用 提供对AI的管理 活动, 比如新加坡的人工智能治理框架模型, 澳大利亚的人工智能伦理框架, 欧盟委员会的人工智能法律框架和AIGA框架.
作为一个开创性的框架, 新加坡的人工智能治理模式框架旨在促进两个基本原则:可解释的必要性, 透明和公平的人工智能辅助决策, 以及以人为中心的人工智能系统的重要性. 该框架的突出之处在于,它提供了最佳实践,为确定人类参与人工智能增强决策提供了指导 进行算法审计. 另一个特点是它的技术不可知论方法, 允许其在不同行业的应用.
可接受的使用政策:尽管使用ChatGPT存在风险, 它提高生产力的潜力不容忽视. 在某些情况下,好处可能大于风险,但并非总是如此. 员工是你的第一道防线——如果你允许他们进入的话, 他们是否意识到潜在的风险? 我认为组织建立管理员工如何使用ChatGPT的策略是至关重要的.
该政策可能包括:
- 对特定用例的限制,以及对已批准应用程序的建议和应该从系统中排除的数据的指导方针. 它可能需要员工来验证模型的输出, 考虑潜在的偏见,并评估相关的风险,如保密, 隐私和知识产权.
考虑到这个领域的快速发展, 我强调持续的风险评估和在组织内保持关于用例的公开沟通的重要性, 机遇与风险. 这种积极主动的方法, 我相信, 允许组织负责任地和有效地利用ChatGPT的好处.
3. 减轻劳动力流失?
在上世纪90年代末和本世纪初, 我见证了互联网作为一个商业平台的崛起, 导致电子商务业务快速增长, 被称为。com时代. 这个时代创造了新的工作角色, 比如网页开发人员和SEO专家, 这在此之前几乎是不存在的. 例如, Web开发人员在网站建设中扮演着关键的角色, 这个任务在这个时代之前几乎不存在. 类似的, SEO专家的出现是为了优化这些网站在搜索引擎排名中的可见度, 一个新的专业领域.
现在,我们正处于人工智能时代,就像互联网时代一样,需要新的角色和技能. ChatGPT正在引起现有角色的转变,并产生新的角色. 例如, 因为AI重新定义了客户服务, 我期待看到人工智能训练师专门改进聊天机器人,使其更像人类的互动. 也, 组织应该识别这些新兴的角色,并投资于提升技能的计划,以装备他们的员工进行转型. 具体地说, 人工智能引入新职业, 比如人工智能伦理学家, 谁来确保人工智能应用符合道德标准和社会价值观, 及时的工程师, 负责优化人工智能模型提示,以获得更高效和有效的响应.
为这种向人工智能集成劳动力的转型做好准备,将使澳门赌场官方下载能够充分利用技术的潜力,同时最大限度地减少相关的中断.
在ChatGPT的“完美风暴”中生存和发展
ChatGPT带来的“完美风暴”, 同时充满了变革的潜力, 随之而来的是我们必须努力应对的挑战. 从重新定义GRC角色到引领人工智能驱动型组织的新时代,以及解决劳动力流离失所的风险, 这场风暴不仅给我们带来考验,也给我们提供了成长的机会.
通过人工智能准备评估来正面应对这些挑战, 建立人工智能治理框架和提高劳动力技能的举措, 我们可以利用风暴的能量. 这种方法确保我们不仅能经受住这场风暴,还能更强大,为人工智能驱动的未来做好更充分的准备. So, 让我们启航吧, 在这令人兴奋的水域航行,眼睛盯着地平线, 期待挑战, 并充分利用我们所面临的机遇. 这段旅程可能很复杂, 但最终的目标——一个人工智能作为增强和进步工具的世界——是值得我们付出努力的.
编者按: 有关更多ISACA关于ChatGPT的指导,请参阅我们的存档网络研讨会, 分解聊天第二部分.” 了解即将在爱尔兰都柏林举行的ISACA数字信任世界会议, 在这里.