采用人工智能——从生成式人工智能到计算机视觉——已经成为竞争的必需品, 不仅仅是一个选择. 随着这些人工智能能力的扩展，它们带来了一系列风险. 风险，定义为“不确定性对目标的影响”，包括潜在的收益和损失. 这一定义强调了对人工智能采取细致入微方法的必要性, 目标不仅是避免不利结果，而且是获得竞争优势.
评估人工智能的风险承受能力:组织的关键第一步
人工智能的核心IT支出预计将从235美元上升.2024年为60亿美元，2027年为5210亿美元， 根据IDC在美国，澳门赌场官方下载面临的风险非常高. 这种投资水平表明了第一步的重要性——彻底评估组织管理不确定性的能力. 例如, 一家大型零售商正计划部署人工智能驱动的库存管理系统，并需要确定其风险承受能力. 同时热衷于利用预测分析来预测需求和自动补充, 零售商还必须考虑到可能导致库存过多或缺货的潜在数据不准确. 通过了解它的风险承受能力, 零售商可以设置错误率阈值，以确保其提高运营效率的动力不会破坏供应链的可靠性.
定义风险管理概念:风险偏好和风险承受能力
风险偏好和风险承受能力是风险管理中的重要概念，它们允许公司通过为可接受的风险建立明确的界限来引导技术采用. 这些术语通常可以互换使用，但是它们具有不同的定义和含义. 下面我们来仔细看看风险偏好和风险承受能力是如何定义的，以及它们的区别:
风险偏好 指组织为实现其目标而愿意承担的风险的数量和类型. 它反映了组织的战略意图，以及冒着遭受损失或面临挑战的风险追求潜在收益的意愿. 这通常是由高层领导设定的，并作为如何在整个组织中处理风险的指导方针
风险承受能力 比风险偏好更具体和可操作. 它量化了组织在特定领域或系统中可以承受的可接受风险水平. 风险容忍度通常被设定为在操作和决策过程中不应超过的阈值或限度(定量或定性).
对于人工智能计划, 风险偏好决定了冒险的基调和界限, 而风险承受能力提供了具体的, 可操作的限制和指导方针，帮助运营团队安全有效地进行日常决策和活动.
一个例子:用于客户服务的人工智能聊天机器人:
考虑一家旅游公司使用人工智能驱动的聊天机器人，通过协助旅行计划来增强客户服务, 预订及查询. 这项技术旨在提高运营效率，并通过按需服务改善客户体验. 然而，它也存在与准确性、可靠性和客户满意度相关的风险. 下面是该场景的风险偏好和风险承受能力声明示例:
| 风险偏好声明 | 风险承受能力声明 |
|---|---|
|
我们公司致力于利用人工智能技术简化客户互动，增强服务交付. 我们接受技术部署的适度风险, 前提是它们能显著提高客户参与度和运营效率. 我们致力于最高标准的数据安全，并遵守相关法规，这表明我们致力于保护我们的声誉，并始终如一地为客户提供卓越的价值. |
我们的人工智能客户支持聊天机器人旨在将旅行预订和查询的错误率保持在1%以下, 确保我们对客户互动的准确性和可靠性的承诺. 我们保持最小的服务中断，系统停机时间不超过0.工作时间的5%. 是否有任何风险超过这些阈值, 我们将迅速制定纠正措施，以配合我们的战略目标，并保持我们尊贵的客户的信任. |
从风险承受能力声明中, 公司确定可接受的阈值和限制, 使用分配给监视器的指标. 这些指标, 其中包括主要表现指标和主要风险指标, 为人工智能驱动的聊天机器人的性能和有效性创建一个评估框架. 这确保了潜在的风险被快速识别和处理, 采取纠正措施以保持准确性, 可用性和客户满意度达到预期水平.
举例:通过指标建立风险阈值
下表详细介绍了用于监控和评估一家旅游公司实施的人工智能驱动的聊天机器人的性能和风险的kpi和KRIs, 符合其风险偏好和承受能力.
| 指标类型 | 指示器 | 描述 | 目标 |
|---|---|---|---|
| KPI |
顾客满意度评分 |
衡量客户对聊天机器人交互的总体满意度 |
满意率95%以上 |
| KPI |
解析率 |
聊天机器人在没有人工干预的情况下解决客户问题的百分比 |
至少90%的分辨率 |
| KRI |
误解率 |
聊天机器人不能准确理解或反应的交互百分比 |
不到1%的误解 |
| KRI |
升级速度 |
由于聊天机器人的限制，聊天会话升级到人工支持的百分比 |
低于10%的互动 |
运用AI的风险承受能力去风险
降低风险包括采取行动将与项目或技术相关的风险最小化, 确保它们与组织定义的风险容忍度保持一致. 下面是一个应用风险容忍度来降低为客户服务设计的人工智能聊天机器人部署风险的示例.
示例:将风险承受能力应用于人工智能聊天机器人客户服务项目
|
第一步:风险识别: |
识别风险:不准确的反应, 数据泄露, 或者不遵守数据保护法规. |
|
第二步:运用风险承受能力 |
低风险承受能力:由于客户数据至关重要，并且由于不正确的信息可能导致声誉受损, 该公司对隐私泄露和错误信息的风险容忍度很低, 目标是小于0.5%的交互产生错误的响应. |
|
第三步:降低风险策略: |
概念验证(POC):聊天机器人首先在一个有限用户群的受控环境中进行测试，以验证其功能，并在低风险环境中识别任何关键问题 敏捷方法:该公司使用敏捷开发来基于实时反馈迭代改进聊天机器人, 允许对任何新出现的风险或问题作出快速反应 控制:对数据存储进行强加密, 全面记录透明度, 验证协议验证响应的准确性和适当性，以符合公司的低风险容忍度 |
|
步骤4:持续的风险监控 |
性能:定期监控聊天机器人的性能，以检测和响应操作问题或与预期结果的偏差. |
这种方法允许组织使用其风险承受能力来识别超过其可接受阈值的风险，并实施缓解措施以降低AI聊天机器人部署的风险.
导航人工智能的不确定性:风险承受能力是我们值得信赖的指南针
风险容忍度是组织衡量他们在实施人工智能技术时愿意承担多大风险的关键工具. 这个概念对于平衡人工智能的潜在好处和它可能带来的挑战至关重要, 比如数据隐私问题, 结果有偏差或业务中断. 随着技术的快速变化，拥有清晰的风险承受能力就像一个可信赖的指南针. 它引导组织以信心和明确的方向应对新的挑战. 这种谨慎的做法确保了进展是经过深思熟虑和安全的, 将AI变成一个有价值的盟友，而不是一场冒险的赌博.