可解释性是企业人工智能应用不可或缺的要素，它直 符号人工智能最 接影响着人工智能技术产生的商业价值和整体的可持续性。
组织必须提供可解释性的原因有很多。最直接的原 符号人工智能最 因与法规遵从性有关。有几项法规要求组织解释 AI 流程的结果，从而做出影响保险范围、信贷、贷款等的决策。那些未能提供可解释 AI 的人可能会受到包括客户在内的多方诉讼。
此外，人们需要完全可解释性才能真正信任人工智能系统——无论是内部还是外部。客户需要知道人工智能应用程序正在对他们做出公平的决策。更重要的是，可解释性对于人工智能的质量保证和商业用户采用这些技术是必不可少的。
什么是可解释性？
可解释性是指以文字形式逻辑解释 AI 应用程序产生特定结果的原因。它与可解释性类似（但最终有区别），可解释性是指理解模型的数值输出对业务问题意味着什么的能力。
可解释的人工智能对于语言理解应用至关重要，这些应用通常专注于认知处理自动化、文本分析、对话式人工智能和聊天机器人。统计人工智能有几种可解释性技术，其中一些技术性很强。尽管如此，创建可解释性的最简单、最容易获得和最有效的方法是使用符号人工智能。
符号人工智能基于业务规则、词汇表、分 whatsapp 号码数据 类法和知识图谱，因此比黑盒、具有数百或数千个参数和超参数的深度神经网络创建的结果更容易解释结果。符号人工智能 100% 基于每个级别的显性知识，这使其成为解释每种语言理解用例的绝佳方式。
不过，关于可解释性还有更多需要了解的地方，所以让我们来探索一下它在最常见的人工智能模型中是如何发挥作用的。
统计 AI 可解释性
所有企业用户和 AI 语言理解系统的受益者都必须能够解释这些技术的结果。这个广泛的用户群涵盖了从 C 级高管到主题专家和保险索赔专家等业务用户的所有人。虽然纯机器学习或统计 AI 方法在理论上并非不可能提供可解释的 AI，但它们需要更多的精力、时间和定量技能——并不是每个人都具备这些技能，尤其是在深度学习的规模上。
对于仅涉及高级机器学习的方法，数据科学 根据职位发布量身定制你的成就 家在尝试确定输入数据的哪些特定特征、度量和权重会产生某些输出时，可能会对 LIME、ICE 和 PDP 等技术感到困惑。数据沿袭还有助于通过统计模型解释 AI 结果，因为它使组织能够追溯发生在他们身上的一切，从生产数据到训练数据。虽然这些方法提供了对机器学习模型性能的洞察，但它们在可解释性方面比在可解释性方面更胜一筹。
符号人工智能可解释性
相比之下，可解释性是符号 AI 的自然副产品。与数据沿袭对统计 AI 模型的影响类似，符号 AI 总是允许用户从其生产中涉及的特定推理中追溯结果。例如，业务规则为符号 AI 提供了一种发布解释的可靠方法。
根据业务规则创建智能聊天机器人说明了这种方法的工作原理。每次调用这些规则时，这些机器人都会提供相同的输出或响应。尽管为了更像人类，所使用的具体词语可能会有所不同，但这些词语 台湾数据库 的含义始终相同。例如，如果聊天机器人的回答是“是”，则可以使用各种同义词来传达相同的含义，例如“当然”、“当然”和“正确”。在适当的上下文中使用最合适的同义词会使聊天机器人的回答具有像人类一样的自然感觉。