Fiddler Labs是一家帮助企业了解其人工智能模型内部运作的初创公司，该公司已经筹集了 3200 万美元的资金，Insight Partners、亚马逊公司的 Alexa 基金和其他机构投资者参与了该轮融资。
这家总部位于加利福尼亚州帕洛阿尔托的初创公司于周四宣布了这项投资。Fiddler 表示，迄今为止已筹集了 4700 万美元。
组织正在将人工智能应用于越来越多的任务，从自动发票处理到驾驶自动驾驶汽车。因此，他们需要验证他们的机器学习模型做出的决策是否正确，如果不正确，则确定如何修复错误的原因。但这说起来容易做起来难，因为机器学习模型通常非常复杂，以至于无法准确理解模型是如何达到特定结果的。
Fiddler Labs 开发了一个软件平台，有望让组织了解他们的 AI 软件。该平台使用复杂的数学方法来解开机器学习模型的复杂性，并揭示它们做出给定决策的原因。
通常难以理解 AI 内部工作原理的技术挑战源于神经网络的构建方式。神经网络通过将数据分解成更小的部分并使用大量称为人工神经元的相对简单的算法来处理这些部分来处理数据。在最大的神经网络有超过100个十亿人工神经元，这使得它不切实际的AI如何将原始数据转化为成果的每一步绘制出。
使任务更具挑战性的是，人工智能模型会随着时间的推移改变其配置。例如，神经网络的任务是按类别组织业务文档，随着经验的积累，它会学习更快、更准确地组织文档的方法。
神经网络通过修改人工神经元来应用他们学到的经验教训。换句话说，破译人工智能如何做出给定决策需要了解数十亿个人工神经元，这些人工神经元不仅执行大量操作，而且随着时间的推移会改变它们执行这些操作的方式。
Fiddler Labs 的 AI 可解释性平台使用由其专家和更广泛的研究社区开发的技术组合来应对挑战。该平台生成可视化报告，向开发人员展示是什么导致 AI 得出特定结论，包括它在产生结果时考虑的因素。
“Fiddler 帮助他们创建这些报告，将所有这些报告保存在一个地方，然后一旦部署了模型，它基本上可以帮助他们持续监控这些模型，”Fiddler 首席执行官 Krishna Gade（如图，左）解释道。最近对 SiliconANGLE Media 的 theCUBE Studio 的采访。Fiddler Labs 联合创始人兼首席产品官 Amit Paka 也加入了他的行列。
Fiddler Labs 生成报告的方法之一称为积分梯度。使用集成梯度方法，开发人员为 AI 提供一段数据进行处理，检查处理结果，然后为算法提供相同数据的略微修改版本。例如，开发人员可能会要求翻译 AI 翻译一篇包含标题的文章，然后让它处理相同但没有标题的文章。
通过这个过程，可以确定神经网络在做出决策时考虑哪些因素。如果 AI 为包含标题的文章版本生成更好的翻译，开发人员可以推断文章标题是 AI 分析的细节之一，以帮助其理解文本的含义。
Fiddler 用来解释 AI 结果的另一种方法是基于博弈论领域的概念。在某些涉及多个玩家的游戏中，可以用数学方法描述每个玩家的角色。Fiddler 将这个概念延续到机器学习中：它将 AI 考虑做出决策的因素视为“参与者”，然后计算每个因素如何影响 AI 的处理结果。
Fiddler 已将其核心可解释性功能与其他功能配对，这些功能有望使在企业中部署机器学习模型变得更加容易。这家初创公司的平台可以帮助开发人员识别人工智能的准确性何时因某种原因而下降。它还捕获算法被赋予错误数据进行处理的事件。此外，Fiddler 表示，该平台可以更轻松地遵守要求公司证明其 AI 模型生成的结果的准确性的法规。
“在推出 Fiddler 的可解释人工智能平台后，我们已经扩展到涵盖人工智能生命周期的每个阶段，从开发到验证再到生产，”盖德在一份声明中说。“有了最新的资金，我们将把我们的模型性能管理解决方案带给更多团队，探索新的解决方案来解决偏见和数据漂移等问题，并继续围绕负责任的人工智能推动客户教育。”
Fiddler 表示，其客户包括美国最大的金融机构之一和“领先”的电子商务平台。