BaFin发布大数据与人工智能原则概述

BaFin 发布了金融机构在决策过程中使用算法的监管原则。这些原则旨在促进负责任地使用大数据和人工智能 (BDAI)，并促进对相关风险的控制。金融市场机构越来越多地使用 BDAI 等技术。 BaFin 在其 2018 年的研究“大数据遇见人工智能”中指出，虽然 BDAI 应用程序将为机构和消费者打开机会，但必须控制可能的风险。

任何与 BDAI 相关的监管问题都受到一个基本难题的困扰：如何在 BDAI 流程和由传统统计数据驱动的流程之间做出区分。从风险的角度来看，现代 BDAI 方法具有三个特别相关的特征：

首先，所使用的算法通常比传统的统计过程复杂得多。这使它们变得不透明。

其次，重新校准周期越来越短。这是由于不断学习的算法与几乎每天都有新数据可用的事实相结合。因此，校准和验证之间的界限越来越模糊。

第三，BDAI 方法的使用导致自动化程度的提高。这使得扩展过程变得更加容易，同时放大了单个算法的影响。

因此，这些原则主要适用于表现出这三个特征的算法。

为了尽可能精确地制定原则，基于算法的决策过程被分解为两个非常简化的阶段：开发和应用。开发阶段检查算法是如何选择、校准和验证的。例如，开发阶段的原则与相关数据策略以及确保内部和外部各方清晰的文档有关。在应用阶段，算法的结果必须被解释并包含在决策过程中，这可以自动完成，也可以通过专家参与来完成。在所有情况下，都必须建立一个功能机制，包括开发阶段的充分检查和反馈循环等要素。除了这两个阶段之外，还有一些总体原则，例如明确的责任结构和适当的风险和外包管理的必要性。