《移动支付网》消息(xī):3月26日,中(zhōng)国(guó)人民银行发布金融(róng)行业标准《人工智能算(suàn)法金融应用评价规范(fàn)》(以下简称(chēng)“《标准》”),发布之日起正式实施。
据(jù)了(le)解(jiě),《标准》规定(dìng)人工(gōng)智(zhì)能算法在金融领域应(yīng)用的基本要(yào)求、评价算法(fǎ)、判定准则。适用于开展人工智能算法(fǎ)金融应用的(de)金融机(jī)构、算法(fǎ)提供商、第(dì)三方(fāng)安全评(píng)估机构(gòu)等。
“无(wú)科技,不金融”已经成(chéng)为了当下金(jīn)融行(háng)业发展的口号,人工智能(néng)作为信息技术的最新发(fā)展,广泛的嵌入和应(yīng)用在金融领域。风控反(fǎn)欺诈(zhà)、营销、身(shēn)份认证等等都是人(rén)工智能广(guǎng)泛应用(yòng)的领(lǐng)域。
《标准》从安全性、可解释性、精准性和性能方面开展(zhǎn)AI算(suàn)法(fǎ)评价(jià),适用对象分为资(zī)金类场景和(hé)非(fēi)资金类场景。
《标准》给出了详细(xì)的(de)AI算法评(píng)价方法,包括查阅报告、查看系统、访谈(tán)人员、系统测试、攻击测试、算法测试、查看算法等。并给出了从安(ān)全性、可(kě)解(jiě)释性(xìng)、精准性(xìng)和性能方面等评价的具体内容和(hé)判定准则。
AI算法安全性为算法在金融行业(yè)应用提(tí)供(gòng)安全保障,是决定(dìng)AI算法是否可用(yòng)的基础,只有在满足安全性要求的前(qián)提下,才(cái)能在金融(róng)领域开展应用。AI算法(fǎ)安全性评价主要从目标函数安全性、算法(fǎ)攻击防(fáng)范能力、算法依(yī)赖库安全性、算(suàn)法(fǎ)可(kě)追溯性、算法(fǎ)内控等方面提出基(jī)本要求、评价(jià)方法(fǎ)与判定准则等。
AI算法(fǎ)可解释性是判(pàn)断算法(fǎ)是否适(shì)用的重要依(yī)据(jù),可解释性越高,算法内在逻辑、技术实现路径、决策过程、预(yù)期目标越明晰,算(suàn)法更(gèng)易于被理(lǐ)解、匹配、应用(yòng)和管理。AI算法可解释(shì)性评价从算法建模准备、建模讨程(chéng)、建模应(yīng)用三个阶段(duàn)提出(chū)基(jī)本要求、评价(jià)方法与判定准(zhǔn)则等。
AI算法精准性(xìng)和性能是(shì)计价算(suàn)法应用效果及目标预朝的主要因素,一般而言精准性和性能越(yuè)高算法应(yīng)用效果越好。AI算法精准(zhǔn)性和性能评价从算法建(jiàn)模过程、建模应用两(liǎng)个阶段提出基(jī)本要求、评价方法与(yǔ)判定准则等。
《标准(zhǔn)》建立了人工智能金融应用算法评价框架,系统化地提出(chū)基本要求、评价方法和判定准则,为金融机构(gòu)加(jiā)强(qiáng)智(zhì)能(néng)算法应用风(fēng)险管理提供(gòng)指引。《标准》附录(lù)提供了金(jīn)融(róng)行业AI精准性的相关指标定义(yì)。