关于我们 | 联系我们

三亿体育 - 三亿体育安全

成功案例
当前位置:主页 > 成功案例 >

AI研究的盲点:无解的神经网络内在逻辑

本文摘要:预示着大数据,AI在沉寂了多年之后,又步入了新的高潮。在这场牵涉到大部分科学的革命中,人工神经网络获释了人工智能。但科学家们找到,这一关键技术隐含着一个问题:人工神经网络就是一个“黑匣子”。我们都告诉,无论人工神经网络有多么简单,都可以将其看做是三部分:输出层、输入层和说明了层。 其中,我们通过深度自学,对神经网络展开一层一层的变换训练,以此来有效地调整神经网络各级神经元的权重。

三亿体育

预示着大数据,AI在沉寂了多年之后,又步入了新的高潮。在这场牵涉到大部分科学的革命中,人工神经网络获释了人工智能。但科学家们找到,这一关键技术隐含着一个问题:人工神经网络就是一个“黑匣子”。我们都告诉,无论人工神经网络有多么简单,都可以将其看做是三部分:输出层、输入层和说明了层。

其中,我们通过深度自学,对神经网络展开一层一层的变换训练,以此来有效地调整神经网络各级神经元的权重。但是,这里有一个问题,除去输出和输入,我们对说明了层再次发生了什么一无所知,即对神经网络内部逻辑不道德不得而知理解。华盛顿大学的研究生MarcoRibeiro用于过一种叫作反事实观测的方法来理解这个“黑匣子”。

此方法明确就是通过给输出一点微小的变化,旋即查阅输入的变化,并记录这些变化。但是很似乎,这一方法必须上千次的操作者和尝试,而且无法协助我们全面了解人工神经网络。而Google的另一位计算机科学家MukundSundararajan设计了一种探测器,大大减少了输出。

不同于Ribeiro采行的随机输出,Sundararajan的研究创意点是引进一个空白的参照。首先,Sundararajan输出一个零排序的数组,随后让输出数据逐步向必须测试的目标数据改变,以此通过输入变化来反过来研究内在逻辑。这里值得注意的是,随着每一步的变化,科学家们就能看见它清楚的变化轨迹,从而可以以此预测变化特征。但这仍然不能信,预测的结果依然是不存在相当大误差的。

回应,美国华盛顿州微软公司研究所计算机科学家RiChCaruana带入广义乘法模型(GAM)来对数据间的简单关系展开处置。我们都告诉,统计学中GAM就是一种基于线性重返,然后在一组数据中寻找线性趋势的方法。Caruana减少了这一过程,他再行利用机器学习来输入变化,随后将网络输入的数据输出到GAM,找到变化之间的相关性,以此来研究神经网络的内在逻辑。

除此之外,在图像研究领域,还有科学家利用生成式对付网络(GAN)对神经网络展开研究,然而所有的这些希望都是尝试,普适的研究方法至今仍未得出结论。现在,不仅科学家认识到这一问题的紧迫性,多国政府也意识到这一问题。根据欧盟的一项命令,明年所有有极大影响力的公司需向公众说明其模型的内在逻辑。

此外,美国军方的蓝天研究机构国防高级研究计划署也正在向一个称作“可说明AI”的新计划投放7000万美元。Google的机器学习研究员MayaGupta说道,硅谷的研究人员们也在企图关上AI的“黑匣子”。除了运营后操作者的准确性,所有人心中还有一个十分大的顾忌:因为不告诉它在做到什么,所以不确认能无法坚信它。预示着人工智能(AI)应用于的蓬勃之势,出于安全隐患的考虑到,神经网络内在逻辑的这一“盲点”显然急需回避。


本文关键词:研究,的,盲点,无解,神经网络,内在,逻辑,预示,三亿体育

本文来源:三亿体育-www.jiushinet.com

Copyright © 2009-2021 www.jiushinet.com. 三亿体育科技 版权所有 备案号:ICP备44260878号-2