目前，研究人员通常使用神经网络分析复杂的数据。

　　例如：在基因组中找到携带疾病的遗传信息，然而，最终却没有人知道这些神经网络实际上是如何准确地工作，也不能清楚地解释整个过程。最近，Fraunhofer的研究人员开发了一款软件，使他们能够看到在神经网络这个黑盒子中到底发生了什么并且能够解释它们是如何工作的。这款软件将于2017年3月20日到24日在德国汉诺威国际信息及通信技术博览会上向公众展示(6号馆，B座B 36号)。

　　过去，利用计算机排序照片一直是一项令人乏味的工作;今天，你只需要简单地点击人脸识别的按钮就能马上找到你想要的图片。计算机已经很擅长分析大规模的数据和寻找特定的对象，比如找到照片上存在的内容，这些都是目前利用复杂的神经网络能够做到的。

　　问题是，不仅仅研究人员不能准确地解释神经网络是如何一步步地工作，也对神经网络输出了某些结果也难以解释。某种程度上，神经网络就是一个黑盒子:
人们只需要对它输入数据，然后神经网络输出结果。例如，如果你想训练一个神经网络系统，让它识别一只猫，那么你不得不向它提供成千上万甚至几十万的含有猫的图片。这就像一个小孩，慢慢地学会了如何辨别猫和构，神经网络也如此，这个过程是自动的，但过程很缓慢。许多情况下，研究人员对他们所得到的结果并不太感兴趣，更感兴趣的是神经网络在整个过程中做了什么，又是怎样达到这一目的的呢?德国赫兹研究所的机器学习研究小组的首席科学家Wojciech Samek说，他们与柏林工业大学的同事合作，找到了一种解密神经网络如何思考的方法。

　　机器学习助力癌症治疗

　　目前机器学习最重要的应用领域之一就是诊断疾病。目前我们已经拥有将一个患者的基因组信息输入计算机或者神经网络，然后利用神经网络分析出患者患有某种遗传疾病的概率。Wojciech Samek说:”但是，我们最感兴趣的是找到神经网络得出这一结论的的特征信息，然后才能针对不同患者定制具体的治疗方案，做到精准治疗的目的。“

　　反向观察神经网络

　　Wojciech Samek提供的方法能够让他们观察到神经网络如何反向工作：他们使程序向后运行，从得到的结论出发，然后观察到是哪些特定的神经元做出决定，以及这些神经元又是如何影响结论。该小组的研究人员已经多次展示了该方法的工作原理。例如，他们将开发的软件公布在互联网上并做出来测试，结果令人吃惊：一方面，软件的一个程序准确的识别出了马，另一个程序则主要关注图片上的版权符号(关于爱马者论坛、骑马和养马协会);另一方面，该软件即使在从来没有学习马的外貌特征，仍然能够以较高的成功率识别图片上的马。

　　大数据中的应用

　　“所以你可以看到，了解神经网络如何运作是多么重要。例如，可以分析一台复杂设备的工作数据，然后根据数据推断是哪些参数影响产品质量或导致质量变化的。”Samek说。而这个过程，对工业界是相当重要的，不仅可以帮助企业提高利润，更能够优化企业工作流程。在另一个例子中，Samek展示了如何选择神经网络的参数去辨别照片上人的年龄。

　　很长一段时间里，银行使用神经网络来评价客户的信誉程度。神经网络被用于评估大规模的的客户数据，如果我们知道神经网络是基于什么原因而给出的结论，我们可以通过选择相关参数来减少对数据量的依赖。一方面，这样得到的结论会更加准确有说服力。另一方面，也为训练超大规模的神经网络提供了可能。一个月后，Samek的研究人员将演示如何使用他们的软件分析神经网络，以及这些网络如何推断一个人的年龄或性别，或识别动物。