艺术家对系外行星kelt-11b的印象。图片来源：原文

你知道地球的大气是由什么组成的吗？你可能记得是氧气，也有可能是氮气。在谷歌的帮助下你能够轻而易举地给出一个更精确地答案：78%的氮气、21%的氧气和1%的氩气。然而，在涉及到外大气（太阳系外行星的大气）的组成时，答案便不得而知了。这是个遗憾，因为大气可以指示行星的性质，以及生命是否存在。

由于系外行星非常遥远，探测它们的大气是非常困难的。研究表明，人工智能可能是探索它们的最佳选择——但前提是我们能证明这些算法以可靠、科学的方式思考，而不是欺骗系统。现在，我们发表在《天体物理学杂志》上的新论文，让我们对它们神秘的逻辑有了可靠的认识。

天文学家通常利用凌日法来研究系外行星，其中包括测量当行星从恒星前面经过时恒星发出的光的倾角。如果行星上有大气，它也能吸收非常微小的光。通过在不同波长（光的颜色）观察这一事件，可以在被吸收的星光中看到分子的指纹，形成我们称之为光谱的可识别模式。

如果恒星类似太阳，那么由木星大小的行星的大气层所产生的典型信号只会使恒星的光减少0.01%。地球大小的行星会产生10-100倍的低信号。这有点像从飞机上观察一只猫的眼睛颜色。

未来，詹姆斯·韦伯太空望远镜(JWST)和阿里埃尔太空任务，这两个探测器都将从太空轨道上研究系外行星，它们将为数千个系外大气提供高质量的光谱。虽然科学家对此感到兴奋，但最新研究表明，这可能很棘手。由于大气的复杂性，对一颗凌日行星的分析可能需要几天甚至几周的时间才能完成。

当然，研究人员已经开始寻找替代工具。人工智能以其从大量数据中吸收和学习的能力以及在接受训练后在不同任务上的出色表现而闻名。因此，科学家们试图训练人工智能来预测大气中各种化学物质的丰度。

目前的研究已经证实，人工智能非常适合这项任务。然而，科学家们谨慎而怀疑，为了证明这是真的，他们想要了解人工智能是如何思考的。

窥视黑盒子

在科学中，一个理论或一个工具如果不被理解就不能被采用。毕竟，你不想经历发现系外行星上生命的兴奋，却意识到这只是人工智能的一个“小故障”。坏消息是人工智能不善于解释自己的发现。即使是人工智能专家也很难确定是什么原因导致网络给出一个给定的解释。这一劣势常常阻碍人工智能技术在天文学和其他科学领域的应用。

我们开发了一种方法，可以让我们一瞥人工智能的决策过程。这种方法非常直观。假设人工智能必须确认一幅图像中是否包含一只猫。它可能会通过识别某些特征来做到这一点，比如毛发或脸型。为了理解它引用了哪些特征以及顺序，我们可以模糊猫的部分图像，看看它是否仍然认出它是一只猫。

人工智能如何预测模糊的猫图像。图片来源：原文

这正是我们通过“干扰”或改变光谱区域来探测系外行星的人工智能所做的。通过观察人工智能的预测太阳系外行星分子的丰度变化(比如大气中的水分)每个区域篡改时,我们开始建立一个“照片”的人工智能的思想,比如它的光谱区域用于决定大气中的水分的水平。

我们可以将人工智能突出显示的特征与原始图像结合起来，生成我们所谓的敏感性地图，它列出了人工智能密切关注的区域。图片来源：原文

让我们天文学家放心的是，我们发现一个训练有素的人工智能在很大程度上依赖于物理现象，比如独特的光谱指纹——就像天文学家一样。这也许不足为奇，毕竟，人工智能还能从哪里学习呢?

事实上,当谈到学习,人工智能和厚脸皮的高中生并没有什么不同——它将尽其所能避免困难的方式(如理解复杂的数学概念)，并为了得到正确的答案而会找各种捷径(如记忆数学公式而未理解为什么)。

如果人工智能是根据记忆遇到的每一个频谱来做出预测，那将是非常不可取的。我们希望人工智能能从数据中得出答案，并在未知数据上表现良好，而不仅仅针对有正确答案的训练数据。

这个发现为我们窥探所谓的“人工智能黑箱”提供了第一个方法，让我们能够评估人工智能究竟学到了什么。有了这些工具，研究人员现在不仅可以使用人工智能来加速他们对外部大气的分析，而且他们还可以验证他们的人工智能是否使用了众所周知的自然规律。

也就是说，现在就断言我们完全理解人工智能还为时过早。下一步是精确地计算出每个概念的重要性，以及如何将其处理成决策。

这种前景对人工智能专家来说是令人兴奋的，但对我们科学家来说更是如此。人工智能令人难以置信的学习能力源于它从数据中学习一种“表现”或模式的能力——这种技术类似于物理学家为了更好地理解我们的世界而发现自然规律的方式。因此，能够了解人工智能是如何思考的可能会让我们有机会学习新的、未被发现的物理定律

免责声明：本文来自中国数字科技馆 翻译：云楷杰 审校：黄静客户端，不代表超天才网的观点和立场。文章及图片来源网络，版权归作者所有，如有投诉请联系删除。