ai是神经 Anthropic 的首席执行官：神经科学和AI之间有着迷人神秘的关系

用户投稿 2025年06月18日 02:05:01 51 0

Anthropic 的首席执行官：神经科学和AI之间有着迷人神秘的关系

人工智能的大部分基础是人脑——尤其是神经网络，它是以人脑的工作方式为模型的——但该领域现在正在帮助更好地了解人脑。

Claude 系列语言模型背后的 AI 研究公司 Anthropic 的首席执行官 Dario Amodei 最近强调了神经科学和人工智能之间关系的迷人转变。在 Claude 最新系列模型发布后的一次讨论中，Amodei 指出，虽然 AI 发展的最初动力来自于试图模拟人脑，但现在灵感的流动正在逆转。这主要是由于 AI 可解释性的进步，它允许研究人员“看到”复杂的 AI 模型，然后使用结果来理解人脑。

“我认为 10 年前，许多人认为神经科学会告诉我们如何进行 AI，而且该领域确实有许多前神经科学家。我不是唯一一个，”Amodei 说。他承认神经科学的早期影响，但也承认将神经科学发现直接转化为 AI 架构的局限性。“在高层次上，有一些灵感，但我不会说我说过，'哦，这就是我们从下丘脑知道的东西可以用来制作这些模型的方式。'这一切都几乎是从头开始的。

根据 Amodei 的说法，真正的转折点是能够理解 AI 模型本身的内部运作。“有趣的是，事情已经走了另一条路，那就是利用可解释性，我们能够看到模型的内部，当然，尽管它们的制造方式与人脑不完全相同，但在表面层面上，存在很多差异，我们在模型内部发现的许多概念模式有时会在神经科学研究中被复制。”

他甚至提供了这种反向灵感的具体例子。“视觉中有一些类似高频/低频检测器的东西是通过 Chris Olah 团队的一个人通过可解释性发现的，然后几年后，一位神经科学家实际上在动物大脑中复制了它。”这个轶事有力地说明了最初被认为是大脑的模仿的 AI 现在如何为它提供有价值的见解。

Amodei 的评论呼应了 AI 研究界日益增长的趋势。随着 AI 模型变得越来越复杂，了解它们如何做出决策的需求变得至关重要。这刺激了“可解释性”工具和技术的发展，这些工具和技术使研究人员能够探索这些模型中的内部表示和过程。事实证明，这些见解也可以为研究大脑的神经科学家提供有价值的假设。最终，AI 和神经科学之间的双向关系有望加速这两个领域的进步，从而产生更强大、更安全的 AI 系统，以及对人脑的更深入理解。

什么是人工智能神经网络？它为何无法实现人类的推理或产生意识？

文图/ 王磊

西安电子科技大学模式识别与智能系统硕士

前不久，据华尔街日报报道， Uber在一宗无人车的测试过程中，造成了一名行人死亡的严重交通事故，除此之外，环顾我们身边，苹果手机的虚拟个人助理Siri有时会无法识别我们在说什么；某些人脸识别支付应用也存在着一些安全问题。这些事件反映出来的一个情况是，目前的AI似乎并没有足够的智能，甚至并无法很好地处理从外界获取的信息。

人脑中的神经网络是一个非常复杂的组织，成人的大脑中约有1000亿个神经元，人类至今仍在探索人脑的工作原理。而人们通过对生物神经元的研究和理解，构建了一个模拟人脑的计算模型：人工神经网络！

图/https://image.so.com/

那么，人工神经网络是什么？人类通过构造神经网络，能否给AI赋能，使之自我进化？

什么是神经网络？

简单来说，神经网络是一种模拟人脑的计算架构 ；利用神经网络进行机器学习，则让计算机不再只是执行命令的机器，而是具有了一定程度上分析判断的能力。当然，这个能力也离不开海量的数据和高超的计算能力。

一个经典的神经网络一般包含三个层次：输入层、隐藏层和输出层。而这三个层分别模仿的是神经元的树突、轴突和轴突末梢 。输入层接收外部的输入数据，比如图片、文本、语音等，通过，隐层抽象数据的通用模式，进而通过输出层输出模型的计算的结果。

历史上，科学家还设计过多层的神经网络，每一层都会对前一层传来的结果进行再次加工，目的是模拟出一种“深思熟虑”的感觉，但最后发现结果准确度并没有提高，有的时候还会陷入误区，就像人容易朝着一个思路越陷越深，最后钻牛角尖了一样。随着技术进步，让这一问题得到改善。现在，最厉害的神经网络技术不但已经非常接近人脑，还排除了很多人脑自身存在的低效的思维方式。

柯洁在与AlphaGo大战后，在接受腾讯体育记者的采访时表示，“我也不敢想象，它居然可以把棋下得那么强硬，撑得那么满，好像好多块棋扭在一起，那是人类擅长发挥的地方了。跟它下棋会发现它处理得好像比我们人类还好很多，其实那一刻是很绝望的。甚至是那些研发它的人也不知道是怎么做到这一点的，研发它的人是下不过它的，很多人甚至不懂棋，居然能创造出这么一个怪物。所以，我唯一能感受到的是它对形势的乐观和自信，而且是绝对的乐观和自信，这一点人类是没有的。再自信也不会像它那么自信，无论你验证多少次，它都是不可战胜的。”

神经网络为何无法实现人类的推理并产生意识？

“机器人是否具有意识”一直是人们所争论的焦点之一，而在这其中，人工神经网络的技术发展起着重要的作用。对当前的人工神经网络而言，解决某些特定场景的问题，特别具有优势，但解决人们习以为常的问题却非常困难。比如，MIT媒体实验室研究员joy buolamwini研究文章称，人脸识别技术针对不同种族的准确率差异巨大，其中针对黑人女性的错误率高达35%！

中国工程院院士郑南宁指出，人工智能研究的一个重要方向，是借鉴认知科学、计算神经科学的研究成果，使计算机通过直觉推理和经验学习，将自身引导到更高的层次。然而，人脑对真实世界的理解、非完整信息的处理、复杂时空的任务处理能力是当前机器学习无法比拟的 ，还有人的大脑神经网络结构的可塑性，以及人脑在非认知因素和认知功能之间的相互作用，都是很难以形式化、公式化的描述。

图/https://image.so.com/

神经网络是怎么应用到各领域的？

神经网络虽然缺乏人类解决问题的强大理解能力，但却可以通过海量的计算从大量的数据中找到一些通用的模式。因此它们作为辅助工具，已经在各行各业，尤其是在多媒体领域体现了自身的价值。

手写数字识别应该是神经网络最早的商业应用之一。 大部分的人都可以轻松识别下图中的手写数字，但要设计一套计算机程序来识别这些数字，就会发现视觉模式识别的难度。而神经网络的思想是，利用大量的手写数字，即训练样本，从中自动学习到识别各个数字的规则。而且随着样本数量的增加，神经网络可以学习到更多信息，从而可以进一步提升准确度。目前最好的商用神经网络已经足够好到能被银行用来处理支票，以及被邮局用来识别地址。

MNIST手写数字数据集一览

手写数字或许有些过于简单，那么使用神经网络发现地外行星 ，就更能显示它的能力了。谷歌和得克萨斯大学奥斯丁分校合作，利用上万颗被标记的恒星数据，训练了一个卷积神经网络，训练结果显示，神经网络判别行星的准确率高达96%。然后，研究人员让这个神经网络处理2009年到2013年观测到的670颗恒星的数据集，通过微小的特征变化，发现了两个星系存在地外行星的可能性非常高。经过研究人员的验证，确认了这两颗新的行星。

神经网络发现的开普勒-90星系与太阳系的对比

近日，美国FDA首次批准了用于检测糖尿病视网膜病变的人工智能产品：IDx-DR 。这次FDA评估了来自10个初级卫生保健点的900名糖尿病患者的视网膜临床研究图像数据，IDx-DR能够正确识别轻度以上糖尿病性视网膜病变的准确率为87.4%，而正确识别没有轻度以上的糖尿病性视网膜病变的准确率为89.5%。

在目前比较火热的无人车领域， 虽然各大厂商还在研究测试通用的解决方案，但在一些具体的案例上已经有了一些成果。图森未来使用自主研发的深度学习感知算法，能够做到让摄像头像人眼一样实时感知行车周边环境，检测和跟踪视野中的各种物体，能够对可视场景进行像素级的解读。凭借视觉高精度定位和多传感器融合技术，能够实现高速公路上的无人驾驶，帮助货运企业降低成本，加快货运周转。