MindWave AI快报 聚合 AI 前沿动态,筛出值得关注的信号。

DeepMind CEO哈萨比斯警告:AI竞赛正陷入「囚徒困境」

谷歌DeepMind首席执行官哈萨比斯在斯坦福演讲中警告AI正处于「物种级转折点」,呼吁建立由前沿实验室实时驱动的动态监管机制。

References

DeepMind CEO Demis Hassabis在斯坦福商学院发表演讲
DeepMind CEO Demis Hassabis在斯坦福商学院与校长乔纳森·莱文对话 Image source

DeepMind CEO哈萨比斯:AI竞赛正陷入「囚徒困境」,呼吁建立动态监管机制

谷歌DeepMind联合创始人兼首席执行官德米斯·哈萨比斯(Demis Hassabis)上周五在斯坦福大学商学院与校长乔纳森·莱文对话时发出警告:人工智能正在进入一个与以往技术变革截然不同的时期,他将这一阶段称为「物种级转折点」,人类在未来十年几乎没有犯错的余地。

技术发展速度超乎想象

哈萨比斯指出,当前AI技术的发展速度大约是工业革命的10倍。他表示:「我们正处于技术奇点的山麓地带」,如果不立即采取行动,可能会错失塑造AI未来的关键窗口期。

他同时透露,DeepMind每天都在与谷歌CEO桑达尔·皮查伊沟通,以确保在这场「激烈」的AI竞赛中保持竞争力。

AI监管的囚徒困境

哈萨比斯坦言,当前AI行业正处于商业生存战与中美地缘竞争重叠的双重压力之下,导致整个行业陷入经典的「囚徒困境」——为了安全审查而主动减速的实验室,将直接面临被竞争对手淘汰的风险。

他认为,传统的静态监管由于决策周期过长,根本无法跟上技术发展的步伐。两年前制定的法规在今日很可能已形同历史垃圾。因此,他主张建立一套「智能、精准」的监管体系,由前沿实验室的安全数据实时驱动、定期进行模型能力独立评估。

两条「卢比孔河」

在哲学层面,哈萨比斯为DeepMind划定了明确的技术底线。他将AI的演进划分为两道不可逆的关口:

第一条卢比孔河:建造无意识的通用智能(AGI)工具,当前正处于跨越阶段;

第二条卢比孔河:创造具有主观意识的实体。

哈萨比斯强调,在科学尚未清晰界定意识本质之前,绝不应过早混淆这两个步骤。他主张借助AI工具深入探索大脑秘密,以精确理解意识的定义。第二条卢比孔河应留给人类社会在未来共同决定是否跨越。

国际协调刻不容缓

哈萨比斯呼吁在未来5至10年内加强AI领域的国际协调。他同时对开源AI提出质疑,询问支持者将如何应对「恶意行为者问题」。他表示,现有的行业法规——如针对自动驾驶、医疗AI等领域的监管——应与前沿模型能力评估相结合,形成多层次的监管框架。