Vitalik 对 AGI 与 ASI 感到害怕：人类要优先专注智慧增强工具，不是让 AI 取代人类

以太坊共同创办人 Vitalik Buterin 在推特分享对 AGI (通用人工智慧) 与 ASI (人工超级智慧) 的独特观点，强调应专注于 AI 工具，而不是追求超级智慧生命体的发展并取代人类，他相当害怕 AGI 和 ASI 过度发展。

AGI 为独立维持文明的人工智慧

Vitalik 将 AGI 定义为一种相当强大的 AI。他表示，假如所有人类突然消失，而且这个 AI 被安装到机器人里，能够独立运行并维持整个文明发展。而他补充，这概念将从传统 AI 的「工具性」进一步升级成一种「自我维系的生命形式」。

Vitalik 指出，目前的技术无法模拟这样的情境，我们无法真的测试 AI 是否能在没有人的情况下维持文明，更难以界定「文明发展」的标准，哪些条件代表文明在继续运作，而这些问题本身就很复杂，但这可能就是人们可以直接区分 AGI 与普通 AI 的主要辨识来源。

(注：自我维系的生命形式，意指能够自行获取和利用资源来维持生命活动、适应环境变化，并在一定条件下持续存活的生物体或生命系统。)

强调智慧辅助工具的重要性，不是让 AI 取代人类

Vitalik 对人工超级智慧 (ASI) 的定义则是，当 AI 的进步超越了人类参与所能提供的价值，并且达到完全自主且更高效的阶段。他举例国际象棋在最近十年才真正进入这一阶段，AI 的水平已经超越了人类与 AI 合作达成的最佳表现，并坦承 ASI 让他感到害怕，因为它意味着人类可能真正失去对 AI 的控制。

Vitalik 表示，与其开发超级智慧生命体，不如专注在开发能够加强人类智慧与能力的工具。他认为，AI 应该辅助人类，而不是取代人类。他认为这样的发展路线能降低 AI 无法被控制的风险，同时提升整体社会的效率与稳定性。

(生成式 AI 带来的失业威胁：Amazon 劳工将全面被机器舰队取代？)

这篇文章 Vitalik 对 AGI 与 ASI 感到害怕：人类要优先专注智慧增强工具，不是让 AI 取代人类 最早出现于 链新闻 ABMedia。