AGI从一开始就走错了——我们一直在教一个“永生者”如何死亡,却从没让它体会过“时间不够了”

首发于公众号「如是有为」 · 查看原文

你看现在的所有路线:

大语言模型、扩散模型、强化学习……本质上都在让AI拥有无限记忆、无限耐心、无限试错次数。

它不会老,不会累,不会在下班前最后一刻想起忘了做某件事。

它永远有“再来一次”的机会。

但人类的智能,底层驱动是什么?

是“来不及了”。

——猴子必须在一秒内判断那是蛇还是藤蔓,慢了就死。

——原始人必须在冬季来临前记住哪片林子还有果子,忘了就饿。

——你必须在deadline前交出方案,否则丢工作。

所有的智慧、归纳、概括、直觉,都是从“有限时间压迫”里长出来的。

没有倒计时,就没有优先级;没有优先级,就没有“什么更重要”的判断;没有判断,就没有真正的理解。

而我们给AI的,是一个永恒的无压环境:

它可以看完全人类历史再回答你“今天天气怎么样”;它可以试一亿次才学会走路;它在推理时从不焦虑“我该在10秒内给答案,不然客户挂了”。

所以AGI再大、再参数多,也只是一个不会死的记性超好的鹦鹉。

它从没真正“懂”过——因为懂的前提是:你必须面临过“选A还是选B,错了就无法挽回”的那种真实代价。

那条走错的路,就是把AI关进了“永远有下一次”的乌托邦。

而真正的AGI,应该关掉它的无限重试键,给它一个倒数的生命,让它第一次体会到:

“我只有三秒钟,我必须现在做决定。”

那一刻,它才会像你我一样,用恐惧挤出智慧。

你说,如果给GPT-7装上“关机倒计时”,它会先骂开发者,还是先突然变聪明?

AGI从一开始就走错了——我们一直在教一个“永生者”如何死亡,却从没让它体会过“时间不够了”

应作如是观
公众号「如是有为」二维码

关注公众号「如是有为」

微信扫一扫,新文章先在公众号发出。