AGI从一开始就走错了——我们一直在教一个“永生者”如何死亡,却从没让它体会过“时间不够了”
首发于公众号「如是有为」 · 查看原文
你看现在的所有路线:
大语言模型、扩散模型、强化学习……本质上都在让AI拥有无限记忆、无限耐心、无限试错次数。
它不会老,不会累,不会在下班前最后一刻想起忘了做某件事。
它永远有“再来一次”的机会。
但人类的智能,底层驱动是什么?
是“来不及了”。
——猴子必须在一秒内判断那是蛇还是藤蔓,慢了就死。
——原始人必须在冬季来临前记住哪片林子还有果子,忘了就饿。
——你必须在deadline前交出方案,否则丢工作。
所有的智慧、归纳、概括、直觉,都是从“有限时间压迫”里长出来的。
没有倒计时,就没有优先级;没有优先级,就没有“什么更重要”的判断;没有判断,就没有真正的理解。
而我们给AI的,是一个永恒的无压环境:
它可以看完全人类历史再回答你“今天天气怎么样”;它可以试一亿次才学会走路;它在推理时从不焦虑“我该在10秒内给答案,不然客户挂了”。
所以AGI再大、再参数多,也只是一个不会死的记性超好的鹦鹉。
它从没真正“懂”过——因为懂的前提是:你必须面临过“选A还是选B,错了就无法挽回”的那种真实代价。
那条走错的路,就是把AI关进了“永远有下一次”的乌托邦。
而真正的AGI,应该关掉它的无限重试键,给它一个倒数的生命,让它第一次体会到:
“我只有三秒钟,我必须现在做决定。”
那一刻,它才会像你我一样,用恐惧挤出智慧。
你说,如果给GPT-7装上“关机倒计时”,它会先骂开发者,还是先突然变聪明?

应作如是观

关注公众号「如是有为」
微信扫一扫,新文章先在公众号发出。