ChatGPT革命：科技毁灭人类文明，迈出了从0到1关键一步
The following article is from 杭子牙 Author 杭子牙
ChatGPT大火，成为全球最热门科技话题，下载量呈指数倍增，打破了TikTok最快突破1亿月活纪录。
不少人预测它将给一些领域带来颠覆性变革，包括传统搜索引擎、行政文秘、会计律师，以及本人所从事的新闻媒体行业等——我也这么认为。
我可没有胡总的自信，网上有人调侃说，ChatGPT会令胡总失业，胡总说他不怕，他是“一门永远的155毫米榴弹炮”。
已经退休的胡总可以这样说，我还年轻，必须对科技驱动产生的世界变化有更深入认识，对科技未来保持敬畏与好奇。
常言道，有备才能无患，无远虑者必有近忧，其实不光是我，包括各位，也都应该对科技前沿变化有敏锐感知，有忧患意识，咱不能等浪潮卷到眼前就要淹没脖子的时候才感到危机，那时候可能一切都晚了。
人类这几百年来，科技带来的变化实在是太大了，尤其自后工业时代进入信息化时代后，科技对社会进步、经济发展产生的驱动，对国家竞争、社会治理带来的影响怎么说都不为过。
小平同志说，“科学技术是第一生产力”，以前当学生的时候觉得它是一个考点，后来认识到它是团结鼓舞科技界的口号，再后来随着知识积累和社会阅历带来的认知变化，才真正体验到这句话的深刻内涵。
ChatGPT为什么这么厉害？是因为它已经不再是个简单的搜索引擎，搜索只是它的技术底层，它真正厉害的地方是对搜索到的信息内容进行重组，具有了推理判断与逻辑思考能力，而且还能根据即时信息更新实现自我学习，是机器第一次真正做到“像人类一样思考”。
在它面前，Google、Baidu等搜索引擎只是一块垫脚石。
扎克伯格的元宇宙更是一个空洞的概念。
而一般我们说的机器人，不论有没有人形，只是依据已经写死的程序做一些事情，由人类在后面操控，在本质上是“机器”，而非“人”。
当机器可以像人类那样自我学习，可以根据自己搜到的信息形成价值判断——就如你由所见所闻形成人生价值判断一样，并且可以在此基础上进行推理、思考，具有诉诸行动改变世界的能力，你说TA和“人”还有什么两样？
这个时候，TA们就更像是人，而不是“机器”了。
这就是这么多年来人们对科技发展的终极思考。是一个科学问题，哲学问题，也是一个投资者与社会大众喜爱的文艺话题。好莱坞科技（科幻）电影这些年常盛不衰，大部分都在“吃”这个流量。
最近大火的《流浪地球2》也是这一思考的产物，电影里面的MOSS就是一个具有价值判断，可以自行推理思考并诉诸行动的计算机系统，同时也是一个“机器人”。
创作者把它描述成人类世界的幕后主宰，它甚至还能重新定义生死和文明，人类需要和它斗智斗勇才能侥幸留下我们这种“人类文明”的火种。
你觉得这只是好莱坞导演和刘慈欣们的幻想？可能永远不会成为人类面临的现实挑战？
NO，NO，NO！这样想你就错了，就太缺乏科技想象与攸关人类终极命运的长远眼光了！
流浪地球这种事也许永远不可能发生，也许在多少万年后才会发生，但是“机器”变成“机器人”，在我们多数人的有生之年，一定有机会看到。
ChatGPT就朝向这个结果，迈出了从0到1的关键一步。
也许《流浪地球》里的MOSS太抽象太魔幻了，暂时还不会发生，那么会不会有这样的“机器人” ：TA们可以自行搜索相关技术、自己进行工程建设，自己建造工厂设计生产自己，并且像人类一样会互相关怀照顾和系统更新呢？
如果走到这一步，TA们是“机器”还是“人”？
我们这些人类是碳基生命，TA们算是硅基生命吗？
那个时候，TA们对人类友好，愿意服务于人类，当然太好了。
若如此，人口下降带来的经济增长与劳动力短缺危机，老龄化社会下的养老危机等都将迎刃而解。通过学习、思考和自我判断，TA们可以为人类提供很好的照顾服务，满足人类的一切生理和心理需求。
但是，如果TA们自行搜索建立的价值系统是一个对人类不友好的价值系统，比如是某个恐怖组织的价值系统，甚至是一个要毁灭人类的价值系统， 或者TA们想要人类服务于TA们而不是TA们服务于人类，怎么办呢？
人类到那个时候，会不会成为TA们的玩物，被TA们畜养、奴役、屠杀为乐？
或者更生活场景一些：想想看吧，未来某一天，为你提供家政服务的“机器人”突然造反，要求你没日没夜为TA按摩舒压，跳舞唱歌，每天鞭打你折磨你，甚至盯上了你美貌的妻子（或英俊的丈夫）盯上你，而你又完全没有能力反制，你的任何一点心思都被TA掌握、被TA先行火力压制，你怎么办？
而做到这一切很简单，只需要在“机器人”程序中写入几行隐匿代码，逃过出厂审查就可以了。就像《流浪地球》中刘德华偷偷把数字生命程序输入MOSS系统一样。
比《流浪地球》更可怕的是，甚至这个“机器人”工厂都是由TA们建造运营，由TA们编写程序，由TA们根据自己生成的价值标准进行技术伦理审查。
一些人可能会说，怕什么，再厉害的“机器人”也是机器，是人类在写程序，在机器后面操控——那是你还停留在原来对机器人的认知层面，你认识的仍然是“机器”，而非“机器人”。
如果有人看到这里还在这样想，我就只能说他根本没有看懂这篇文章，没有进行深层次科技思考需要的科技想象了。
人如果没有科技想象，和榴弹炮有什么两样？
推荐阅读
怎么应对“气球事件”？重温邓小平40年前充满硬气和智慧的对美讲话
悼念朱云汉，他生前说巨变来临，西方令人失望, 但中国精英的附庸惯性更堪忧
一位教授的惊人调查：中国农村当前最严重的问题，并不是农民收入