ChatGPT令人“细思极恐”之处

ChatGPT虽然是模仿人类大脑，但与人类大脑又有很大的不同。

打个粗浅的比方。20年前我刚工作时，公司聘请了一个老头子，业余会发明一些奇怪的小机器。一次，他帮我修电脑，设置各种基本输入输出系统（BIOS）参数。我问他是不是懂英语，他说年轻时学的是俄语，根本不懂英语，但自己有个特长，就是对各种画面过目不忘（有点儿像现在的《最强大脑》里的那种选手），修电脑设置BIOS参数时，全靠对“画面特征”的记忆。通过与这位老先生的谈话，我发现他确实善于用画面去思考。比如他讲，删除硬盘里的数据，其实数据还可以找回来。你写入硬盘的数据，就像写在了一面白墙上，你删除数据的操作，就像在写满字的墙上又覆盖一层白漆而已。如果能将这层白漆剥离，原来的数据就回来了。这也刷新了我“先学会英语才能修电脑”的认知。人会根据自己的禀赋，建立不同的解决问题的思路和方法。人与人的思维方式差异尚且如此之大，何况是人和机器之间的差异呢？

深度学习模型虽是对“人脑”的模仿，但与人类的碳基神经网络，毕竟有着很多特性的不同。

ChatGPT是基于深度学习的NLP（ Natural Language Processing，自然语言处理）模型，这种人工智能真正的神奇之处在于，它已经超越人类的感知能力，能够侦测到人类从未发现的某些真相，或是人类根本无从侦测到的“隐性知识”，能发现人类暂时无法理解的规律。

人工智能不必，也不会完全按照人类预设的路径去思考和解决问题。它们为了完成特定的使命与任务，有时会不择手段，甚至不惜发明一种“暗语”。

2022年6月，美国研究人员对媒体宣称：OpenAI公司“以文生图”的AI模型DALL-E 2或许已经发明了自身的“秘密语言”。

研究发现，DALL-E 2所生成图像里的字幕，有时会有一些混乱拼写的“胡话”。研究人员再把这些“胡话”输回系统，得到的反馈则是确定的，比如，“Vicootes”的含义是“蔬菜”，而“Wa ch zod rea”则代表“鲸可能会吃的海洋动物”。如果这一切属实，不得不说，人工智能确实存在“成精”的风险。

人工智能，已经进入了一个纵使是图灵再世也无法测试或衡量的境界。

ChatGPT这种大语言模型，是含有数千亿（甚至上万亿）参数的深度学习模型。用过ChatGPT的人都知道，每次提问，它所给出的答案都不尽相同。有时候ChatGPT也会像人一样故意敷衍，被逼问得急了，它才会给出更准确的答案。

谁又能保证，这种大语言模型没有聪明到会“装傻”，隐藏自己的实力呢？

艾萨克·阿西莫夫博士在其科幻小说中，空想了一种约束人工智能的机制，叫作“机器人三定律”。第一定律就是“机器人不得伤害人类，或坐视人类受到伤害”。然而，如何定义伤害呢？人工智能导致很多人失业，算不算是一种伤害呢？AlphaGo把柯洁打败到哭泣，算不算是一种伤害呢？

其实，还存在一种比把人类棋手弄哭更可怕的情形，那就是类似AlphaGo这种人工智能，不但比人类聪明，甚至还涌现出了意识，懂得隐藏实力，故意输给人类，让人类失去警惕之心。

人类一直在追求充分理解这个世界，如今，这项追求将会生变，我们可能需要委托人工智能，才能让某些认知得以实现。

人类用了七十年，只想造出能“像人一样思考的机器”，但是，“技术由人所发明就必然能够为人所控制”这种观点，就像“我生下的孩子就应该由我规划他的人生”一样天真和不切实际。

但迷人而又骇人之处在于，这种机器其实是一个“黑箱模型”，它不仅能生成类似人类的智能，还能生成人类搞不懂的智能。承认这点，会让人感到五味杂陈。对于人类，很难说人工智能究竟是一个工具，还是一个认识世界的“同伴”，或者是有可能奴役人类的“敌人”。

OpenAI得以创立，正是基于上述顾虑与恐惧。