OpenAI Q-Star：AGI距离自我意识越来越近

最近硅谷曝出一份54页的内部文件，揭露了去年OpenAI宫斗，导致Altman（奥特曼）差点离职的神秘项目——Q-Star（神秘代号Q*）。

根据该文件显示，Q-Star多模态大模型拥有125万亿个参数，比现有GPT-4多60倍，而一般成人人脑有860-1000亿个神经元，大约100万亿个突触。也就是说，Q-Star是完全比照人类大脑设计的模型。

OpenAI计划于2027年完成训练，并以GPT-7的名义发布，而一旦成功，预计Q-Star相当于一个智商145的人类，并初步具备自我意识，也就是说，GPT-7将会成为第一个真正的AGI模型。

智商145是啥概念？一个人的认知能力和智力水平，其平均值通常设定为100。智商超过130，通常被认为是高于平均水平，而达到145或更高，则被认为是天才水平，超过了95%的人类。人类目前最聪明的爱因斯坦，智商据说约为160左右，属于几十亿人里几百年才出现一个的天才。

因此，Q-Star多模态大模型就是超级人工智能，必然会引起未来机器人超越人类、毁灭人类的担忧。个人推测，这可能是引发2023年年初，生命未来研究所突然发出《暂停大型人工智能研究》的公开信，马斯克以及许多科技界大佬都署名支持，以及OpenAI创始人Altman突然被罢免等事件的原因。这些科技大佬们都清楚人工智能的强大，但需暂停一下。因为全人类还没做好接受有这般能力AI的准备，包括伦理道德风险、AI失控的风险，先把人工智能和人类的伦理问题解决了再发展。

目前，还不清楚Q-Star的具体原理。据专家推测，可能是基于贝尔曼方程中的最优值函数，即动态规划方程：Q代表动态解，Q*为最优效率解。

去年OpenAI宫斗之前，Ilya率领技术团队做了一个内部测试：Q*可以解小学数学题，现在可以解复杂物理题，这意味着Q*很可能已经完成了小模型的训练，若将其扩展到大模型，就可以规划越来越抽象、越来越复杂的目标，最终逼近并超越人脑，而这正是OpenAI的目标，或者是Altman的目标。

最近马斯克起诉OpenAI违背初心、将AI应用商业化的事，表面上看是想给自己留出追赶时间，但也不排除马斯克可能察觉到了风险所在，希望控制下Altman，不能让其野望毁了全人类！！