OpenAI新进展Q*或威胁人类，奥特曼遭罢免？

据知情人士透露，在OpenAI首席执行官山姆·奥特曼被解职的四天前，几名研究人员向董事会递交了一封信，警告称公司的一项重要人工智能研究成果可能对人类构成威胁。这项成果被称为Q*模型。目前，至少有两家媒体独立证实了这一消息。然而，也有媒体报道称，根据一些内部消息，董事会从未收到过这封信，且该研究进展与奥特曼的突然离职并无直接关联。 两位消息人士向路透社表示，这封此前未曾公开的信件是导致奥特曼被解雇的关键导火索之一，也是引发董事会不满的重要原因。一名知情者透露，OpenAI在Q*（发音为Q-Star）的研发上取得了显著进展，部分内部人士认为，这是该公司迈向超级智能（即通用人工智能，AGI）的一次突破性进展。按照OpenAI的定义，通用人工智能是指比人类更聪明的人工智能系统。 由于具备强大的计算能力，新模型能够在某些数学问题上表现出色。尽管其数学水平仅相当于小学阶段，但这种表现仍让研究人员对Q*未来的潜力充满信心。他们认为，数学是生成式人工智能发展的关键领域。目前，生成式人工智能主要依赖统计学方法预测下一个词，从而实现写作和翻译等功能，但答案可能存在多种可能性。相比之下，数学问题通常只有一个正确答案，因此掌握数学能力意味着人工智能将拥有更强的推理能力，接近于人类智能的表现。研究人员相信，这种能力可以应用于推动科学研究的新边界。 消息人士指出，研究人员在给董事会的信中提到，这项技术既展示了人工智能的巨大潜力，也揭示了潜在的风险，但并未具体说明信中涉及的安全隐患。值得注意的是，在奥特曼被解雇前一天，他出席了旧金山举行的亚太经合组织首席执行官峰会，并在会上提及OpenAI近期取得的技术突破：在OpenAI的历史上，包括最近几周，我已经亲历了四次重大时刻——当我们揭开无知的面纱，推动发现的前沿时，能够参与其中是一生的职业荣耀。 随着OpenAI内部局势陷入混乱，这一言论并未引起广泛关注。不过，一位知情人士表示，部分OpenAI员工猜测，奥特曼所指的可能是公司今年早些时候的一项创新技术，这项技术有望帮助开发出更强大的人工智能模型。这项突破由OpenAI首席科学家伊利亚·苏茨克维主导，但一些员工担忧，公司在商业化过程中未能采取足够的安全保障措施。 另据一名消息人士透露，11月22日，OpenAI首席技术官米拉·穆拉蒂在一次内部会议中向员工提到了相关情况……