OpenAI首席研究官:AGI即将到来,模型自我研究不再是科幻
【导语:OpenAI首席研究官Mark Chen表示通用人工智能AGI即将到来,模型能够自主提出更多创新,甚至进行自我维持的研究。但通往AGI的道路上仍存在评测危机、持续学习等难题。】
OpenAI首席研究官Mark Chen宣称,AGI即将到来,我们正接近一个模型能自主创新、进行自我维持研究的世界。从2016年AlphaGo的“神之一手”,到如今各领域AI展现的实力,“模型自己做研究”不再是科幻,而是自然外推的下一步。
面对“预训练已死”“语言模型到不了AGI”的唱衰论调,Mark Chen激烈反对。他认为Scaling曲线还未到头,过去每次所谓的瓶颈都被OpenAI用新技巧和洞见突破。OpenAI曾赌赢推理范式,这让他坚信模型自我维持研究不远了。
Mark提出“Vibe Researcher”概念,认为未来顶级研究员将是“拿捏感觉”的人,人负责出主意,模型负责执行。OpenAI的三年路线图目标是让模型做端到端的研究,但这也意味着人类工作将被压缩到提出问题和判断答案“品味”上。
通往AGI的道路并非坦途。首先是评测危机,“刷榜”现象严重,公认的金标准benchmark数量少,经典测试对模型饱和。应对策略包括分离评估和优化团队、观察实际应用失败模式。其次是模型在持续学习上的不足,能解决难题却搞不定琐事,这是全行业正在攻克的硬骨头。
Mark Chen表示AGI实现后想去开个面馆,这背后的深意是,当AI能完成所有科研,人类最稀缺的资源将是“体验”,机器无法赋予汤以“温度”和“故事”。编辑观点:AGI的到来虽充满希望,但也面临诸多挑战。人类需在与AI的协作中找准自身定位,发挥独特价值。
