2025年，AGI革命即将爆发！深入解析Sam Altman和Kevin Weil的前瞻性对话
AGI离我们有多远？
在最近的一次对话中，Sam Altman和Kevin Weil详细讨论了人工智能领域的最新进展，尤其是通用人工智能（AGI）的未来。他们指出，到2025年，随着OpenAI模型o1及其前辈的发展，智能代理将开始发挥实际作用。
1. 何为AGI？
Sam Altman提到，在完成一个系统后，他们会问自己：“这在什么方面还不是AGI？” 这个术语过于泛化，但o1已被定义为二级AGI。提高科学发现的速度是他们追求的北极星目标。
2. 科学发现的加速
Sam强调，“定义变得如此重要，意味着我们正在接近。”当前识别AGI的标准模糊不清，但这正是因为我们越来越接近实现真正的AGI。如果能开发出一个比OpenAI更擅长AI研究的系统，那将是一个真正的里程碑。
3. 确保安全与对齐
OpenAI的使命是构建安全的AGI，不论需要部署硬件还是进行研究。他们致力于找到新的范式，并通过迭代部署来确保模型逐步变得更安全。正如Sam所说，“担忧科幻情节是我们最重要的事情之一。”
4. 智能代理的未来
o1及其前辈将使智能代理成为现实。Kevin认为，人们将很快习惯这种新技术，并依赖它来完成以前需要花费大量时间才能完成的任务。然而，安全性和对齐性仍然是允许代理完全控制用户设备的主要障碍。
5. 执行的重要性
尽管技术至关重要，但成功执行同样重要。Sam警告说，不要误以为技术本身就能驱动成功，公司还需要有效的业务实践。
6. 功能调用与结构化输出
在今年年底之前，o1将支持功能调用、系统提示和结构化输出，这标志着交互方式向更复杂层次的转变。模型将在短时间内迅速变得更加智能，这是可以预见的。
7. 开源与长上下文窗口
关于开源，虽然目前优先级不高，但OpenAI希望在未来能够做一些开源工作。而关于长上下文窗口，Sam提到使用率比他预想的要低，但无限上下文长度将在十年内实现。
8. 内部测试与虚拟员工
OpenAI通过内部测试来衡量模型质量，并计划在向智能代理世界迈进时尝试虚拟员工。这将进一步推动公司在人工智能领域的发展。
总结
