纳米家园 › 首页 › 查看评论

让机器理解世界 / GPT 时代人类再腾飞

引用 admin 2023-6-22 07:40: 上面这个故事来自《纽约时报》在 GPT-4 发布后的一篇报告《GPT-4来了，我们该感到兴奋还是害怕？》，这也是欣顿教授所担心的核心威胁之一，AI 可以自主执行任务，并且在有必要的情况下伪装自己，霍夫曼也在本书的第4章中讨论了 AI 伪造信息的问题。因此，OpenAI 现在的首要任务是确保模型的安全性，而不是去快速地训练和向公众投放下一个版本。

就像上面提到的实验一样，因为有强大的信息处理和表达能力，GPT-4 可以自己推理和规划，从而设计任务，最后通过调用工具来付诸行动。在 GPT-4 推出后的几周内，让行业最为关注的开源项目就是 AutoGPT 以及类似的 AgentGPT、BabyAGI 等用 GPT-3.5 和 GPT-4 来做推理引擎的智能代理工具。你只需要给 AI 提供一个目标，它们就会将这个目标分解成若干个子任务，再调用外部工具来执行这些子任务，最后来评估任务的执行结果，给出任务的完结报告。我自己就用AutoGPT 来做过几个热门话题的调研工作，得到的结果还不错，不过这一切都是非常早期的试验。但这给出了大语言模型的下一个重要方向，作为智能的中枢来驱动其他软件或者工具自动完成目标与工作，成为人类的智能助理。

或许 AutoGPT 这种全自动助理的概念过于超前了，而微软即 ...