Sora - 创造物理世界模拟器的希望之路

Scaling Law是OpenAI提出的概念，适用于技术、商业和个人。Transformer和Scaling Law的特性使其成为强大的算法。Scaling Law适用于解决所有问题。规模化是商业世界的第一性原理，规模效益决定了商业的成败。

GPT-4V 是 GPT-4 的多模态版本，也就是 LMM，与GPT-4一样，GPT-4V的训练于2022年完成，其训练过程相同。预训练模型首先通过使用来自互联网以及经授权数据源的大量文本和图像数据集来预测下一个单词。然后使用强化学习（RLHF）算法进行微调，让模型输出更符合人类偏好。 在非多模态版本中，GPT-4 就表现出了惊人的多模态能力（详见前文 [《**GPT-4 ，**通用人工智能的火花》论文内容精选与翻译]），在多模态实装之后的 GPT-4V 里，模型的能力更是超乎想象。

这是一个朴素的方法。 简单但是行之有效，是经过理论和实践的双重检验。 不管是产品、运营还是大学生实习，都一学就会，用过之后甚至会觉得比预期的还要简单。 为了简单，也不引用各种概念（RLHF、PPO、DPO、RHAIF、Self-Reward什么的）。 只写每个人都一看就懂，每个人都轻松上手的方法。

看到 a16z 的 AI 赛道观察总结，认知进步，值得参考。 「分类是个工具而不是现实」 不过这样分类确实能帮助理解。

从今年4月出现 AutoGPT 以来，AI 行业就开始把注意力聚焦在 Agent 上，并试图让它产生一些实际的用途。 虽然创业者和投资人当时都还无法给出 Agent 确切的定义，只知道 Agent 应该是规划+记忆+工具组合在一起的东西。 直到11月 OpenAI 发布 GPTs 和 Assistants API，把 Agent 最核心的定义补完。 为什么聊天机器人不是 Agent？ 为什么 New Bing 不是 Agent？ 为什么 GPTs 和 Assistants API 是 Agent？

Google前阵子发布的Gemini 1.5 Pro，是一个具有1M上下文窗口的LLM，它在处理大量信息时表现出色，尤其是在“大海捞针”实验中达到了99.7%的召回率。 在科技的浪潮中，每一项新兴技术都似乎预示着旧技术的终结。然而，当我们观察 RAG 和 long context，一个有趣的现象出现了：被大模型厂商认为即将被淘汰的技术 RAG，却被企业客户视为好用的新技术，其应用非常扎实也越来越广泛。 这种认知上的巨大差异非常有趣，本文将深入探讨RAG与Long Context之间的这场认知冲突，并试图揭示背后的深层次原因。