中移智库：2024年AI大模型技术变迁情况回溯报告

本文概述了2024年AI大模型技术的变迁情况。核心内容包括：1. 语言大模型通过强化学习优化内部思维链策略，提升复杂逻辑推理能力，如OpenAI的o1推理大模型。2. 多模态大模型架构向端到端演进，提高决策准确性和灵敏度，满足无人驾驶、人形机器人等应用场景需求，如英伟达的人形机器人项目GR00T。3. 视频生成领域，DiTs架构的可扩展性优势显现，推动AI应用商业化，如OpenAI的视频生成模型Sora。4. 硬件部署方面，模型压缩、安全控制等技术降低部署门槛，如苹果的AppleIntelligence。5. 智能体实践方面，垂类大模型开始在智能终端环境应用，如苹果的Ferret-UI模型。6. 大模型合成数据策略方面，自我奖励语言模型生成合成数据，打破数据墙瓶颈，如Meta的Llama 3.1 405B。