×
img

上海证券:互联网传媒行业周报:周观点:大模型开启长文本时代,文生3D领域关键性问题取得突破

发布者:wx****30
2023-10-17
1 MB 3 页
影视 上海证券
文件列表:
上海证券:互联网传媒行业周报:周观点:大模型开启长文本时代,文生3D领域关键性问题取得突破.pdf
下载文档
10月9日,大模型初创公司MoonshotAI宣布在「长文本」领域实现突破,推出首个支持输入20万汉字的智能助手产品KimiChat。这是目前全球市场上能够产品化使用的大模型服务中所能支持的最长上下文输入长度,标志着MoonshotAI在这一重要技术上取得了世界领先水平。相比当前市面上以英文为基础训练的大模型服务,KimiChat具备较强的多语言能力:KimiChat在中文上具备显著优势,实际使用效果能够支持约20万汉字的上下文,2.5倍于Anthropic公司的Claude-100k(实测约8万字),8倍于OpenAI公司的GPT-4-32k(实测约2.5万字)。同时,KimiChat通过创新的网络结构和工程优化,在千亿参数下实现了无损的长程注意力机制,不依赖于滑动窗口、降采样、小模型等对性能损害较大的「捷径」方案。目前,MoonshotAI的智能助手产品KimiChate开放了内测。文生3D领域取得关键突破,助力解决多视角一致性问题。近日,字节跳动研究人员推出一项名为MVDream的多视图扩散模型,其能够根据给定的文本提示生成几何一致的多视图图像。通过利用在大规模Web数据集和从3

加载中...

已阅读到文档的结尾了

下载文档

网友评论>