全新一代旗舰级5G生成式AI移动芯片天玑9300发布

文章最后更新时间:2023-11-11,由天天资讯负责审核发布,若内容或图片失效,请联系客服!

广告3宽

联发科发布新一代旗舰5G生成式AI移动芯片天玑9300。 其独特的全核架构设计,结合新一代AI处理器APU和联发科的先进技术,为生成式AI应用提供强劲性能。 ,为用户带来美妙的生成式AI体验。 此外,联发科还与多家AI公司进行深度合作,共同构建移动环境下的AI生态系统。

全新第七代AI处理器APU 790,为生成式AI而生

随着用户对生成式AI应用需求的增长,设备端生成式AI的便利性、安全性等优势凸显。 当然,部署端侧AI大语言模型需要强大的AI算力支持。

天玑9300搭载联发科第七代AI处理器APU 790,专为生成式AI而设计。 它拥有硬件级生成式AI引擎,可以实现更快、更安全的边缘AI计算和算子加速的深度适配模型。 速度是上一代的8倍。

同时,APU 790的性能和能效也得到了显着提升。 整数运算和浮点运算能力均提升至上一代的2倍。 .1 AI-Soc跑分达到2109分,成功称霸AI性能榜单,功耗降低45%。 %。 在强大AI性能的支持下,不到1秒即可生成图片。 天玑9300强大的AI算力、创新的全核CPU架构和G720 GPU,都为在设备端运行生成式AI奠定了坚实的性能基础。

同时,基于数亿参数的大型语言模型的特点,联发科开发了混合精度INT4量化技术,结合联发科独特的内存硬件压缩技术,可以更高效地利用内存带宽,并大幅降低计算量。大型AI模型占用的终端内存量。 运行AI大语言模型突破了手机的内存限制,有助于更大的参数模型在设备上实现。

综合以上,天玑9300在vivo旗舰手机上率先推出70亿参数AI大语言模型,处理速度高达每秒20个。 不仅如此,联发科还突破了行业限制,与vivo成功在设备端运行了130亿参数的大型语言模型。 就连天玑9300也率先在移动芯片上成功运行了330亿参数的AI大语言模型,领先业界。

天玑9300还支持多模态生成式AI大模型,打造“文升诗”、“文升图”、“文升趣图”等丰富有趣的端侧体验。

可见,天玑9300的AI算力和端侧生成式AI能力已经领先业界,足以让用户随时随地实现充分的AI创造力。

生成式AI模型端侧技能拓展,带来全面丰富的端侧生成式AI体验

与云端生成式AI解决方案不同,由于硬件环境的差异,部署端侧生成式AI还需要考虑手机内存、存储容量、负载限制等因素。 为此,联发科率先提出了先进的解决方案。

APU 790支持生成式AI模型端侧技能扩展技术,可在基础大模型的基础上不断在端侧进行低秩自适应(LoRA,Low-Rank)融合。 在混合AI的赋能下,可以将基础大模型通过云端训练,在客户端完成N个功能的集成,赋予基础大模型更全面、更丰富的生成式AI应用能力。

例如,基于AI模型端侧技能扩展技术,“图片GIF”功能可以让用户根据一张照片改变不同的风格甚至表情,打造个人风格的表情包,成为表情达人。秒。

AI开发平台加速端侧生成式AI生态布局

基于强大的AI算力、先进的内存硬件压缩技术、AI模型端侧技能扩展等技术,天玑9300的APU 790将端侧生成式AI的速度和广度提升到了一个全新的水平。 同时,为了加速生成式AI在设备端的部署和普及,联发科还以其AI开发平台构建了丰富的AI生态系统,从底层硬件到工具链、模型中心和开发生态,帮助生态系统快速高效地部署设备端生成式AI应用。

AI开发平台支持,Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

更重要的是,它拥有完整、先进的工具链,包括低秩自适应融合、推测解码加速以及模型优化和转换技术。

联发科天玑开发者中心还可以为端侧生成式AI落地提供一站式开发者资源,分享端侧模型部署案例,提高开发效率。 目前已有超过20家生成AI合作伙伴加入生态共建。

联发科技还与行业合约合作伙伴合作,打造精彩的生成式 AI 应用体验。 虹软的生成式AI超分辨率技术基于天玑9300 APU的边缘计算能力,相比上一代可提升30%的性能。 在 25 倍放大倍率下拍摄时,可利用生成式 AI 超分辨率技术捕捉细节更真实的图像。

极感科技的生成式AI语义搜索技术也是基于天玑9300 APU的边缘计算能力。 与上一代相比,性能可提升260%。 例如,在手机相册中搜索照片并描述照片的内容,则可以在毫秒内准确找到对应的照片。 而且,即使断网也可以进行搜索,您的隐私不会被泄露。

视频通话的实时数字化身生成技术也是基于天玑9300 APU的边缘计算能力。 与上一代相比,性能提升26%。 一般的头像生成器需要手动选择外观样式,并且需要时间。 但基于视频通话的实时数字化身生成技术,用户操作起来很简单。 他们只需要打开相机的单帧即可立即生成数字化身。

基于天玑9300 APU的边缘计算能力,慧立生成式AI防眩光技术性能可提升60%。 在这项技术的支持下,无论在室外还是室内拍摄时有眩光,只需调暗即可消除眩光干扰。

可以看到,在AI端云融合的趋势下,天玑9300展现了AI算力、生成式AI用户体验和生态的综合优势,为新一代旗舰端侧生成式AI体验树立了新标杆。 强大的生成式人工智能的基准是 。

与此同时,以联发科为典型代表的生成式AI领军企业,正携手通过持续的技术创新和全面的生态布局,推动混合式AI计算,为端侧生成式AI部署找到一条独特高效的路径。 路径,全力推动生成式AI在设备端的应用,旨在让更多普通用户享受个性化的设备端AI体验,进而构建全新的全场景智能体验,让科技的效益达到极致更多的人。 人们。

继续阅读:

广告3宽
文章版权声明:除非注明,否则均为演示站原创文章,转载或复制请以超链接形式并注明出处。
取消
微信二维码
微信二维码
支付宝二维码