MWC2024|高通将推出全新AI Hub
在2024年的世界移动通信大会(MWC),5G和人工智能(AI)依然是备受关注的焦点。在这次MWC上,高通公司在发布会上正式推出了全新的高通AI Hub,为开发者提供了获取开发资源的中心,以便他们能够基于骁龙或高通平台来构建AI应用。
具体来说,高通AI Hub为开发者提供了全面优化的AI模型库,包括传统AI模型和生成式AI模型,支持在骁龙和高通平台上进行部署。开发者只需选择所需的模型和开发应用所使用的框架,然后确定目标平台,如特定型号的手机或特定型号的高通平台,就可以获取面向指定应用和平台优化的模型。高通AI Hub将支持超过75个AI模型,并对这些模型进行了优化,使开发者能够获得高达4倍的AI推理速度提升。
优化后的模型不仅提升了速度,而且还减少了内存带宽和存储空间的占用,实现了更高的能效和更长的电池续航。这些优化模型将在高通AI Hub、以及HuggingFace和GitHub上提供,让开发者能够方便地将AI模型集成到工作流中。
此外,高通还展示了全球首个在搭载第三代骁龙8系列芯片的安卓手机上运行的多模态大模型(LMM)。该模型支持文本、语音和图像输入,并能够进行多轮对话。另外,在搭载全新骁龙X Elite平台的Windows PC上,高通还展示了另一个多模态AI的演示,能够理解不同声音并基于此进行对话,为用户提供帮助。
此外,高通还展示了他们首个在安卓手机上运行的LoRA模型,该模型能够在不改变底层模型的前提下调整或定制生成内容,为用户提供个性化定制的生成式AI体验。