腾讯在大模型领域持续发力,近日发布了针对其开源大模型“混元DiT模型”的加速库,显著提升了推理效率,使得生成图片的时间减少了75%。该模型的使用难度大幅降低,用户可通过ComfyUI的图形化界面轻松运用腾讯的文生图模型,甚至只需三行代码就能在HuggingFaceDiffusers库中调用,无需下载原始代码。通过知识蒸馏和TensorRT高性能推理框架,项目组实现了DiT模型采样步数的压缩和高效部署,这使得模型迭代速度提升50%,耗时减半,且TensorRT的优化方案使其与模型权重解耦,进一步节省时间。
腾讯官方透露,ComfyUI是专为文生图领域设计的WebUI,将扩散算法模块化并图形化,方便用户以直观方式操作,提高生成效率和资源利用。此外,混元DiT模型已集成到HuggingFace的官方模型库Diffusers中,用户可以直接调用,降低了使用门槛。
自混元文生图模型开源以来,腾讯收到了开发者们的积极反响。负责人芦清林表示,他们将持续优化开源生态,让更多开发者能够便捷地利用最新研究成果,共同推动大模型行业的进步。近期,腾讯接连发布多项大模型升级,包括升级后的“腾讯元宝”App,以及云服务中模型价格的大幅度调整,显示了公司在大模型领域的竞争态势日益激烈。
国内其他科技巨头,如科大讯飞和阿里云,也在大模型价格上采取了相应措施,如免费开放部分API或大幅度降价,反映出“百模大战”竞争的白热化。
腾讯推出新举措。
2024-06-06 20:37:00