阿里推出高效生成式微调框架SCEdit 

32次阅读
没有评论

共计 823 个字符,预计需要花费 3 分钟才能阅读完成。

SCEdit 是阿里巴巴同义视觉智能实验室提出的一种高效的生成式微调框架。该框架增强了文本到图像生成下游任务的微调能力,并能够快速适应特定的生成场景,与 LoRA 相比,节省了 30%-50% 的训练内存成本。此外,它可以直接扩展到可控图像生成任务,仅需 ControlNet 用于条件生成的 7.9% 的参数,并节省 30% 的内存使用量。它支持各种条件生成任务,包括边缘图、深度图、分割图、姿势、颜色图和图像完成。SCEdit 目前包括 SCEPTER 和 SWIFT。

  • SCEPTER 是一个开源的代码库,致力于生成式训练、微调和推理,涵盖了一系列下游任务,如图像生成、迁移、编辑。它集成了流行的社区驱动实现以及阿里巴巴集团同义实验室的专有方法,为 AIGC 领域的的研究人员和从业者提供了一个全面的工具包。这个多功能库旨在促进创新并加速生成模型快速发展的领域的开发。
  • SWIFT(Scalable lightWeight Infrastructure for Fine-Tuning)是一个可扩展的轻量级一站式训练、推理深度学习框架。它集成了各种高效的微调方法,如 LoRA、QLoRA、阿里云自研的 ResTuning-Bypass 等,以及开箱即用的训练推理脚本,使开发者可以在单张商业级显卡上微调推理 LLM&AIGC 模型。此外,SWIFT 与 PEFT 完全兼容,使开发者可以在 ModelScope 模型体系中使用 PEFT 的能力。

SCEdit 项目主页:https://scedit.github.io

GitHub 地址:https://github.com/ali-vilab/SCEdit

SCEPTER 地址:https://github.com/modelscope/scepter

SWIFT 地址:https://github.com/modelscope/swift

Demo 地址:https://huggingface.co/spaces/modelscope/scepter_studio

阿里推出高效生成式微调框架 SCEdit

正文完
关注公众号获取最新教程
post-qrcode
 
AI小诸葛
版权声明:本站原创文章,由 AI小诸葛 2024-01-22发表,共计823字。
转载说明:除特殊说明外本站文章皆由原创发布,请勿转载。
评论(没有评论)
验证码