EasyNLP 中文 NLP 算法框架

  • 作者：PAI（阿里云人工智能平台）算法团队
  • 平台：基于 PyTorch
  • 优势：中文预训练模型
  • 提供：AppZoo 和预训练 ModelZoo，ModelZoo 有很多预训练模型，EasyNLP 可以无缝接入 huggingface/transformers 的模型；AppZoo 支持文本分类，文本匹配，序列标注等任务。
  • 工具：
    • 支持小样本训练：Contrastive Prompt Tuning。
    • 大模型知识蒸馏技术：让跨领域典型性的样本在学习阶段有更大的权重。
  • 数据：DataHub 还支持一些中文训练数据
  • 项目开源地址：https://github.com/alibaba/EasyNLP
  • 蒸馏算法实现：EasyNLP/examples/knowledge_distillation/metakd