Bert4torch

bug修复
- 修复chatglm3的bug
- 修复save_pretrained时多文件的bug
- 修改Text2Vec的bug

新增小功能
- 增加CausalLMLoss
- 修改deepspeed的传参逻辑
- 完善openai client
- 增加get_weight_decay_optim_groups

bug修复
- 修改repetition_penalty的bug
- 修复config_path的bug

功能优化
- attention中允许is_causal
- 把baichuan从llama中剥离

新增功能
- 增加get_weight_decay_optim_groups函数
- 允许num_key_value_heads参数

1. 🔥build_transformer_model允许从hf下载
2. fastapi发布服务允许闲时offload到cpu
4. 添加FillMask的pipeline
5. 添加SequenceClassificationTrainer

1. 修改`save_pretrained`用于保存文件夹
2. 增加GenerateSpeed用于统计token生成速度
3. 修复t5在use_states=True时候的错误
4. 修改层次编码的bug
5. 增加deepseek_moe模型
6. 修复generation并发错误，优化大模型耗时

- bug修复
- 增加`save_pretrained`用于保存`transformer`格式的权重,
- 增加部分`embedding`模型

- `training`时候不生成`past_key_values`
- 增加`streamlit`的example
- 修复句向量`max`时的bug
- `batch_generate`合并到`generate`
- 修改`generation`的默认参数名(兼容过去的参数名)
- 多轮对话中可保留`past_key_values`
- 把`attention`中的`mask`补齐逻辑移到`apply_embedding`中
- 增加`uie`的`pipeline`
- 增加`PtuningV2Trainer`