What's Changed
Release note (832)
* feat: 补充 V2 压测结果中的 choices 字段 (847) Alex-TG001
* feat: 压测支持 function_call (850) Dobiichi-Origami
* bugfix: 使用信号量替换带超时的 queue.get 以避免压测情况下影响 QPS 值 (856) Dobiichi-Origami
* bugfix: 修复当 text 为 None 时 _MiniLocalTokenizer 无法正常工作的问题 (857) Dobiichi-Origami
* feat: 批量推理与压测支持预热操作,提升性能表现 (859) Dobiichi-Origami
* feat: Add kwargs for llm (861) Dobiichi-Origami
**Full Changelog**: https://github.com/baidubce/bce-qianfan-sdk/compare/py/v0.4.11...py/v0.4.12