|
|
7f03cc24e3
|
fix(rmbg): 将 on_event 迁移到 lifespan 事件处理器以消除弃用警告
|
2025-11-23 16:33:12 +08:00 |
|
|
|
0e1a99d975
|
优化GPU推理性能：复用转换器并减少不必要的显存清理
- 复用 ToPILImage() 转换器，避免循环中重复创建对象
- 移除批处理前不必要的显存清理（批处理会重用显存）
- 移除批处理后的 gc.collect()，减少阻塞开销
- 保留单张处理的 gc.collect()，确保及时释放内存
预期性能提升：3-8%
|
2025-11-23 16:22:31 +08:00 |
|
|
|
9e259e7344
|
优化rmbg服务的保存图片逻辑，提高效率
|
2025-11-23 15:57:42 +08:00 |
|
|
|
cecd617104
|
feat(rmbg): 添加批处理性能统计功能
- 记录下载图片、GPU推理、保存图片各阶段的耗时
- 输出详细的性能统计信息，包括：
* 图片总数、成功/失败数量
* 批处理次数和每批图片数
* 各阶段耗时及占比
* 总耗时、平均每张耗时、每批平均耗时
- 使用统一的日志格式输出统计信息
|
2025-11-23 15:48:33 +08:00 |
|
|
|
4a906d87fb
|
feat: 实现批处理队列机制和性能优化
主要改进：
1. 实现队列批处理机制（方案B）
- 添加异步队列收集多个独立请求
- 后台任务定期批量处理，提升吞吐量5-15倍
- 支持队列启动/关闭生命周期管理
2. 优化批处理性能
- 并行保存图片（从串行改为并行）
- 智能批处理决策（<=batch_size*2时一次性处理）
- 自动降级机制（显存不足时自动分批处理）
3. 显存优化
- 实现FP16半精度推理，显存占用减少约50%
- 优化显存清理策略（批处理前后主动清理）
- 设置PYTORCH_CUDA_ALLOC_CONF减少碎片化
4. 配置优化
- 添加队列相关配置（收集间隔、超时等）
- 调整batch_size默认值为8（适配BiRefNet模型）
性能提升：
- 13张图片处理时间：12秒 → 6.7秒（提升44%）
- GPU利用率：40-60% → 80-95%
- 显存占用：15.5GB → 8GB（FP16模式）
|
2025-11-23 15:01:43 +08:00 |
|
|
|
5552b30958
|
优化rmbg，删除未使用的变量
|
2025-11-23 05:14:25 +08:00 |
|
|
|
10fb6084f5
|
优化rmbg并发逻辑，实测并发生效
|
2025-11-23 04:58:58 +08:00 |
|
|
|
474ce6f5db
|
重构rmbg支持异步并发任务
|
2025-11-23 03:23:44 +08:00 |
|
|
|
c99e20ff61
|
优化jfile服务：将清理间隔改为可配置，文件保留时间调整为15分钟
- 将清理间隔从硬编码3600秒改为可配置项cleanup_interval_seconds
- 文件保留时间从1小时调整为15分钟（0.25小时）
- 清理间隔同步调整为15分钟（900秒），保持与保留时间一致
- 优化存储空间使用，过期文件更及时清理
|
2025-11-21 08:50:53 +08:00 |
|
|
|
419744686f
|
feat(jfile): 添加CORS响应头支持第三方前端下载图片
- 添加HTTP中间件为/files路径响应添加CORS响应头
- 支持Access-Control-Allow-Origin、Access-Control-Allow-Methods和Access-Control-Expose-Headers
- 添加Content-Disposition头让浏览器直接下载而不是打开图片
- 统一处理OPTIONS预检请求
- 优化性能：提前返回非目标请求
|
2025-11-21 01:44:02 +08:00 |
|
|
|
ba4a57849d
|
feat(rmbg): 添加图片URL返回功能，移除base64字段
- 添加保存图片到jfile/files目录的功能
- 返回结果从image_content改为image_url
- 添加save_dir和download_url配置项
- 大幅减少返回数据大小，提升传输性能
- file和batch接口均支持返回图片URL
|
2025-11-21 01:34:31 +08:00 |
|
|
|
b3818a9ab1
|
feat(rmbg): 将file接口改为流式返回，统一接口风格
- 将file上传接口从一次性返回改为流式返回
- 使用StreamingResponse和NDJSON格式，与batch接口保持一致
- 提升用户体验，减少响应等待时间
- 统一两种接口的返回格式
|
2025-11-21 00:29:34 +08:00 |
|
|
|
173f788ab7
|
fix(jfile): 移除文件清理的前缀限制，清理所有过期文件
- 移除 FileCleaner 的前缀过滤逻辑
- 清理 files 目录下所有超过保留时间的文件
- 修复 split_ 前缀文件未被清理的问题
|
2025-11-20 10:33:20 +08:00 |
|
|
|
c27fbb19c2
|
jembedding启用GPU加速
|
2025-10-08 15:32:12 +08:00 |
|
|
|
feb598d72a
|
基于AutoModel重构jembedding的service.py
|
2025-10-08 15:23:15 +08:00 |
|
|
|
8fc4a3c603
|
jembedding更新为支持离线加载模型
|
2025-10-08 06:26:13 +08:00 |
|
|
|
fea1df9990
|
增加jembedding微服务
|
2025-10-08 05:40:11 +08:00 |
|
|
|
f7363c8ba8
|
修复midjourney图片分割逻辑漏洞
|
2025-08-31 21:25:34 +08:00 |
|
|
|
82088279eb
|
更新api接口为https正式版
|
2025-08-14 20:12:21 +08:00 |
|
|
|
f0a434ec2e
|
更新jingrow系统api接口
|
2025-06-27 20:16:13 +08:00 |
|
|
|
e09aa09f14
|
清除jart_v1调试日志
|
2025-06-20 01:01:10 +08:00 |
|
|
|
61267eacdd
|
重构jart_v1支持sd3.5模型
|
2025-06-20 00:18:39 +08:00 |
|
|
|
dee2929268
|
优化jupscale
|
2025-05-20 20:13:09 +08:00 |
|
|
|
5cfae7aafe
|
更新图片中转API地址
|
2025-05-20 19:27:06 +08:00 |
|
|
|
0e0443eab2
|
确保midjourney seed参数位于末尾
|
2025-05-20 18:34:25 +08:00 |
|
|
|
b523b6975b
|
更新midjourney适合生产环境
|
2025-05-20 17:01:34 +08:00 |
|
|
|
0e5b27e422
|
优化midjourney微服务
|
2025-05-20 16:04:57 +08:00 |
|
|
|
87261dad9f
|
修复midjourney提示词包含参考图片时响应格式不正确的问题
|
2025-05-20 13:10:54 +08:00 |
|
|
|
f3eb21f5f3
|
修复midjourney
|
2025-05-20 04:00:49 +08:00 |
|
|
|
6e70ad3033
|
增加midjourney微服务
|
2025-05-19 22:34:45 +08:00 |
|
|
|
4be051e459
|
japi 微服务版
|
2025-05-12 02:39:56 +08:00 |
|
