10 KiB
10 KiB
性能调优指南
1. 系统优化
1.1 GPU设置
- 设置CUDA计算能力
- GPU功耗模式调整
- 显存预分配策略
1.2 系统配置
- CPU频率调节
- 系统IO优化
- 网络参数调整
2. Pipeline优化
2.1 多线程优化
- 线程池配置
- 任务调度策略
- 线程亲和性设置
2.2 内存优化
- 零拷贝传输
- 内存池管理
- 显存复用策略
2.3 批处理优化
- 动态批大小
- 批处理超时设置
- 帧积累策略
2.4 输入输出映射优化
- 映射关系管理
- 使用哈希表实现 O(1) 查找
- 缓存常用映射关系
- 避免频繁修改映射
- 并发访问优化
- 读写锁分离
- 细粒度锁定
- 避免长时间持锁
- 资源管理优化
- 智能指针管理生命周期
- 内存池复用
- 延迟初始化策略
3. 推理优化
3.1 TensorRT优化
- FP16/INT8量化
- 动态Shape处理
- Workspace大小设置
3.2 预处理优化
- GPU预处理
- 并行预处理
- 数据预取
4. IO优化
4.1 输入优化
- RTSP缓冲设置
- 解码器选择
- 帧采样策略
4.2 输出优化
- 编码器参数
- 推流缓冲
- 写入策略
4.3 映射关系优化
- 合理配置映射关系
- 避免不必要的多重映射
- 根据实际需求设置映射
- 定期清理无效映射
- 输出目标管理
- 复用输出目标
- 动态调整目标参数
- 按需初始化资源
- 性能监控
- 监控映射状态
- 跟踪资源使用
- 分析性能瓶颈
5. 监控与调试
5.1 性能指标
- GPU利用率
- 内存使用
- 处理延迟
- 吞吐量统计
5.2 性能分析
- NVPROF分析
- 内存泄漏检测
- 性能瓶颈定位
5.3 映射性能监控
-
映射关系统计
// 获取映射统计信息 size_t total_sources = input_manager.getAllSourceNames().size(); size_t total_targets = output_manager.getTargetCount(); // 检查映射效率 for (const auto& source : input_manager.getAllSourceNames()) { std::vector<std::string> targets; input_manager.getOutputTargets(source, targets); // 分析映射数量和资源使用 } -
资源使用监控
// 监控输出目标状态 for (const auto& target : output_manager.getTargetNames()) { std::string error_msg; bool status = output_manager.getTargetStatus(target, error_msg); // 记录状态和错误信息 } -
性能指标收集
// 收集写入性能指标 struct PerformanceMetrics { double avg_write_time; double max_write_time; size_t total_frames; size_t dropped_frames; }; // 定期更新和分析性能指标 void updateMetrics(const std::string& target, double write_time) { metrics[target].avg_write_time = (metrics[target].avg_write_time * metrics[target].total_frames + write_time) / (metrics[target].total_frames + 1); metrics[target].max_write_time = std::max(metrics[target].max_write_time, write_time); metrics[target].total_frames++; }
6. 映射性能优化建议
6.1 配置优化
-
映射关系设计
- 避免创建不必要的映射
- 合理分组输出目标
- 根据实际需求配置映射
-
缓冲区设置
- 为不同类型的输出配置适当的缓冲区
- 考虑输出目标的特性
- 平衡内存使用和性能
-
参数调优
- 根据输出目标类型设置合适的参数
- 考虑网络条件和系统资源
- 动态调整参数以适应变化
6.2 代码优化
-
映射查找优化
// 使用哈希表存储映射关系 std::unordered_map<std::string, std::vector<std::string>> source_target_map; // 缓存常用映射 std::unordered_map<std::string, std::vector<std::string>> mapping_cache; // 快速查找实现 bool getTargets(const std::string& source, std::vector<std::string>& targets) { auto it = mapping_cache.find(source); if (it != mapping_cache.end()) { targets = it->second; return true; } auto map_it = source_target_map.find(source); if (map_it != source_target_map.end()) { targets = map_it->second; mapping_cache[source] = targets; return true; } return false; } -
并发访问优化
// 使用读写锁 mutable std::shared_mutex mapping_mutex; // 读取映射关系 bool getTargets(const std::string& source, std::vector<std::string>& targets) const { std::shared_lock<std::shared_mutex> lock(mapping_mutex); auto it = source_target_map.find(source); if (it != source_target_map.end()) { targets = it->second; return true; } return false; } // 更新映射关系 bool updateMapping(const std::string& source, const std::vector<std::string>& targets) { std::unique_lock<std::shared_mutex> lock(mapping_mutex); source_target_map[source] = targets; mapping_cache.erase(source); // 清除缓存 return true; } -
资源管理优化
// 使用智能指针管理资源 class OutputTarget { public: using Ptr = std::shared_ptr<OutputTarget>; static Ptr create(const OutputTargetConfig& config) { return std::make_shared<OutputTarget>(config); } }; // 资源池管理 class ResourcePool { public: OutputTarget::Ptr acquireTarget(const std::string& name) { std::lock_guard<std::mutex> lock(pool_mutex); auto it = available_targets.find(name); if (it != available_targets.end()) { auto target = it->second; available_targets.erase(it); return target; } return nullptr; } void releaseTarget(const std::string& name, OutputTarget::Ptr target) { std::lock_guard<std::mutex> lock(pool_mutex); available_targets[name] = target; } private: std::mutex pool_mutex; std::unordered_map<std::string, OutputTarget::Ptr> available_targets; };
6.3 性能监控
-
映射效率监控
struct MappingMetrics { size_t mapping_updates; size_t cache_hits; size_t cache_misses; double avg_lookup_time; }; void updateMappingMetrics(const std::string& source, bool cache_hit, double lookup_time) { auto& metrics = mapping_metrics[source]; metrics.mapping_updates++; cache_hit ? metrics.cache_hits++ : metrics.cache_misses++; metrics.avg_lookup_time = (metrics.avg_lookup_time * (metrics.cache_hits + metrics.cache_misses - 1) + lookup_time) / (metrics.cache_hits + metrics.cache_misses); } -
资源使用监控
struct ResourceMetrics { size_t active_targets; size_t total_memory; size_t peak_memory; double avg_utilization; }; void updateResourceMetrics(const std::string& target, size_t memory_usage) { auto& metrics = resource_metrics[target]; metrics.total_memory = memory_usage; metrics.peak_memory = std::max(metrics.peak_memory, memory_usage); // 更新其他指标... }
6.4 常见问题解决
-
映射性能问题
- 检查映射关系是否合理
- 优化缓存策略
- 调整锁粒度
-
资源使用问题
- 监控内存使用
- 及时释放资源
- 优化资源池配置
-
并发访问问题
- 使用适当的锁策略
- 减少锁的持有时间
- 考虑无锁实现
RTSP 流读取优化
延迟与流畅度平衡
RTSP 流的读取性能主要受以下参数影响：
-
缓冲区大小 (
buffer_size)- 较大的缓冲区可以提供更流畅的播放体验，但会增加延迟
- 较小的缓冲区可以降低延迟，但可能导致画面卡顿
- 建议值：
- 低延迟场景：5-10
- 一般场景：30
- 高流畅度场景：50-100
-
帧率控制 (
target_fps)- 限制帧率可以减少系统资源占用
- 建议根据实际需求设置，通常不需要超过显示器刷新率
- 常见设置：
- 监控场景：15-20 fps
- 一般场景：25-30 fps
- 高帧率场景：60 fps
-
超时设置 (
frame_timeout_ms)- 较短的超时时间可以更快地检测到连接问题
- 较长的超时时间可以容忍网络波动
- 建议值：
- 局域网：1000-2000 ms
- 互联网：3000-5000 ms
-
重连策略
max_retry_count和retry_interval_ms的组合决定了重连行为- 建议值：
- 稳定网络：重试 3 次，间隔 1000ms
- 不稳定网络：重试 5-10 次，间隔 2000-3000ms
优化建议
-
网络优化
- 使用有线网络而不是无线网络
- 确保网络带宽充足
- 考虑使用 QoS 策略优先处理 RTSP 流量
-
编码设置
- 使用 MJPEG 编码可以降低延迟
- H.264/H.265 编码可以节省带宽但会增加延迟
-
分辨率与帧率
- 根据实际需求选择合适的分辨率和帧率
- 不要盲目追求高分辨率和高帧率
-
内存管理
- 避免频繁的帧拷贝
- 考虑使用帧池来复用内存
性能监控
可以通过以下方式监控 RTSP 流的性能：
-
帧率监控
float current_fps = reader.getCurrentFps(); -
连接状态监控
bool is_connected = reader.isConnected();
常见问题解决
-
画面卡顿
- 增加缓冲区大小
- 检查网络带宽
- 降低分辨率或帧率
-
延迟过高
- 减小缓冲区大小
- 使用 MJPEG 编码
- 优化网络路径
-
频繁断连
- 增加超时时间
- 调整重连策略
- 检查网络稳定性