240 发简信
IP属地:北京
  • @cp3_1dbc
    a: OMP_NUM_THREADS这个参数控制的是线程数,当线程数是1时,检索时间比较稳定,若非1,检索时间波动较明显。
    b: 多进程指把检索服务改造成master-worker多进程模式,提高检索服务性能。
    c: 另外数据量级更大的时候,而内存有限。优化方向可以考虑:分布式+索引磁盘化。

    Faiss优化:针对OMP_NUM_THREADS环境变量设置的测试验证

    前言 记录一下Faiss在项目使用中的一些优化,对OMP_NUM_THREADS 环境变量参数的测试验证~ 结论: 测试结果统计: * CPU=1 & OMP_NUM_THR...

  • Linux 快速复制或删除大量小文件

    前言 公司需要输送给网安部一批数据集,共计1550w张图片,大约3,5T。 处理过程中同时参考网上的一些方法的实践总结。 1:快速大量小文件复制 a. 本机不同磁盘之间复制:...

  • Linux 常用命令整理

    前言 1. 对环境的操作 1.1. 查看进程中的环境变量 1.2. Linux查看物理CPU个数、核数、逻辑CPU个数 **# 总核数 = 物理CPU个数 X 每颗物理CPU...

  • 120
    Faiss优化:针对OMP_NUM_THREADS环境变量设置的测试验证

    前言 记录一下Faiss在项目使用中的一些优化,对OMP_NUM_THREADS 环境变量参数的测试验证~ 结论: 测试结果统计: * CPU=1 & OMP_NUM_THR...

  • 120
    Mongdb中常用的数据清洗

    前言 分享一些Mongdb常用的数据清洗方式 注:"Exceeded memory limit for $group, but didn't allow external s...

  • 基于Alpine和Ubuntu的Docker镜像修改时区

    前言 我们在pull国外基础镜像使用时,时区就成为一个不能规避的问题。国外时区通常都是UTC,需要改成国内时区CST. Ubuntu 基本镜像修改时区 Alpine 基础镜像...

  • Python日志转JSON格式输出到ELK时,中文乱码

    前言 常规我们需要把业务日志转成JSON格式输入到ELK中。经常会碰到中文乱码的问题 解决方案 方案a: pythonjsonlogger [自动把日志转化json]安装方式...

  • 120
    一文读懂:完整的支付系统整体架构!

    支付产品模块是按照支付场景来为业务方提供支付服务。这个模块一般位于支付网关之后,支付渠道之前。 它根据支付能力将不同的支付渠道封装成统一的接口,通过支付网关来对外提供服务。所...

  • 120
    Github上 10 个开源免费且优秀的后台控制面板

    Web 开发中几乎的平台都需要一个后台管理,但是从零开发一套后台控制面板并不容易,幸运的是有很多开源免费的后台控制面板可以给开发者使用,那么有哪些优秀的开源免费的控制面板呢?...