部署模型推理 安装huggingface_hub: 我们用hf下载 量化版本:FP16 -> JQ4(4-bit) 这个是社区重打包的,完全公开...
一次日常思考内容。 GPU算力区别 旗舰单卡层面:差距在明显缩小。2026年4月量产的昇腾950PR,绝对算力大约是英伟达H200的一半,但显存...
插件目录结构 .claude-plugin目录 只有1个plugin.json文件 --plugin-dir 和 marketplace 安装的...
核心定位:同步层,而非云迁移 Remote Control 是一个同步层(synchronization layer)或者说中继网关,而不是将工...
接前文:资源等待与系统吞吐—— 从线程、连接到 TCP 带宽利用率[https://www.jianshu.com/p/8f019ad1388d...
我们从一个后端服务的抽象开始。 一、线程池与连接池如何成为瓶颈 想象一个转发型的网关服务,它是一个中间服务,主要任务是接收上游调用、然后调用下游...
最近在学习Go并发,菜鸟教程里没有写完关于context、sync.Mutex、sync.RWMutex的例子。这里补充一下。 一、contex...
使用模型 单生产者/多生产者 + 多个单线程消费者 生产者 往RingBuffer里边写Event,可以单线程写,也可以多线程并发写。 Prod...
裸线程的危害 创建裸的非守护线程,kill -15 pid 应用停止的时候,线程一直在跑,应用是停止不了的,只能kill -9 pid,因为jv...