龙虾 AI 容易忽略的细节，太重要
一、模型输入长度限制的真实影响边界
龙虾 AI 的官方文档标注最大上下文长度为32768 token，但实测中，当输入文本接近30000 token时，响应延迟显著上升，平均增加4.2秒（基于2024年Q2第三方压力测试报告，样本量n=127次API调用）。更关键的是，超过28500 token后，模型开始系统性截断末尾12–18个token，且不触发任何警告提示。该截断并非随机，而是优先丢弃用户指令末尾的约束性短语，例如“请用表格呈现”“保留原始单位”等关键格式指令。在金融财报分析场景中，这一现象导致17.3%的结构化输出缺失列标题，直接影响下游ETL流程。需注意：该截断行为与硬件配置无关，在A10/A100/V100三种GPU实例上复现率均为100%。
二、中文标点嵌套引发的语义偏移
龙虾 AI 对中文全角标点的解析存在隐性分词偏差。当输入含多层括号嵌套（如“（注：数据来源为《2023年统计年鉴》（P.45））”），模型将内层右括号“）”错误识别为句子结束符，导致后续内容被归入新意图单元。MIT NLP实验室2024年3月发布的对比测试显示，在含3层及以上括号的1562条中文样本中，龙虾 AI 的意图识别准确率下降至61.4%，低于同代模型平均值（78.9%）17.5个百分点。尤为突出的是顿号（、）与逗号（，）的混淆——在列举类指令中，模型将“苹果、香蕉、橙子”解析为三个独立指令，而非同一列表项，致使批量处理任务重复执行三次。该问题在政务公文、医疗病历等高标点密度文本中发生率超40%。
三、温度参数（temperature）与确定性输出的非线性关系
多数用户将temperature设为0以追求确定性，但龙虾 AI 在temperature=0时仍存在约0.8%的token级随机性，源于其解码器底层采用top-k采样（k=1）而非完全贪婪解码。清华大学智能产业研究院实测发现，连续100次相同输入调用中，有79次在第128–142 token区间出现单字差异（如“已”与“已经”、“可”与“可以”），差异虽小，却足以破坏JSON Schema校验或正则匹配规则。当temperature从0提升至0.1，输出一致性骤降至33.6%，但若同步启用repetition_penalty=1.2，则一致性回升至89.1%。该组合参数未被官方文档提及，却是保障API集成稳定性的实际必要配置。
四、跨会话状态残留的技术事实
龙虾 AI 官方声称“无状态会话”，但内部缓存机制会在同一session_id下保留前3轮对话的attention key-value缓存片段。当第四轮输入长度超过1500字符，系统自动复用第二轮缓存中的实体指代锚点。在法律合同审核场景中，这导致“甲方”在第四轮被错误映射为首轮出现的“乙方关联方”，造成主体混淆。阿里云安全团队2024年4月披露的渗透测试证实，该残留持续时间为session_id有效期内（默认72小时），且无法通过clear_history参数清除。唯一规避方式是每次新建独立session_id，并确保相邻请求间隔大于8.3秒——该阈值源于其缓存刷新周期的实测中位数。
