AI编程插件Continue的安装对接本地大模型Qwen3.5 9B

1、IDEA的插件市场

在IDEA的插件市场搜索Continue,点击安装


插件市场安装

1.1 配置本地大模型

打开continue,点击右上角齿轮,再选择configs,点击齿轮


image.png

在.continue/config.yaml文件中添加自定义模型


image.png
name: Local Config
version: 1.0.0
schema: v1
full_roles: &full_roles
  roles:
    - chat
    - autocomplete
    - edit
    - apply
models:
  - name: qwen3.5-9b
    provider: openai
    model: qwen/qwen3.5-9b
    apiBase: http://localhost:1234/v1
    contextLength: 20480
    <<: *full_roles
    defaultCompletionOptions:
      debounceDelay: 200       # 输入延迟(ms)
      maxPromptTokens: 1024    # 补全上下文长度
      enabled: true            # 强制启用补全

# 全局补全开关
tabAutocompleteOptions:
  enabled: true
  debounceDelay: 200
  maxPromptTokens: 1024

自定义模型配置成功


使用continue

1.2 continue的tools全配置成Automatic

continue的tools全配置成Automatic

2、对接本地LM Studio启动的Qwen3.5 9B的大模型

LM Studio的安装请参考:
Window上通过LMStudio本地部署大模型 - 简书

3、遇到的问题

问题1:
报错信息

Error streaming response: The number of tokens to keep from the initial prompt is greater than the context length (n_keep: 4374>= n_ctx: 4096). Try to load the model with a larger context length, or provide a shorter input.

报错截图


报错截图

解决措施:
扩大模型的上下文,重新加载模型


扩大模型的上下文
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容