Skip to content

本地模型

硅信目前已开放本地模型管理功能,让你能够便捷地下载、管理和使用各种开源大语言模型。

首次使用 - 安装Ollama

首次进入本地模型页面时,系统会检测你的电脑是否安装了Ollama。如果未安装,会显示提示:

  1. 点击提示中的链接,跳转到浏览器下载Ollama
  2. 下载并安装Ollama客户端
  3. 安装完成后,回到硅信应用,点击"重新检测"按钮

模型管理界面

安装并检测到Ollama后,你将看到正式的模型管理界面,包含"已安装"和"未安装"两个标签页。

已安装标签页

此标签页显示你本地已经安装的所有模型。每个模型卡片包含:

  • 模型名称和标签
  • 大小信息
  • 操作按钮(启动终端、删除等)

未安装标签页

此标签页显示所有可从Ollama官网下载的模型:

  • 内容与Ollama官网实时同步,首次加载可能较慢
  • 页面顶部有搜索框,可以快速查找特定模型
  • 所有模型以卡片列表形式展示,按类别组织

搜索和下载模型

  1. 点击"未安装"标签页,浏览可用模型列表
  2. 使用搜索框输入关键词,查找特定模型
  3. 找到所需模型后,点击卡片右侧的下载图标
  4. 弹出的对话框中会显示该模型的所有可用版本,按参数量和标签划分
  5. 选择合适的版本,点击"下载"按钮开始下载

查看下载进度

当模型正在下载时:

  1. 在左侧边栏的设置图标上方可以看到下载进度指示器
  2. 点击该指示器可以查看所有正在下载的模型和进度详情
  3. 即使关闭应用后重新打开,下载也会自动继续

使用已下载的模型

下载完成后,模型会出现在"已安装"标签页中。你可以进行两种操作:

  1. 终端对话:点击模型卡片上的操作菜单(三个点),选择"打开终端",快速体验该模型的对话能力
  2. 删除模型:选择"删除"选项来释放存储空间

终端对话体验

选择"打开终端"后,会启动一个命令行界面,你可以直接与模型进行对话测试:

  1. 在命令行中输入你的问题
  2. 模型会直接在终端中生成回答
  3. 这是测试模型性能和反应的最快方式

使用提示

  • 下载大型模型可能需要较长时间,取决于你的网络速度
  • 模型文件较大,确保有足够的磁盘空间(大型模型可能需要10GB以上)
  • 可以同时下载多个模型,系统会自动管理下载队列
  • 所有模型数据都存储在本地,保障你的隐私安全