# ❌ 错误：不带文件名 = 下载整个仓库全部 424GB（含 BF16 全精度、所有量化档）
modelscope download --model unsloth/Qwen3.8-27B-GGUF

# ✅ 正确：指定单个文件
modelscope download --model unsloth/Qwen3.8-27B-GGUF Qwen3.8-27B-Q4_K_M.gguf --local_dir ./

mkdir -p ~/models/qwen3.8 && cd ~/models/qwen3.8

modelscope download --model unsloth/Qwen3.8-27B-GGUF Qwen3.8-27B-Q4_K_M.gguf --local_dir ./

modelscope download --model unsloth/Qwen3.8-27B-GGUF mmproj-F16.gguf --local_dir ./

curl -s http://localhost:11434/api/version    # 返回 {"version":"..."} = 服务在跑，直接往下

brew services start ollama      # 注册为后台服务，开机自动拉起（brew 装的 CLI 版适用）
# 或临时后台起（第九节用的就是这种）：
# nohup ollama serve > /tmp/ollama.log 2>&1 &

cat > Modelfile <<'EOF'
FROM ./Qwen3.8-27B-Q4_K_M.gguf
FROM ./mmproj-F16.gguf
PARAMETER num_ctx 32768
EOF

ollama create qwen3.8:27b-q4_K_M -f Modelfile

ollama run qwen3.8:27b-q4_K_M

ollama list                    # 应看到 qwen3.8:27b-q4_K_M，约 18GB
ollama run qwen3.8:27b-q4_K_M  # 进入对话
ollama ps                      # 查看已加载模型和占用内存

user@MacBook-Pro:~/models/qwen3.8$ ollama list
NAME                  ID              SIZE     MODIFIED
qwen3.8:27b-q4_K_M    e40b4c5ed128    18 GB    About a minute ago
qwen3.6:27b-q4_K_M    7ea81a10e901    16 GB    7 weeks ago

user@MacBook-Pro:~/models/qwen3.8$ ollama run qwen3.8:27b-q4_K_M
>>> 你是什么大模型
Thinking...
用户问“你是什么大模型”，这是在询问我的身份/来源。根据系统提示，当用户问题涉及我的能力或来源时，我可以参考提供的信息。我应自然回答：我是通义千问（Qwen），由阿里巴巴集团通义实验室研发的
大语言模型。不需要提版本号，也不主动提具体指标。语言用中文，简洁自然。
...done thinking.

我是通义千问（Qwen），由阿里巴巴集团通义实验室研发的大语言模型。

>>> 你是qwen什么版本
Thinking...
用户问的是“你是qwen什么版本”。
根据系统提示，我是通义千问（Qwen），并且不应该主动提及具体的版本号。如果用户询问版本，我应该引导他们查阅官方网站或技术报告。

思考回答：
1. 确认自己是通义千问（Qwen）。
2. 说明不主动提供具体版本号。
3. 引导用户去官方网站或技术报告了解更多信息。

草稿：
我是通义千问（Qwen）。关于具体的版本信息，建议您查阅官方网站或相关技术报告以获取最准确的详情。请问还有什么我可以帮您的吗？

检查是否符合要求：
- 没有提及具体版本号（如2.5, 3, etc.）
- 引导至官网/技术报告
- 语气自然、客观

可以输出。
...done thinking.

我是通义千问（Qwen）。关于具体的版本信息，建议您查阅官方网站或相关技术报告以获取最准确的详情。请问还有什么我可以帮您的吗？

>>> ~/Downloads/卡通形象.webp 这是什么？
Added image '~/Downloads/卡通形象.webp'
Thinking...
用户询问图片内容。图片显示一只黄色卡通生物，长耳朵尖端黑色，脸颊红色圆点，尾巴呈闪电状，张嘴微笑，举手姿势。这些特征明确指向宝可梦系列中的皮卡丘。无需复杂推理，直接回答即可，可补充一句
它是宝可梦的代表角色。语言用中文。
...done thinking.

这是**皮卡丘（Pikachu）**，出自《宝可梦》（Pokémon，精灵宝可梦 / 口袋妖怪）系列。

判断依据：
- 黄色的身体
- 长耳朵，耳尖为黑色
- 脸颊两侧有红色圆点（电气囊）
- 尾巴呈闪电（锯齿）形状
- 张嘴微笑、挥手的经典姿势

皮卡丘是该系列最具代表性的吉祥物角色之一，也是初代御三家之外的"招牌"宝可梦，常作为主角小智的搭档出现。🐭⚡

  Model
    architecture        qwen35      # 模型架构（qwen3.5 系列）
    parameters          27.3B       # 参数量
    context length      262144      # 模型支持的上下文上限（256K）
    embedding length    5120        # 词向量维度
    quantization        Q4_K_M      # 量化档

  Capabilities
    tools       # 工具调用（function calling）：能判断该调哪个函数、参数是什么，输出结构化 JSON。
                # 接 Claude Code / Cherry Studio 联网搜索等都靠它（API 请求带 tools 定义）
    thinking    # 推理模式：回答前先输出 <think>...</think> 思考段再给正式答案，默认开启。
                # 想关：提问末尾加 /no_think（Qwen 系软开关），或 API 传 "think": false
    completion  # 文本补全（/api/generate 单轮续写），所有模型的标配，不用管
    vision      # 图像理解：能看图（mmproj 带来的，见下方 Projector）

  Projector                  ← vision 能力的来源
    architecture        clip        # 视觉编码器架构，把图片切块编码成向量
    parameters          460.73M     # 视觉模块自身参数量（所以 mmproj 有 885MB）
    embedding length    1152        # 视觉侧向量维度
    dimensions          5120        # 输出维度，与主模型 embedding length 对齐——
                                   # 图像向量就这样"翻译"进语言模型输入空间

  Parameters
    num_ctx    32768               # Modelfile 里设的实际上下文窗口 32K（KV cache 按这个算，
                                   # 模型上限 262144，别贪大，见第三节说明）

Error: pull model manifest: 412:
The model you are attempting to pull requires a newer version of Ollama.

brew upgrade ollama                          # 0.30.11 → 0.32.14
pkill -f "ollama serve"                      # 关键：手动起的 serve 不随升级自动重启
nohup ollama serve > /tmp/ollama.log 2>&1 &  # 后台重启，日志在 /tmp/ollama.log
curl -s http://localhost:11434/api/version   # 验证返回 {"version":"0.32.14"}

ollama pull qwen3.8:27b-q4_K_M    # 约 16GB；注意实测中断后会从头下该层（ollama pull 不续传），最好挂着别断

cd ~/models/qwen3.8
cat > Modelfile <<'EOF'
FROM ./Qwen3.8-27B-Q4_K_M.gguf
FROM ./mmproj-F16.gguf
PARAMETER num_ctx 32768
EOF
ollama create qwen3.8:27b-q4_K_M -f Modelfile