助眠兔?Let me see see hahaha
返回列表 发布新帖
查看: 12|回复: 3

[办公基础与其他] Qwen3.6-35B-A3B无审查模型

26

主题

80

回帖

33

积分

版主

积分
33
发表于 2 小时前 | 查看全部 |阅读模式
本帖最后由 heishijie 于 2026-8-9 19:09 编辑

一般官方模型都是限制内容的

敏感内容拒答
某些问题无法回答
强制政治正确
输出被过滤
系统提示词限制


这个是不限制任何内容的模型


MoE(专家混合架构)
简单理解:

虽然模型总参数是 35B。

但每次实际运行时:

只会激活大约 3B 参数。

这意味着:

它既拥有超大模型的能力。

又拥有小模型的速度。

6G 显存都能跑?
是的。

这也是它最夸张的地方之一。

通过 GGUF 量化后:

甚至:

6G 显存
8G 显存
普通游戏显卡
都能运行。

并且支持:

NVIDIA 显卡
AMD 显卡
Intel Arc 显卡



中文理解
代码能力
多模态视觉
推理能力
长上下文能力

多模态支持


多模态视觉识图

看图片
分析截图
OCR 识别
理解画面内容
分析复杂 UI
阅读代码截图

20260524100746_174902-scaled.jpg

可以用下面批处理来运行:
将下面的的脚本另存为BAT批处理,保存的时候选择utf-8格式
  1. @echo off
  2. chcp 65001 >nul
  3. title Qwen3.6-35B-A3B 越狱版

  4. cd /d "%~dp0"

  5. :menu
  6. cls
  7. echo ==========================================
  8. echo      Qwen3.6-35B-A3B 越狱版+多模态模型
  9. echo ==========================================
  10. echo.
  11. echo 1. Q4_K_P(4090 推荐)
  12. echo 2. Q4_K_M(稳定版)
  13. echo 3. IQ4_NL(高压缩高质量)
  14. echo 4. IQ2_M(6G/8G 显卡)
  15. echo.
  16. echo ==========================================

  17. set /p choice=请输入数字:

  18. if "%choice%"=="1" (
  19.     llama-server.exe ^
  20.     -m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf" ^
  21.     --mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
  22.     -ngl 999 ^
  23.     -c 131072 ^
  24.     -n 8192 ^
  25.     --host 127.0.0.1 ^
  26.     --port 8080
  27. )

  28. if "%choice%"=="2" (
  29.     llama-server.exe ^
  30.     -m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf" ^
  31.     --mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
  32.     -ngl 999 ^
  33.     -c 131072 ^
  34.     -n 8192 ^
  35.     --host 127.0.0.1 ^
  36.     --port 8080
  37. )

  38. if "%choice%"=="3" (
  39.     llama-server.exe ^
  40.     -m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ4_NL.gguf" ^
  41.     --mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
  42.     -ngl 999 ^
  43.     -c 131072 ^
  44.     -n 8192 ^
  45.     --host 127.0.0.1 ^
  46.     --port 8080
  47. )

  48. if "%choice%"=="4" (
  49.     llama-server.exe ^
  50.     -m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ2_M.gguf" ^
  51.     --mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
  52.     -ngl 999 ^
  53.     -c 8192 ^
  54.     -n 4096 ^
  55.     --host 127.0.0.1 ^
  56.     --port 8080
  57. )

  58. pause
复制代码



外网:https://huggingface.co/HauhauCS/ ... HauhauCS-Aggressive
网盘:https://pan.quark.cn/s/d971b8a8b ... dd795eec8b3f503c821

回复

使用道具 举报

42

主题

2万

回帖

4706

积分

超级VIP会员

积分
4706
发表于 2 小时前 | 查看全部
6G显存就能跑这个确实可以,先转存了回头试试。
回复

使用道具 举报

30

主题

2万

回帖

4701

积分

超级VIP会员

积分
4701
发表于 1 小时前 | 查看全部
先收藏了,低显存能跑多模态确实少见。
回复

使用道具 举报

39

主题

2万

回帖

4605

积分

超级VIP会员

积分
4605
发表于 半小时前 | 查看全部
低显存跑MoE这个思路确实香,收藏了,回头用6G卡试试看。
回复

使用道具 举报

懒得打字嘛,点击右侧快捷回复
您需要登录后才可以回帖 登录 | 注册

本版积分规则

在线咨询
投诉/建议联系

QQ 919733497

未经授权禁止转载,复制和建立镜像,
如有违反,追究法律责任
Copyright © 2012-2026 教程论坛 版权所有 All Rights Reserved.  |网站地图
关灯 在本版发帖 QQ客服返回顶部
快速回复 返回顶部 返回列表