收藏本站
十三年老站欢迎您的访问(本站成立于2012年)
切换到宽版
首页
AI实战
人工智能大模型应用与实战
IT运维
编程开发运维技术
AI网创
AI自媒体与电商实战
登录
注册
助眠兔?
Let me see see hahaha
VIP会员开通
金币充值
会员特价活动,开通VIP会员全站资源免金币回帖即可下载
本站已成立十四年(2012-2026年),感谢各位会员支持网站发展
今日开通超级会员买一年送一年,享受更多高价资源!
本站不设立永久会员,请不要相信任何网站的永久,请理解任何个体或企业都需要良性运营。
三六五网络学院
»
首页
›
会员学习区
›
『IT编程与运维认证』
›
Qwen3.6-35B-A3B无审查模型
返回列表
发布新帖
查看:
12
|
回复:
3
[办公基础与其他]
Qwen3.6-35B-A3B无审查模型
heis***
heis***
当前离线
积分
33
26
主题
80
回帖
33
积分
版主
积分
33
发消息
发表于
2 小时前
|
查看全部
|
阅读模式
本帖最后由 heishijie 于 2026-8-9 19:09 编辑
一般官方模型都是限制内容的
敏感内容拒答
某些问题无法回答
强制政治正确
输出被过滤
系统提示词限制
这个是不限制任何内容的模型
MoE(专家混合架构)
简单理解:
虽然模型总参数是 35B。
但每次实际运行时:
只会激活大约 3B 参数。
这意味着:
它既拥有超大模型的能力。
又拥有小模型的速度。
6G 显存都能跑?
是的。
这也是它最夸张的地方之一。
通过 GGUF 量化后:
甚至:
6G 显存
8G 显存
普通游戏显卡
都能运行。
并且支持:
NVIDIA 显卡
AMD 显卡
Intel Arc 显卡
中文理解
代码能力
多模态视觉
推理能力
长上下文能力
多模态支持
多模态视觉识图
看图片
分析截图
OCR 识别
理解画面内容
分析复杂 UI
阅读代码截图
可以用下面批处理来运行:
将下面的的脚本另存为BAT批处理,保存的时候选择utf-8格式
@echo off
chcp 65001 >nul
title Qwen3.6-35B-A3B 越狱版
cd /d "%~dp0"
:menu
cls
echo ==========================================
echo Qwen3.6-35B-A3B 越狱版+多模态模型
echo ==========================================
echo.
echo 1. Q4_K_P(4090 推荐)
echo 2. Q4_K_M(稳定版)
echo 3. IQ4_NL(高压缩高质量)
echo 4. IQ2_M(6G/8G 显卡)
echo.
echo ==========================================
set /p choice=请输入数字:
if "%choice%"=="1" (
llama-server.exe ^
-m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf" ^
--mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
-ngl 999 ^
-c 131072 ^
-n 8192 ^
--host 127.0.0.1 ^
--port 8080
)
if "%choice%"=="2" (
llama-server.exe ^
-m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf" ^
--mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
-ngl 999 ^
-c 131072 ^
-n 8192 ^
--host 127.0.0.1 ^
--port 8080
)
if "%choice%"=="3" (
llama-server.exe ^
-m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ4_NL.gguf" ^
--mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
-ngl 999 ^
-c 131072 ^
-n 8192 ^
--host 127.0.0.1 ^
--port 8080
)
if "%choice%"=="4" (
llama-server.exe ^
-m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ2_M.gguf" ^
--mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
-ngl 999 ^
-c 8192 ^
-n 4096 ^
--host 127.0.0.1 ^
--port 8080
)
pause
复制代码
外网:
https://huggingface.co/HauhauCS/ ... HauhauCS-Aggressive
网盘:
https://pan.quark.cn/s/d971b8a8b ... dd795eec8b3f503c821
回复
使用道具
举报
u549***
u549***
当前在线
积分
4706
42
主题
2万
回帖
4706
积分
超级VIP会员
积分
4706
发消息
发表于
2 小时前
|
查看全部
6G显存就能跑这个确实可以,先转存了回头试试。
回复
使用道具
举报
xiaof***
xiaof***
当前在线
积分
4701
30
主题
2万
回帖
4701
积分
超级VIP会员
积分
4701
发消息
发表于
1 小时前
|
查看全部
先收藏了,低显存能跑多模态确实少见。
回复
使用道具
举报
chen***
chen***
当前在线
积分
4605
39
主题
2万
回帖
4605
积分
超级VIP会员
积分
4605
发消息
发表于
半小时前
|
查看全部
低显存跑MoE这个思路确实香,收藏了,回头用6G卡试试看。
回复
使用道具
举报
返回列表
发布新帖
懒得打字嘛,点击右侧快捷回复
选择快捷回复
楼主发贴辛苦了,谢谢楼主分享!
楼主太厉害了!楼主,I*老*虎*U!
这个帖子不回对不起自己!
这东西我收了!谢谢楼主!
我看不错噢 谢谢楼主!
既然你诚信诚意的推荐了,那我就勉为其难的看看吧!
其实我一直觉得楼主的品味不错!呵呵!
感谢楼主的无私分享!
楼主,大恩不言谢了!
楼主,我太崇拜你了!
社区不能没有像楼主这样的人才啊!
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
注册
本版积分规则
发表回复
回帖后跳转到最后一页
在线咨询
关于我们
关于我们
加入我们
网站公告
联系我们
服务支持
内部团购
资源帮找
常见问题
失效修复
投诉/建议联系
QQ 919733497
未经授权禁止转载,复制和建立镜像,
如有违反,追究法律责任
Copyright © 2012-2026
教程论坛
版权所有
All Rights Reserved.
|
网站地图
关灯
在本版发帖
QQ客服
返回顶部
快速回复
返回顶部
返回列表