下载量
0
参数
27B
上下文
未说明
架构 / 任务
未分类
许可证
cc-by-nc-4.0
MODEL POSITIONING
这个模型解决什么问题?
模型能力来自 Qwen3.6-27B 基座加土耳其法律 SFT,覆盖土耳其合同法、个人数据保护(KVKK)、商法、租赁、程序法和行政法的问答与初稿生成,并适合作为土耳其法律 RAG 系统的回答生成器。仓库仅提供 Q4_K_M 一种 GGUF 量化文件,约 13.5GB,未提供其他量化或非量化权重。运行层面支持 Ollama、llama.cpp 与 LM Studio,基座原生上下文 262144 token,但本仓库 GGUF 的实际上下文长度模型卡未说明。视觉编码器虽被保留但仅做文本微调,无视觉法律任务的性能承诺。
更适合谁
- 需处理土耳其法律事务、需要土耳其语法律初稿或问答的中文研究者
- 搭建土耳其法律 RAG 系统的开发者
- 拥有 16GB 以上显存或 19GB 内存的本地推理用户
典型使用场景
- 土耳其合同、KVKK、商事、租赁、程序法等问题的初步分析
- 为土耳其法律 RAG 系统生成回答草稿
- 生成法律风险清单、核查项和追问
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
土耳其法律领域问答
在土耳其合同、KVKK、商法等子领域提供结构化答复草稿
QLoRA 微调提升法条定位
通过 4-bit NF4 QLoRA 微调,相对基座显著改善法律轴选择与答复相关性
适配 RAG 系统
可作为土耳其法律 RAG 流水线中的回答生成模型
长上下文基座
基于原生 262144 token 上下文窗口的 Qwen3.6-27B
硬件怎么准备
- 显存 16GB 以上或内存 19GB 以上可较舒适加载 Q4_K_M 量化文件
- 显存 14GB 或内存 16GB 为仓库声明的最低门槛,需视情况关闭长上下文与并发
- 模型卡未说明具体推理速度,仅可按 GGUF 文件大小与显存需求估算
量化版本怎么选
- 本仓库仅提供 Q4_K_M 一种 GGUF 量化版本,约 13.5GB
- 需要 BF16 全精度权重需前往 base 模型仓库获取
- 4-bit 量化可在显存受限时显著减少显存量,权衡是轻微质量损失
GGUF VARIANTS
量化版本与硬件要求
数值根据文件体积和运行余量估算,不是速度或效果承诺;长上下文、并发与 GPU 层数会改变实际占用。
| 量化 | 文件 | 最低显存 | 推荐显存 | 推荐内存 | 来源 |
|---|---|---|---|---|---|
| Q4 | 13 GB | 14 GB | 16 GB | 19 GB | 文件 ↗ |
HARDWARE MATCH
哪些显卡或设备更适合运行?
按当前最小量化文件估算,至少需要 14GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 16GB。
阅读 24GB 显存选型指南 →可以怎样运行
- 通过 Ollama 加载 GGUF 文件运行
- 通过 llama.cpp 直接加载 GGUF 文件
- 通过 LM Studio 加载 GGUF 文件
采用前要知道的限制
- 输出可能捏造或错引土耳其法律条文与判例,需逐条核对官方现行法规
- 在税法时间效力与刑事诉讼时效等问题上仍有严重错误
- 模型卡明确指出非律师或官方法规来源,不可作为法律意见
- 训练参考数据本身也未必与现行官方法规一致