← 返回模型库

AlicanKiraz0/Mizan-27B-Turkish-Legal-LLM-Q4_K_M-GGUF

Mizan-27B-Turkish-Legal-LLM-Q4_K_M-GGUF:土耳其法律问答与法务草稿助手

基于 Qwen3.6-27B 的土耳其法律领域微调模型,27B 参数,采用 4-bit NF4 QLoRA 在 21 万余条土耳其法律问答数据上做文本 SFT,主打土耳其语法律问答、合同与 KVKK 等子领域分析与 RAG 生成。

土耳其法律法律问答法务草稿RAG 生成
查看模型源页面
下载量
0
参数
27B
上下文
未说明
架构 / 任务
未分类
许可证
cc-by-nc-4.0

MODEL POSITIONING

这个模型解决什么问题?

模型能力来自 Qwen3.6-27B 基座加土耳其法律 SFT,覆盖土耳其合同法、个人数据保护(KVKK)、商法、租赁、程序法和行政法的问答与初稿生成,并适合作为土耳其法律 RAG 系统的回答生成器。仓库仅提供 Q4_K_M 一种 GGUF 量化文件,约 13.5GB,未提供其他量化或非量化权重。运行层面支持 Ollama、llama.cpp 与 LM Studio,基座原生上下文 262144 token,但本仓库 GGUF 的实际上下文长度模型卡未说明。视觉编码器虽被保留但仅做文本微调,无视觉法律任务的性能承诺。

更适合谁

  • 需处理土耳其法律事务、需要土耳其语法律初稿或问答的中文研究者
  • 搭建土耳其法律 RAG 系统的开发者
  • 拥有 16GB 以上显存或 19GB 内存的本地推理用户

典型使用场景

  • 土耳其合同、KVKK、商事、租赁、程序法等问题的初步分析
  • 为土耳其法律 RAG 系统生成回答草稿
  • 生成法律风险清单、核查项和追问

SOURCE-BASED CAPABILITIES

模型卡透露的核心特点

土耳其法律领域问答

在土耳其合同、KVKK、商法等子领域提供结构化答复草稿

QLoRA 微调提升法条定位

通过 4-bit NF4 QLoRA 微调,相对基座显著改善法律轴选择与答复相关性

适配 RAG 系统

可作为土耳其法律 RAG 流水线中的回答生成模型

长上下文基座

基于原生 262144 token 上下文窗口的 Qwen3.6-27B

硬件怎么准备

  • 显存 16GB 以上或内存 19GB 以上可较舒适加载 Q4_K_M 量化文件
  • 显存 14GB 或内存 16GB 为仓库声明的最低门槛,需视情况关闭长上下文与并发
  • 模型卡未说明具体推理速度,仅可按 GGUF 文件大小与显存需求估算

量化版本怎么选

  • 本仓库仅提供 Q4_K_M 一种 GGUF 量化版本,约 13.5GB
  • 需要 BF16 全精度权重需前往 base 模型仓库获取
  • 4-bit 量化可在显存受限时显著减少显存量,权衡是轻微质量损失

GGUF VARIANTS

量化版本与硬件要求

数值根据文件体积和运行余量估算,不是速度或效果承诺;长上下文、并发与 GPU 层数会改变实际占用。

量化文件最低显存推荐显存推荐内存来源
Q413 GB14 GB16 GB19 GB文件 ↗

HARDWARE MATCH

哪些显卡或设备更适合运行?

按当前最小量化文件估算,至少需要 14GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 16GB。

阅读 24GB 显存选型指南 →

可以怎样运行

  • 通过 Ollama 加载 GGUF 文件运行
  • 通过 llama.cpp 直接加载 GGUF 文件
  • 通过 LM Studio 加载 GGUF 文件

采用前要知道的限制

  • 输出可能捏造或错引土耳其法律条文与判例,需逐条核对官方现行法规
  • 在税法时间效力与刑事诉讼时效等问题上仍有严重错误
  • 模型卡明确指出非律师或官方法规来源,不可作为法律意见
  • 训练参考数据本身也未必与现行官方法规一致