《Information》：SocioTable-KZ: Ethical and Privacy-Aware Bilingual Generation from Sociological Survey Data
编辑推荐：
基于大语言模型（LLM）的助手可以使大型社会学调查数据集更易于访问，但同时也可能增加受访者级别信息和社会敏感内容的暴露风险。本研究提出了SocioTable-KZ，一个隐私感知、风险降低的管道，用于对来自哈萨克斯坦的关系型社会学调查数据进行双语自然语言解释。源
基于大语言模型（LLM）的助手可以使大型社会学调查数据集更易于访问，但同时也可能增加受访者级别信息和社会敏感内容的暴露风险。本研究提出了SocioTable-KZ，一个隐私感知、风险降低的管道，用于对来自哈萨克斯坦的关系型社会学调查数据进行双语自然语言解释。源数据集包含分布在28个关联表中的2,385,890条记录。该管道结合了标识符排除、确定性JoinGraph序列化、Qwen系列模型的语言特定QLoRA适配、三分类Safe–Sensitive–Unsafe安全模块、约束重写和受控发布。参考分析文本通过专家策划的种子示例、少样本候选生成和事实审查制备。生成实验使用了独立的哈萨克语和俄语80/10/10划分，随机种子42。最佳报道的Qwen3-4B配置在哈萨克语和俄语上分别取得了BLEU/ROUGE-L/chrF分数29.07/49.88/58.31和46.67/65.00/68.40。安全标注语料库包含1347个哈萨克语实例和3376个俄语实例。在报道的哈萨克语评估语料库上，安全模块达到了0.925的准确率，以及Safe、Sensitive、Unsafe类别的F1分数分别为0.87、0.95和0.70；Unsafe的召回率为0.59。因此，修订后的部署协议禁止无监督的受访者级别发布，并要求确定性标识符筛选和对非Safe或不确定输出进行人工审查。原始数据收集机构出具的公函确认了主动知情同意和匿名数据集的授权科学使用。该证据支持初步可行性，而非正式的隐私保证或生产就绪声明。
**论文解读文章**
**研究背景**
社会学调查数据通常包含大量受访者层面的详细信息，如人口统计特征、地理信息、政治或宗教观点、社会正义感知、健康相关数据及自由文本回答。随着大语言模型（LLM）的普及，研究者可利用这些模型构建自然语言交互界面，使复杂调查集合更易于分析师、决策者及非专业用户理解。然而，LLM在生成可读叙述时可能暴露直接标识符、准标识符组合导致的再识别风险，以及社会敏感内容。此外，模型可能记忆并复现训练数据中的片段，产生幻觉、歧视性框架或未经授权的社会推论。现有隐私模型（如k-匿名性、?-多样性）表明仅移除直接标识符不足以防范属性组合泄露。因此，亟需一种隐私感知、风险降低的管道，在生成社会学调查数据双语解释的同时最小化信息披露风险。
**研究内容与意义**
研究人员设计了SocioTable-KZ，一个整合了确定性关系数据序列化、语言特定参数高效适配、安全分类、约束重写和受控发布的管道。该管道针对哈萨克斯坦社会学调查数据（2,385,890条记录，28个关联表）进行双语（哈萨克语和俄语）自然语言生成。研究得出以下核心结论：最佳生成配置（Qwen3-4B）在哈萨克语上取得BLEU/ROUGE-L/chrF为29.07/49.88/58.31，俄语上为46.67/65.00/68.40；安全模块在哈萨克语评估语料上准确率0.925，但非安全（Unsafe）类别的召回率仅0.59，表明无法独立用于自动发布。该研究的意义在于首次提出了一个集成了数据最小化、双语适配与安全治理的初步框架，为后续正式隐私保护研究提供了基础。论文发表在《Information》。
**关键技术方法**
研究人员使用的主要关键技术方法包括：
1. **JoinGraph序列化**：将关系型数据库表转换为最小连通子图序列，确保输入可审计且字段来源明确。
2. **语言特定QLoRA适配**：对Qwen系列模型应用4位NF4量化低秩适配（QLoRA），独立训练哈萨克语和俄语适配器，避免大语言主导小语言。
3. **三分类安全模块**：基于Safe–Sensitive–Unsafe分类体系，使用Qwen3.5-4B模型进行LoRA适配，通过规则标注和三人专家标注构建训练集，并实施约束重写。
4. **受控发布协议**：包括确定性标识符筛选、准标识符泛化、人工审查、审计日志记录。
样本队列来源：哈萨克斯坦哲学、政治学与宗教研究所（科学委员会，科学和高等教育部）提供的2011-2024年社会学调查数据，经匿名化处理后移交研究人员进行二次分析。
**研究结果**
**4.1 语料库与安全标签分布**
通过安全标注，获得1347个哈萨克语实例和3376个俄语实例。敏感（Sensitive）类别在两种语言中均占75.1%，非安全（Unsafe）类别罕见，反映了社会学调查主题的本质，并非源记录本身有害。
**4.2 独立双语生成评估**
在独立测试集上，Qwen3-4B在所有指标上均优于Qwen2.5-3B。俄语分数高于哈萨克语，归因于俄语训练子集更大且预训练覆盖更广。精确匹配（Exact Match）分数低，因为同一结构化记录可对应多种有效表面表述。
**4.3 训练动态与过拟合分析**
四轮原型运行中，训练损失从0.1476降至0.0490，验证损失在第3轮最低（0.1569），第4轮反弹至0.1807，表明出现过拟合。因此保留第3轮检查点，后续配置限制为最多3轮、早停耐心3、dropout 0.05。
**4.4 安全分类性能**
在哈萨克语评估语料上，安全模块准确率0.925，加权F1 0.920，宏平均F1 0.840。非安全召回率仅0.59，对应假阴性率约0.41，是最关键的局限性，使模型不能作为唯一发布门控。
**4.5 量化操作隐私控制评估**
在发布策略下，78.4%的哈萨克语实例和76.5%的俄语实例需要干预（重写/审查或阻止），而非直接发布。这是操作覆盖度量，非再识别概率估计。
**4.6 各组件的证据状态**
当前实验比较了语言和模型配置，但未隔离每个架构贡献。因此，SocioTable-KZ被呈现为集成初步框架，结果不证明每个组件独立导致性能提升。
**4.7 原型部署**
选定的生成器和安全模块集成到Telegram原型中，展示了聚合安全统计和带有安全标签的分析。界面展示了实施可行性，但非用户研究或无监督部署就绪证据。
**讨论与结论**
讨论指出隐私风险分布在整个管道中，JoinGraph通过限制输入为最小连通子图支持可审计性；语言特定适配器处理俄语数据量大的问题，但增加了维护成本；隐私-效用权衡体现在准标识符泛化上；安全模块与生成器相互依赖，低非安全召回率要求安全模块必须从属于确定性筛选和人工治理。局限性包括：安全指标仅限哈萨克语、标签通过生成而非校准概率发出、自动指标未直接衡量幻觉或事实完整性、未进行形式差分隐私或成员推理评估、同意确认支持二次分析但非回顾性伦理批准。
**结论**（翻译）：SocioTable-KZ整合了确定性关系序列化、双语参数高效适配、安全标注、约束重写和受控发布，用于社会学调查数据。最强生成配置在哈萨克语和俄语上分别取得BLEU/ROUGE-L/chrF为29.07/49.88/58.31和46.67/65.00/68.40。安全模块在哈萨克语评估语料上准确率0.925，但非安全召回率0.59，禁止无监督的受访者级别发布。系统必须配合确定性PII筛选、受控访问、人工审查、审计日志和定期重新标注。该框架应被理解为隐私感知和风险降低的方法，而非正式隐私保护系统。未来工作包括进行消融实验、评估俄语安全性能、校准非安全检测、通过专家审查衡量事实完整性和重写保真度，以及研究差分隐私适配。
