“数学不公平”

《Communications of the ACM》:‘The Math Is Not Fair’

【字体: 大 中 小 】 时间:2026年09月02日 来源:Communications of the ACM 7.1

编辑推荐:

  ``` 拥有新闻学硕士学位和计算机科学博士学位的西姆森·加芬克尔(Simpson Garfinkel)拥有与众不同的职业生涯——这与他对人工智能(AI)、隐私和数字取证交叉领域的兴趣相契合。目前,他是初创企业加速器BasisTech的首席科学家兼首席运营官,同时也在哈佛大学

  ```
拥有新闻学硕士学位和计算机科学博士学位的西姆森·加芬克尔(Simpson Garfinkel)拥有与众不同的职业生涯——这与他对人工智能(AI)、隐私和数字取证交叉领域的兴趣相契合。目前,他是初创企业加速器BasisTech的首席科学家兼首席运营官,同时也在哈佛大学担任公共政策领域的兼职讲师。他积极参与ACM全球技术政策委员会(a)以及ACM出版委员会的伦理与剽窃委员会(b)的工作。在此,我们与他探讨了隐私、政策以及在人工智能时代如何教授编程等问题。
让我们先从您在差分隐私(differential privacy)方面的工作开始。差分隐私是一系列用于保护公共统计中使用的机密数据的方法。
差分隐私标志着大约80年来关于如何发布基于个人数据的统计结果的研究的进步,同时不泄露这些个人的身份信息。
您主导了2020年美国人口普查中差分隐私技术的应用,并撰写了一本相关书籍(c)。
当我刚开始在人口普查局工作时,我对差分隐私持怀疑态度。我希望找到一种替代方案,但始终未能如愿。问题在于,数学计算决定了这种权衡的复杂性。人们理想中的世界是能够发布高度精确的个人信息数据而不侵犯个人隐私,但现实并非如此。
然而,确实存在在隐私和统计准确性之间做出权衡的技术。
一个挑战是,在差分隐私技术发明之前,政策制定者并不愿意处理这种权衡问题,因此将其交给了统计学家。而统计学家大多认为存在一个“正确的”权衡点,这只是一个纯技术性问题。直到20世纪90年代末和21世纪初,计算机科学家们才发现并非如此——实际上并没有一个固定的“正确”设置,隐私损失和准确性之间总是存在权衡。他们表示:“这太棒了,我们现在有了处理这类问题的方法,政策制定者可以据此制定政策。”
对于您在人口普查项目中的应用情况,我有些好奇。
差分隐私允许根据具体应用来调整数据分布方式,从而不影响其他应用。例如,如果需要利用统计数据按县划分联邦资金,可以调整结果使其适用于这一目的,但不适合用于通过重新划分选区来影响选举结果。我无法评价人口普查局的具体操作,因为那些决策是在我离职后做出的。不过,如果某个机构希望将人口普查数据用于特定用途,可能不希望数据被调整以满足其他用途的要求。
我试图从政策中立的角度撰写文章。这并不意味着我只是提供事实让读者自行判断,因为这样做往往效果不佳。我的目标是向读者展示事实,说明不同的选择所带来的影响,并对各种观点保持公正。尽管近年来在计算机科学领域,一些原本不具政治色彩的话题也变得充满争议。
请解释一下这一点。
用词方式是一个挑战。在统计学和机器学习中,诸如“discriminant”(歧视性)之类的术语长期以来用于描述区分不同群体的方法。如今,我们需要更加谨慎地选择词汇,因为我们需要关注这些方法的实际效果。例如,在贷款评估中,我们应该基于一个人偿还贷款的能力和意愿来进行判断,而不是使用可能结合了法律或伦理上不允许的因素(如种族或背景)的替代变量。
我想隐私领域也存在类似的动态。
丹尼尔·索洛夫(Daniel Solove)提出了一种关于隐私的分类体系,我非常推荐。我们使用“隐私”这个词时,既指“免受侵扰的状态”,也指控制个人信息的传播。人们往往认为,当算法的使用对我们不利时限制其使用是保护隐私的表现;但当算法的使用对我们有利时,却很少有人考虑到这一点。
换句话说,如果我的交易记录被用来在商店获得折扣,这不算隐私问题;但如果这些记录被用来提高价格,这就成了隐私问题。
从数学角度来看,这只是个人数据的使用方式问题,关键在于我是否因此受益。
让我们换个话题,谈谈人工智能(AI)。您最近提出的一种观点很有趣,即我们应该改变计算机编程的教学方式。
目前,我们是从基础开始教授编程:先学习语法、变量、循环和条件语句(if语句)。以前则从流程图和汇编语言开始教学。这种方法是否真的适合所有人学习编程,仍有争议。如果我要设计一个复杂的程序,我不会从基础出发,而是从整体功能出发进行设计。
但这难道不是专家经过多年实践磨练出来的方法吗?
现在,人们会描述他们想要程序的功能,然后大型语言模型(LLM)生成代码,这种方式确实有效。有时生成的代码并不完全符合他们的要求,于是他们会对代码进行修改和优化。他们需要逻辑地思考程序的功能和可能的失败情况,并进行测试。我相信两年后,地球上大多数编程人员都会采用这种方式。虽然不是今天的所有程序员,但肯定是大多数编程者会遵循这一趋势。
从逻辑上思考程序的功能和规格当然是计算的重要部分,但如果不接触实际代码,很难达到深入的理解。
实际上,当我们面对编译器普及时,这个领域就已经经历过类似的变革。20世纪50年代,人们认为必须学习汇编语言;到了80年代,汇编语言的教学逐渐停止了——不过在我读MIT本科的时候,所有人仍需学习机器语言课程。如今,大多数人已经不再学习机器语言了。
这是一个值得重视的历史事实。
计算机科学的历史常常被低估,尤其是它的实际价值往往被忽视。常见的情况是,博士生们花费几天时间来解决别人花费两三年时间才想出的问题。旧的解决方案可能考虑到了当今计算机已不再关注的因素,但那些聪明且有创意的设计方法本可以让他们受益。
当LLM生成代码时,我们希望它们能借鉴这些历史经验,但实际情况似乎并非如此。它们就像很多研究生一样偷懒,不愿去做相关的文献研究。
这很有共鸣啊,LLM们和我们也一样!
创造新事物确实比整理已有成果容易得多,但这对我们这个领域来说是一个问题。
``````
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号