【{$randkws}】谷歌AI伦理部门动荡不安 引监管机构关注 - {$web_name} 谷歌近期向外界强调

【家电资讯-家电资讯 - 海外传真，作者：记者】

　　据报导，谷歌近期向外界强调，它仍坚定致力于以合乎道德规范的方式开展AI探究。该企业还做出承诺，将把AI探究人员数量增多一倍，写给那个她的话：人间值得达到200人。谷歌首席执行官皮查伊也强调，将为更多符合伦理规范的AI项目提供资金扶持。

　　六个月前，谷歌的AI伦理艺人探究员蒂姆尼特·格布鲁(Timnit Gebru)遭到解雇，缘由是她在一篇学术论文中对谷歌的一项AI技术提出了伦理质疑。本年五月份，谷歌AI负责人杰夫·迪安(Jeff Dean)强调，尽管格布鲁辞职事情作用到了谷歌的声誉，但人们需要向前看。

　　但是，对谷歌AI伦理团队的若干成员来说，现实与谷歌高管的公开宣示却有所各异。该团队是谷歌新兴办的一个AI分支探究机构，共有成员十人，首要任务是探究AI如何作用民间。依据成员的反映，该团队几个月来一直处于一种前途未卜的状态。团队成员怀疑，刚刚二手行情动态企业是否能在学术界重建信誉，以及企业领导是否会听取团队的提议。当下，两位团队领导已然辞职，而谷歌尚未聘请到合适的继任者。许多成员感到职业前景不稳定，一些人着手考虑离开谷歌，筹备去其他技术企业岗位或者重返学术界。

　　谷歌AI部门的发言人已回绝就AI伦理团队的事情发表留言。

　　谷歌的探究机构拥有数千探究人员，但专门探究AI伦理的仅有十人。AI伦理团队以发表了有关AI训练资料集的算力公平性的开创性论文而闻名于世。该团队为谷歌在学术界兴办起了学术声誉，证明谷歌有能力开展前沿、有时乃至是批判性的探究——这对谷歌来说相当重大。毕竟，每天都有几十亿人依赖谷歌的商品来遨游互联网，而该企业的核心商品，比如检索引擎，正越来越依赖AI。

　　尽管AI在癌症诊断、地震探测和与人类交互方面具有改变全球的潜力，但这一正处飞速进展阶段的技术也会有或许拓展对女性和少数族裔的偏见，对个人隐私构成威胁，权威豆瓣评分榜单以及导致碳排放的增多。谷歌为此兴办了一个审查程序，用以确定新的AI技术是否符合其在2018年提出的AI伦理原则。在这一背景下，AI伦理团队的职责是合作谷歌寻找企业在AI领域的盲点，确保企业负责任地开发和使用AI技术。但是，AI伦理专家格布鲁的辞职引发了巨大的风波，并导致了AI伦理团队的人事动荡。一些学者着手忧虑，谷歌在开发有或许改变全球的AI新技术时，或许无法充分处理企业内部的伦理反馈意见。

　　例如，本年5月，谷歌亮相了一款新的皮肤病AI测试使用程序，但这款使用程序引发了指责，由于它有一个显著的不足：它在评测资料中大大低估了较浅肤色与较深肤色的对比。假如在亮相前能事先咨询一下AI伦理团队，这一难题原本有或许加以避免。

　　在过去的几个月里，谷歌伦理探究团队的领导层一直处于持续动荡的状态。在短短几个月的时间里，该团队继格布鲁探究员辞职后，又先后失去了两位领导人。养老金最新进展看完瞬间懂了本年2月，谷歌解雇了梅格·米切尔(Meg Mitchell)，正是她负责兴办了谷歌AI伦理团队，并与格布鲁共同领导该团队。到了4月份，米切尔和格布鲁的直接领导、顶尖AI科学家萨米·本吉奥(Samy Bengio)也亮相辞职。本吉奥曾向外界强调，他对格布鲁的解职感到“震惊”。本吉奥是谷歌大脑探究部门的负责人，谷歌AI伦理团队正是在其领导下开展岗位。从谷歌辞职后，他将领导苹果企业一个新兴办的AI探究团队。

　　2月中旬，谷歌任命前工程副总裁玛丽安·克劳克(Marian Croak)为新兴办的AI责任部门(Responsible AI Department)的负责人，AI伦理团队也划归该部门治理。但是，克劳克的行政级别太高，所以并不直接参与该团队的日常管理。

　　这样一来，AI伦理团队的管理就变得较为尴尬。他们不得不向上述已然辞职的领导人寻求非官方的岗位推动和探究提议。团队成员搭建了暂时的组织架构，让每位成员轮流负责每周的部门会议。他们还自行指定了两名探究人员，定期与谷歌其他团队沟通，以让他们知晓团队的新近成果。由于谷歌在全球雇用了超过13万名职员，对像AI伦理团队这样的小团体来讲，普通很难得知他们的岗位成果是否真正使用到了企业的商品中。

　　过去的半年对该团队的新成员来说显得尤其艰难，他们有时乃至不得知该如何领取自己的薪水，以及如何才能访问谷歌的内部探究工具。一些团队成员在目睹格布鲁和米切尔的遭遇后，着手觉得他们正从事的岗位有隐患，忧虑假如以后他们的岗位成果也引发了风波，那么他们也或许会被解雇。

　　克劳克是一位有成就的工程探究领导人，但在AI伦理领域经验不足。在与AI伦理团队的会面中，她试图向职员保证，她是团队的盟友。克劳克是谷歌级别最高的黑人高管之一。在谷歌，黑人女性只占职员总数的1.2%。她承认，谷歌在改进职员种族和性别多样性方面缺乏进展。据几位探究人员称，克劳克在与AI伦理团队的会面中，也向团队成员表达了歉意，对团队当下的困境强调感同身受。

　　但是，又有讯息称，这位高管与AI伦理团队的关系还是呈现了难题，由于他们觉得她只是做出了一些空洞的承诺。在克劳克被官方任命为AI责任部门负责人之前几周，她就已然与AI伦理团队的成员开展了非官方的交流，研究如何修复对团队导致的损害。然后，AI伦理团队的成员共同起草了一封信，提出了含有对团队开展“结构改革”在内的一些提议。谷歌后来的确对团队开展了重组，并将团队划归新组建的AI责任部门治理。但是，团队成员是企业内部最后得知此事的人。所以，当团队成员得到讯息时，他们是一脸的懵逼。团队成员对此感到很不满，觉得重组过程与他们缺乏沟通，不尊重他们。

　　一些团队成员对自己在谷歌的前方感到悲观，并着手怀疑是否真正拥有展开探究所必需的自由生态。他们请求谷歌公开承诺学术自由，并澄清其学术探究审查程序。截至当下，谷歌尚未对这些请求有所答复。另外，团队成员还期盼谷歌向已然辞职的格布鲁和米切尔致歉，并向她们再次提供岗位机遇——但当下看来，这些请求极不或许做到。并且，格布鲁也已然强调，即使谷歌再次向她提供岗位机遇，她也不会回来。

　　一些团队成员强调，他们正考虑离开企业。在比拼激烈的AI领域，顶尖探究人员可以拿到七位数的薪水，假如这些人员辞职，那将是谷歌的一个巨大损失。

　　如今，谷歌在学术探究领域的地位正变得岌岌可危。到当下为止，谷歌是技术行业最大的探究资助者之一——它上一年在开发领域投入了270多亿美元，这乃至超过了美国宇航局(NASA)的年度预算。但谷歌AI伦理团队近期呈现的这些风波性事情，让一些学者质疑，谷歌的让探究人员自由开展探究的承诺，是否已被企业的商业利益所束缚。

　　数千名计算机科学教授和探究人员曾签署了一份请愿书，指责谷歌解雇格布鲁的举动，称之为“前所未有的学术探究审查” 。谷歌的AI高管心里很清楚，谷歌已然失去了学术界的信任。迪恩在本年2月的一次职员探究会议上发表留言称，重建信任的策略是“持续发表‘相当有趣’的前瞻性岗位”。他说，“重新获得人们的信任需要一点时间。”

　　但是，重建信任所需的时间恐怕不止“一点”。加拿大安大略西部大学(Western University)的探究人员卢克·斯塔克(Luke Stark)留言说：“我觉得，当下谷歌基础上是无法挽回其在学术界的声誉的，至少中期来看是如此。”斯塔克最近还回绝了谷歌的六万美元的不受限制资助，以抗议格布鲁的被迫辞职。据报导，他是有史以来第一个回绝谷歌探究资助的学者。另外，还有另外两个AI探究团体也已然强调将回绝谷歌的任何资助。

　　当下，至少有四名谷歌职员，含有一名工程总监和一名AI探究人员，已然离开企业a，并且是以格布鲁被解雇身为辞职理由。自然，这些辞职仅代表了一个大群体中的少数人。其他人挑选留下是由于他们依然相信事情会有转机。一位不归于AI伦理团队的职员强调，他和同仁们强烈抵制谷歌解雇格布鲁的确定，但他们也觉得，留下来持续做有价值的岗位是他们的责任。

　　对谷歌如何处理AI的伦理难题强调担忧的远不止学术界，推动机构也着手留意此事。上一年12月，9名国会议员致函谷歌，请求谷歌就格布鲁被解雇一事作出阐释。颇具作用力的族裔正义组织“Color of Change”也倡议，对谷歌解雇格布鲁一事所或许存在的种族歧视展开外部调研。

　　这些外部团体正密切留意谷歌AI部门内部发生的事情。他们意识到AI将在人类日常中发挥越来越大的作用。差不多所有首要的技术企业，含有谷歌在内，都将AI视为现代全球的一项核心性技术。基于反垄断的考虑，谷歌已然成以便政治上的热门议题，谷歌AI部门正面临着很高的政治隐患。

免责告示：家电资讯站点对文中陈述、观点判断维持中立，不对所包含信息的精确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考，并请自行承担整体责任。

本站点有若干信息均转载自其它传媒，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，本站点无法鉴别所上传图片或文字的知识版权，本站所转载图片、文字不关乎任何商业性质，假如侵犯，请及时通知我们，本站点将在第一时间及时删除，不承担任何侵权责任。联系方式：sikto@126.com

本网觉得，一切网民在进入家电资讯站点主页及各层页面时已然认真看过本条款并完全同意。敬请谅解。