在宣布人权法案之际, 文卡塔萨布拉曼尼亚, JDB夺宝的副主任是谁 数据科学计划, 分享了他在白宫工作期间的见解和观点, 他对计算机科学的人文主义方法, 以及他希望在未来几年在JDB夺宝大学取得的成就.

问:为什么围绕人工智能开发和使用的“护栏”是一个国家重要问题?

jdb夺宝认识到自动化和数据驱动技术有很多潜在的好处——所有这些都有可能实现. 但jdb夺宝也看到，这些承诺往往不会兑现. 例如, jdb夺宝可以尝试建立一个人工智能系统，以确保jdb夺宝在刑事司法系统中不会有歧视, 但是，刑事司法系统中种族不公正的历史不可挽回地玷污了从以前的逮捕中吸取数据的系统. 然后大规模实施，这种污染就会扩散. 所有输入系统的数据只会放大数据中的偏见, 除非有严格而精心设计的护栏.

这些技术系统影响着jdb夺宝在各个方面的公民权利和公民自由:信用, 获得抵押贷款和拥有土地的机会, 儿童福利, 获得福利, 找到工作——所有的晋升机会. jdb夺宝把这些系统放在哪里, jdb夺宝需要确保他们与jdb夺宝认为他们应该拥有的价值观保持一致, 而且它们是以透明和对公众负责的方式建立起来的. 这不是jdb夺宝可以在事后加上去的.

问:作为一名计算机科学家，你为什么关心技术对社会的影响?

我研究这些问题已经近十年了, 想想接下来会发生什么，当算法无处不在的时候，世界会是什么样子. 十年前, 我认为jdb夺宝可能会担心的一个问题是，jdb夺宝是否可以相信这些系统以它们应该的方式工作, 以及jdb夺宝如何知道这些系统对公众和jdb夺宝的代表负责.

不管你喜不喜欢, 技术就在这里, 它已经影响到塑造你的一切. 你正在——没有你的知识——适应你的生活和工作方式，使你自己更容易被技术所理解. 你是在让你自己成为机器可读的，而不是让机器成为人类可读的. 如果jdb夺宝不注意这一点, 技术将驱动jdb夺宝作为一个社会如何生活，而不是社会创造技术来帮助jdb夺宝繁荣和做真正的自己. 我不想吓唬人，但这是真的——而且很重要.

问:人工智能是好事还是坏事?

没有,真的. 不是技术的好坏，也不是人工智能的好坏. jdb夺宝应该关注的是影响——危害. 一个Excel电子表格生成一个分数，在审判前限制某人被拘留，这和一个复杂的人工智能系统做同样的事情一样糟糕. 深度学习算法可以帮助提高作物产量，这是非常惊人的. 这就是为什么《人权法案》关注的是对人民权利的影响, 机会和获得服务的途径——而不是技术本身, 哪些变化和发展迅速.

问:《jdb夺宝游戏官方首页》将做什么?

以处方药为例. 你不用担心你服用的药物没有经过测试, 因为FDA不会让它进入市场，除非它经过严格的测试. 类似的, we’re confident that our cars will work and that regular rec所有s happen whenever the National Highway Traffic Safety Administration discovers a problem; and we’re confident that our planes work and that every new kind of jet goes through rigorous testing before being flown. jdb夺宝有很多例子可以说明，在没有事先检查的情况下，jdb夺宝不会让新技术用于人们身上. jdb夺宝可以把它作为jdb夺宝认为重要的东西的指南，科技影响着每个人.

《jdb夺宝游戏官方首页》是一份超越原则的蓝图. 它为开发人员提供了可行的建议, 公民社会, 要提倡, 对企业, 给地方政府和州政府. 有各种各样的杠杆来推动它:监管, 行业惯例, 政府将建设什么，不建设什么. 这里没有银弹，但所有的杠杆都触手可及. 这项工作需要全社会共同推进.

问:当白宫顾问的经历对你有什么影响?

这改变了我的生活. 我的大脑现在以一种我无法——也不想——撤销的方式工作. 我一直在思考研究与创新、社会与政策之间的桥梁. 作为一个国家和研究人员，jdb夺宝仍在接受这个问题. 很长一段时间以来，jdb夺宝一直认为技术是jdb夺宝用来让生活更美好的东西. 但jdb夺宝对技术并不熟悉 变化 jdb夺宝的世界. 试图为整个国家制定政策，在某种程度上，甚至是整个世界.S. 领导者是否具有挑战性，因为有很多相互竞争的利益，你必须平衡.

在我任职政府期间, 这些问题在不同领域的复杂和微妙程度给我留下了深刻的印象——在考虑健康诊断工具时说得通的东西，在考虑法庭上使用的工具时却并不真正有用. 我对政府中有多少敬业的人有更深的感激，他们想要有所作为，需要帮助和带宽来做到这一点.

在我在政策领域工作的这些年里，我意识到的一件事是，帮助政策制定者理解技术不是一个黑盒子是至关重要的——它是可塑的和不断发展的, 它有助于以jdb夺宝可能意想不到的方式制定政策. 技术设计选择 是 政策选择，在很多方面. 要了解技术和政策是如何相互影响的，需要大量的教育——对技术专家和政策制定者都是如此.

问:这将对你在JDB夺宝大学的工作产生什么影响?

我想不出比JDB夺宝大学更好的地方，它体现了跨学科和学术服务于公众利益的价值观. 在我研究数据驱动技术对人们和社区的影响的那些年里, 我明白了从不同的角度来看待任何具体问题的重要性. 技术专家无法独自解决技术与社会冲突带来的问题, 但其他任何一群思想家和行动者也不能.

JDB夺宝大学的校园风气是令人难以置信的合作, 它深深植根于学生对公共服务的承诺和热情, 教职员及行政. 我和我在数据科学计划的同事们正致力于建立一个专注于技术责任的新中心, 我专注于重新定义jdb夺宝如何设计技术，并教会它以需求为中心, 所有人的问题和愿望——尤其是那些技术落后的问题.

我相信，jdb夺宝有创造力和工具来建立技术，帮助jdb夺宝繁荣和帮助 所有 jdb夺宝都受益于科技的进步. 为了做到这一点, jdb夺宝必须把所有来自工程领域的神奇创意汇集在一起, 公共卫生, 医学, 社会科学, 人文学科, 政策领导人和技术专家. 我致力于鼓励和促进校园中正在进行的充满活力的对话，并创建一个跨学科的家，在那里jdb夺宝可以聚在一起解决问题，并很好地解决问题.