道德的AI设计 | Q&A with 艾比雅克·埃弗里特 PhD '18

麻省理工学院博士后带来哲学的工具与信息技术的伦理问题。
 

“我们怎样才能获得,同时防止伴随危害好处高科技的报价吗?其中的一些危害的是这样的东西科幻电影是建立在与机器人统治者和所有的,但有些显得更加无害的(并且已经在这里)“。

- 艾比埃弗雷特雅克博士'18,博士后,麻省理工学院哲学


 

艾比埃弗雷特雅克博士'18,在麻省理工学院哲学博士后,并作为人工智能项目领导的麻省理工学院追求智慧的道德问题。她也是在耆那教的家庭研究院,在纽约的智库数字伦理学研究员。她的研究课题是在道德和政治哲学和行动的理念 - 我们要求的地区,“我们在做什么?”和“我们该怎么办?”她特别对我们的技术和希望的关系帮助社会搞清楚AI设法自行决定之前,该怎么做AI。

金·马蒂诺,为麻省理工学院追求的情报通讯官,近日采访了有关她的工作带来理念的工具,以一系列的有关信息技术的伦理问题雅克。 

•••


Q值。你是在教一门新课程今年春天,“技术的伦理问题,”麻省理工学院的部门语言学和哲学的范围内。是什么促使你创建它?

在这个年龄段的自动驾驶汽车和机器学习,这些问题的 感觉 新的,但在许多方面他们没有。理念提供了强大的工具来帮助我们回答这些问题。该部门已经提供了在诸如道德和粮食和气候变化的政治科目很大课程;技术课程是一个合乎逻辑的补充。我的意思是,谁没有被Facebook的朋友建议穆斯特出来,或YouTube的自动播放选择?  
 

Q值。谁应该走这条路?

任何人,每个人,我希望:工程专业的学生可能要反映他们所创造的东西,但非工程师可能要来,因为高科技是我们这个世界的这样一个重要组成部分。我们所有参与的制度,我们都在做的兴趣确保我们得到它的权利。
 

Q值。你会探讨什么样的道德困境?

我提到的Facebook。坦率地说,我们可以做一个整个过程只是对Facebook的是通往澳门太阳城隐私和监控问题;假新闻和事实的商定集的侵蚀;社交媒体对我们的心理健康和人的连接作用;利用在政治上的大数据,贷款,刑事司法,医药,招聘和超越。

关键思想是技术的承诺总是伴随着风险。那么我们如何获得好处高科技报价,同时防止伴随危害?其中的一些危害的是这样的东西科幻电影是建立在与机器人统治者和所有的,但有些显得更加无害的(并且已经在这里)。我们该怎么做呢?
 


“我们正在做一些不同:工程实践中集成伦理思想的工程师需要具体的工具,而他们正在做的事情来标识,地址,他们可以使用,而且他们项目的伦理方面的交流在这个动手当然我们”。会的教 道德协议,一步一步的过程,学生在车间将适用于自己的项目。” 

- 在“道德工程车间,”麻省理工学院的IAP


 

Q值。你还教与麻省理工学院媒体实验室的博士后爱德蒙阿瓦德和哲学博士候选人米洛菲利普斯褐色“道德工程车间”在麻省理工学院的独立活动期间(IAP)。这是什么类的? 

工程师需要 - 与希望(如最近的谷歌罢工显示) - 理解和管理他们的工作的伦理问题。我们如何帮助?好了,工程伦理通常是由无论是从抽象的理论或专业许可的要求和规定开始授课。但理论是难以适用,法规没有在真正的问题拿到。

所以我们正在做一些不同:工程实践中集成伦理思想。工程师需要而他们正在使事情来识别,地址,以及他们项目的伦理方面的沟通,他们可以用具体的工具。在本次动手过程中,我们会教的 道德协议,一步一步的过程,学生在车间将适用于自己的项目。
 

Q值。 AI带来了多样化的风险:预测维持治安的担忧可能来自那些与自动驾驶汽车或个性化算法不同。一个协议怎么能处理这一切?

该协议是用于各种工程实践中一般就够了,但它可以被定制的特定课程的方式来教导。一个团队我们正在为麻省理工学院的新工程教育改造(NEET)程序,定制每四个线程程序提供的模块:活机器,自主车,清洁能源设备,以及先进材料的机器。

但在每一个版本中,我们侧重于理解什么一个正在建设,其中包括与利益相关者沟通所需要的技能。由于最近麻省理工学院的研究经验谁与波士顿市的合作,优化公共汽车时刻表 插图,更改系统服务于大多数人更好的仍然可以制造混乱和争议,而不充分的沟通。
 

Q值。无论是高科技 工业和哲学的学科遇到了批评,认为他们太白色,太男性。为什么多样性重要?  

我们有很好的经验数据不同的团队更具创新性和解决问题的能力更好。所以它不只是一个公平的问题,虽然这是这一点。如果我们要做好工作,无论是在技术和理念,我们需要各种各样的人的贡献。在高科技,很多已导致最近丑闻的问题本来是可以避免的,如果球队一直不太均匀。在哲学上,我已经通过我与代表性不足的群体,当新的声音进入谈话旧僵局如何迅速溶解,学生工作观察。
 

Q值。你麻省理工学院的博士生共同创办piksi波士顿,一个星期的暑期学院,有助于从代表性不足的群体的人在哲学博士学位的追求。你学到了什么?

在努力有差别。我们毕业了我们的第四个队列今年夏天,现在我们的很多学生都在读研究生。高科技产业可以改变,太:当人们知道他们想要的东西,他们会来,他们会留下来,他们会在你无法事先预料的方式做出贡献。

 

建议链接

艾比雅克·埃弗里特

麻省理工学院哲学

麻省理工学院追求情报

新的工程教育改造(NEET) 

麻省理工学院的研究shass影响|计算和AI

档案故事:哲学包容性的关键
麻省理工学院的研究生组织夏令营机构加大对哲学领域的多样性。
 

 


由MIT shass通信制备
采访由金·马蒂诺进行,
通讯官,寻求智力