深度学习先驱李飞飞谈道德AI基本原理

对于正在努力构建有效且道德的企业AI计划的业务和IT领导者，他们可能需要从发明该技术并引发当前AI热潮的AI先驱者那里取经：这不是关于工具集。

在开始时，他们的目标并不是构建更好的工具，而是首先确定他们认为会推动更好算法和技术发展的数据集。与推动更好AI工具的数据集相比，企业构建道德AI计划所需的数据集无疑更精细且更模糊，这在很大程度上是因为不清楚什么是道德AI。尽管如此，世界领先专家用于改善AI的方法可能胜过企业董事会关于良好与不良AI的简单观念。

在旧金山举行的EmTech数字会议上，来自斯坦福大学和微软的AI专家详细阐述了他们开发AI的方法，他们开发的AI旨在对人员、流程和企业产生积极而非负面的影响。在高层次上，道德AI涉及深入调查AI如何融入现有流程，这有点类似于谷歌追求的设计感觉方法。并且，它需要多角度的信息(不仅仅是来自计算机科学家)以确定AI部署的潜在障碍，并找到AI可以产生最大积极影响的领域。

李飞飞，斯坦福大学计算机科学教授，同时也是斯坦福以人为本人工智能研究院联合主任，以及谷歌人工智能和机器学习领域前首席科学家。同时，微软前AI人员也分享了他们如何利用AI改善印度生活质量。
 

数据集如何催生AI热潮

李飞飞开发了当前深度学习革命背后的算法，她认识到改善机器视觉需要更好的数据集供研究人员测试算法。因此，她领导了ImageNet的开发—这是由人类标记的数千张图像的存储库，并且，她还举行年度竞赛以改进AI工具对这些图像中对象的识别。

李飞飞表示，人类视觉智能是人类与其他动物之间的关键区别之一。她认为在数百万年前动物视觉的提升引发寒武纪生命大爆发，这是世界主要动物群体出现的时期。李说，老鹰可以看到比人类更远，猫晚上也可以看到。而人类的大脑已经发展可整合视觉输入–通过交流能力以及更精确操纵事物的能力。她表示：“我们拥有最令人难以置信的视觉系统。”

在人类视觉中，具有反馈循环可连接视觉、语言和操作。李飞飞称：“如果没有看见，你就没有语言。”她认识到视觉的丰富性超越了像素范畴。因此，她开始致力于开发人工智能，以连接视觉与语言。她开始的工作是为图像编写简单的注释，例如“会议室中的人”，作为会议图像。而现在，这项研究正在超越对象，扩展到活动。

监管人员，带来不同观点

目前李飞飞感兴趣的领域之一是医疗保健，这涉及患者、临床医生、看护人员和管理员的大量人类活动。该研究包括使用智能传感器收集和分析这些人员正在做什么，并将该数据与其他数据相结合，以优化人类活动。她指出：“我们突然发现我们可以提供技术来帮助医生和护士加强照顾病患的工作。”

李飞飞的研究工作很大部分涉及在医疗保健的不同阶段监管医生和患者，以了解人们对整个医疗保健系统的感受。她表示：“我认识到，重要的事情是它完全与人类有关。最终，AI必须以人为本。”

李飞飞说，她的主要目标之一是想办法减少AI中的科学、哲学和文化偏见。这推动了斯坦福以人为本人工智能研究院的成立，该研究所吸引了来自斯坦福大学的200多名不同领域的同事来参与AI研究工作，他们来自法律、社会学、用户体验设计和数据科学等多个领域。

她指出：“在斯坦福大学，我认识到我们需要开创人工智能的新时代，它不再是计算机科学学科;它是一个多学科的领域，科学家、社会学家、法律学者和神经科学家可帮助我们重新构想什么是AI。”

然而，拥有来自不同学科的专家却不足以开发道德AI计划。这里还需要多样性。为此，李飞飞帮助启动了AI4All计划，以培养更多女性成为AI专家。该计划现在也正在扩展到斯坦福以外美国各地的校园。

制定道德AI计划的一个重要因素是更全面地了解技术对人类社会的影响。李飞飞称：“我们认为AI是一种能够增强、强化和提高人类而不是取而代之的技术。”因此，她团队的工作部分涉及展示在医疗保健和制造等领域的应用程序，这些应用程序将展示AI的积极作用。

李飞飞指出，参与AI的人必须认识到没有独立的机器价值。算法背后的价值实际上是关于参与其开发和使用的用户、从业者、开发人员和业务经理。每种AI算法(无论是用于自动驾驶汽车、医疗保健还是推荐引擎)都可以对人产生正面和负面影响。李飞飞称：“对于这些AI应用程序，我们需要让受影响的人来决定AI增强的价值。”

开发模型以实现好的AI

在印度，Wadhwani人工智能研究所正在探索人工智能可应用于社会福利的不同方式。该研究所首席执行官Padmanabhan Anandan来自微软，他曾是微软印度研究实验室的创始人和主管，他还领导了微软的计算机视觉研究。在接受SearchCIO采访时，他解释说部署AI需要的不仅仅是更好的算法。它需要广泛探索现有的文化、制度和流程，以对每个人产生积极影响的方式部署AI。

在Wadhwani人工智能研究所，首批部署涉及利用机器视觉来改善产妇护理、农业和结核病管理的不同流程。对于产妇护理，研究团队创建了一个应用程序，使现场工作者能够虚拟地为新生儿“称重”，而不必实际抱起他们。这有助于为低出生体重婴儿优先提供援助。其他使用秤的方法效果不佳，因为印度文化禁止印度人在婴儿出生一个月内让非家庭成员接触婴儿。而当父母为自己的孩子称体重时，奇怪的是，绝大多数婴儿都达到了2.5公斤，这意味着他们都不符合低出生体重的标准。

另一款机器视觉应用程序通过智能手机应用程序来计算纸板胶水陷阱上捕获的害虫数量。这有望缩短识别新的害虫侵扰的时间，并帮助政府官员在他们仍能发挥作用时优先考虑补救策略。去年，在广泛的瘟疫导致很多作物死亡后，1000多名棉农自杀。

Wadhwani研究所很多工作涉及与社会部门组织和政府沟通，这些组织和政府通常对AI的理解不足。Anandan说：“通过建立这些合作伙伴关系，我们希望学习如何在这些领域开展工作，并建立一个可接受AI的合作伙伴网络。这种解决方案让我们可思考如何对更大系统产生影响。”

同样，企业管理层可能会将早期AI项目视为企业学习过程，以确定人工智能如何在企业内部和整个世界中产生影响。

标签： [db:TAGG]

版权申明：本站文章部分自网络，如有侵权，请联系：west999com@outlook.com
特别注意：本站所有转载文章言论不代表本站观点！
本站所提供的图片等素材，版权归原作者所有，如需使用，请与原作者联系。