跳到主要内容
人工智能

更透明的AI与视觉分析

刘仁是硅谷博世研究技术中心的首席科学家。raybet雷竞技ios下载他站在一个墙壁大小的显示器前，解释人工智能如何使用一种称为视觉分析的方法。

刘仁是硅谷博世研究与技术中心的首席科学家。raybet雷竞技ios下载借助视觉分析软件，他和他的团队将人工智能与人类知识相结合，以发挥两者的优势。

刘仁站在一个显示器前。在背景中，可以看到由人工智能支持的可视化分析。
对于刘仁来说，毫无疑问，视觉分析具有巨大的潜力。

人工智能(AI)提供了挖掘大数据的工具，没有它就不可能有自动驾驶汽车。无论应用到哪里，它都有助于使人们的工作和生活更轻松。但用户必须能够理解和控制人工智能的工作方式及其决策依据。为了确保这一点，刘仁博士正在探索一种叫做视觉分析的方法。任志强在硅谷博世研究与技术中心领导着一个raybet雷竞技ios下载博世专家团队。作为智能人机交互(HMI)技术和系统的首席科学家，他的工作是探索如何将人类和机器智能结合起来。“机器会犯错，人类也会犯错。视觉分析有助于避免错误。”在这次采访中，刘仁解释了它是如何工作的。

“我们想知道人工智能不知道什么，为什么不知道。一旦我们做到了这一点，我们就可以帮助它获得它所缺乏的知识。”
刘仁，博世硅谷研究与技术中心智能人机界面技术和系统首席科学家raybet雷竞技ios下载

任老师，视觉分析是什么?
人工智能辅助视觉分析，简称AiVA，是对人工智能推理的探索。它帮助我们理解人工智能系统如何做出决策，以及如何改进这个决策过程。这有三个阶段。首先，对人工智能系统的数据进行处理，以便人类能够理解。在下一步中，数据是可视化的。最后，通过最少的交互，人们可以利用这些可视化信息来指导和优化AI系统。

这有什么意义呢?
人工智能算法通常就像一个黑盒子。他们炮制出了一个结果，但我们不知道他们是怎么做到的。这可能会引发一些问题，比如在自动化招聘流程或信贷审批等情况下，决策是否真正公正。可视化分析可以通过提供决策过程的透明图像来消除这些疑虑。眼见为实!

可解释的人工智能——刘仁找到了正确的词语来传达视觉分析的重要信息。
刘仁:将光明投射到AI的黑暗深处。
视觉分析图形
刘仁和他的团队站在一个满是数据的大显示器前，讨论视觉分析的数据可视化。
与勾梁、徐盼盼、李南翔、Michael Hofmann合作，在工业4.0应用中产生更多对人工智能的信任。

你能举个例子吗?
让我们以我们与博世自动驾驶功能测试团队合作的系统为例。raybet雷竞技ios下载在图像识别方面，这些汽车依赖于人工智能。但他们也必须应对我们所说的“极端情况”。这些很少发生的情况是几种不寻常的情况汇聚在一起——例如，在恶劣的天气中，汽车以一定的角度面对红绿灯。在这种情况下，系统需要什么来区分红灯?可视化分析有助于检测盲点，补充数据，并提高整体系统的准确性。

当它检测到这些缺点之一时会发生什么?
我们的视觉分析方法使用了第二个AI来自动填补数据中的空白。这个过程是透明的，涉及到人际互动。这样，第一个AI的缺点就得到了弥补。

10个以上

通常会定义不同的场景来描述红绿灯。

这就是视觉分析如何发现人工智能知识中的空白

刘仁站在一个显示数据可视化的显示器前。这个可视化由不同颜色的盒子组成，代表人工智能的数据分析。旁边的文字是:“人工智能上路了。视觉分析和红绿灯挑战”。
这些小矩形中的每一个都将10到1000个外观相似的交通灯组合在一起。矩形的颜色表示AI是否正确识别了每个组。红色代表不。但对于自动驾驶来说，人工智能每次都要做到正确是至关重要的。视觉分析过程可以帮助它做到这一点。
该图像可视化了当人工智能没有足够的数据材料进行分析时可能出现的极端情况。
人工智能的一个问题是，对于交通灯的每种变化，都没有足够的训练数据。如果几个不寻常的条件汇聚在一起，就存在一定的“极端情况”风险——AI可能会误解一个信号，因为它在训练数据集中没有得到充分的表示。
城市环境中的几辆汽车在红灯前停下。文字上方:“没有例外就没有规则”。
刘仁说:“即使你尽可能多地捕捉红绿灯，你可能仍然无法获得完整的图像。”“更重要的是，你可能仍然无法捕捉到足够多的极端情况。最重要的是，收集所有这些数据也需要付出巨大的努力。”
下图显示了如何通过第二个人工智能的表示学习更好地识别红绿灯。通过颜色，符号，背景和方向。
为了解决这个问题，使用了一种称为表示学习的人工智能方法。这里，第二个AI开始发挥作用。在我们的例子中，第二个AI教系统定义红绿灯的特征。为此，每个红绿灯可以大致表示为十几个变化的组合。每一种都很容易被人们理解。我们的例子假设四个有代表性的变化可以用来描述任何红绿灯:颜色、符号、方向和背景。
充满彩色框的可视化显示了如何在数据分析中检测和可视化错误。
当人工智能无法识别红绿灯时，结果可以被总结和可视化，让人们一眼就能发现错误的实例。使用表示学习，第二个AI可以将这些失败案例映射到具有代表性的变化，并帮助用户了解AI识别器失败的位置和方式。
在数据分析过程中，使用两个AI来检测错误。
这个可视化界面中的每个小矩形都总结了发生相同问题的10个到1000个案例。通过这种方式，用户可以看到为什么AI无法识别红绿灯。
为人工智能做更多的功课——新的数据可以提高人工智能。
现有的数据可以用来提供新的交通灯的表示形式。通过这种方式，可以获得这些交通灯的景观视图(顶部)，以及AI可能失败的地方(下面景观视图中的黄色和红色带)。这是非常有用的，因为它可以通过生成新数据或收集更多类似于这些不寻常故障案例的数据来改进AI。
/

第二个AI是如何生成这些数据的?
它利用了一种叫做表示学习的方法。我们继续以红绿灯为例:基于训练数据，第二个人工智能学习了一种表示方式，这样每个红绿灯可以分为大约十几个案例及其变体，所有这些都很容易让人们理解。为了简化示例，我们将只使用四个变量——交通灯的颜色、信号灯中的符号、背景和它所指向的方向。这四个代表性的类别可以用来描述每一个红绿灯。这就是第二个AI如何分类训练数据，识别和分类与第一个AI红绿灯探测器相关的错误案例。在极端情况下，第二个AI也可以有效地生成新的训练数据，以进一步提高我们的红绿灯识别器的性能，基于这四个类别和人类输入。

刘仁站在一个显示数据分析的显示器前。在本例中，数据来源于零售贸易，并通过可视化分析进行了处理和可视化。
刘任。在后台，一个零售贸易的可视化分析应用程序。
刘仁站在一个显示数据分析的显示器前。数据通过可视化分析可视化，使人们能够立即发现错误。
刘仁将未来值得信赖的人工智能牢牢锁定在他的目标上。

人们从何而来?
数据可视化的方式允许人们立即发现错误。人们可以通过将这些案例与学习到的表示相关联来轻松分析这些案例，并确定人工智能训练数据中的差距。第二步，系统要么生成新数据，要么就如何收集真实数据提供指导，以填补这些空白。通过这种方式，人和机器一起工作来提高我们AI系统的性能。

“在工业人工智能领域，博世是一支不可忽视的力量——我们获得raybet雷竞技ios下载的奖项表明了这一点。”
刘仁，博世硅谷研究与技术中心智能人机界面技术和系统首席科学家raybet雷竞技ios下载

博世还在哪些地方使用了视觉分析?raybet雷竞技ios下载
最近开发的一种名为Tensor Partition Flow(简称TPFlow)的算法允许零售商分析客户流量数据。城市交通流量可以得到更好的检查，从而使拼车服务得到合理调度，并最大限度地发挥可用容量。TPFlow在2018年IEEE VISUALIZATION会议上获得最佳论文奖，该会议是大数据和可视化分析领域的领先会议。我们还因发现工业4.0生产线瓶颈的解决方案而获奖。在这里，我们正在与博世人工智能中心密切合作，使大规模推广成为可能。raybet雷竞技ios下载

未来的视觉分析应用程序能够做什么?
他们的目标仍然是理解人工智能的黑盒子。没有这种理解，人们就不会对人工智能产生信任——信任将是未来互联世界的一个关键品质特征。这就是为什么我们博世希望开发安全、raybet雷竞技ios下载强大、可解释的人工智能产品。我坚信可视化分析方法将继续在这里发挥关键作用。

配置文件

博世硅谷研究与技术中心智能人机交互技术与系统总监兼首席科学家刘仁的肖像。raybet雷竞技ios下载他的工作主要集中在人工智能和机器学习等领域。

刘任

博世研究与技术中心HMI首席科学家raybet雷竞技ios下载

对透明和可理解的人工智能的需求正在上升。算法必须可以解释。

刘仁博士是博世硅谷研究与技术中心智能人机界面技术和系统副总裁兼首席科学家。raybet雷竞技ios下载他还是负责人机协作项目人工智能研究的全球负责人，其研究团队位于美国硅谷和匹兹堡，德国Renningen。他在卡内基梅隆大学获得计算机科学博士和硕士学位。他还拥有中国杭州浙江大学计算机科学学士学位。

人工智能 研究

分享到:

探索更多的