MATLAB分布式计算服务器和机器视觉工具如何改造Shell
詹姆斯·马丁,壳牌国际公司
Amjad Chaudry,壳牌国际公司
机器学习和深度学习可用于自动化一系列任务。壳牌和先进分析中心(AACoE)正在使用这些技术来加快处理速度,同时提高可靠性。在测绘学中,可以使用标记卫星图像的丰富训练数据集来改进地形分类。大型(全景)植物图像中的自动标签检测也导致更有效的维护。
James和Amjad将展示MATLAB如何®让使用这些技术变得简单。通过最少的设置,MATLAB并行服务器™允许团队在云中多个远程gpu上训练网络。MATLAB Production Server™允许团队创建瘦web客户端,现场操作人员可以使用最小的物理硬件,如智能手机。
壳牌利用所有这些技术和工具,使其工程师可以轻松地使用最新发现。
记录日期:2018年10月3日
在过去四年左右的时间里,在壳牌内部,高级分析在我们的工作中发挥着越来越重要的作用。今天,我想特别和你们谈谈深度学习,以及如何,特别是在MATLAB中,我们利用一些深度学习工具来改进我们的创新管道。有趣的是,Rick的主题演讲提到了迁移学习和语义分割。这正是我今天要讲的一些例子。
当然,作为壳牌公司,我们总是不得不发出警告。我把这个留五秒钟给想读的人。好的。
今天,我的演讲是这样安排的。我将简单地向你们介绍壳牌公司以及我们的服务和产品范围。2022世界杯八强谁会赢?我还将谈论我们的创新和交付管道,我们如何尝试并将创新想法,特别是在高级分析方面,引入由IT部门适当维护的最终产品。2022世界杯八强谁会赢?然后是MATLAB的应用。
然后我将讨论两个用例。正如我提到的,第一个是工业图像中的标签识别,然后是高光谱卫星图像中的地形识别。听起来很酷,所以我把它放在那里。最后是下一步,我们从那里得到的结果是什么。
好的。这是我们最新的商业总结幻灯片。我们是一家业务范围很广的公司。从我最初加入该公司开始,我们就一直在进行上游勘探,试图识别碳氢化合物矿床。然后到开发阶段,我们试着钻井提取,再到更多的下游活动,我们试着加工和精炼产品,再到运输和贸易阶段,我们把这些产品交付给各种终端用户,包括零售前院,航空,还有润滑油。2022世界杯八强谁会赢?
如果我们重新利用这些信息,我们就可以突出分析在组织中所带来的价值。哦,对了,我想让大家注意的是这些不同颜色的圆。所以这些都是活跃的领域,分析在我们的组织中发挥着主导作用。我们最终可能会有相当大的变化,对当前的工作流程和工作方式产生相当大的影响。蓝色的两个圆圈是我要深入研究的地方。
这是我们用黄色表示的创新漏斗。上面有一系列的决策门,从D0到D4。基本上,我们试着从左到右把想法和概念。
在底部,你可以看到两个重叠的三角形,我们有一个重叠的地方——我们从一个数字化团队,也就是我现在所在的地方,过渡到IT部门。所以
我们尝试做的是在确定范围和创新阶段,我们参与其中。我们生产POC概念,最小可行产品,尝试并证明其价值。2022世界杯八强谁会赢?然后逐渐引入IT,我们尝试并确定完整的部署解决方案和维护策略,这样我们就可以完全向业务交付价值。
我想让大家注意的另一件事是所有的点。可以把它看作是左边组织中想法数量的标准化表示。我想强调的是,我们完全可以接受每个决策关口都有大量人员流失,所以这是关于确保你的范围完全在组织内部。当你完成任务的时候,我们会把你的资源集中在最有价值的解决方案上。
MATLAB在哪里增加价值?这是一个非常快速的原型。我们与MathWorks Consulting有一个积极的协议,我们利用它来提高我们的生产力。
我们想在MATLAB中维护大量的例子和文档。由于MathWorks在集成一些深度学习技术上投入了巨大的精力,比如说,在去年,我们能够利用该领域的一些最新发展,同时也能够访问这些有利的模块积压。我们真的很喜欢web应用程序的交付,所以我们绕过了很多关于安装MATLAB版本的问题来运行我们的一些软件。
这里我们有两个网页应用的例子。就在右上角是一个沥青测试的网络应用程序。在左下角你也可以看到我稍后要讲的内容的预览,这是一个网络应用程序的地形分类。
我们也用MDCS做了一些实验,也就是MATLAB分布式计算服务器。这样我们就可以利用云上强大的图形处理器。我们主要用它来训练我们的一些深度学习模型。
就今年而言,我们在Shell和MATLAB之间取得了不少里程碑式的进展。我们现在终于,因为壳牌有时会有一些管理方面的事情,很难获得业务不同部分的许可。所以现在我们有了一个企业范围内的交易。所以这意味着任何聪明的人,无论他们来自哪里,加入这个组织,最终都可以很快地用MATLAB实现生产,在理论上。
我们有第二个MPS许可证。正如我所说,MDCS,我认为,将会是一个越来越重要的特征。我们正在考虑将其与我们的战略更加一致。
我说过,MathWorks咨询公司非常有效地利用了我们的时间。然后我们现在也希望利用我们在班加罗尔的一些资源来尝试并允许我们昼夜不停地推进项目。
好的。这是第一个例子。这就是标签识别。你在背景中看到的是一台工业设备。我觉得是水泵。
但是在下面,我想让你们注意的是那个标签,那个标签。标签上有一个SAP代码。我们有这些星点分布的图片——它们都有地理标记——都在工业环境中星点分布。我们要做的是提取那个标签,对它做OCR,然后把它链接到我们的SAP系统,因为我们可以从SAP系统中提取很多元数据。
所以我们最初采用的方法是使用R-CNN,一种区域卷积神经网络。我们取图像。然后,因为图像非常大,我们需要首先从图像中提取一系列区域建议,然后将其输入到CNN中。
在我们的例子中,我们用了——我想Rick讲过AlexNet的例子。所以我们使用了VGD 16网络,然后为了我们的目的,我们在最后三层进行迁移学习。一开始我们有两个类问题。我们只是有标签或没有标签。
这是其中一些图像的样子。想想街景。所以在左边你可以看到它几乎是用鱼眼镜头拍摄的。首先,我们需要对图像进行失真校正,这是在MATLAB中完成的。然后想想——它的输出几乎就像你站在一个盒子里,然后你有盒子的六个面向外看。
我们去掉顶部和底部的投影,只保留水平的前投影。然后我们把它输入到算法的区域提取部分。在这种情况下,我们稍微修改了一下,使用了Pdollar EdgeBox方法。但重要的是你可以看到这些区域很好地提取了可能有标签的区域。
好的。然后传送到CNN。现在我们讨论的是训练。
所以虽然训练不需要太多的训练数据,但是,我们仍然有一些问题试图有足够的训练数据集让它以稳定的方式运行。所以我们把标签的定义扩大到更多的符号。所以我们也加入了符号,然后进行数据增强,进一步增加数据集,以提供足够的数据,给你一个稳定的结果。
在右边你可以看到训练后的激活。这很好地说明了在分类之前神经网络首先关注的是哪里。这张看起来很奇怪的图片告诉你它主要聚焦在紫色的区域上。这是算法的输出。
所以你可以看到室内场景和室外场景,不同的照明条件。你得到的是一个边界框,围绕着它认为是符号的东西,抱歉,是带有相关概率的符号和标签。
眼尖的人可能会注意到有很多误报。我们要做的是找出所有可能的选项,然后我们依靠OCR来过滤掉很多误报。
好的。我刚刚展示了转移学习被用来识别工业图像中的标签,然后它会在上面运行OCR来提取SAP代码。就运行时间而言,只是给你们一个概念,每张图像大约需要3到4分钟。现在在这个特殊的用例中,我们可以处理它,这很好,但很明显,如果你想要实时反馈,那是不会发生的。
然而,如果你想走实时路线,有一些技术可以大大提高速度。举个例子,快速r - cnn,它能让你的速度提高大约100倍。
我们也在考虑使用更多的GPU,在MDCS上使用更大的GPU,这样我们就可以提高图像的分辨率。接下来,我想,很酷的事情是一旦我们把这个连接到SAP系统,我们如何把这些信息带回来,比如说,给那些带着增强现实眼镜在工地上走动的人?我们如何共同可视化这些信息?这可能是一个令人兴奋的领域,我们的一些客户对此很感兴趣。
我们使用的数据来自欧洲的一个工业基地,现在我们从一个亚洲业务部门得到了很大的兴趣。所以我们将继续进行这些活动。
好的。下一个例子是高光谱卫星数据中的地形识别。快速描述一下为什么这个问题值得解决,为什么我们要这么做。
因此,在上游勘探中,地震数据是我们所拥有的最重要的技术之一,用来观察地下的情况。举个例子,在底部这个未指明的中东地区,你可以看到它的广阔,对吧?而获取数据的成本,也就是向地面投入能量并接收数据的成本,是非常高的。所以我们说的是每年数千万,每次调查。这是非常高的成本。
而地形类型,例如,光滑还是粗糙,可以影响高达50%的成本。正因为如此,在我们的语言中,他们有一个非常理想的标记数据的环境,但在他们的语言中,这是一个非常低效的系统。所以他们花钱请一个专业的,高薪的人来观察卫星图像,并在粗糙的地形周围手工绘制多边形,他们认为是粗糙的地形。
然后他们必须通过实地考察来证实这一点。所以有人必须飞到沙漠的这个特定区域,然后开着卡车到处跑。他们需要降下旗帜来确认这确实是崎岖的地形。这是在调查之前。
在我们的例子中,因为我们现在有很多训练数据,我们想,对。也许我们可以把整个工作流程替换成一些计算机密集型的工作。所以我们决定尝试这种语义分割方法。
这就是我们得到的数据。我们有三种类型的图像,航空摄影,雷达,和深度表面模型,DSM图像。由于2017年B的限制,我们需要做三个渠道,但在这种情况下是可以的。
现在2018年的A和b已经改进了,但我们决定在这里把它放入三个通道来给图像上色,我们这样做了。我们对航拍照片进行灰度化,把它放在红色通道,雷达放在绿色通道,等等。然后你就得到了这些彩色的图像,你可以在右边看到。这是用于算法的。
SegNet是什么?它通常用于自动驾驶汽车。想象一下左上角的一个道路场景,网络所做的就是把它传送过去然后它会把每个像素映射到一个类。
在上面的例子中,你有,人行道类,道路类,树木类等等。所以在我们的案例中,我们想要重新利用它,并将其用于崎岖的地形或平坦的地形。这就是我们所做的。
我们现在实际上有3万个样本数据集,但我们,仅仅为了这项工作,就用了1000个样本。所以还有很大的改进空间。与上面的图片相比,我们的网络结构更简单一些。
所以我们决定使用三个编码器和解码器部分。在1000个测试样本上的训练,在一个4g的GPU上,这是相当小的,大约需要8个小时的训练时间。
这就是结果。我去掉了颜色,把它分解成原始图像。在上面你可以看到,左边是航空摄影,然后是雷达和DSM。然后在左下方,你可以看到人类,或者在我们的例子中是基本事实,然后是算法预测的结果。
在这两种情况下,你可以看到。对于这个选择我所选择的数据的快照,性能是相当不错的。目前的结果是定性的,而不是定量的,尽管我们将致力于产生混淆矩阵和所有这些东西。但是表演非常好。实际上,我们向最终客户展示了这一点,他们基本上已经认为性能优于现有的工作流程。
我们允许客户通过网络应用程序与数据交互,这就是你在这里看到的。有了左边的图片,客户可以很容易地进入URL,上传各种各样的图片,加上他们想看的感兴趣的区域。然后在右边的推理步骤之后,你可以浏览不同的输入和输出图像并覆盖基本事实,这样他们就可以了解结果的含义,以及他们对什么满意,什么不满意。
好的。就下一步而言,这很像初始工作。所以未来还有很多工作要做,假设我们可以在内部获得良好的资金。首先我们要做的是参数调优。
我们将从现在的1000个训练数据开始增加训练数据的数量。我们还将添加更多的类。所以我们有一个设施类,还有一个城市类我们想要添加到数据中。你可以在右上角看到一个设施类的例子。
这个应用程序,我们只用了两天时间就完成了这个网页应用程序。这就是与MathWorks咨询公司合作的真正力量。我们希望在web应用程序中添加更多的功能,并交付客户想要的东西。
对于这个特殊的例子,因为它的性能已经很好了,人们对它很感兴趣,有一点担心这将如何影响现有的工作流程。这也包括从事这项工作的人。所以这一次,我们试图采取双重整合的策略,我们既提供技术,同时也提高员工的技能,让他们更好地理解工作流程,更好地理解技术,然后也可能提出新的想法和更好的工作方式,然后我们可以提出。很明显,我们的一些中东部门对这项技术非常感兴趣。但我们现在也收到了一些东南亚业务部门的兴趣。
那么这对未来意味着什么呢?在壳牌,最重要的是了解公司的总体规划,以及如何融入这个总体规划。在我们的例子中,我们有这些数字主题。
所以我们现在要确保我们在内部推广的方式与这些数字主题保持一致,我们已经确定了其中三个。利用所有东西到云,用MDCS进行高性能计算,然后是高级分析。例如,基于智能应用程序的技术。
就2018年的当前优先事项而言,我们希望继续部署MPS和MDCS。现在我们已经证明了其中一些解决方案的技术方面,但我们现在需要考虑证明商业价值方面。就像我说的,我们要看看地形识别,标签识别的进一步进展。
但不幸的是,我今天不能谈论的一些东西,也在地震领域。因此,我们目前正在尝试使用非常复杂的学习技术来绘制地震数据,通过简单的卷积,通过地下图像来绘制油气分布、碳氢化合物分布和碳氢化合物属性分布。所以这是一个非常令人兴奋的领域,我们公司的一些人也在关注这个领域。
好的。这就是我要说的。我希望这是一个有趣的谈话。谢谢你!
您也可以从以下列表中选择一个网站:
如何获得最佳的网站性能
选择中国站点(中文或英文)以获得最佳站点性能。其他MathWorks国家站点没有针对您所在位置的访问进行优化。