物联网抓取
导读: 大数据应用仍处在非常初级的阶段,就目前来看,在大数据应用的五个主要核心环节中,从数据的获取、预处理、数据存储、数据分析到数据可视化,企业CIO目前对大数据的应用主要集中在数据的预处理和存储这两个环节,占比高达63%。
2017CIO生态实践报告显示,在下一阶段的新技术应用方向上,对于大数据应用,40%的企业表示热情较高,11.5%的CIO表示非常高;对物联网的应用,39.2%的企业表示倾向性较高,9.2%的企业表示非常高;对B2B电子服务,39.2%的企业表示较高的热情。
应用场景缺乏,技术门槛高,大数据无法落地
大数据应用仍处在非常初级的阶段,就目前来看,在大数据应用的五个主要核心环节中,从数据的获取、预处理、数据存储、数据分析到数据可视化,企业CIO目前对大数据的应用主要集中在数据的预处理和存储这两个环节,占比高达63%。
63.5%的企业CIO表示将利用大数据提高企业决策速度,57.3%的企业表示将会利用大数据服务提高生产作业的安全性,这说明CIO们对于利用大数据实现何种服务已经有较为明确的规划。
从大数据的应用场景上看,50%(经过验证)的企业已经将大数据服务应用于市场营销端的数字传播和舆情监测,45.7%的企业已经将大数据服务引入质量控制端的良品率提升和合理设计,33.7%的企业已经在大数据引入战略决策管理端的管理控制和经营决策。
当然,目前阻挠大数据成功落地的因素有很多,51.1%的企业表示,大数据技术难度高阻碍了大数据进一步的应用和尝试,42.4%的企业对数据相关人才的匮乏表示无可奈何。
能源技术滞后,物联网生不逢时
在物联网实践过程中,技术是第一实践路径。数据显示,55.1%的CIO关注无线通信技术,53.9%的CIO关注无线传感网络,47.2%的CIO关注网络与移动网络。
CIO也会遭遇物联网实践中的困难和挑战,52.8%的CIO认为能源技术滞后,47.2%的CIO认为安全解决方案缺失,而33.7%的CIO认为感知技术的缺失与阻挠了企业物联网项目的成功实践。
未来,56.3%的CIO将基于智能互联产品创新企业服务模式,支持企业转型。
B2B逐步更迭,SaaS化、智能化成为关键词
调研数据显示,67.8%的CIO认为B2B优化了供应链管理,控制了生产成本。59.8%的CIO认为B2B打破了地域限制,提高了企业销售能力。
在B2B实践方面,69%的CIO选择第三方电子平台开设旗舰店,56.3%的CIO则选择第三方垂直电商平台,与公司上游或下游伙伴形成供销关系。从根本上讲,企业一般选择成熟的第三方电商平台作为切入点,一是增加企业的IT渠道,二是增加B2B服务的经验,本质上还是B2C的方式,在获客方面的效果更加突出。
在B2B应用方面,49.4%的CIO选择信息抓取工具,40.2%的CIO选择进存销软件,还有40.2%的被调研者选择即时通讯软件。
未来,B2B电子商务平台将迎来六个变化:一是传统巨头电商化,二是从信息平台转为链接平台,三是从商业智能到人工智能进化,四是地方特色产业链集群出现,五是逐渐做到产业纵深的All-in-one,六是B2B的SaaS化。
除此之外,社交网络、VR、Fintech、AI、认知学习等新技术的崛起和商业化道路的不断尝试,不仅在当下可间接为企业增产提效,还有望在未来掀起第四次工业革命。当然,越是便捷的新技术服务,支撑其运行的应用架构也分散、复杂。无论是部署在IDC机房的服务器、存储和网络设备,还是前端的应用程序,都离不开IT团队的共同努力,而CIO在扮演决策者形象的同时,在应对新技术学习和实施方面的能力就显得尤为首要。
⑵ 如何理解云计算,大数据,物联网,人工智能之间的关系
物联网、大数据、人工智能、云计算,作为当今信息化的四大版块,它们之间有着本质的联系,具有融合的特质和趋势。
从一个广义的人类智慧拟化的实体的视角看,它们是一个整体:物联网是这个实体的眼睛、耳朵、鼻子和触觉;而大数据是这些触觉到的信息的汇集与存储;人工智能未来将是掌控这个实体的大脑;云计算可以看作是大脑指挥下的对于大数据的处理并进行应用。
物联网:大数据的基础,记录人、事、物及之间互动的数据;
大数据:基于物联网的应用,人工智能的基础
云计算:计算、存储、通讯工具,物联网、大数据和人工智能必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术才能形成行业级应用。
人工智能:大数据的最理想应用,反哺物联网
⑶ lot gateway物联网网关
蓝牙(Bluetooth)
物联网网关的主要任务是连接不同的设备到云端。如今有85%以上的系统外围设备沿用过去的技术。因此,如今的物联网网关仅仅提供IP通讯是不够的。
蓝牙技术在过去十年得到非常广泛的应用,市面上有大量的蓝牙设备,所以,任何一个物联网网关都需要支持蓝牙功能。因为物联网网关承担的是一个通信中心的功能(hub功能),它向后连接到路由器或智能手机,前端连接一些外围设备,所以物联网网关对多通道连接的管理功能就非常关键。
斯图曼的蓝牙协议栈BlueCode+,对BLE only(蓝牙4.0以上支持)的Bluetooth Smart设备,,支持多连接且连接数量没有上限;另外,对传统蓝牙设备(BT 2.x和BT3.x版本),则支持最多7个连接。斯图曼专注于数据通信领域,我们提供所有必要的传统蓝牙通讯服务(包括基于SSP,HID,HDP和OBEX的通信)。为便于集成蓝牙BLE,我们提供了BLE的透明传输通道,我们称之为Terminal I/O:有了它,几乎所有蓝牙BLE(Bluetooth Smart)的设备都可以被连接上。Terminal I/O内含在由斯图曼提供的、适用于苹果iOS和安卓系统的协议栈BlueCode+中;Terminal I/O也已被预置在所有斯图曼蓝牙4.0及以上版本的嵌入式模块中。
斯图曼蓝牙协议栈的主要特点:
-符合传统蓝牙(蓝牙2.0版本及以上)和蓝牙BLE(BluetoothSmart,蓝牙4.0版本及以上)规范
-支持的协议:SSP,HID,OPP,HDP,GATT和Terminal I/O
-可同时连接传感器和智能手机
-支持多连接,并发连接到传感器和智能手机
-支持多种服务并存
-支持Linux,RTOS,甚至没有操作系统的应用
近距离无线通信(NFC)
更令人欣喜的是NFC技术,使用这项技术可为物联网网关增加很多有用的功能。NFC已经在数百万台设备上运行,它提供了一种简单安全的方式来将外部的蓝牙和WiFi设备连接到物联网网关上,当客户想要在网关所在网络上增加新的设备时,NFC给用户提供了非常便利的实现方式,即,接触后加入;除了此之外,NFC更可以作为一种安全的数据传输方式,在网关与设备之间、网关与用户之间传递数据。
斯图曼NFC协议栈的主要特点:
-支持提供蓝牙和WiFi快速配对
-支持安全Handover
-符合NFC论坛规范
-支持卡模拟、读写和点对点通信功能
-简单易用的API接口
斯图曼提供的BlueCode+ 和 NFCStack+ 两套协议栈,是所有物联网网关的关键组成部分。这二协议栈已经被大规模商用所证明,具有极强的鲁棒性。它们独立于硬件芯片,这意味着你可以自由选择硬件芯片厂商。斯图曼协议栈支持已在市场上的过去出货的设备,同时更支持最新的蓝牙4.0及以上规范的设备。考虑到大部分物联网网关是基于Linux系统,斯图曼向外提供在Linux上预移植过的开发包,从而使设备厂商能快速进入市场。
斯图曼协议栈的主要优势:
-独立于硬件,令物料成本清单降到最低。
-对于蓝牙,只需要任何一款双模的HCI芯片(例如:CSR8811,Tlcc256x等)
-对于NFC,支持接口为NCI、HCI类型的所有NFC芯片
-高可互操作性。
-已被大规模商用所证明和具强鲁棒性。
⑷ 如何应对物联网时代下数据采集的机遇与挑战
大数据泛指巨量的数据集,因可从中挖掘出有价值的信息而受到重视。《华尔街日报》将大数据时代、智能化生产和无线网络革命称为引领未来繁荣的三大技术变革。麦肯锡公司的报告指出数据是一种生产资料,大数据是下一个创新、竞争、生产力提高的前沿。世界经济论坛的报告认定大数据为新财富,价值堪比石油。因此,发达国家纷纷将开发利用大数据作为夺取新一轮竞争制高点的重要抓手。
大数据时代的来临
互联网特别是移动互联网的发展,加快了信息化向社会经济各方面、大众日常生活的渗透。有资料显示,1998年全球网民平均每月使用流量是1MB(兆字节),2000年是10MB,2003年是100MB,2008年是1GB(1GB等于1024MB),2014年将是10GB。全网流量累计达到1EB(即10亿GB或1000PB)的时间在2001年是一年,在2004年是一个月,在2007年是一周,而2013年仅需一天,即一天产生的信息量可刻满1.88亿张DVD光盘。我国网民数居世界之首,每天产生的数据量也位于世界前列。淘宝网站每天有超过数千万笔交易,单日数据产生量超过50TB(1TB等于1000GB),存储量40PB(1PB等于1000TB)。网络公司目前数据总量接近1000PB,存储网页数量接近1万亿页,每天大约要处理60亿次搜索请求,几十PB数据。一个8Mbps(兆比特每秒)的摄像头一小时能产生3.6GB数据,一个城市若安装几十万个交通和安防摄像头,每月产生的数据量将达几十PB。医院也是数据产生集中的地方。现在,一个病人的CT影像数据量达几十GB,而全国每年门诊人数以数十亿计,并且他们的信息需要长时间保存。总之,大数据存在于各行各业,一个大数据时代正在到来。
信息爆炸不自今日起,但近年来人们更加感受到大数据的来势迅猛。一方面,网民数量不断增加,另一方面,以物联网和家电为代表的联网设备数量增长更快。2007年全球有5亿个设备联网,人均0.1个;2013年全球将有500亿个设备联网,人均70个。随着宽带化的发展,人均网络接入带宽和流量也迅速提升。全球新产生数据年增40%,即信息总量每两年就可以翻番,这一趋势还将持续。目前,单一数据集容量超过几十TB甚至数PB已不罕见,其规模大到无法在容许的时间内用常规软件工具对其内容进行抓取、管理和处理。
数据规模越大,处理的难度也越大,但对其进行挖掘可能得到的价值更大,这就是大数据热的原因。首先,大数据反映舆情和民意。网民在网上产生的海量数据,记录着他们的思想、行为乃至情感,这是信息时代现实社会与网络空间深度融合的产物,蕴含着丰富的内涵和很多规律性信息。根据中国互联网络信息中心统计,2012年底我国网民数为5.64亿,手机网民为4.2亿,通过分析相关数据,可以了解大众需求、诉求和意见。其次,企业和政府的信息系统每天源源不断产生大量数据。根据赛门铁克公司的调研报告,全球企业的信息存储总量已达2.2ZB(1ZB等于1000EB),年增67%。医院、学校和银行等也都会收集和存储大量信息。政府可以部署传感器等感知单元,收集环境和社会管理所需的信息。2011年,英国《自然》杂志曾出版专刊指出,倘若能够更有效地组织和使用大数据,人类将得到更多的机会发挥科学技术对社会发展的巨大推动作用。
大数据应用的领域
大数据技术可运用到各行各业。宏观经济方面,IBM日本公司建立经济指标预测系统,从互联网新闻中搜索影响制造业的480项经济数据,计算采购经理人指数的预测值。印第安纳大学利用谷歌公司提供的心情分析工具,从近千万条网民留言中归纳出六种心情,进而对道琼斯工业指数的变化进行预测,准确率达到87%。制造业方面,华尔街对冲基金依据购物网站的顾客评论,分析企业产品销售状况;一些企业利用大数据分析实现对采购和合理库存量的管理,通过分析网上数据了解客户需求、掌握市场动向。有资料显示,全球零售商因盲目进货导致的销售损失每年达1000亿美元,这方面的数据分析大有作为。
在农业领域,硅谷有个气候公司,从美国气象局等数据库中获得几十年的天气数据,将各地降雨、气温、土壤状况与历年农作物产量的相关度做成精密图表,预测农场来年产量,向农户出售个性化保险。在商业领域,沃尔玛公司通过分析销售数据,了解顾客购物习惯,得出适合搭配在一起出售的商品,还可从中细分顾客群体,提供个性化服务。在金融领域,华尔街“德温特资本市场”公司分析3.4亿微博账户留言,判断民众情绪,依据人们高兴时买股票、焦虑时抛售股票的规律,决定公司股票的买入或卖出。阿里公司根据在淘宝网上中小企业的交易状况筛选出财务健康和讲究诚信的企业,对他们发放无需担保的贷款。目前已放贷300多亿元,坏账率仅0.3%。
在医疗保健领域,“谷歌流感趋势”项目依据网民搜索内容分析全球范围内流感等病疫传播状况,与美国疾病控制和预防中心提供的报告对比,追踪疾病的精确率达到97%。社交网络为许多慢性病患者提供临床症状交流和诊治经验分享平台,医生借此可获得在医院通常得不到的临床效果统计数据。基于对人体基因的大数据分析,可以实现对症下药的个性化治疗。在社会安全管理领域,通过对手机数据的挖掘,可以分析实时动态的流动人口来源、出行,实时交通客流信息及拥堵情况。利用短信、微博、微信和搜索引擎,可以收集热点事件,挖掘舆情,还可以追踪造谣信息的源头。美国麻省理工学院通过对十万多人手机的通话、短信和空间位置等信息进行处理,提取人们行为的时空规律性,进行犯罪预测。在科学研究领域,基于密集数据分析的科学发现成为继实验科学、理论科学和计算科学之后的第四个范例,基于大数据分析的材料基因组学和合成生物学等正在兴起。
麦肯锡公司2011年报告推测,如果把大数据用于美国的医疗保健,一年产生潜在价值3000亿美元,用于欧洲的公共管理可获得年度潜在价值2500亿欧元;服务提供商利用个人位置数据可获得潜在的消费者年度盈余6000亿美元;利用大数据分析,零售商可增加运营利润60%,制造业设备装配成本会减少50%。
大数据技术的挑战和启示
目前,大数据技术的运用仍存在一些困难与挑战,体现在大数据挖掘的四个环节中。首先在数据收集方面。要对来自网络包括物联网和机构信息系统的数据附上时空标志,去伪存真,尽可能收集异源甚至是异构的数据,必要时还可与历史数据对照,多角度验证数据的全面性和可信性。其次是数据存储。要达到低成本、低能耗、高可靠性目标,通常要用到冗余配置、分布化和云计算技术,在存储时要按照一定规则对数据进行分类,通过过滤和去重,减少存储量,同时加入便于日后检索的标签。第三是数据处理。有些行业的数据涉及上百个参数,其复杂性不仅体现在数据样本本身,更体现在多源异构、多实体和多空间之间的交互动态性,难以用传统的方法描述与度量,处理的复杂度很大,需要将高维图像等多媒体数据降维后度量与处理,利用上下文关联进行语义分析,从大量动态而且可能是模棱两可的数据中综合信息,并导出可理解的内容。第四是结果的可视化呈现,使结果更直观以便于洞察。目前,尽管计算机智能化有了很大进步,但还只能针对小规模、有结构或类结构的数据进行分析,谈不上深层次的数据挖掘,现有的数据挖掘算法在不同行业中难以通用。
大数据技术的运用前景是十分光明的。当前,我国正处在全面建成小康社会征程中,工业化、信息化、城镇化、农业现代化任务很重,建设下一代信息基础设施,发展现代信息技术产业体系,健全信息安全保障体系,推进信息网络技术广泛运用,是实现四化同步发展的保证。大数据分析对我们深刻领会世情和国情,把握规律,实现科学发展,做出科学决策具有重要意义,我们必须重新认识数据的重要价值。
为了开发大数据这一金矿,我们要做的工作还很多。首先,大数据分析需要有大数据的技术与产品支持。发达国家一些信息技术(IT)企业已提前发力,通过加大开发力度和兼并等多种手段,努力向成为大数据解决方案提供商转型。国外一些企业打出免费承接大数据分析的招牌,既是为了练兵,也是为了获取情报。过分依赖国外的大数据分析技术与平台,难以回避信息泄密风险。有些日常生活信息看似无关紧要,其实从中也可摸到国家经济和社会脉搏。因此,我们需要有自主可控的大数据技术与产品。美国政府2012年3月发布《大数据研究与发展倡议》,这是继1993年宣布“信息高速公路”之后又一重大科技部署,联邦政府和一些部委已安排资金用于大数据开发。我们与发达国家有不少差距,更需要国家政策支持。
中国人口居世界首位,将会成为产生数据量最多的国家,但我们对数据保存不够重视,对存储数据的利用率也不高。此外,我国一些部门和机构拥有大量数据却不愿与其他部门共享,导致信息不完整或重复投资。政府应通过体制机制改革打破数据割据与封锁,应注重公开信息,应重视数据挖掘。美国联邦政府建立统一数据开放门户网站,为社会提供信息服务并鼓励挖掘与利用。例如,提供各地天气与航班延误的关系,推动航空公司提升正点率。
大数据的挖掘与利用应当有法可依。去年底全国人大通过的加强网络信息保护的决定是一个好的开始,当前要尽快制定“信息公开法”以适应大数据时代的到来。现在很多机构和企业拥有大量客户信息。应当既鼓励面向群体、服务社会的数据挖掘,又要防止侵犯个体隐私;既提倡数据共享,又要防止数据被滥用。此外,还需要界定数据挖掘、利用的权限和范围。大数据系统本身的安全性也是值得特别关注的,要注意技术安全性和管理制度安全性并重,防止信息被损坏、篡改、泄露或被窃,保护公民和国家的信息安全。
大数据时代呼唤创新型人才。盖特纳咨询公司预测大数据将为全球带来440万个IT新岗位和上千万个非IT岗位。麦肯锡公司预测美国到2018年需要深度数据分析人才44万—49万,缺口14万—19万人;需要既熟悉本单位需求又了解大数据技术与应用的管理者150万,这方面的人才缺口更大。中国是人才大国,但能理解与应用大数据的创新人才更是稀缺资源。
大数据是新一代信息技术的集中反映,是一个应用驱动性很强的服务领域,是具有无穷潜力的新兴产业领域;目前,其标准和产业格局尚未形成,这是我国实现跨越式发展的宝贵机会。我们要从战略上重视大数据的开发利用,将它作为转变经济增长方式的有效抓手,但要注意科学规划,切忌一哄而上。
⑸ 如何推广物联网落地应用
在前不久召开的第三次无锡国家传感网创新示范区领导小组协调会上,工信部部长苗圩提到,物联网的内涵和外延与德国工业4.0基本一致,工业4.0是未来工业的第四次革命;对于中国来说,实现工业4.0非常重要,同样实现物联网的发展也非常重要,要持之以恒。
现在,我们看到物联网并没有像移动互联网、云计算那样有非常突出、明显的应用,也没有生出代表性的大企业。但是在部分行业领域,企业采用物联网技术的积极性正在提高,市场正在走向闭环。
落地方向一:工业4.0
工业4.0的核心是构建信息物理系统,通过物联网和互联网实现物与物、机器与机器、机器与人的数据信息交流、交互,建立智能工厂,实现智能生产。赛迪智库软件与信息服务业研究所所长安晖认为,物联网是工业4.0的重要技术基础。在工业制造领域,从工业3.0的自动化走向工业4.0的智能化、机器对机器的智能互操作,物联网扮演着极其重要的角色。那么,物联网在中国制造业中的应用如何?
在安特成科技公司车间里,记者看到了两条生产线,一条是汽车整车组装生产线,另一条是汽车部件抓取装配线。
在生产线的一旁,记者还看到了电脑屏幕上显示的装配线运转实时三维图,能随时获取生产线运动轨迹数据。其总经理公司经理向记者介绍,这个车间里的生产线就是公司研发的基于物联网应用技术的数字化汽车装配生产线。该生产线利用超高频RFID标签采集生产流程数据,实现生产流程数据采集,构建了生产现场映射信息平台和智能状态分析平台,还能提供远程的设备维护和故障预诊断服务,这其中用到了物联网技术、云计算、大数据分析。
公司经理将这条生产线称之为为汽车厂提供汽车装配生产线全生命周期服务,是和西门子公司合作共同研发的、目前国内唯一能实现汽车装配全生命周期数据采集和运用的项目,在国内领先,甚至在国际也是领先。不过,记者也了解到,该生产线现在还在研发阶段,计划明年投入市场。
这条生产线的技术先进水平如何?电信研究院总工程师余晓晖和北京交通大学经济管理学院教授相关人员都向记者表示,汽车装配线上的物联网应用已经很成熟,在多年前就已经存在该技术,只不过应用在局部装配线上,没有大规模普及。余晓晖解释,没有普及的原因包括技术、标准、成本、与生产流程结合等难点,但是这个项目符合当前信息化、自动化、网络化与工业结合更加深入的发展趋势和方向,是工业4.0的一部分,发展方向是没有错的。
中国电子学会物联网专家委员会副秘书长工作人员认为,数字化项目是工业4.0非常典型的应用,生产过程的信息化和智能化不仅仅能改进生产过程,还能提升经济效益。
落地方向二:个人消费
除了在制造行业里应用,物联网在个人消费领域也有进展。
新日电动车公司历时2年多时间,研发出全国第一辆基于物联网技术的全数字化车联网电动车,其办公室主任陈开亚向记者介绍,这种车联网电动自行车可以实时采集和检测车辆状况,如果发生故障,可以第一时间告警,还能通过连接手机的APP了解车况。该公司某工程师特别向记者推荐这套系统的优势是能帮助专卖店更好地完成维修工作。另外,电动自行车上还有基于GPS卫星定位的防盗系统,可通过手机实时查询车辆位置、行驶轨迹。如果车辆被盗,该系统可协助警方快速找回失窃车辆。
在工作人员看来,电动自行车的车联网技术实现比汽车容易得多,因为汽车各部件的数据很多掌握在原厂手里,而电动自行车是自己研发的,获取数据不是问题。电动自行车被盗的可能性又高,所以用物联网技术防止被盗,市场应用前景会相当不错。难就难在GPS定位在室内并不精准,有待改善。