随着近年来人工智能及大数据、云计算进入爆发时期,依托三者进行的数据分析、数据挖掘服务已逐渐成为各行业进行产业升级的载体,缓慢渗透进我们的工作和生活,成为新时代升级版的智能“大案牍术”。
那么对于多数企业来说,如何做数据挖掘呢?
1、做好商业理解
这个商业理解就是要把业务问题转换成数据挖掘问题, 目前数据挖掘的理论概念中, 一般都包括分类, 聚类,回归, 关联规则这几类, 这需要对这几类方法有一定的理解, 才能有效地转换。
2、数据理解
数据描述了我们的业务, 在这一步, 我们必须找准对应关系, 所面临的业务问题, 有哪些数据可以用, 我们做的是定量分析, 没有数据显然是得不到模型的, 知道哪里数据和业务关系紧密, 也能让我们的分析事半功倍。
3、数据准备
实际上数据挖掘的大部分工作都在这一步, 往往到了这一步就发现理想很美好, 但现实很骨感, 数据质量令人堪忧, 缺失值, 异常值接踵而来, 这是数据的错误, 还有为了适应算法, 需要将数据去量纲化, 类型转换, 去相关性, 降维等等操作, 这一步将消耗分析人员大量精力
4、数据建模
这一步需要对算法理解透彻, 要了解数据特征和算法特点, 才能选择最优算法, 以及最优参数, 很多算法的使用是有假设条件的, 必须仔细掌握, 得到的模型才会合理, 另外,还要考虑业务需要, 如果模型必须能解释, 那就要选择生成式模型算法。
5、评价
就是模型评估了, 各种评估指标的侧重点是不一样的, 要以最能反应业务的指标为准, 另外,评估数据的选择也很关键, 要尽可能的模拟实际生产环境, 才能评估模型的性能。
泰迪智能科技大数据挖掘平台无需编程,通过拖拽式进行操作,以流程化的方式将机器学习、深度学习、图像处理、计算机视觉、自然语言处理模块化,达成快速进行模型构建与训练的目的。
企业数据挖掘平台案例分析:
1、交通案例-道路运输安全大数据分析
建立面向道路运输行业和运输企业多层面应用的道路运输安全管理大数据平台,汇聚车辆运行动态监控数据、新车技术参数、运输企业安全生产管理信息、运政管理信息、气象信息等多源数据,形成道路运输过程大数据池。
重点针对运营过程中车辆性能的变化规律、不良驾驶行为识别统计分析、驾驶行为对行车安全与节能情况的影响因素、道路客运方式下公众安全出行保障以及集成上述研究成果开展汽车运输安全管理体系建设等方面开展研究。
2、媒体案例-广电大数据智能推荐
广电用户服务大数据平台围绕“降流失,增营收的经济和社会效益双提升的技术应用目的”整合广电公司运营、客服、运维、产品等各个子系统及互联网数据,以人工智能、大数据、互联网等技术探索数据在用户服务上的特征规律,建设综合评价指标体系、知识库。
建设自学习的用户标签体系和产品标签体系及生成用户画像和产品画像,建设产品优化、用户精细化分群、营销推荐、用户流失研判预警、用户流失推荐挽留等用户服务模型,为营销、运营、运维、客服等部门决策实施用户流失处置策略提供客观准确数据支持,建设以广电大数据及GIS地理信息数据为基础构建GIS+AI展示系统,展示产品画像、用户画像、用户价值精细化分群、智能推荐、用户流失预判和营销推荐挽留的可视化数据查询及数据报表生成。
3、工业案例-基于大数据的工业废水处理
以数据分析为核心,建立基于物联网的远程智能监控系统。以全流程分析方式,一体化解决污水处理过程中数据分散、利用率低、过度依赖人工经验, 信息传递脱节、工艺孤岛、协同性差等问题,并以可交互方式提升问题处置效率,形成适合工艺特点和管理模式的个性化问题处置库。
突出对处理能力的动态评估和运行异常的预测预警,并将可能出现的指标超限、波动等控制在处理能力范围内,降低运行风险,提升管理的专业化水平。
4、电力案例-电力大数据平台
电力大数据平台拥有数据采集、数据存储、数据加工处理、数据分析挖掘、数据管控、平台管控、安装部署等功能,但是平台在组件融合、权限控制、对外接口封装等方面还存在不足,不能够满足企业未来不同类型的大数据应用。运用大数据挖掘算法完善数据分析挖掘模块,实现对MATLAB、Mahout、Rhadoop等分析挖掘工具中的算法封装,通过企业数据挖掘应用流程化的模式,使得数据应用开发速度更快,成本更低,让企业的大数据挖掘应用更简单。
5、政府案例-智慧信访大数据平台
智慧信访主要有两大特色,即“深度挖掘”与“态势感知”。
“深度挖掘”是指利用文本挖掘和先进的NLP自然语言算法分析对信件内容,了解群众诉求,把握信访动态,分析问题成因,发现信访规律,加强风险预警,支撑辅助决策。
“态势感知”则可对事件进行关联分析,精准预判,并通过抓取信访事件关键词汇,基于知识库和案例库的存档,自动、实时地推送准确法条及类似案例作为工作参考。智慧信访是积极响应十九届四中全会的号召:着力构建基层社会治理新格局,不断提升基层社会治理水平。