

前期的学习周期和开发周期是企业利用影刀实现数字化转型的痛点,所以我思考是否能通过一种全新的开发框架,为前期影刀辐射企业提效。之前和客户的技术大牛聊天,得到了以大数据框架思维去设计影刀应用的启发。
首先简单聊一下最简单的大数据思维是什么:即数据抓取——数据加工——数据呈现。详细一点来讲则可以分为以下步骤:1.尽可能收集可以收集到的所有数据形成一个伪数据仓库(之所以称为伪数据仓库,是因为它的存在方式可以是一个在线文档,也可以是一个Excel表等等,并不是传统意义上如MySQL、Hive、Oracle等数仓) 2.不同的部门根据不同的需求内容提交所需要的字段,从数据仓库中拿取相应的数据并进行相应的处理 3.数据呈现(按照各部门需求定制日报)。

按照以上思维方式,可以将日报应用框架分为两类应用进行开发。
(1)第一类为取数类,我这里的构想是通过影刀所提供的方法,尽可能多的拿到数据并汇总。

最常见的方法主要有三种:即批量数据抓取、获取元素信息、网页监听。大家可以参考一下我们影刀学院的相关课程进行学习。
学习链接如下:
https://college.yingdao.com/course/courseDetail

这里推一些我们社区里边优秀的数据抓取专题的文章哈:
可耐大神关于数据场景的: https://www.yingdao.com/community/detaildiscuss?id=b02b15fe-aca6-4bbe-927b-8318f757019d
广州业务组的小伙伴关于桌面软件的: https://www.yingdao.com/community/detaildiscuss?id=3ef66587-8568-4be1-96e1-f9b75a5f2cda
守卫大神关于抖音视频数据的: https://www.yingdao.com/community/detaildiscuss?id=755371197982208000
杰尼大神关于美团小程序数据的: https://www.yingdao.com/community/detaildiscuss?id=775565093470662656
(2)第二类为字段定制类,这里的重点在于需求收集,需要咨询各个部门的业务老师,拿到各部门相应的需求字段,通过对第一步应用产生的数仓的读取完成相应的报表定制工作。
推荐学习链接如下:
Excel进阶:https://college.yingdao.com/course/courseDetail
影刀学院-中级课程-数据处理 https://college.yingdao.com/course/courseDetail
数据处理扩展: https://college.yingdao.com/course/courseDetail
该沉淀可以在公司前期搭建应用时提供需求思路和搭建思路指导,对公司前期影刀的推行具有指导意义。
也欢迎大家在评论区对于平时工作中数据方面(处理、收集)的小技巧或者遇到的问题进行分享。