学习结束,吃夜宵,洗澡,睡觉,凌晨起来接着肝~
来自频道: @lover_links
来自频道: @lover_links
我们在一种演绎式的生活中找不到头脑,然后大声疾呼:我要自由。
来自频道: @lover_links
来自频道: @lover_links
有《连线》和《科学美国人》,不错!

https://github.com/hehonghui/the-economist-ebooks
来自频道: @lover_links
来自频道: @lover_links
睡醒了,开始学习。🥲
来自频道: @lover_links
来自频道: @lover_links
来自频道: @lover_links
来自频道: @lover_links
大部分公司只是单纯的对数据进行了处理,而数据的血缘,分类等等却很难实现,市场上也急需要一个专注于数据治理的技术框架,这时Atlas应运而生。
Atlas官网地址:https://atlas.apache.org
Atlas是Hadoop的数据治理和元数据框架。Atlas是一组可扩展和可扩展的核心基础治理服务,使企业能够有效,高效地满足Hadoop中的合规性要求,并允许与整个企业数据生态系统集成。
来自频道: @lover_links
直接点讲,就是大部分(80%以上)的需求,都用DWS的表来支持就行,DWS支持不了的,就用DWM和DWD的表来支持,这些都支持不了的极少一部分数据需要从原始日志中捞取。
来自频道: @lover_links
来自频道: @lover_links
数据层的存储一般如下:
1 Data Source:数据源一般是业务库和埋点,当然也会有第三方购买数据等多种数据来源方式。业务库的存储一般是Mysql 和 PostgreSql。
2 ODS 层:ODS 的数据量一般非常大,所以大多数公司会选择存在HDFS上,即Hive或者Hbase,Hive居多。
3 DW 层:一般和 ODS 的存储一致,但是为了满足更多的需求,也会有存放在 PG 和 ES 中的情况。
4 APP 层:应用层的数据,一般都要求比较快的响应速度,因此一般是放在 Mysql、PG、Redis中。
来自频道: @lover_links
来自频道: @lover_links
来自频道: @lover_links
基础设施即服务 LaaS
平台即服务 PaaS
软件即服务 SaaS
来自频道: @lover_links
早餐,蛋没煎好。
来自频道: @lover_links
来自频道: @lover_links
👆宣传口中的大城市,和想象中的大城市,这层滤镜要去除,不然永远做不出正确的选择。
来自频道: @lover_links