综合教程培训讲座课程下载简介
某条《亿级流量采集与监控》大数据项目实战视频教程
本课程是大数据项目实战系列课程,项目基于某条亿级流量背景,实现了一站式的数据采集与监控。包含了行为数据、产品数据、业务数据的高效采集,定义并监控数据采集流程中各个指标,当数据采集链路发生故障时能够及时收到报警,同时当遇到性能问题时,通过监控系统我们能更有针对性的优化采集流程
项目设计基于场景而非基于行业,选择以技术驱动,重在各技术组件的组合,目的是解决特定场景的问题。课程从零环境基础出发,逐步搭建完成,能够帮助你快速搭建亿级流量场景下的数据采集平台。
课程内容目录:
01 某头条采集与监控实战-项目背景
02 某头条采集与监控实战-项目需求
03 某头条采集与监控实战-监控项目架构
04 某头条采集与监控实战-数据格式解析
05 某头条采集与监控实战-OpenResty安装
06 某头条采集与监控实战-创建OpenResty应用
07 某头条采集与监控实战- 编写应用主配置文件nginx.conf
08 某头条采集与监控实战-编写应用子配置文件collect-app.conf
09 某头条采集与监控实战- 测试并启动应用
10 某头条采集与监控实战-配置接口到数据管理中心
11 某头条采集与监控实战-日志切分
12 某头条采集与监控实战-Hadoop安装
13 某头条采集与监控实战-Flume安装
14 某头条采集与监控实战-编写Flume配置文件
15 某头条采集与监控实战-编写Flume拦截器
16 某头条采集与监控实战-部署Flume拦截器
17 某头条采集与监控实战-资讯数据采集Flume配置
18 某头条采集与监控实战-资讯数据采集Flume Agent对接数据管理中心
19 某头条采集与监控实战- 业务数据采集SQOOP脚本
20 某头条采集与监控实战-Hive安装配置
21 某头条采集与监控实战-Beeline加载JsonSerde
22 某头条采集与监控实战-创建行为数据表
23 某头条采集与监控实战-创建行为数据加速表
24 某头条采集与监控实战-创建新闻资讯表
25 某头条采集与监控实战-创建业务数据表
26 某头条采集与监控实战-编译安装Azkaban Solo Server
27 某头条采集与监控实战-Azkaban 作业流开发
28 某头条采集与监控实战-Azkaban 作业流定时调度
29 某头条采集与监控实战-DingTalk添加Webhook机器人
30 某头条采集与监控实战-DingTalk SDK测试
31 某头条采集与监控实战-Azkaban Alert接口开发
32 某头条采集与监控实战-Azkaban Alert插件部署
33 某头条采集与监控实战-Azkaban Alert插件运行测试
34 某头条采集与监控实战-Prometheus安装
35 某头条采集与监控实战-Prometheus数据模型介绍
36 某头条采集与监控实战-架构简介
37 某头条采集与监控实战-Supervisor与Prometheus集成
38 某头条采集与监控实战-Supervisor与Grafana集成
39 某头条采集与监控实战-Grafana集成Prometheus数据源
40 某头条采集与监控实战-加载nginx-lua-prometheus扩展模块
41 某头条采集与监控实战-nginx指标收集
42 某头条采集与监控实战-nginx metric接口配置到prometheus
43 某头条采集与监控实战-监控指标最终效果展示
44 某头条采集与监控实战-Supervisor管理Flume Agent
45 某头条采集与监控实战-flume-exporter接口配置到prometheus
46 某头条采集与监控实战-在Grafana上配置flume metric 监控