综合教程培训讲座课程下载简介

某条《亿级流量采集与监控》大数据项目实战视频教程

本课程是大数据项目实战系列课程,项目基于某条亿级流量背景,实现了一站式的数据采集与监控。包含了行为数据、产品数据、业务数据的高效采集,定义并监控数据采集流程中各个指标,当数据采集链路发生故障时能够及时收到报警,同时当遇到性能问题时,通过监控系统我们能更有针对性的优化采集流程

项目设计基于场景而非基于行业,选择以技术驱动,重在各技术组件的组合,目的是解决特定场景的问题。课程从零环境基础出发,逐步搭建完成,能够帮助你快速搭建亿级流量场景下的数据采集平台。

课程内容目录:

01 某头条采集与监控实战-项目背景

02 某头条采集与监控实战-项目需求

03 某头条采集与监控实战-监控项目架构

04 某头条采集与监控实战-数据格式解析

05 某头条采集与监控实战-OpenResty安装

06 某头条采集与监控实战-创建OpenResty应用

07 某头条采集与监控实战- 编写应用主配置文件nginx.conf

08 某头条采集与监控实战-编写应用子配置文件collect-app.conf

09 某头条采集与监控实战- 测试并启动应用

10 某头条采集与监控实战-配置接口到数据管理中心

11 某头条采集与监控实战-日志切分

12 某头条采集与监控实战-Hadoop安装

13 某头条采集与监控实战-Flume安装

14 某头条采集与监控实战-编写Flume配置文件

15 某头条采集与监控实战-编写Flume拦截器

16 某头条采集与监控实战-部署Flume拦截器

17 某头条采集与监控实战-资讯数据采集Flume配置

18 某头条采集与监控实战-资讯数据采集Flume Agent对接数据管理中心

19 某头条采集与监控实战- 业务数据采集SQOOP脚本

20 某头条采集与监控实战-Hive安装配置

21 某头条采集与监控实战-Beeline加载JsonSerde

22 某头条采集与监控实战-创建行为数据表

23 某头条采集与监控实战-创建行为数据加速表

24 某头条采集与监控实战-创建新闻资讯表

25 某头条采集与监控实战-创建业务数据表

26 某头条采集与监控实战-编译安装Azkaban Solo Server

27 某头条采集与监控实战-Azkaban 作业流开发

28 某头条采集与监控实战-Azkaban 作业流定时调度

29 某头条采集与监控实战-DingTalk添加Webhook机器人

30 某头条采集与监控实战-DingTalk SDK测试

31 某头条采集与监控实战-Azkaban Alert接口开发

32 某头条采集与监控实战-Azkaban Alert插件部署

33 某头条采集与监控实战-Azkaban Alert插件运行测试

34 某头条采集与监控实战-Prometheus安装

35 某头条采集与监控实战-Prometheus数据模型介绍

36 某头条采集与监控实战-架构简介

37 某头条采集与监控实战-Supervisor与Prometheus集成

38 某头条采集与监控实战-Supervisor与Grafana集成

39 某头条采集与监控实战-Grafana集成Prometheus数据源

40 某头条采集与监控实战-加载nginx-lua-prometheus扩展模块

41 某头条采集与监控实战-nginx指标收集

42 某头条采集与监控实战-nginx metric接口配置到prometheus

43 某头条采集与监控实战-监控指标最终效果展示

44 某头条采集与监控实战-Supervisor管理Flume Agent

45 某头条采集与监控实战-flume-exporter接口配置到prometheus

46 某头条采集与监控实战-在Grafana上配置flume metric 监控

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。