服务器之家:专注于VPS、云服务器配置技术及软件下载分享
分类导航

PHP教程|ASP.NET教程|Java教程|ASP教程|编程技术|正则表达式|C/C++|IOS|C#|Swift|Android|VB|R语言|JavaScript|易语言|vb.net|

服务器之家 - 编程语言 - Java教程 - Kafka 除了用作消息队列还能干吗?

Kafka 除了用作消息队列还能干吗?

2024-01-11 15:32ByteByteGo Java教程

Kafka 最初是为大规模处理日志而构建的。它可以保留消息直到过期,并让各个消费者按照自己的节奏提取消息。 与其之前的竞品不同,Kafka 不仅仅是一个消息队列,它还是一个适用于各种情况的 开源事件流平台 。 让我们回顾一下

Kafka 最初是为大规模处理日志而构建的。它可以保留消息直到过期,并让各个消费者按照自己的节奏提取消息。

与其之前的竞品不同,Kafka 不仅仅是一个消息队列,它还是一个适用于各种情况的开源事件流平台

让我们回顾一下流行的 Kafka 用例。

Kafka 除了用作消息队列还能干吗?

01 日志处理和分析

上图显示了一个典型的 ELK(Elastic-Logstash-Kibana)栈。Kafka 从每个服务实例高效地收集日志流。ElasticSearch 从 Kafka 中获取日志并编制索引。Kibana 在 ElasticSearch 的基础上提供搜索和可视化用户界面。

02 推荐系统中的数据流

亚马逊等电子商务网站利用用户过去的行为和相似用户分析来计算产品推荐。Kafka 传输原始点击流数据,Flink 对其进行处理,而模型训练则消耗数据湖中的汇总数据。这样就能不断改进针对每个用户的推荐相关性。

03 系统监控和警报

与日志分析系统类似,我们需要收集系统指标来进行监控和故障排除。不同的是,指标是结构化数据,而日志是非结构化文本。指标数据被发送到 Kafka 并在 Flink 中聚合。实时监控仪表板和警报系统(如 PagerDuty)将使用汇总的数据。

04 CDC(Change Data Capture)

CDC 将数据库的变更传输到其他系统,以便复制或更新缓存/索引。例如,在下图中,事务日志被发送到 Kafka,并被 ElasticSearch、Redis 和二级数据库摄取。

05 系统迁移

升级旧服务是一项具有挑战性的任务,比如编程语言陈旧、逻辑复杂、缺乏测试等等。我们可以利用消息中间件来降低风险。如上图所示,为了升级订单服务,我们更新了旧订单服务,以便从 Kafka 中消费输入,并将结果写入 ORDER Topic。新订单服务消耗相同的输入,并将结果写入 ORDERNEW Topic。对账服务会比较 ORDER 和 ORDERNEW 下收到的内容。如果它们完全相同,新服务就会通过测试。

原文地址:https://mp.weixin.qq.com/s/DCj_1gUOPwIvu4wHW5VHSg

延伸 · 阅读

精彩推荐
  • Java教程深入理解Spring事务原理

    深入理解Spring事务原理

    这篇文章主要带领大家深入理解Spring事务原理,Spring事务的传播属性 ...

    吴极心4412020-05-26
  • Java教程Hibernate连接三种数据库的配置文件

    Hibernate连接三种数据库的配置文件

    今天小编就为大家分享一篇关于Hibernate连接三种数据库的配置文件,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随...

    月下虚竹5122021-07-27
  • Java教程如何用ObjectMapper将复杂Map转换为实体类

    如何用ObjectMapper将复杂Map转换为实体类

    这篇文章主要介绍了如何用ObjectMapper将复杂Map转换为实体类的操作,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐...

    墨一般的白色11642021-11-24
  • Java教程如何排查Java应用的死锁

    如何排查Java应用的死锁

    如何构造一个死锁呢?很简单,只要让线程1占有对象a的锁后,再去请求对象b的锁。与此同时,对象2已经占有了对象b的锁,再请求对象a的锁。线程1与线程...

    java小当家12222021-03-03
  • Java教程Java 常见排序算法代码分享

    Java 常见排序算法代码分享

    这篇文章主要介绍了Java 常见排序算法代码分享,文章通过分享详细的代码总结文章内容,具有一定的参考价值,需要的小伙伴可以参考一下,希望对你有...

    多氯环己烷10312022-10-19
  • Java教程java中的按位与(&)用法说明

    java中的按位与(&)用法说明

    这篇文章主要介绍了java中的按位与(&)用法说明,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧 ...

    ThinkPet4412020-08-18
  • Java教程java中的自增问题介绍

    java中的自增问题介绍

    下面小编就为大家带来一篇java中的自增问题介绍。小编觉得挺不错的,现在分享给大家。给大家一个参考。 ...

    jingxian2902020-04-12
  • Java教程MyBatis自定义SQL拦截器示例详解

    MyBatis自定义SQL拦截器示例详解

    Mybatis支持对Executor、StatementHandler、PameterHandler和ResultSetHandler 接口进行拦截,也就是说会对这4种对象进行代理,下面这篇文章主要给大家介绍了关于MyBatis自...

    老郑_3522022-02-27