[原创] 《大模型时代的基础架构》机器学习应用开发与运行平台

ltaodream   2024-9-26 10:04 楼主

此为本书的第十一章,总结来说,本章对涉及的内容只是概括了一下,更详细的需要个人去日常持续学习知识,积累工作经验

微服务平台

  • 使用Kubernetes提供基本的服务注册发现和服务路由能力,通过Service实现
  • 使用istio实现非侵入性、语言无关性的服务治理、链路追踪
  • 容器平台调度
  • 拆分微服务 《大模型时代的基础架构》第十一章 机器学习应用中,算法以外的问题

中间件服务

消息队列中间件

书中主要讲了Kafka、RabbitMq、RocketMq

应用场景

  • 异步优化性能
  • 系统间解耦
  • 流量削峰

选型考察点

  • 可靠性
  • 业内常用MQ
  • 集群化支持
  • QPS--吞吐量
  • 常用功能是否完备

对比

c95a1a40-4f61-44bb-977c-1f64c888f7f2.png

缓存中间件

Redis

详情见我的另外几篇文章,讲的比本书中此部分详细:

数据库中间件

这节主要讲了数据库的ACID

  • 原子性
  • 一致性
  • 隔离性
  • 持久性

回复评论

暂无评论,赶紧抢沙发吧
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 京公网安备 11010802033920号
    写回复