一、引言
随着信息技术的快速发展，企业对于业务系统的需求日益复杂，传统的单一应用架构已难以满足灵活性和可扩展性的要求。
微服务架构作为一种新型的应用架构模式，凭借其高度模块化、去中心化、独立部署等特点，成为云计算环境下解决大规模分布式系统的理想选择。
本文将深入探讨微服务架构下的云扩展策略与实践，以期为企业在云计算时代提升系统性能、降低成本、增强竞争力提供有益参考。
二、微服务架构概述
微服务架构是一种将复杂的应用划分为一系列小型、独立的服务的架构模式。
这些服务在服务器上运行，通过轻量级的通信机制（如HTTP）进行通信，以完成特定的业务功能。
微服务架构的核心特点包括：服务独立部署、去中心化、高度模块化等。
这些特点使得微服务架构在应对业务需求变化时具有更高的灵活性和可扩展性。
三、云扩展策略
在微服务架构下，云扩展策略是实现系统性能提升和成本控制的关键手段。常见的云扩展策略包括：
1. 垂直扩展与水平扩展
垂直扩展主要通过提升单个服务器的性能来满足业务需求，如增加CPU、内存等资源。
水平扩展则是通过增加服务器数量来分担负载，提高系统整体性能。
在微服务架构下，水平扩展更为常见，因为服务可以独立部署和扩展，便于动态调整资源。
2. 自动伸缩策略
基于云计算的自动伸缩功能，可以根据系统负载情况自动调整服务器规模。
在微服务架构中，可以通过监控各服务的性能指标（如请求量、响应时间等），动态调整服务实例的数量，以实现系统的自适应扩展。
3. 容器化与容器编排技术
容器化技术（如Docker）和容器编排技术（如Kubernetes）在微服务架构中发挥着重要作用。
通过容器化，可以将服务打包成独立的容器镜像，实现服务的快速部署和扩展。
容器编排技术则可以对多个容器进行统一管理，实现容器的自动扩展、负载均衡等。
四、实践案例
为了更好地理解微服务架构下的云扩展策略与实践，我们以某电商平台的微服务架构为例进行说明。
该电商平台采用微服务架构，将系统划分为多个独立的服务，如商品服务、订单服务、用户服务等。针对该系统的特点，平台采用了以下云扩展策略：
1. 水平扩展策略：针对商品服务和订单服务等高并发服务，采用水平扩展策略，通过增加服务器数量来分担负载。同时，利用云计算的弹性伸缩功能，根据请求量自动调整服务实例的数量。
2. 容器化与容器编排：采用Docker容器化技术和Kubernetes容器编排技术，将服务打包成容器镜像并部署到云环境中。通过Kubernetes的自动扩展功能，实现容器的动态扩展和负载均衡。还利用Kubernetes的集群管理能力，确保系统的高可用性和稳定性。
3. 服务拆分与动态路由：根据业务需求，对服务进行拆分和重构，将复杂的业务功能拆分为多个独立的服务。利用动态路由技术，将请求路由到不同的服务实例上，实现服务的独立扩展和负载均衡。
通过以上策略和实践，该电商平台实现了系统性能的提升和成本的优化。
在业务高峰期间，系统能够快速地响应请求并处理大量并发请求；在业务低谷期间，可以灵活地调整资源规模，降低成本支出。
五、结论
微服务架构下的云扩展策略与实践对于提升系统性能、降低成本具有重要意义。
通过垂直扩展与水平扩展、自动伸缩策略、容器化与容器编排技术等多种手段的结合应用，企业可以在云计算时代更好地应对业务需求的变化和挑战。
实践案例表明，合理的云扩展策略和实践能够为企业带来显著的经济效益和竞争优势。
【架构师实践课】微服务系统有哪些治理要点？高并发系统稳定性如何保障？
在程序员向架构师的过渡过程中，提升编程技能与技术深度是必经之路，特别着重于「高并发架构设计」的掌握。
七牛云技术副总裁、go-zero框架作者万俊峰在一次实践课程中，与我们分享了「高并发服务治理与开源框架实现」的策略与经验。
以下内容，根据实践课程整理而成。
微服务系统治理要点首先，从流量管理的角度出发，如何合理规划流量链路对于微服务系统至关重要。
万俊峰分享了灰度发布和流量管理的实践经验。
灰度发布通过内部预发或选择合适的时间窗口进行，以确保新功能在正式上线前经过充分测试，减少对用户的影响。
在灰度发布中，通过权重控制流量分配，实现随机分发。
对于流量管理，A/B测试也是一个有效的策略，允许业务侧在功能决策中进行实验，通过平台辅助进行流量切分和对比，以提供更稳定、更优化的产品体验。
服务发现是微服务架构中的关键部分，涉及到如何在分布式环境中管理服务之间的交互。
传统的服务发现方式可能基于在同一台机器上的直连，或利用ETCD、Consul、Nacos等服务发现工具。
在云原生环境中，Kubernetes提供了一个虚拟的service层，通过注册中心实现服务发现，每一个pod在注册时上报其信息，服务调用方通过监听这些信息完成服务发现。
此外，DNS和直升机等技术也提供了灵活的服务发现解决方案，DNS作为大型服务发现中心，直升机则提供了更细粒度的服务选择能力。
服务拆分与治理在服务拆分时，应确保服务间的正交性，避免过度细化导致复杂性增加。
服务治理应保持简单性，仅提供必要功能，保持前瞻性，但不过度超前。
良好的服务治理应包含服务发现、流量控制、链路追踪等关键组件，以确保系统稳定性和可观察性。
链路追踪与可观测性为了快速定位问题，链路追踪是不可或缺的工具。
通过在系统中整合链路追踪、日志采集和度量系统，可以实现从用户到系统的全链路监控，提前发现并解决问题，避免系统故障对用户的影响。
使用行业标准如Open Telemetry，可以构建更稳定、可扩展的系统生态。
架构扩展性与兼容性在设计接口时，应重视兼容性，确保新旧版本可以平滑切换，避免因接口变更导致的维护成本增加。
RESTful API设计应针对资源定义API，以支持微服务的逐步拆分和粒度控制。
保持架构的简单性，减少Nginx等组件的复杂度，提高问题定位效率。
架构设计时应考虑接口的兼容性和可扩展性，避免环形依赖，确保系统在高并发场景下的稳定运行。
保障高并发系统的稳定性高并发场景下的关键在于数据隔离、缓存系统、负载均衡、中间件设计和自适应熔断与降载策略。
合理设计数据拆分和缓存机制，可以有效缓解高并发带来的压力。
负载均衡通过Nginx加权、服务发现等技术实现动态调整，确保资源合理分配。
中间件集成限流、熔断、降级等能力，提高系统抵御突发流量的能力。
自适应熔断和降载策略自动检测系统状态，保护服务免受异常请求影响，确保高可用性。
总结而言，架构师在高并发系统设计中需关注流量管理、服务发现、链路追踪、数据隔离、缓存优化、负载均衡、中间件集成和自适应策略，以构建稳定、可扩展和高可用的系统架构。
微服务架构体系的全面治理：架构治理、研发治理、测试治理、运维治理、管理治理、业务治理
全面治理微服务架构体系，确保其稳定性和性能，是企业技术挑战之一。
微服务全面治理涵盖架构、研发、测试、运维、管理与业务六个关键领域。
下文将逐一解析各部分重点与实践策略。
架构治理聚焦于微服务架构设计与优化，确保支持业务发展与创新。
此阶段需关注架构设计、资源分配、接口标准化等核心要素，构建灵活、可扩展的体系。
研发治理则侧重规范与提升开发效率与质量，涉及代码管理、持续集成与部署、敏捷开发流程等。
通过优化工作流程、强化代码审查，提高团队协作效率。
测试治理确保微服务质量，需制定全面的测试策略，涵盖单元测试、集成测试、性能测试与安全测试。
通过自动化测试工具与平台，提高测试覆盖率与效率。
运维治理关注稳定运行与高效维护，需实现自动化监控、故障快速响应与恢复机制。
利用DevOps理念，实现开发与运维无缝协作，确保系统全天候稳定。
管理治理建立全面的管理机制与流程，包括资源管理、权限分配、版本控制等。
通过完善管理体系，确保微服务架构的高效运行与合规性。
业务治理确保微服务架构支持业务创新与发展。
需紧密结合业务需求，灵活调整架构与流程，推动技术与业务协同创新，实现价值最大化。
综上，全面治理微服务架构体系需多层面协同，通过制定有效策略与规范，确保稳定运行、高效维护与持续发展，支持业务创新与企业增长。
「微服务架构」Medium的微服务架构实践
微服务¹架构的目标是帮助工程团队更快，更安全，更高质量地交付产品。
解耦服务允许团队快速迭代，对系统的其余部分影响最小。
在Medium，我们的技术堆栈始于2012年的单片应用程序。
我们已经构建了几个卫星服务，但我们还没有制定一个系统地采用微服务架构的策略。
随着系统变得越来越复杂并且团队不断发展，我们在2018年初转向了微服务架构。
在这篇文章中，我们希望分享我们有效地做到这一点并避免微服务综合症的经验。
首先，让我们花一点时间来思考微服务架构是什么，不是什么。
“微服务”是那些过载和混乱的软件工程趋势之一。
这就是我们在Medium认为它是什么：
该定义包括三个微服务设计原则：
Three Principles of Modeling Microservices
当我们对微服务进行建模时，我们应该遵守所有三个设计原则。
这是实现微服务架构全部潜力的唯一途径。
错过任何一个都会成为反模式。
没有一个目的，每个微服务最终会做太多事情，成长为多个“单片”服务。
我们不会从微服务架构中获得全部好处，我们也会支付运营成本。
如果没有松散耦合，对一个服务的更改会影响其他服务，因此我们无法快速安全地发布更改，这是微服务架构的核心优势。
更重要的是，紧密耦合引起的问题可能是灾难性的，例如数据不一致甚至数据丢失。
如果没有高凝聚力，我们将最终得到一个分布式单片系统 – 一组混乱的服务，必须同时进行更改和部署才能构建单一功能。
由于多个服务协调的复杂性和成本（有时跨多个团队），分布式单片系统通常比集中式单片系统差得多。
与此同时，了解 微服务不是什么 很重要：
在Medium，我们总是在做出重大产品或工程决策时会问“为什么现在？”这个问题。
“为什么？”是一个显而易见的问题，但它假设我们拥有无限的人，时间和资源，这是一个危险的假设。
当你想到“为什么现在？”时，你突然有了更多的限制 – 对当前工作的影响，机会成本，分心的开销等等。
这个问题有助于我们更好地优先考虑。
我们现在需要采用微服务的原因是我们的单片应用程序已经成为多个方面的瓶颈。
首先，最紧迫和最重要的瓶颈是其性能。
某些计算量很大且I / O很重的任务不适合.我们一直在逐步改进整体应用程序，但事实证明它是无效的。
它的低劣性能使我们无法提供更好的产品而不会使已经非常慢的应用程序变慢。
其次，整体应用程序的一个重要且有点紧迫的瓶颈是它会减慢产品开发速度。
由于所有工程师都在单个应用程序中构建功能，因此它们通常紧密耦合。
我们无法灵活地改变系统的一部分，因为它也可能影响其他部分。
我们也害怕做出重大改变，因为影响太大，有时难以预测。
整个应用程序作为一个整体进行部署，因此如果由于一次错误提交导致部署停滞，那么所有其他更改（即使它们完全正常工作）也无法完成。
相比之下，微服务架构允许团队更快地发货，学习和迭代。
他们可以专注于他们正在构建的功能，这些功能与复杂系统的其余部分分离。
更改可以更快地进入生产。
他们可以灵活地安全地尝试重大变革。
在我们新的微服务架构中，更改会在一小时内完成生产，工程师不必担心它会如何影响系统的其他部分。
该团队还 探索 了在开发中安全使用生产数据的方法²多年来一直是白日梦。
随着我们的工程团队的发展，所有这些都非常重要。
第三，单一应用程序使得难以为特定任务扩展系统或隔离不同类型任务的资源问题。
使用单一的单一应用程序，我们必须扩展和缩小整个系统，以满足更多资源需求的任务，即使这意味着系统过度配置用于其他更简单的任务。
为了缓解这些问题，我们对不同类型的请求进行分片，以分离进程。
它们在一定程度上起作用，但不会扩展，因为这些微单一版本的单片服务是紧密耦合的。
最后但同样重要的是，一个重要且即将成为紧迫的瓶颈是它阻止我们尝试新技术。
微服务架构的一个主要优点是每个服务都可以使用不同的技术堆栈构建，并与不同的技术集成。
这使我们能够选择最适合工作的工具，更重要的是，我们可以快速安全地完成工作。
采用微服务架构并非易事。
它可能会出错，实际上会损害工程生产力。
在本节中，我们将分享七个在采用早期阶段帮助我们的策略：
有人可能会认为采用新的服务器架构意味着产品开发的长时间停顿以及对所有内容的大量重写。
这是错误的做法。
我们永远不应该为了建立新的服务而建立新的服务。
每次我们建立新服务或采用新技术时，都必须具有明确的产品价值和/或工程价值。
产品价值应以我们可以为用户提供的利益为代表。
与在单片应用程序中构建值相比，需要一项新服务来提供值或使其更快地交付值。
工程价值应该使工程团队更好，更快。
如果构建新服务没有产品价值或工程价值，我们将其留在单一的应用程序中。
如果十年内Medium仍然有一个支持某些表面的单片应用程序，那就完全没了问题。
从单一应用程序开始实际上有助于我们战略性地对微服务进行建模。
建立具有明确价值的新服务
有人可能会认为采用新的服务器架构意味着产品开发的长时间停顿以及对所有内容的大量重写。
这是错误的做法。
我们永远不应该为了建立新的服务而建立新的服务。
每次我们建立新服务或采用新技术时，都必须具有明确的产品价值和/或工程价值。
产品价值应以我们可以为用户提供的利益为代表。
与在单片应用程序中构建值相比，需要一项新服务来提供值或使其更快地交付值。
工程价值应该使工程团队更好，更快。
如果构建新服务没有产品价值或工程价值，我们将其留在单一的应用程序中。
如果十年内Medium仍然有一个支持某些表面的单片应用程序，那就完全没了问题。
从单一应用程序开始实际上有助于我们战略性地对微服务进行建模。
单片持久存储被认为是有害的
建模微服务的很大一部分是对其持久数据存储（例如，数据库）进行建模。
跨服务共享持久数据存储通常似乎是将微服务集成在一起的最简单方法，然而，它实际上是有害的，我们应该不惜一切代价避免它。
这就是原因。
首先，持久数据存储是关于实现细节的。
跨服务共享数据存储会将一个服务的实现细节暴露给整个系统。
如果该服务更改了数据的格式，或者添加了缓存层，或者切换到不同类型的数据库，则还必须相应地更改许多其他服务。
这违反了松散耦合的原则。
其次，持久数据存储不是服务行为，即如何修改，解释和使用数据 。
如果我们跨服务共享数据存储，则意味着其他服务也必须复制服务行为。
这违反了高内聚的原则- 给定域中的行为泄露给多个服务。
如果我们修改一个行为，我们将不得不一起修改所有这些服务。
在微服务架构中，只有一个服务应该负责特定类型的数据。
所有其他服务应该通过负责服务的API请求数据，或者保留数据的 只读非规范（可能具体化）副本 。
这可能听起来很抽象，所以这是一个具体的例子。
假设我们正在构建一个新的推荐服务，它需要来自规范帖子表的一些数据，目前在AWS DynamoDB中。
我们可以通过两种方式之一为新推荐服务提供发布数据。
在单片存储模型中，推荐服务可以直接访问单片应用程序所执行的相同持久存储。这是一个坏主意，因为：
缓存可能很棘手。
如果推荐服务与单一应用程序共享相同的缓存，我们也必须在推荐服务中复制缓存实现细节;如果推荐服务使用自己的缓存，当单片应用更新帖子数据时，我们将不知道何时使其缓存无效。
如果单片应用程序决定更改为使用RDS而不是DynamoDB来存储帖子数据，我们将不得不重新实现推荐服务中的逻辑以及访问帖子数据的所有其他服务。
单片应用程序具有解释帖子数据的复杂逻辑 ，例如，如何确定帖子是否应该对给定用户不可见。
我们必须在推荐服务中重新实现这些逻辑。
一旦整体应用程序更改或添加新逻辑，我们也需要在任何地方进行相同的更改。
即使推荐服务是自己的数据访问模式的错误选项，推荐服务仍然停留在DynamoDB上。
在解耦存储模型中，推荐服务不能直接访问发布数据，也不能直接访问任何其他新服务。
发布数据的实现细节仅保留在一个服务中。
有不同的方法来实现这一目标。
Option A理想情况下，应该有一个拥有帖子数据的Post服务，其他服务只能通过Post服务的API访问邮政数据。
但是，为所有核心数据模型构建新服务可能是一项昂贵的前期投资。
当人员配置有限时，还有一些更实用的方法。
根据数据访问模式，它们实际上可能是更好的方式。
在 选项B 中，单一应用程序可让推荐服务知道何时更新相关的帖子数据。
通常，这不必立即发生，因此我们可以将其卸载到排队系统。
在 选项C 中，ETL管道生成推荐服务的发布数据的只读副本，以及可能对推荐有用的其他数据。
在这两个选项中，推荐服务完全拥有其数据，因此它可以灵活地缓存数据或使用最适合的数据库技术。
解耦“建立服务”和“运行服务”
如果构建微服务很难，那么运行服务往往更难。
当运行服务与构建每个服务相结合时，它会减慢工程团队的速度，团队必须不断重新发明这样做。
我们希望让每项服务都专注于自己的工作而不用担心如何运行服务的复杂问题，包括网络，通信协议，部署，可观察性等。
服务管理应该与每个服务的实现完全分离。
由于最近在 容器化，容器编排，服务网格，应用程序性能监 控等方面的技术进步，“运行服务”的解耦变得比以往更容易实现。
网络。
网络（例如，服务发现，路由，负载平衡，流量路由等）是运行服务的关键部分。
传统方法是为每种平台/语言提供库。
它工作但不理想，因为应用程序仍然需要非常繁琐的工作来集成和维护库。
通常，应用程序仍然需要单独实现某些逻辑。
现代解决方案是在Service Mesh中运行服务。
在Medium，我们使用 Istio和Envoy作为边车代理 。
构建服务的应用工程师根本不需要担心网络问题。
通信协议 。
无论您选择哪种技术堆栈或语言来构建微服务，从一个高效，类型化，跨平台且需要最少开发开销的成熟RPC解决方案开始是非常重要的。
支持向后兼容性的RPC解决方案也使部署服务更加安全，即使它们之间存在依赖关系。
在Medium，我们选择了gRPC。
一种常见的替代方案是基于HTTP的REST + JSON，它长期以来一直是服务器通信的福音解决方案。
但是，尽管该堆栈非常适合浏览器与服务器通信，但它对于服务器到服务器的 通信效率很低 ，尤其是当我们需要发送大量请求时。
如果没有自动生成的 存根和样板代码 ，我们将不得不手动实现服务器/客户端代码。
可靠的RPC实现不仅仅包装网络客户端。
另外，REST是“自以为是”，但总是让每个人都对每个细节都达成一致很困难，例如，这个调用真的是REST，还是只是一个RPC？这是一种资源还是一种操作？等等
部署。
拥有一致的方法来构建，测试，打包，部署和管理服务非常重要。
所有Medium的微服务都在容器中运行。
目前，我们的编排系统是AWS ECS和Kubernetes的混合体，但仅限于Kubernetes。
我们构建了自己的系统来 构建，测试，打包和部署 服务，称为BBFD。
它在一致地跨服务工作和为个人服务提供采用不同技术堆栈的灵活性之间取得平衡。
它的工作方式是让每个服务提供基本信息，例如，要监听的端口，构建/测试/启动服务的命令等，BBFD将负责其余的工作。
彻底和一致的可观察性
可观察性包括允许我们了解系统如何工作的过程，约定和工具，以及在不工作时对问题进行分类。
可观察性包括日志记录，性能跟踪，指标，仪表板，警报，并且对于微服务架构的成功至关重要。
当我们从单个服务迁移到具有许多服务的分布式系统时，可能会发生两件事：
我们失去了可观察性，因为它变得更难或更容易被忽视。
不同的团队重新发明了轮子，我们最终得到了零碎的可观察性，这实际上是低可观察性 ，因为很难使用碎片数据连接点或分类任何问题。
从一开始就具有良好且一致的可观察性非常重要，因此我们的DevOps团队提出了一致的可观察性策略，并构建了支持实现这一目标的工具。
每项服务都会自动获取详细的DataDog仪表板，警报和日志搜索，这些服务在所有服务中也是一致的。
我们还大量使用LightStep来了解系统的性能。
并非每一项新服务都需要从零开始构建
在微服务架构中，每个服务都做一件事并且做得非常好。
请注意，它与如何构建服务无关。
如果您从单一服务迁移，请记住，如果您可以从单片应用程序中剥离微服务并不总是必须从头开始构建。
在这里，我们采取务实的态度。
我们是否应该从头开始构建服务取决于两个因素：（1）适合该任务的程度如何;（2）在不同的技术堆栈中重新实现的成本是多少。
如果是一个很好的技术选项并且现有的实现很好，我们将代码从单片应用程序中删除，并用它创建一个微服务。
即使采用相同的实现，我们仍将获得微服务架构的所有好处。
我们的单片单片应用程序的架构使我们可以相对轻松地使用现有实现构建单独的服务。
我们将在本文稍后讨论如何正确构建单片。
尊重失败，因为他们会发生
在分布式环境中，更多的东西可能会失败，而且它们会失败。
如果处理不当，任务关键型服务的失败可能是灾难性的。
我们应该始终考虑如何测试故障并优雅地处理故障。
从第一天起避免使用微服务综合症
微服务不是灵丹妙药 – 它解决了一些问题，但创造了一些其他问题，我们将其称为“微服务综合症”。
如果我们从第一天开始就不去考虑它们，那么事情会变得很快，如果我们以后再照顾它们会花费更多。
以下是一些常见症状。
随着最近的技术创新，采用微服务架构要容易得多。这是否意味着我们都应该停止构建单一服务？
虽然新技术支持得更好，但微服务架构仍然存在高度复杂性和复杂性。
对于小型团队来说，单一的应用程序通常仍然是更好的选择。
但是，请花些时间来构建单片应用程序，以便以后在系统和团队成长时更容易迁移到微服务架构。
在Medium，我们在早期的单片应用程序中做出了一些很好的架构决策。
我们的单片应用程序由组件高度模块化，即使它已经发展成为一个非常复杂的应用程序，包括Web服务器，后端服务和离线事件处理器。
脱机事件处理器单独运行，但使用完全相同的代码。
这使得将一大块业务逻辑剥离到单独的服务相对容易，只要新服务提供与原始实现相同（高级）的接口即可。
我们的整体应用程序在较低级别封装了数据存储详细信息。
每种数据类型（例如，数据库表）具有两层实现：数据层和服务层。
这有助于我们采用微服务架构，因为一种类型数据的实现细节完全隐藏在代码库的其余部分。
创建新服务来处理某些类型的数据相对容易且安全。
单片应用程序还可以帮助我们对微服务进行建模，并使我们能够灵活地专注于系统中最重要的部分，而不是从头开始为所有微服务建模。
单片应用程序为我们服务了好几年，但它开始减慢我们从运送伟大的项目和快速迭代。
我们开始系统地和战略性地采用微服务架构。
我们仍处于这一旅程的早期阶段，但我们已经看到了它的优势和潜力 – 它大大提高了开发效率，使我们能够大胆地思考并实现大量的产品改进，并解锁了工程团队以安全地测试新技术。
加入Medium的工程团队是一个激动人心的时刻。
如果这听起来很有趣，请查看我们的工作页面 – 在Medium工作。
如果您对微服务架构特别感兴趣，您可能需要先了解这两个开头：高级全栈工程师和高级平台工程师。
原文 :讨论: 请加入知识星球【首席架构师圈】
