在当今这个生成式AI蓬勃发展的时代，云成本达到了前所未有的高度。然而，高昂的费用并非仅因为企业使用了更多的计算能力，而是因为使用效率低下。据预测，今年企业将在不必要的云支出上浪费高达445亿美元。对于Akamai Technologies这样的公司来说，这个问题尤为严重。Akamai拥有庞大且复杂的跨多云基础设施，并面临着严格的安全要求。为了解决这一问题，这家网络安全和内容交付提供商转向了应用性能自动化平台Cast AI，该平台利用AI代理帮助优化云环境中的成本、安全和速度。最终，该平台帮助Akamai根据工作负载的不同，将云成本降低了40%至70%。
优化基础设施，降低成本
“我们需要一种持续的方法来优化我们的基础设施并降低云成本，同时又不牺牲性能，”Akamai的云工程高级总监Dekel Shavit表示，“我们是处理安全事件的一方，延迟是不可接受的。如果我们不能实时响应安全攻击，那就意味着失败。”
Kubernetes：管理应用基础设施的关键
Kubernetes管理着运行应用程序的基础设施，使得部署、扩展和管理应用程序变得更加容易，特别是在云原生和微服务架构中。Cast AI已经与Kubernetes生态系统集成，帮助客户扩展集群和工作负载，选择最佳的基础设施，并管理计算生命周期。其核心平台是应用性能自动化（APA），通过一组专门的代理持续监控、分析和采取行动，以改善应用程序的性能、安全性、效率和成本。
自动化与人工智能的结合
Cast AI的APA平台由多个基于历史数据和学习模式的机器学习（ML）模型以及强化学习（RL）驱动，并通过可观察性堆栈和启发式方法得到增强。它与多个云上的基础设施即代码（IaC）工具相结合，形成了一个完全自动化的平台。此外，Cast AI支持逐步采用，客户无需彻底替换现有系统，而是可以将其集成到现有工具和工作流程中。更重要的是，所有分析和操作都在客户专用的Kubernetes集群内进行，提供了更高的安全性和控制力。
Akamai的独特挑战
Shavit解释说，Akamai的大型且复杂的云基础设施为其内容分发网络（CDN）和网络安全服务提供支持，这些服务面向“世界上一些要求最苛刻的客户和行业”，同时遵守严格的服务水平协议（SLA）和性能要求。Akamai服务的客户范围广泛，包括大型金融机构和信用卡公司，其服务直接关系到客户的安全态势。因此，Akamai需要在保持这种复杂性的同时，平衡成本。
自动优化整个Kubernetes基础设施
Akamai真正需要的是一个Kubernetes自动化平台，该平台能够实时优化其在多个云上运行整个核心基础设施的成本，并根据不断变化的需求自动扩展和缩减应用程序。而且，所有这一切都不能牺牲应用程序的性能。在实施Cast AI之前，Akamai的DevOps团队每月只能手动调整几次其Kubernetes工作负载。鉴于其基础设施的规模和复杂性，这既具有挑战性又成本高昂。通过仅偶尔分析工作负载，他们显然错过了任何实时优化的可能性。
“现在，数百个Cast代理每天都在每秒钟进行相同的调整，”Shavit说。Akamai使用的APA核心功能包括自动缩放、深入的Kubernetes自动化与装箱（最小化使用的“箱子”数量）、自动选择最具成本效益的计算实例、工作负载调整大小、整个实例生命周期中的Spot实例自动化以及成本分析功能。
“在集成后的两分钟内，我们就获得了成本分析的洞察，这是我们以前从未见过的，”Shavit说，“一旦部署了活动代理，优化就会自动启动，节省成本的效果也开始显现。”虽然使用Spot实例（企业可以以折扣价格访问未使用的云容量）在业务上是有意义的，但由于Akamai工作负载的复杂性，特别是Apache Spark，它们变得复杂起来。这意味着他们需要过度设计工作负载或投入更多人力，这在经济上是不合理的。有了Cast AI，他们能够在Spark上使用Spot实例，而工程团队或运营团队则“无需任何投入”。Spot实例的价值“非常明显”，他们只是需要找到合适的工具来使用它们。
自动化带来的巨大价值
虽然将云账单节省2倍或3倍是很好的结果，但Shavit指出，无需人工干预的自动化是“无价的”。它带来了“巨大”的时间节省。在实施Cast AI之前，他的团队需要“不断移动旋钮和开关”来确保其生产环境和客户能够达到他们所需的服务水平。“最大的好处无疑是，我们不再需要管理基础设施了，”Shavit说，“Cast的代理团队现在为我们做这件事。这使我们的团队能够专注于最重要的事情：更快地为客户发布功能。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/da-gui-mo-xue-jian-yun-lang-fei-akamai-li-yong-kubernetes
