您现在的位置是:深圳市东方朗云科技有限公司 > 公司新闻

当云原生成为一种显学,对象存储和数据湖如何顺势而为

深圳市东方朗云科技有限公司26-05-10【公司新闻】6人已围观

简介当云原生成为显学,对象存储和数据湖需从技术适配、功能增强和生态整合三方面顺势而为,以应对云原生架构对存储的高安全性、强隔离性、弹性扩展及可观测运维等需求。以下是具体分析:对象存储如何支持云原生技术适配性对象存储天然支持弹性扩展,其Restful API与云原生声明式API高度匹配,成为容器镜像存储的常用技术。容器、服务...

当云原生成为显学,对象存储和数据湖需从技术适配、功能增强和生态整合三方面顺势而为,以应对云原生架构对存储的高安全性、强隔离性、弹性扩展及可观测运维等需求。以下是具体分析:

对象存储如何支持云原生
  • 技术适配性对象存储天然支持弹性扩展,其Restful API与云原生声明式API高度匹配,成为容器镜像存储的常用技术。容器、服务网格和微服务在设计初期即依赖对象存储存放数据,例如容器镜像通常存储于对象存储中,这使其成为云原生数据存储的理想选择。

  • 应对存算分离挑战云原生采用存算分离架构,对象存储作为数据底座需满足高可靠、高可用及弹性扩展需求。但安全性、隔离性和单位密度性能成为新挑战:

    安全性:需实现VPC环境与对象存储桶的安全绑定,通过VPC Endpoint限制VPC内仅访问指定存储桶,避免数据泄露;通过Bucket Policy限定存储桶仅被指定VPC访问,防止外部黑客盗取密钥。

    隔离性

    访问隔离:为应用子服务提供不同访问域名并绑定策略,控制路径和权限(如对象存储的Access Point功能)。

    流控隔离:提供用户级、子用户级和存储桶级流量控制,避免异常流量冲击应用。

    性能优化

    提供差异化存储类型(如高性能存储),按每TB容量配置带宽性能规格,满足不同性能需求。

    保证稳定时延和QPS,避免长尾高时延影响应用运行时长预测。

    部署热点数据加速器靠近容器可用区,提升容器加载速度和并行计算效率。

  • 微服务场景支持

    为微服务的Pod绑定临时访问Token,替代长期密钥(Access Key),降低安全风险。

    通过流量控制和访问策略,实现子服务间的资源隔离,避免相互干扰。

数据湖如何适配云原生
  • 核心需求增强数据湖需满足云原生应用的高可靠性、高可用性和弹性扩展需求,同时在安全性、隔离性、计算引擎接口和功能上提供更强支持:

    单位存储密度性能:通过差异化存储类型提供可预期的带宽、时延和OPS,使微服务数据访问时长可建模,优化容器申请与释放成本。

    性能加速:针对容器批量启动和并行计算框架的热点数据重复读场景,提供靠近计算资源的加速能力。

  • 计算引擎接口适配数据湖需支持丰富计算引擎,包括历史引擎(如Hadoop生态的HDFS接口)和新兴引擎(如Spark、Iceberg、Hudi、Delta Lake)。通过适配不同数据访问接口,确保存量和增量计算任务高效运行。

  • 可观测运维能力云原生微服务架构增加了数据链路复杂度,需通过Log/Metric/Trace能力实现存储层的可观测性,辅助问题排查、性能分析和系统度量。例如,对象存储需提供操作日志、性能指标和调用链追踪,集成到云原生运维平台。

  • 资源编排与调度整合数据湖需提供编排和调度接口,与云原生平台(如Kubernetes)整合,实现存储资源的按需快速分配。例如,通过CSI(Container Storage Interface)插件支持动态存储卷供应,提升资源利用率。

未来演进方向

随着云原生架构向更多领域拓展,对象存储和数据湖需持续演进:

  • 安全性深化:探索零信任架构在存储层的应用,实现动态权限管理和数据加密增强。
  • 智能化运维:利用AI分析存储性能数据,预测容量需求和故障风险,实现主动运维。
  • 多云统一管理:支持跨公有云、私有云和混合云的统一数据管理,满足企业多云部署需求。

云原生与对象存储、数据湖的融合是技术发展的必然趋势。通过针对性优化和功能增强,对象存储和数据湖可充分释放云原生架构的潜力,为企业提供高效、安全、弹性的数据存储与处理能力。

很赞哦!(348)