前端技术
HTML
CSS
Javascript
前端框架和UI库
VUE
ReactJS
AngularJS
JQuery
NodeJS
JSON
Element-UI
Bootstrap
Material UI
服务端和客户端
Java
Python
PHP
Golang
Scala
Kotlin
Groovy
Ruby
Lua
.net
c#
c++
后端WEB和工程框架
SpringBoot
SpringCloud
Struts2
MyBatis
Hibernate
Tornado
Beego
Go-Spring
Go Gin
Go Iris
Dubbo
HessianRPC
Maven
Gradle
数据库
MySQL
Oracle
Mongo
中间件与web容器
Redis
MemCache
Etcd
Cassandra
Kafka
RabbitMQ
RocketMQ
ActiveMQ
Nacos
Consul
Tomcat
Nginx
Netty
大数据技术
Hive
Impala
ClickHouse
DorisDB
Greenplum
PostgreSQL
HBase
Kylin
Hadoop
Apache Pig
ZooKeeper
SeaTunnel
Sqoop
Datax
Flink
Spark
Mahout
数据搜索与日志
ElasticSearch
Apache Lucene
Apache Solr
Kibana
Logstash
数据可视化与OLAP
Apache Atlas
Superset
Saiku
Tesseract
系统与容器
Linux
Shell
Docker
Kubernetes
[CAP原则在架构决策中的应用]的搜索结果
这里是文章列表。热门标签的颜色随机变换,标签颜色没有特殊含义。
点击某个标签可搜索标签相关的文章。
点击某个标签可搜索标签相关的文章。
转载文章
CAP原则 , CAP原则是分布式系统设计中的一个基本理论,全称为Consistency(一致性)、Availability(可用性)和Partition Tolerance(分区容错性)。在分布式环境下,设计者无法同时满足这三个需求,只能选择其中两个。根据文章内容,在架构决策过程中,CAP原则作为一个很好的取舍指导策略,帮助架构师决定在数据一致性和系统可用性之间进行权衡。 非功能性需求 , 非功能性需求是指软件产品在运行、维护、性能、安全性、可扩展性、易用性等方面所要求的特性或约束条件,这些需求并不直接描述系统应实现的具体功能,而是关注系统的质量和表现。文中强调真正决定软件架构的是非功能性需求,比如性能、伸缩性、扩展性和可维护性等,而非仅限于功能性需求。 微内核架构模式(Micro-Kernel Pattern) , 微内核架构是一种软件架构模式,它将操作系统或应用程序的核心功能模块化并集中管理,而将其他服务作为独立进程运行。这种模式下,内核只提供最基本的服务,如进程间通信机制,而其他所有服务都通过与内核通信来实现。在文中,微内核模式被提及是因为它更关注系统的可扩展性和可用性(错误隔离),是《面向模式的软件架构》一书中介绍的众多有助于满足非功能性需求的架构模式之一。
2023-09-19 14:55:26
78
转载
Java
...优化,更加强调了封装原则在现代企业级应用架构中的应用。通过控制反转(Inversion of Control, IoC),开发者能够更好地遵循封装原则,将组件间的耦合度降到最低,使得代码更加模块化和可维护。 此外,在实际开发中,Google近期发布的《Clean Code in Java》指南也着重强调了封装的重要性,并提供了一系列最佳实践。该指南提倡使用私有字段、受保护的方法以及接口隐藏内部实现细节,从而提升代码质量和降低团队间沟通成本。同时,随着JDK 16模块化系统的发展,封装概念被进一步强化,允许开发者以更细粒度控制模块内部对外部的可见性,确保高内聚、低耦合的设计目标得以实现。 值得注意的是,封装不仅体现在数据隐藏上,还表现在职责单一的设计原则中,即一个类或方法只做一件事并做好。这一原则在函数式编程语言如Kotlin的设计中也有所体现,其背后的逻辑正是基于封装思想,避免全局状态修改引发的问题,保证程序执行过程的确定性和一致性。 总之,无论是在传统的面向对象编程还是新兴的编程范式中,封装作为一项基本的软件工程原则,始终贯穿于代码设计与实现的各个环节,值得每一位开发者深入理解和持续实践。通过关注最新的技术动态和业界规范,我们可以不断深化对封装原理的理解,为创建健壮、安全的应用程序打下坚实的基础。
2023-08-13 16:18:58
280
码农
Hive
...ra 等均采用分布式架构并内置了智能连接管理模块,能够根据负载自动调整资源分配,以减少并发查询对系统造成的压力,并降低连接超时的风险。 值得注意的是,对于参数设置方面,除了关注具体工具的配置参数,理解 CAP 定理、 BASE 理论等分布式系统设计原则,也能帮助我们更科学地进行系统调优,从根本上预防数据库连接超时等问题的发生。因此,在面对大数据环境下的各种挑战时,持续跟进最新技术趋势、深入理解技术原理,并灵活运用到实际场景中,无疑是解决问题的关键所在。
2023-04-17 12:03:53
515
笑傲江湖-t
PHP
...TP/3与现代Web应用:更高效的URL解析及资源加载》深度剖析了新协议下如何更好地利用URL结构,并讨论了其对Web框架路由设计的影响。 另外,针对Laravel框架本身,技术博客“TutsPlus”近期发布了一篇名为“Mastering Middleware in Laravel: Beyond the Basics”的文章,深入解读了Laravel中间件的工作原理和高级用法,包括如何自定义中间件以解决特殊字符处理、权限验证等复杂场景,这对于理解并解决类似本文中提到的点号问题具有很强的实践指导意义。 此外,随着RESTful API设计原则在Web开发领域的广泛应用,点号在URL路径中的语义也引发了更多的讨论。例如,在一篇题为“Designing RESTful URLs with Semantic Precision”的文章中,作者详细阐述了如何精确地使用各种特殊字符,如点号,以增强API资源标识符的语义清晰度,这对于遵循REST架构风格的Laravel项目设计具有很高的参考价值。
2024-01-26 10:56:09
61
追梦人_t
Ruby
...其是在容器化和微服务架构日益普及的背景下。 研究指出,随着DevOps和持续集成/持续部署(CI/CD)实践的发展,应用程序频繁地进行系统调用已成为常态。然而,由于操作系统的复杂性以及多层权限模型的存在,即便是经验丰富的开发者也可能忽视权限问题,从而导致SystemCallError等安全风险。因此,开发团队应当遵循最小权限原则,并结合完善的错误处理机制,确保系统调用失败时能够得到妥善处理,避免影响服务的稳定性和安全性。 此外,Ruby社区也在积极应对这类挑战,例如,有开发者提出了一种基于角色的访问控制(RBAC)方案应用于Ruby应用中,以精细控制不同组件的系统调用权限,降低因权限问题引发SystemCallError的风险。同时,一些新兴的Ruby库也开始提供更强大的错误捕获和恢复功能,使得在处理系统调用异常时更为得心应手。 综上所述,掌握SystemCallError的本质及解决策略,关注行业动态与技术发展,对于提升程序健壮性和安全性具有现实意义,值得广大开发者深入学习与实践。
2023-12-28 12:47:41
103
昨夜星辰昨夜风-t
Consul
微服务架构 , 一种软件开发方法论,将单一应用程序拆分为一组小的、独立的服务,每个服务都可以独立部署、扩展和维护。在Consul中,微服务架构下的每个服务都需要正确配置环回IP以确保它们能在内部网络中互相发现和通信,提高系统的可伸缩性和可靠性。 分布式服务发现 , 在分布式系统中,服务发现是指服务之间的自动查找过程,使得客户端能够找到并连接到提供所需服务的服务器。Consul作为服务发现平台,通过环回IP帮助管理各个节点的服务注册和发现,确保服务间的高效通信。 机器学习算法 , 一种人工智能技术,通过数据输入和模式识别来自动学习并改进预测模型。Consul 2.0中的机器学习应用可能指其在预测和优化服务流量路径方面的功能,利用算法分析历史数据,以减少网络延迟和提高整体服务性能。 容器原生网络(CNM) , 一种由Docker等容器平台推动的网络模型,专注于简化容器间的网络配置。Consul 2.0支持CNM,意味着它可以直接与容器网络集成,使得服务发现更为直观和便捷,尤其适用于容器化应用的部署和管理。 零信任原则 , 网络安全策略,假设所有网络连接都是潜在威胁,除非有明确的证据表明请求者是可信的。Consul 2.0加强的零信任原则在服务发现中意味着只有经过身份验证的服务请求才能被授权访问,提高了系统的安全性。
2024-06-07 10:44:53
452
梦幻星空
Greenplum
...领域的发展动态与实际应用案例将有助于深化我们对这一强大工具的认识。近日,Pivotal公司(Greenplum的开发团队)宣布推出其最新版本的Greenplum Database 6,该版本不仅优化了数据加载性能,还强化了安全性功能,并引入了对机器学习和高级分析任务的支持。 尤其值得关注的是,新版Greenplum支持与Apache MADlib的深度集成,使得用户能够直接在数据库内执行复杂的统计模型和预测算法,无需将大量数据移出数据库环境,从而大大提升了数据分析的工作效率并降低了延迟。此外,许多大型企业如Netflix、Airbnb等已成功利用Greenplum处理PB级别的海量数据,进行实时或离线的数据分析,以驱动业务决策和产品优化。 在实践中,掌握Greenplum的高效数据插入技巧仅仅是开始,更重要的是结合现代数据架构设计原则,利用Greenplum的分布式特性构建适应大规模数据分析需求的解决方案,以及不断跟进技术发展潮流,充分利用新版本带来的性能提升和功能增强,来满足日益增长的大数据处理需求。
2023-08-02 14:35:56
543
秋水共长天一色
RocketMQ
...兼容:问题、影响与解决策略 1. 引言 --- 在分布式消息中间件的世界里,Apache RocketMQ凭借其高性能、高可靠和灵活扩展的特性赢得了众多开发者们的青睐。然而,在实际动手部署和使用的时候,我们可能会碰上这么个情况:RocketMQ的软件版本跟服务器环境玩不来,就是说它们之间存在兼容性问题。这种状况不仅可能让RocketMQ运行起来磕磕绊绊,甚至可能会对整个系统架构产生难以预料的影响,就像一颗定时炸弹,随时可能给整个系统带来意想不到的“惊喜”。本文将通过生动的示例代码和探讨性话术,深入剖析这个问题,并给出相应的解决方案。 2. 问题现象与影响 --- 现象描述 假设你正在尝试在一个Java 8环境中运行RocketMQ 4.9.x版本(该版本需要Java 11及以上环境),此时你可能会遭遇如下错误: java Exception in thread "main" java.lang.UnsupportedClassVersionError: org/apache/rocketmq/client/producer/DefaultMQProducer : Unsupported major.minor version 55.0 这个错误提示表明了RocketMQ客户端类库与当前Java运行时环境的不兼容性。 影响分析 这种版本不兼容问题会导致RocketMQ无法启动,进而影响到依赖于RocketMQ的消息传递功能,比如订单处理、日志收集、数据同步等核心业务流程。另外,要是消息队列服务突然罢工了,那可能会拖累整个系统的运行速度,甚至可能像多米诺骨牌一样引发一连串的故障。这样一来,咱们系统的稳定性和可用性可就要大大地打折扣了。 3. 原因探究 --- 问题的根本原因在于软件组件版本之间的依赖关系没有得到妥善处理。比如说,就拿RocketMQ的新版本举个例子吧,它可能开始用上了JDK更新版里的一些酷炫新特性。不过呢,你要是还用着老版本的JDK,那可就尴尬了,因为它压根儿还没法支持这些新玩意儿,这样一来,两者就闹起了“兼容性”的小矛盾咯。 4. 解决策略 --- 面对此类问题,我们可以从以下几个方面进行解决: - 升级服务器环境:根据RocketMQ官方文档的要求,更新服务器上的Java版本以满足RocketMQ软件的需求。例如,将Java 8升级至Java 11或更高版本。 bash 在Linux环境下升级Java版本 sudo apt-get update sudo apt-get install openjdk-11-jdk - 选择合适RocketMQ版本:如果由于某些原因不能升级服务器环境,那么应选择与现有环境兼容的RocketMQ版本进行安装和部署。在Apache RocketMQ的GitHub仓库或官方网站上,可以查阅各个版本的详细信息及其所需的运行环境要求。 - 保持版本管理和跟踪:建立完善的软件版本管理制度,确保所有组件能够及时进行更新和维护,避免因版本过低引发的兼容性问题。 5. 总结与思考 --- 在日常开发和运维工作中,我们不仅要关注RocketMQ本身的强大功能和稳定性,更要对其所依赖的基础环境给予足够的重视。要让RocketMQ在实际生产环境中火力全开,关键得把软硬件版本之间的依赖关系摸得门儿清,并且妥善地管好这些关系,否则它可没法展现出真正的实力。同时呢,这也让我们在捣鼓和搭建那些大型的分布式系统时,千万要记得把“向下兼容”原则刻在脑子里。为啥呢?因为这样一来,咱们在给系统升级换代的时候,就能有效地避免踩到潜在的风险雷区,也能省下不少不必要的开销,让整个过程变得更顺溜、更经济实惠。 以上内容仅是针对RocketMQ版本与服务器环境不兼容问题的一个浅显探讨,具体实践中还涉及到更多细节和技术挑战,这都需要我们不断学习、实践和总结,方能在技术海洋中游刃有余。
2023-05-24 22:36:11
187
灵动之光
SpringCloud
...式系统中的锁服务设计原则,Google Chubby论文以及Amazon DynamoDB的Conditional Writes等经典技术文档,都深入剖析了分布式锁的设计思路和挑战,是深化理论知识、拓宽视野的良好延伸阅读资料。 同时,随着云原生时代的到来,Kubernetes等容器编排平台也开始关注分布式锁在多实例部署下的应用,例如使用Kubernetes CRD(CustomResourceDefinition)实现的分布式锁方案,为开发者在云环境下的微服务架构设计提供了新的思路和工具集。 综上所述,在面对不断发展的云计算和微服务架构趋势下,持续关注并学习业界先进的分布式锁实践和理论研究成果,将有助于我们在解决实际工作中的一致性问题时更加得心应手,从而构建出更为健壮、高效的分布式系统。
2023-03-19 23:46:57
89
青春印记
SpringBoot
...框架,用于简化企业级应用的初始搭建和开发过程。它提供了自动配置、依赖注入和一些预设的starter,使开发者能够快速创建可运行的Web应用程序,而无需手动配置大量基础设置。在本文中,SpringBoot是后端服务的主要构建工具,用于接收前端Vue.js发送的数据。 Vue.js , 一个流行的JavaScript前端框架,用于构建用户界面。Vue.js以其响应式的数据绑定、组件化开发和易于学习的特点受到开发者喜爱。本文中,Vue.js负责收集用户输入,并通过axios库将数据发送给SpringBoot。 Axios , 一个基于Promise的HTTP库,用于浏览器和Node.js环境。它简化了HTTP请求的处理,使得Vue.js能够方便地与服务器进行数据交换。在文中,axios被用来发起POST请求,将前端填写的信息发送到SpringBoot后端。 RESTful API , 一种软件架构风格,用于构建web服务,它遵循一组特定的设计原则,如使用HTTP方法(GET、POST、PUT、DELETE等)表示操作,以及使用URL表示资源。SpringBoot中的Controller通常用于处理这些RESTful API请求。 JSON (JavaScript Object Notation) , 一种轻量级的数据交换格式,易于人阅读和机器解析。在SpringBoot和Vue.js的交互中,JSON被用来在前后端之间传输数据,如注册表单中的用户信息。 数据验证 , 在前端和后端,验证是确保数据符合预期格式和规则的过程。SpringBoot中的@NotBlank注解就是一个例子,用于验证邮箱字段不能为null或空字符串。 CORS (Cross-Origin Resource Sharing) , 一种安全策略,允许网页从不同的源获取资源,如图片、脚本等。在处理跨域请求时,正确配置CORS可以防止数据在传输过程中出现问题,如类型转换为0。
2024-04-13 10:41:58
82
柳暗花明又一村_
Cassandra
...归档的无缝衔接。这种架构不仅能够满足业务对实时监控的需求,还能利用机器学习算法对时序数据进行深度挖掘,为企业决策提供有力支持。 总之,在实际应用中不断探索和完善Cassandra在时间序列数据处理中的设计方案,并紧跟行业发展趋势和技术进步,才能更好地发挥其在大数据时代的优势,解决日益复杂的数据存储与分析挑战。
2023-12-04 23:59:13
769
百转千回
Superset
...建数据故事。 云原生架构 , 云原生架构是一种专为云环境设计的应用程序开发和部署方式,强调微服务、容器化、持续集成/持续部署(CI/CD)等技术实践。Superset在升级过程中强化与云原生架构的兼容性,意味着它能更好地适应分布式、弹性伸缩的云环境,提供更加稳定、高效的服务。 全局过滤器 , 全局过滤器是Superset中的一项交互功能,允许用户在一个统一的位置设置筛选条件,进而影响整个仪表盘上所有关联的数据图表。这意味着用户可以快速调整视角,从不同维度探索数据,提高数据分析的效率和深度。 自然语言处理(NLP)查询功能 , 自然语言处理是计算机科学领域的一个分支,用于理解和生成人类语言。在BI工具如Tableau和Power BI中应用的NLP查询功能,则是指用户可以通过输入日常对话式的语句来查询和分析数据,降低非技术人员使用数据可视化工具的技术门槛,实现更为人性化和便捷的数据交互体验。 WCAG 2.1标准 , WCAG(Web Content Accessibility Guidelines,网页内容可访问性指南)是由万维网联盟(W3C)制定的一系列指导原则,旨在确保残障人士也能无障碍地访问和使用网络内容。WCAG 2.1是其最新版本,对包括移动设备在内的各类互联网产品提出了更高的无障碍设计要求,微软等公司在BI工具中努力遵循这一标准,目的是让视力障碍、行动不便等各种特殊需求的用户群体都能够平等地获取和利用数据可视化工具提供的信息。
2023-09-02 09:45:15
150
蝶舞花间
SpringCloud
随着微服务架构的广泛应用,Spring Cloud Gateway作为其核心组件之一,在实现服务治理与API路由控制方面的重要性日益凸显。近期,Spring Cloud Gateway发布了新版本,对原有功能进行了优化,并引入了一些新的特性以增强其稳定性和性能表现。例如,增强了对WebFlux框架的支持,提升了高并发场景下的响应速度;同时,改进了路由匹配逻辑,使得开发者在配置路由规则时能够拥有更高的灵活性和准确性。 针对过滤器异常处理,社区也在不断更新和完善相关文档及最佳实践。有开发团队分享了他们在实际项目中如何利用Spring Cloud Gateway自定义过滤器进行权限校验、熔断限流等操作的经验心得,并强调了在编写过滤器逻辑时遵循“幂等性”原则和合理处理异常的重要性,这对于预防潜在的服务雪崩问题具有极高的参考价值。 此外,为了进一步提升微服务架构的健壮性,建议读者关注并学习Spring Cloud Gateway与其他云原生技术如Istio、Kubernetes的集成使用方式,这些技术的融合应用将为构建弹性可扩展的分布式系统提供更为全面的解决方案。 综上所述,无论是紧跟Spring Cloud Gateway的最新发展动态,还是深入研究其在具体应用场景中的实践策略,都是当前微服务开发者不断提升自身技术水平、保障系统稳定运行的重要途径。在实际工作中,持续探索与学习Spring Cloud Gateway的各类特性和最佳实践,无疑有助于我们在复杂多变的技术环境中游刃有余地应对各种挑战。
2023-07-06 09:47:52
95
晚秋落叶_
Etcd
...系统已成为现代互联网架构不可或缺的一部分。在这个背景下,Etcd作为一种高效、可靠的分布式键值存储系统,扮演着不可或缺的角色。本文旨在探讨Etcd如何在分布式系统中提供关键支持,以及在实际应用中遇到的一些挑战,特别是“Request timeout while waiting for Raft term change”错误的解决策略。为了进一步加深对Etcd的理解和应用,本文将深入探讨分布式系统中的数据一致性挑战,以及如何通过优化策略确保系统的稳定性和高效运行。 数据一致性挑战 在分布式系统中,数据一致性是关键挑战之一。系统需要在多个节点间协调数据,以确保数据的一致性、可用性和分区容忍性(CAP理论)。Etcd通过基于Raft的共识算法实现了这一目标,确保了数据在多节点环境下的同步和一致性。然而,即使有如此先进的技术支持,分布式系统仍然面临诸多挑战,如网络延迟、大规模操作和配置问题等。 解决策略 面对“Request timeout while waiting for Raft term change”这类问题,优化策略至关重要。首先,调整客户端超时参数可以适应网络状况或业务需求的变化。其次,启用心跳机制有助于保持客户端与Etcd leader的连接活跃,减少由于leader变更导致的超时错误。此外,平衡负载、优化网络配置也是提升系统稳定性的关键步骤。 深入案例分析 例如,某大型电商网站在使用Etcd管理分布式缓存时,遇到了频繁的请求超时问题。通过分析网络延迟、调整客户端超时参数、启用心跳机制,并优化负载均衡策略,该团队成功减少了错误率,显著提高了系统的响应速度和稳定性。 结论与展望 总之,Etcd在分布式系统中的应用展示了其在数据一致性管理方面的强大能力。然而,面对不断变化的技术环境和业务需求,持续优化和改进仍然是确保系统稳定性和高效运行的关键。未来,随着新技术的发展和应用场景的不断扩展,如何更好地利用Etcd和其他分布式技术,解决数据一致性挑战,将是分布式系统领域的重要研究方向。 通过上述分析,我们不仅深入理解了Etcd在分布式系统中的作用,还探讨了在实际应用中遇到的挑战及其解决策略。随着分布式系统技术的不断发展,深入研究和实践将有助于构建更加稳定、高效和可靠的分布式应用。
2024-09-24 15:33:54
120
雪落无痕
ZooKeeper
...oKeeper的设计原则之后,读者可能对分布式系统中的协调服务以及一致性问题有了更深层次的认识。为了进一步探究这一领域的最新发展和实践应用,以下是一些针对性的延伸阅读建议: 1. 最新研究进展:《CAP理论与现代分布式系统的权衡》——此篇论文详细探讨了在分布式系统中如何平衡一致性、可用性和分区容错性(CAP定理),并结合当下前沿技术,如Raft协议等,分析了其在ZooKeeper之外的其他分布式协调服务中的应用。 2. 实时案例分享:《大型互联网公司如何利用ZooKeeper优化分布式架构》——该篇文章通过实际案例剖析了某知名互联网公司在面临大规模分布式环境下的数据一致性挑战时,如何巧妙运用ZooKeeper设计原则进行优化,并取得显著效果。 3. 技术深度解读:《ZooKeeper 4.x版本新特性解析及实战指南》——随着ZooKeeper版本的迭代更新,新特性如增强的性能、改进的一致性保障机制以及更加灵活的API都为开发者提供了更多选择。本文将深入解读这些新特性的实现原理及其在实际项目中的最佳实践。 4. 行业动态观察:《云原生时代下,ZooKeeper面临的挑战与机遇》——随着云计算和容器化技术的发展,ZooKeeper作为传统的分布式协调服务,在云原生环境下面临着新的挑战和机遇。该篇报道分析了ZooKeeper如何适应快速变化的技术趋势,并与其他新兴的分布式协调工具进行比较,展望未来发展趋势。 5. 开源社区热点:《Apache Curator库在ZooKeeper使用中的重要角色》——Curator是专为ZooKeeper设计的开源Java客户端库,它简化了ZooKeeper的复杂操作,提供了一套高级API以更好地遵循ZooKeeper的设计原则。了解Curator的应用可以加深对ZooKeeper在实际开发中高效利用的理解。 以上延伸阅读内容旨在帮助读者紧跟分布式系统领域的发展步伐,从理论到实践全方位拓展对ZooKeeper设计原则的认知和应用能力。
2024-02-15 10:59:33
31
人生如戏-t
转载文章
...下面先讲一讲依赖倒置原则,再过渡到案例解释。 本文目的在于用极其简单的图解帮助新手来简单的理解面向接口开发,并不会提出很高深的理论支持来描述。 文章若有错误的内容,希望大佬指正 依赖倒置原则 什么是依赖倒置原则: 高层模块不应该依赖低层模块,二者都应该依赖其抽象 抽象不应该依赖细节,细节应该依赖抽象 针对接口编程,不要针对实现编程 即: 每个类尽量继承自接口或者抽象类 优点:减少类之间的耦合,提高代码的稳定性,代码的可读性维护性。 案例: 背景: 现在有一个用户类叫Ggzx(也就是我),想要学习一些课程,简单的来实现调用学习的方法,然后在一个Test类之中输入学习的内容。但是我暂时只学java和web,但是可能我后面还要学习Spring,SpringMVC… 1.面向实现编程 public class Ggzx {public void stduyJava(){System.out.println("学习了java课程");}public void studyWeb(){System.out.println("学习了Web课程");} } public class Test {public static void main(String[] args) {Ggzx ggzx=new Ggzx();ggzx.studyJava();ggzx.studyPython();ggzx.studyGo();} } 分析: 上面使用的面向实现编程,但是Test作为我们控制的"应用层",也就是高层,而Ggzx作为低层,其实这样在比较简单的例子中,其实是没问题的,因为假如不需要扩展,仅仅是实现两个很简单的功能,并没有必要去面向接口开发,但是一般在开发中通常有很复杂的开发环境和开发需求。 现在如果想添加新的功能,学习其他的课程,怎么办??? 继续使用面向实现编程,直接在 Ggzx 类中直接添加新的方法,可以完成这个功能需求。 用上面的方法实现有没有缺点??? 学习的课程和 Ggzx 类耦合比较严重。是学习的课程只能通过Ggzx 才能得到 。并且是想要学习新的课程也要在 Ggzx 类中不断添加和修改 —>高耦合 Ggzx 作为当前 demo 的底层,经常的被改动,高层Test依赖于低层 Ggzx 的实现 ---->对应依赖倒置原则中的:高层过度依赖低层了 2.面向接口编程(简单版) 为了解决上面出现的问题,我们可以考虑把学习的课程抽出来成为一个类。到现在,类和类之间的耦合其实就已经降低很多了。然后将其当做参数传入Ggzx里面,然后调用课程里面的学习方法 //web课程类public class WebCourse {public void studyCourse() {System.out.println("学习了Web课程");} } //这里是Java课程类public class JavaCourse {public void studyCourse() {System.out.println("学习Java课程");} } 当我们写出来这两个类,想要对Ggzx里面的学习方法进行编写的时候,有没有发现其实有一些小问题呢???? Ggzx里面接收这些类的参数是什么?? 难道要这样? //以下是Ggzx类中的内容public void studyJava(JavaCourse javaCourse){}public void studyWeb(WebCourse webCourse){} nonono,如果这样做,虽然当前已经把课程类和 Ggzx 用户剥离一点点了,但是是还是形同虚设,课程类虽然分离开了,但是还是像狗皮膏药一样贴在 Ggzx 类中,但是看着还是很难受,高层 Test 调用方法还是得依赖 Ggzx 里面有什么方法 每次加入新课程,都需要修改底层功能 如何修改??? 接口是个好东西,课程类之间是不是都包含同样一个方法,被学习的方法( studyCourse ),那么我们可以将所有课程类都实现一个ICourse课程! 对应上面的问题,我们该传入什么参数能解决问题??可以传入一个接口 改编后的 UML 图解展示(Ggzx 被废弃,用新的 NewGgzx 代替):(如果没了解过UML类图,或者是纯小白,只需要知道一个大框是一个类,虚线表示实现了箭头方向的接口,小m是方法 即可) 观察上面的UML图 WebCourse 和 JavaCourse 实现自同一个接口 ICourse,每个课程都有自己的 studyXxx 方法。 这样好在什么地方? - 课程类和Ggzx类是解耦的,无论你增加多少个课程类,只要实现了ICourse接口,都能直接传入Ggzx的studyMyCourse()方法中 public interface ICourse {void studyCourse();} public class WebCourse implements ICourse{@Overridepublic void studyCourse() {System.out.println("学习了Web课程");} } public class NewGgzx {public void studyMyCourse(ICourse iCourse){iCourse.studyCourse();} } 上面就是案例的面向接口编程,我们可以看到,在 NewGgzx 类中,我们可以传入一个实现 ICourse 接口的课程类,我们在Test类中调用的时候,只需要传入一个课程类即可调用学习方法,这样当想扩展新的内容,只需要创建一个新的课程类实现 ICourse 即可 Test使用 NewGgzx newGgzx =new NewGgzx();newGgzx.studyMoocCourse(new WebCourse());newGgzx.studyMoocCourse(new com.ggzx.design.priciple.dependenceiversion.JavaCourse()); 从面向实现到面向接口,我们处理问题的方法改变了: 开始时,我们需要考虑在Test类中调用Ggzx里面的哪一种学习方法,即注重调用什么方法能够实现特定的课程 到面向接口编程,我们考虑传入什么课程即可实现学习 当业务需求拓展时,拓展方法也改变了: 面向实现:需要改变底层的代码来协调我们需要使用的功能,用上面的例子来解释就是:当你想要学习一个课程,你就需要改变你底层的实现,增加新的代码 面向接口:想学习什么课程,不会对其他课程造成影响,也不会影响到低层的Ggzx 。实际操作就是增加一门新的课程即可,实现接口之后,传入这个类到Ggzx的方法中就可以学习这一门课了 相对于细节的多变性,抽象的东西更稳定,以抽象为基础搭建的架构比以细节搭建的架构更加稳定 本篇文章为转载内容。原文链接:https://blog.csdn.net/m0_52410356/article/details/122828154。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-08-26 15:35:43
633
转载
转载文章
...等 redis相关:架构设计、数据一致性问题 容器:容器的设计原理等技术 二面题目: 参与的项目,选一个,技术难度在哪里? Collections.sort底层排序方式 负载均衡的原理设计模式与重构,谈谈你对重构的理解 谈谈redis相关的集群有哪些成熟方案? 再谈谈一致hash算法(redis)? 数据库索引,B+树的特性和建树过程 Mysql相关的行锁,表锁;乐观锁,悲观锁 谈谈多线程和并发工具的使用 谈谈redis的架构和组件 Redis的数据一致性问题(分布式多节点环境&单机环境) Docker容器 1.3 Java中间件三面 技术三面考察范围: 主要谈到了高并发的实现方案 以及中间件:redis、rocketmq、kafka等的架构设计思路 最后问了平时怎么提升技术的技术 三面题目 高并发情况下,系统是如何支撑大量的请求的? 接着上面的问题,延伸到了中间件,kafka、redis、rocketmq、mycat等设计思路和适用场景等 最近上过哪些技术网站;最近再看那些书。 工作和生活中遇见最大的挑战,怎么去克服? 未来有怎样的打算 1.4 Java中间件四面 最后,你懂的,主要就是HR走流程了,主要问了未来的职业规划。 02 头条Java后台3面 2.1 头条一面 讲讲jvm运行时数据库区 讲讲你知道的垃圾回收算法 jvm内存模型jmm 内存泄漏与内存溢出的区别 select、epool 的区别?底层的数据结构是什么? mysql数据库默认存储引擎,有什么优点 优化数据库的方法,从sql到缓存到cpu到操作系统,知道多少说多少 什么情景下做分表,什么情景下做分库 linkedList与arrayList区别 适用场景 array list是如何扩容的 volatile 关键字的作用?Java 内存模型? java lock的实现,公平锁、非公平锁 悲观锁和乐观锁,应用中的案例,mysql当中怎么实现,java中的实现 2.2 头条二面 Java 内存分配策略? 多个线程同时请求内存,如何分配? Redis 底层用到了哪些数据结构? 使用 Redis 的 set 来做过什么? Redis 使用过程中遇到什么问题? 搭建过 Redis 集群吗? 如何分析“慢查询”日志进行 SQL/索引 优化? MySQL 索引结构解释一下?(B+ 树) MySQL Hash 索引适用情况?举下例子? 2.3 头条三面 如何保证数据库与redis缓存一致的Redis 的并发竞争问题是什么? 如何解决这个问题? 了解 Redis 事务的 CAS 方案吗? 如何保证 Redis 高并发、高可用? Redis 的主从复制原理,以及Redis 的哨兵原理? 如果让你写一个消息队列,该如何进行架构设计啊?说一下你的思路。 MySQL数据库主从同步怎么实现? 秒杀模块怎么设计的,如何压测,抗压手段 03 今日头条Java后台研发三面 3.1 一面 concurrent包下面用过哪些? countdownlatch功能实现 synchronized和lock区别,重入锁thread和runnable的区别 AtomicInteger实现原理(CAS自旋) java并发sleep与wait、notify与notifyAll的区别 如何实现高效的同步链表 java都有哪些加锁方式(synchronized、ReentrantLock、共享锁、读写锁等) 设计模式(工厂模式、单例模式(几种情况)、适配器模式、装饰者模式) maven依赖树,maven的依赖传递,循环依赖 3.2 二面 synchronized和reentrantLock的区别,synchronized用在代码快、方法、静态方法时锁的都是什么? 介绍spring的IOC和AOP,分别如何实现(classloader、动态代理)JVM的内存布局以及垃圾回收原理及过程 讲一下,讲一下CMS垃圾收集器垃圾回收的流程,以及CMS的缺点 redis如何处理分布式服务器并发造成的不一致OSGi的机制spring中bean加载机制,bean生成的具体步骤,ioc注入的方式spring何时创建- applicationContextlistener是监听哪个事件? 介绍ConcurrentHashMap原理,用的是哪种锁,segment有没可能增大? 解释mysql索引、b树,为啥不用平衡二叉树、红黑树 Zookeeper如何同步配置 3.3 三面 Java线程池ThreadPoolEcecutor参数,基本参数,使用场景 MySQL的ACID讲一下,延伸到隔离级别 dubbo的实现原理,说说RPC的要点 GC停顿原因,如何降低停顿? JVM如何调优、参数怎么调? 如何用工具分析jvm状态(visualVM看堆中对象的分配,对象间的引用、是否有内存泄漏,jstack看线程状态、是否死锁等等) 描述一致性hash算法 分布式雪崩场景如何避免? 再谈谈消息队列 04 抖音Java 三面 4.1 一面: hashmap,怎么扩容,怎么处理数据冲突? 怎么高效率的实现数据迁移? Linux的共享内存如何实现,大概说了一下。 socket网络编程,说一下TCP的三次握手和四次挥手同步IO和异步IO的区别? Java GC机制?GC Roots有哪些? 红黑树讲一下,五个特性,插入删除操作,时间复杂度? 快排的时间复杂度,最坏情况呢,最好情况呢,堆排序的时间复杂度呢,建堆的复杂度是多少 4.2 二面: 自我介绍,主要讲讲做了什么和擅长什么 设计模式了解哪些? AtomicInteger怎么实现原子修改的? ConcurrentHashMap 在Java7和Java8中的区别? 为什么Java8并发效率更好?什么情况下用HashMap,什么情况用ConcurrentHashMap? redis数据结构? redis数据淘汰机制? 4.3 三面(约五十分钟): mysql实现事务的原理(MVCC) MySQL数据主从同步是如何实现的? MySQL索引的实现,innodb的索引,b+树索引是怎么实现的,为什么用b+树做索引节点,一个节点存了多少数据,怎么规定大小,与磁盘页对应。 如果Redis有1亿个key,使用keys命令是否会影响线上服务? Redis的持久化方式,aod和rdb,具体怎么实现,追加日志和备份文件,底层实现原理的话知道么? 遇到最大困难是什么?怎么克服? 未来的规划是什么? 你想问我什么? 05 百度三面 5.1 百度一面 自我介绍 Java中的多态 为什么要同时重写hashcode和equals Hashmap的原理 Hashmap如何变线程安全,每种方式的优缺点 垃圾回收机制 Jvm的参数你知道的说一下 设计模式了解的说一下啊 手撕一个单例模式 手撕算法:反转单链表 手撕算法:实现类似微博子结构的数据结构,输入一系列父子关系,输出一个类似微博评论的父子结构图 手写java多线程 手写java的soeket编程,服务端和客户端 手撕算法: 爬楼梯,写出状态转移方程 智力题:时针分针什么时候重合 5.2 百度二面(现场) 自我介绍 项目介绍 服务器如何负载均衡,有哪些算法,哪个比较好,一致性哈希原理,怎么避免DDOS攻击请求打到少数机器。 TCP连接中的三次握手和四次挥手,四次挥手的最后一个ack的作用是什么,为什么要time wait,为什么是2msl。 数据库的备份和恢复怎么实现的,主从复制怎么做的,什么时候会出现数据不一致,如何解决。 Linux查看cpu占用率高的进程 手撕算法:给定一个数字三角形,找到从顶部到底部的最小路径和。每一步可以移动到下面一行的相邻数字上。 然后继续在这个问题上扩展 求出最短那条的路径 递归求出所有的路径 设计模式讲一下熟悉的 会不会滥用设计模式 多线程条件变量为什么要在while体里 你遇到什么挫折,怎么应对和处理 5.3 百度三面(现场) 自我介绍 项目介绍 Redis的特点 Redis的持久化怎么做,aof和rdb,有什么区别,有什么优缺点。 Redis使用哨兵部署会有什么问题,我说需要扩容的话还是得集群部署。 说一下JVM内存模型把,有哪些区,分别干什么的 说一下gc算法,分代回收说下 MySQL的引擎讲一下,有什么区别,使用场景呢 分布式事务了解么 反爬虫的机制,有哪些方式 06 蚂蚁中间件团队面试题 6.1 蚂蚁中间件一面: 自我介绍 JVM垃圾回收算法和垃圾回收器有哪些,最新的JDK采用什么算法。 新生代和老年代的回收机制。 讲一下ArrayList和linkedlist的区别,ArrayList与HashMap的扩容方式。 Concurrenthashmap1.8后的改动。 Java中的多线程,以及线程池的增长策略和拒绝策略了解么。 Tomcat的类加载器了解么 Spring的ioc和aop,Springmvc的基本架构,请求流程。 HTTP协议与Tcp有什么区别,http1.0和2.0的区别。 Java的网络编程,讲讲NIO的实现方式,与BIO的区别,以及介绍常用的NIO框架。 索引什么时候会失效变成全表扫描 介绍下分布式的paxos和raft算法 6.2 蚂蚁中间件二面 你在项目中怎么用到并发的。 消息队列的使用场景,谈谈Kafka。 你说了解分布式服务,那么你怎么理解分布式服务。 Dubbo和Spring Clound的区别,以及使用场景。 讲一下docker的实现原理,以及与JVM的区别。 MongoDB、Redis和Memcached的应用场景,各自优势 MongoDB有事务吗 Redis说一下sorted set底层原理 讲讲Netty为什么并发高,相关的核心组件有哪些 6.3 蚂蚁中间件三面 完整的画一个分布式集群部署图,从负载均衡到后端数据库集群。 分布式锁的方案,Redis和Zookeeper哪个好,如果是集群部署,高并发情况下哪个性能更好。 分布式系统的全局id如何实现。 数据库万级变成亿级,你如何来解决。 常见的服务器雪崩是由什么引起的,如何来防范。 异地容灾怎么实现 常用的高并发技术解决方案有哪些,以及对应的解决步骤。 07 京东4面(Java研发) 7.1 一面(基础面:约1小时) 自我介绍,主要讲讲做了什么和擅长什么 springmvc和spring-boot区别 @Autowired的实现原理 Bean的默认作用范围是什么?其他的作用范围? 索引是什么概念有什么作用?MySQL里主要有哪些索引结构?哈希索引和B+树索引比较? Java线程池的原理?线程池有哪些?线程池工厂有哪些线程池类型,及其线程池参数是什么? hashmap原理,处理哈希冲突用的哪种方法? 还知道什么处理哈希冲突的方法? Java GC机制?GC Roots有哪些? Java怎么进行垃圾回收的?什么对象会进老年代?垃圾回收算法有哪些?为什么新生代使用复制算法? HashMap的时间复杂度?HashMap中Hash冲突是怎么解决的?链表的上一级结构是什么?Java8中的HashMap有什么变化?红黑树需要比较大小才能进行插入,是依据什么进行比较的?其他Hash冲突解决方式? hash和B+树的区别?分别应用于什么场景?哪个比较好? 项目里有个数据安全的,aes和md5的区别?详细点 7.2 二面(问数据库较多) 自我介绍 为什么MyISAM查询性能好? 事务特性(acid) 隔离级别 SQL慢查询的常见优化步骤? 说下乐观锁,悲观锁(select for update),并写出sql实现 TCP协议的三次握手和四次挥手过程? 用到过哪些rpc框架 数据库连接池怎么实现 Java web过滤器的生命周期 7.3 三面(综合面;约一个小时) 自我介绍。 ConcurrentHashMap 在Java7和Java8中的区别?为什么Java8并发效率更好?什么情况下用HashMap,什么情况用ConcurrentHashMap? 加锁有什么机制? ThreadLocal?应用场景? 数据库水平切分,垂直切分的设计思路和切分顺序 Redis如何解决key冲突 soa和微服务的区别? 单机系统演变为分布式系统,会涉及到哪些技术的调整?请从前面负载到后端详细描述。 设计一个秒杀系统? 7.4 四面(HR面) 你自己最大优势和劣势是什么 平时遇见过什么样的挑战,怎么去克服的 工作中遇见了技术解决不了的问题,你的应对思路? 你的兴趣爱好? 未来的职业规划是什么? 08 美团java高级开发3面 8.1 美团一面 自我介绍 项目介绍 Redis介绍 了解redis源码么 了解redis集群么 Hashmap的原理,增删的情况后端数据结构如何位移 hashmap容量为什么是2的幂次 hashset的源码 object类你知道的方法 hashcode和equals 你重写过hashcode和equals么,要注意什么 假设现在一个学生类,有学号和姓名,我现在hashcode方法重写的时候,只将学号参与计算,会出现什么情况? 往set里面put一个学生对象,然后将这个学生对象的学号改了,再put进去,可以放进set么?并讲出为什么 Redis的持久化?有哪些方式,原理是什么? 讲一下稳定的排序算法和不稳定的排序算法 讲一下快速排序的思想 8.2 美团二面 自我介绍 讲一下数据的acid 什么是一致性 什么是隔离性 Mysql的隔离级别 每个隔离级别是如何解决 Mysql要加上nextkey锁,语句该怎么写 Java的内存模型,垃圾回收 线程池的参数 每个参数解释一遍 然后面试官设置了每个参数,给了是个线程,让描述出完整的线程池执行的流程 Nio和IO有什么区别 Nio和aio的区别 Spring的aop怎么实现 Spring的aop有哪些实现方式 动态代理的实现方式和区别 Linux了解么 怎么查看系统负载 Cpu load的参数如果为4,描述一下现在系统处于什么情况 Linux,查找磁盘上最大的文件的命令 Linux,如何查看系统日志文件 手撕算法:leeetcode原题 22,Generate Parentheses,给定 n 对括号,请- 写一个函数以将其生成新的括号组合,并返回所有组合结果。 8.3 美团三面(现场) 三面没怎么问技术,问了很多技术管理方面的问题 自我介绍 项目介绍 怎么管理项目成员 当意见不一致时,如何沟通并说服开发成员,并举个例子 怎么保证项目的进度 数据库的索引原理 非聚簇索引和聚簇索引 索引的使用注意事项 联合索引 从底层解释最左匹配原则 Mysql对联合索引有优化么?会自动调整顺序么?哪个版本开始优化? Redis的应用 Redis的持久化的方式和原理 技术选型,一个新技术和一个稳定的旧技术,你会怎么选择,选择的考虑有哪些 说你印象最深的美团点评技术团队的三篇博客 最近在学什么新技术 你是怎么去接触一门新技术的 会看哪些书 怎么选择要看的书 最后 由于篇幅限制,小编在此截出几张知识讲解的图解,有需要的程序猿(媛)可以点赞后戳这里免费领取全部资料获取哦 子 怎么保证项目的进度 数据库的索引原理 非聚簇索引和聚簇索引 索引的使用注意事项 联合索引 从底层解释最左匹配原则 Mysql对联合索引有优化么?会自动调整顺序么?哪个版本开始优化? Redis的应用 Redis的持久化的方式和原理 技术选型,一个新技术和一个稳定的旧技术,你会怎么选择,选择的考虑有哪些 说你印象最深的美团点评技术团队的三篇博客 最近在学什么新技术 你是怎么去接触一门新技术的 会看哪些书 怎么选择要看的书 最后 由于篇幅限制,小编在此截出几张知识讲解的图解,有需要的程序猿(媛)可以点赞后戳这里免费领取全部资料获取哦 [外链图片转存中…(img-SFREePIJ-1624074891834)] [外链图片转存中…(img-5kF3pkiC-1624074891834)] [外链图片转存中…(img-HDVXfOMR-1624074891835)] [外链图片转存中…(img-RyaAC5jy-1624074891836)] [外链图片转存中…(img-iV32C5Ok-1624074891837)] 本篇文章为转载内容。原文链接:https://blog.csdn.net/m0_57285325/article/details/118051767。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-11-13 23:43:59
85
转载
转载文章
...织上如果没有采用敏捷原则或DecOps的工作方式,那么很可能没有持续不断的提交,那么CI的存在意义不大 随着业务增长、工具的更替、技术的演进。CI系统也必然随之改动,往往会导致阶段性的不稳定和人力物力的耗费 如果CI的基本设定不到位,开发流程将会增加特别的开销 注意点 CI流程的触发方式 跟踪触发式:在每次提交到源码版本管理系统时触发 计划任务:预配置好的计划 手动:无论是通过CI服务器的管理界面还是脚本,用户可以手工执行CI工作流 代码审核 可在持续集成服务器里使用代码分析工具(例如Sonar)来执行自动代码审查 自动代码审查通过后,可发起一个人工代码审查,揪出那些自动审查无法找出的问题,即验证业务需求,架构问题,代码是否可读,以及是否易于扩展。 可灵活配置代码审核策略,例如:如果某些人没有审查代码便阻止对主干分支的任何提交。 最常用的工具是Gerrit 持续交付 简述 持续交付简称CD或CDE,是一种能够使得软件在较短的循环中可靠的发布的软件工程方法 与持续集成相比,持续交付的重点在于 交付,其核心对象不在于代码,而在于可交付的产物。 由于持续集成仅仅针对于新旧代码的集成过程执行来了一定的测试,其变动到持续交付后还需要一些额外的流程 持续交付可以看作为是持续集成的下一步,它强调的是,不敢怎么更新,软件是随时随快可以交付的 有图可看出,持续交付在持续集成的基础上,将集成后的代码部署到更贴近真实的运行环境的[类生产环境]中 目的 持续交付永爱确保让代码能够快速、安全的部署到产品环境中,它通过将每一次改动都会提交到一个模拟产品环境中,使用严格的自动化测试,确保业务应用和服务能符合预期 好处 持续交付和持续集成的好处非常相似: 快速发布。能够应对业务需求,并更快地实现软件价值 编码→测试→上线→交付的频繁迭代周期缩短,同时获得迅速反馈 高质量的软件发布标准。整个交付过程标准化、可重复、可靠 整个交付过程进度可视化,方便团队人员了解项目完成度 更先进的团队协作方式。从需求分析、产品的用户体验到交互、设计、开发、测试、运维等角色密切协作,相比于传统的瀑布式软件团队,更少浪费 持续部署 简述 持续部署 意味着:通过自动化部署的手段将软件功能频繁的进行交付 持续部署是持续交付的下一步,指的是代码通过审批以后,自动化部署到生产环境。 持续部署是持续交付的最高阶段,这意味着,所有通过了一系列的自动化测试的改动都将自动部署到生产环境。它也可以被称为“Continuous Release” 持续化部署的目标是:代码在任何时候都是可部署的,可以进入生产阶段。 持续部署的前提是能自动化完成测试、构建、部署等步骤 注:持续交付不等于持续集成 与持续交付以及持续集成相比,持续部署强调了通过 automated deployment 的手段,对新的软件功能进行集成 目标 持续部署的目标是:代码在任何时刻都是可部署的,可以进入生产阶段 有很多的业务场景里,一种业务需要等待另外的功能特征出现才能上线,这是的持续部署成为不可能。虽然使用功能切换能解决很多这样的情况,但并不是没每次都会这样。所以,持续部署是否适合你的公司是基于你们的业务需求——而不是技术限制 优点 持续部署主要的好处是:可以相对独立地部署新的功能,并能快速地收集真实用户的反馈 敏捷开发 简述 敏捷开发就是一种以人为核心、迭代循环渐进的开发方式。 在敏捷开发中,软件仙姑的构建被切分成多个子项目,各个子项目的成果都经过测试,具备集成和可运行的特征。 简单的说就是把一个大的项目分为多个相互联系,但也可以独立运行的小项目,并分别完成,在此过程中软件一直处于可使用状态 注意事项 敏捷开的就是一种面临迅速变化的需求快速开发的能力,要注意一下几点: 敏捷开发不仅仅是一个项目快速完成,而是对整个产品领域需求的高效管理 敏捷开发不仅仅是简单的快,而是短周期的不断改进、提高和调整 敏捷开发不仅仅是一个版本只做几个功能,而是突出重点、果断放弃当前的非重要点 敏捷开发不仅仅是随时增加需求,而是每个迭代周期对需求的重新审核和排序 如何进行敏捷开发 1、组织建设 也就是团队建设,建立以产品经理为主导,包含产品、设计、前后台开发和测试的team,快速进行产品迭代开发;扁平化的团队管理,大家都有共同目标,更有成就感; 2、敏捷制度 要找准适合自身的敏捷开发方式,主要是制定一个完善的效率高的设计、开发、测试、上线流程,制定固定的迭代周期,让用户更有期待; 3、需求收集 这个任何方式下都需要有,需求一定要有交互稿,评审通过后,一定要确定功能需求列表、责任人、工作量、责任人等; 4、工具建设 是指能够快速完成某项事情的辅助工具,比如开发环境的一键安装,各种底层的日志、监控等平台,发布、打包工具等; 5、系统架构 略为超前架构设计:支持良好的扩容性和可维护性;组件化基础功能模块:代码耦合度低,模块间的依赖性小;插件化业务模块:降低营销活动与业务耦合度,自升级、自维护;客户端预埋逻辑;技术预研等等; 6、数据运营与灰度发布 点击率分析、用户路径分析、渠道选择、渠道升级控制等等 原则、特点和优势 敏捷开发技术的12个原则: 1.我们最优先要做的是通过尽早的、持续的交付有价值的软件来使客户满意。 2.即使到了开发的后期,也欢迎改变需求。 3.经常性地交付可以工作的软件,交付的间隔可以从几周到几个月,交付的时间间隔越短越好。 4.在整个项目开发期间,业务人员和开发人员必须天天都在一起工作。 5.围绕被激励起来的个人来构建项目。 6.在团队内部,最具有效果并且富有效率的传递信息的方法,就是面对面的交谈。 7.工作的软件是首要的进度度量标准。 8.敏捷过程提倡可持续的开发速度。 9.不断地关注优秀的技能和好的设计会增强敏捷能力。 10.简单使未完成的工作最大化。 11.最好的构架、需求和设计出自于自组织的团队。 12.每隔一定时间,团队会在如何才能更有效地工作方面进行反省,然后相应地对自己的行为进行调整。 特点: 个体和交互胜过过程和工具 可以工作的软件胜过面面俱到的文档 客户合作胜过合同谈判 响应变化胜过遵循计划 优势总结: 敏捷开发确实是项目进入实质开发迭代阶段,用户很快可以看到一个基线架构班的产品。敏捷注重市场快速反应能力,也即具体应对能力,客户前期满意度高 适用范围: 项目团队的人不能太多 项目经常发生变更 高风险的项目实施 开发人员可以参与决策 劣势总结: 敏捷开发注重人员的沟通 忽略文档的重要性 若项目人员流动太大,维护的时候很难 项目存在新手的比较多的时候,老员工会比较累 需要项目中存在经验较强的人,要不然大项目中容易遇到瓶颈问题 Open-falcon 简述 open-falcon是小米的监控系统,是一款企业级、高可用、可扩展的开源监控解决方案 公司用open-falcon来监控调度系统各种信息,便于监控各个节点的调度信息。在服务器安装了falcon-agent自动采集各项指标,主动上报 特点 强大灵活的数据采集 (自动发现,支持falcon-agent、snmp、支持用户主动push、用户自定义插件支持、opentsdb data model like(timestamp、endpoint、metric、key-value tags) ) 水平扩展能力 (支持每个周期上亿次的数据采集、告警判定、历史数据存储和查询 ) 高效率的告警策略管理 (高效的portal、支持策略模板、模板继承和覆盖、多种告警方式、支持callback调用 ) 人性化的告警设置 (最大告警次数、告警级别、告警恢复通知、告警暂停、不同时段不同阈值、支持维护周期 ) 高效率的graph组件 (单机支撑200万metric的上报、归档、存储(周期为1分钟) ) 高效的历史数据query组件 (采用rrdtool的数据归档策略,秒级返回上百个metric一年的历史数据 ) dashboard(面向用户的查询界面,可以看到push到graph中的所有数据,并查看数据发展趋势 ) (对维度的数据展示,用户自定义Screen) 高可用 (整个系统无核心单点,易运维,易部署,可水平扩展) 开发语言 (整个系统的后端,全部golang编写,portal和dashboard使用python编写。 ) 监控范围 Open-Falcon支持系统基础监控,第三方服务监控,JVM监控,业务应用监控 基础监控指的是Linux系统的指标监控,包括CPU、load、内存、磁盘、IO、网络等, 这些指标由Openfalcon的agent节点直接支持,无需插件 第三方服务监控指的是一些常见的服务监控,包括Mysql、Redis、Nginx等 OpenFalcon官网提供了很多第三方服务的监控插件,也可以自己实现插件,定义采集指标。而采集到的指标,也是通过插件先发送给agent,再由agent发送到OpenFalcon。 JVM监控主要通过插件完成,插件通过JVM开放的JMX通信端口,获取到JVM参数指标,并推送到agent节点,再由agent发送到OpenFalcon。 业务应用监控就是监控企业自主开发的应用服务 主要通过插件完成,插件通过JVM开放的JMX通信端口,获取到JVM参数指标,并推送到agent节点,再由agent发送到OpenFalcon。 数据流向 常见的OpenFalcon包含transfer、hbs、agent、judge、graph、API几个进程 以下是各个节点的数据流向图,主数据流向是agent -> transfer -> judge/graph: SNMP 简述 SNMP:简单网络管理协议,是TCP/IP协议簇 的一个应用层协议,由于SNMP的简单性,在Internet时代得到了蓬勃的发展 ,1992年发布了SNMPv2版本,以增强SNMPv1的安全性和功能。现在,已经有了SNMPv3版本(它对网络管理最大的贡献在于其安全性。增加了对认证和密文传输的支持 )。 一套完整的SNMP系统主要包括:管理信息库(MIB)、管理信息结构(SMI)和 SNMP报文协议 为什么要用SNMP 作为运维人员,我们很大一部分的工作就是为了保证我们的网络能够正常、稳定的运行。因此监控,控制,管理各种网络设备成了我们日常的工作 优点和好处 优点: 简单易懂,部署的开销成本也小 ,正因为它足够简单,所以被广泛的接受,事实上它已经成为了主要的网络管理标准。在一个网络设备上实现SNMP的管理比绝大部分其他管理方式都简单直接。 好处: 标准化的协议:SNMP是TCP/IP网络的标准网络管理协议。 广泛认可:所有主流供应商都支持SNMP。 可移植性:SNMP独立于操作系统和编程语言。 轻量级:SNMP增强对设备的管理能力的同时不会对设备的操作方式或性能产生冲击。 可扩展性:在所有SNMP管理的设备上都会支持相同的一套核心操作集。 广泛部署:SNMP是最流行的管理协议,最为受设备供应商关注,被广泛部署在各种各样的设备上。 MIB、SMI和SNMP报文 MIB 管理信息库MIB:任何一个被管理的资源都表示成一个对象,称为被管理的对象。 MIB是被管理对象的集合。 它定义了被管理对象的一系列属性:对象的名称、对象的访问权限和对象的数据类型等。 每个SNMP设备(Agent)都有自己的MIB。 MIB也可以看作是NMS(网管系统)和Agent之间的沟通桥梁。 MIB文件中的变量使用的名字取自ISO和ITU管理的对象表示符命名空间,他是一个分级数的结构 SMI SMI定义了SNNMP框架多用信息的组织、组成和标识,它还未描述MIB对象和表述协议怎么交换信息奠定了基础 SMI定义的数据类型: 简单类型(simple): Integer:整型是-2,147,483,648~2,147,483,647的有符号整数 octet string: 字符串是0~65535个字节的有序序列 OBJECT IDENTIFIER: 来自按照ASN.1规则分配的对象标识符集 简单结构类型(simple-constructed ): SEQUENCE 用于列表。这一数据类型与大多数程序设计语言中的“structure”类似。一个SEQUENCE包括0个或更多元素,每一个元素又是另一个ASN.1数据类型 SEQUENCE OF type 用于表格。这一数据类型与大多数程序设计语言中的“array”类似。一个表格包括0个或更多元素,每一个元素又是另一个ASN.1数据类型。 应用类型(application-wide): IpAddress: 以网络序表示的IP地址。因为它是一个32位的值,所以定义为4个字节; counter:计数器是一个非负的整数,它递增至最大值,而后回零。在SNMPv1中定义的计数器是32位的,即最大值为4,294,967,295; Gauge :也是一个非负整数,它可以递增或递减,但达到最大值时保持在最大值,最大值为232-1; time ticks:是一个时间单位,表示以0.01秒为单位计算的时间; SNMP报文 SNMP规定了5种协议数据单元PDU(也就是SNMP报文),用来在管理进程和代理之间的交换。 get-request操作:从代理进程处提取一个或多个参数值。 get-next-request操作:从代理进程处提取紧跟当前参数值的下一个参数值。 set-request操作:设置代理进程的一个或多个参数值。 get-response操作:返回的一个或多个参数值。这个操作是由代理进程发出的,它是前面三种操作的响应操作。 trap操作:代理进程主动发出的报文,通知管理进程有某些事情发生。 操作命令 SNMP协议之所以易于使用,这是因为它对外提供了三种用于控制MIB对象的基本操作命令。它们是:Get、Set 和 Trap。 Get:管理站读取代理者处对象的值 Set:管理站设置代理者处对象的值 Trap: 代理者主动向管理站通报重要事件 SLA 简述 SLA(服务等级协议):是关于网络服务供应商和客户之间的一份合同,其中定义了服务类型、服务质量和客户付款等术语 一个完整的SLA同时也是一个合法的文档,包括所涉及的当事人、协定条款(包含应用程序和支持的服务)、违约的处罚、费用和仲裁机构、政策、修改条款、报告形式和双方的义务等。同样服务提供商可以对用户在工作负荷和资源使用方面进行规定。 KPI 简述 KPI(关键绩效指标):是通过对组织内部流程的输入端、输出端的关键参数进行设置、取样、计算、分析,衡量流程绩效的一种目标式量化管理指标,是把企业的战略目标分解为可操作的工作目标的工具,是企业绩效管理的基础。 KPI可以是部门主管明确部门的主要责任,并以此为基础,明确部门人员的业绩衡量指标,建立明确的切实可行的KPI体系,是做好绩效管理的关键。 KPI(关键绩效指标)是用于衡量工作人员工作绩效表现的量化指标,是绩效计划的重要组成部分 转载于:https://www.cnblogs.com/woshinideyugegea/p/11242034.html 本篇文章为转载内容。原文链接:https://blog.csdn.net/anqiongsha8211/article/details/101592137。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-03-19 16:00:05
45
转载
转载文章
...向指引,最重要的是让决策者认同商业目标,并能了解到支持商业目标的技术原理,上下目标对齐才好办事。 商业目标确定之后,需要确定容器相关的技术选型,容器是一种轻量化的虚拟化技术,与传统虚拟机比较有优点也有缺点,要找出这些差异点识别出对基础设施与应用的影响,提前识别风险并采取应对措施。 技术选型明确之后,在公司或部门内部推广与评审,让开发人员、架构师、测试人员、运维人员相关人员与团队理解与认同方案,听取他们意见,他们是直接使用容器的客户,不要让他们有抱怨。 最后是落地策略,一般是选取一些辅助业务先试点,在实践过程中不断总结经验。 商业目标 容器技术是以应用为中心的轻量级虚拟化技术,而传统的Xen与KVM是以资源为中心的虚拟化技术,这是两者的本质差异。以应用为中心是容器技术演进的指导原则,正是在这个原则指导下,容器技术相对于传统虚拟化有几个特点:打包既部署、镜像分层、应用资源调度。 打包即部署:打包即部署是指在容器镜像制作过程包含了传统软件包部署的过程(安装依赖的操作系统库或工具、创建用户、创建运行目录、解压、设置文件权限等等),这么做的好处是把应用及其依赖封装到了一个相对封闭的环境,减少了应用对外部环境的依赖,增强了应用在各种不同环境下的行为一致性,同时也减少了应用部署时间。 镜像分层:容器镜像包是分层结构,同一个主机上的镜像层是可以在多个容器之间共享的,这个机制可以极大减少镜像更新时候拉取镜像包的时间,通常应用程序更新升级都只是更新业务层(如Java程序的jar包),而镜像中的操作系统Lib层、运行时(如Jre)层等文件不会频繁更新。因此新版本镜像实质有变化的只有很小的一部分,在更新升级时候也只会从镜像仓库拉取很小的文件,所以速度很快。 应用资源调度:资源(计算/存储/网络)都是以应用为中心的,中心体现在资源分配是按照应用粒度分配资源、资源随应用迁移。 基于上述容器技术特点,可以推导出容器技术的3大使用场景:CI/CD、提升资源利用率、弹性伸缩。这3个使用场景自然推导出通用的商业层面收益:CI/CD提升研发效率、提升资源利用率降低成本、按需弹性伸缩在体验与成本之间达成平衡。 当然,除了商业目标之外,可能还有其他一些考虑因素,如基于容器技术实现计算任务调度平台、保持团队技术先进性等。 CI/CD提升研发效率 为什么容器技术适合CI/CD CI/CD是DevOps的关键组成部分,DevOps是一套软件工程的流程,用于持续提升软件开发效率与软件交付质量。DevOps流程来源于制造业的精益生产理念,在这个领域的领头羊是丰田公司,《丰田套路》这本书总结丰田公司如何通过PDCA(Plan-Do-Check-Act)方法实施持续改进。PDCA通常也称为PDCA循环,PDCA实施过程简要描述为:确定目标状态、分析当前状态、找出与目标状态的差距、制定实施计划、实施并总结、开始下一个PDCA过程。 DevOps基本也是这么一个PDCA流程循环,很容易认知到PDCA过程中效率是关键,同一时间段内,实施更多数量的PDCA过程,收益越高。在软件开发领域的DevOps流程中,各种等待(等待编译、等待打包、等待部署等)、各种中断(部署失败、机器故障)是影响DevOps流程效率的重要因素。 容器技术出来之后,将容器技术应用到DevOps场景下,可以从技术手段消除DevOps流程中的部分等待与中断,从而大幅度提升DevOps流程中CI/CD的效率。 容器的OCI标准定义了容器镜像规范,容器镜像包与传统的压缩包(zip/tgz等)相比有两个关键区别点:1)分层存储;2)打包即部署。 分层存储可以极大减少镜像更新时候拉取镜像包的时间,通常应用程序更新升级都只是更新业务层(如Java程序的jar包),而镜像中的操作系统Lib层、运行时(如Jre)层等文件不会频繁更新。因此新版本镜像实质有变化的只有很小的一部分,在更新升级时候也只会从镜像仓库拉取很小的文件,所以速度很快。 打包即部署是指在容器镜像制作过程包含了传统软件包部署的过程(安装依赖的操作系统库或工具、创建用户、创建运行目录、解压、设置文件权限等等),这么做的好处是把应用及其依赖封装到了一个相对封闭的环境,减少了应用对外部环境的依赖,增强了应用在各种不同环境下的行为一致性,同时也减少了应用部署时间。 基于容器镜像的这些优势,容器镜像用到CI/CD场景下,可以减少CI/CD过程中的等待时间,减少因环境差异而导致的部署中断,从而提升CI/CD的效率,提升整体研发效率。 CI/CD的关键诉求与挑战 快 开发人员本地开发调试完成后,提交代码,执行构建与部署,等待部署完成后验证功能。这个等待的过程尽可能短,否则开发人员工作容易被打断,造成后果就是效率降低。如果提交代码后几秒钟就能够完成部署,那么开发人员几乎不用等待,工作也不会被打断;如果需要好几分钟或十几分钟,那么可以想象,这十几分钟就是浪费了,这时候很容易做点别的事情,那么思路又被打断了。 所以构建CI/CD环境时候,快是第一个需要考虑的因素。要达到快,除了有足够的机器资源免除排队等待,引入并行编译技术也是常用做法,如Maven3支持多核并行构建。 自定义流程 不同行业存在不同的行业规范、监管要求,各个企业有一套内部质量规范,这些要求都对软件交付流程有定制需求,如要求使用商用的代码扫描工具做安全扫描,如构建结果与企业内部通信系统对接发送消息。 在团队协同方面,不同的公司,对DevOps流程在不同团队之间分工有差异,典型的有开发者负责代码编写构建出构建物(如jar包),而部署模板、配置由运维人员负责;有的企业开发人员负责构建并部署到测试环境;有的企业开发人员直接可以部署到生产环境。这些不同的场景,对CI/CD的流程、权限管控都有定制需求。 提升资源利用率 OCI标准包含容器镜像标准与容器运行时标准两部分,容器运行时标准聚焦在定义如何将镜像包从镜像仓库拉取到本地并更新、如何隔离运行时资源这些方面。得益于分层存储与打包即部署的特性,容器镜像从到镜像仓库拉取到本地运行速度非常快(通常小于30秒,依赖镜像本身大小等因素),基于此可以实现按需分配容器运行时资源(cpu与内存),并限定单个容器资源用量;然后根据容器进程资源使用率设定弹性伸缩规则,实现自动的弹性伸缩。 这种方式相对于传统的按峰值配置资源方式,可以提升资源利用率。 按需弹性伸缩在体验与成本之间达成平衡 联动弹性伸缩 应用运行到容器,按需分配资源之后,理想情况下,Kubernetes的池子里没有空闲的资源。这时候扩容应用实例数,新扩容的实例会因资源不足调度失败。这时候需要资源池能自动扩容,加入新的虚拟机,调度新扩容的应用。 由于应用对资源的配比与Flavor有要求,因此新加入的虚拟机,应当是与应用所需要的资源配比与Flavor一致的。缩容也是类似。 弹性伸缩还有一个诉求点是“平滑”,对业务做到不感知,也称为“优雅”扩容/缩容。 请求风暴 上面提到的弹性伸缩一般是有计划或缓慢增压的场景,存在另外一种无法预期的请求风暴场景,这种场景的特征是无法预测、突然请求量增大数倍或数十倍、持续时间短。典型的例子如行情交易系统,当行情突变的时候,用户访问量徒增,持续几十分钟或一个小时。 这种场景的弹性诉求,要求短时间内能将资源池扩大数倍,关键是速度要快(秒级),否则会来不及扩容,系统已经被冲垮(如果无限流的话)。 目前基于 Virtual Kubelet 与云厂家的 Serverless 容器,理论上可以提供应对请求风暴的方案。不过在具体实施时候,需要考虑传统托管式Kubernetes容器管理平台与Serverless容器之间互通的问题,需要基于具体厂家提供的能力来评估。 基于容器技术实现计算调度平台 计算(大数据/AI训练等)场景的特征是短时间内需要大量算力,算完即释放。容器的环境一致性以及调度便利性适合这种场景。 技术选型 容器技术是属于基础设施范围,但是与传统虚拟化技术(Xen/KVM)比较,容器技术是应用虚拟化,不是纯粹的资源虚拟化,与传统虚拟化存在差异。在容器技术选型时候,需要结合当前团队在应用管理与资源管理的现状,对照容器技术与虚拟化技术的差异,选择最合适的容器技术栈。 什么是容器技术 (1)容器是一种轻量化的应用虚拟化技术。 在讨论具体的容器技术栈的时候,先介绍目前几种常用的应用虚拟化技术,当前有3种主流的应用虚拟化技术: LXC,MicroVM,UniKernel(LibOS)。 LXC: Linux Container,通过 Linux的 namespace/cgroups/chroot 等技术隔离进程资源,目前应用最广的docker就是基于LXC实现应用虚拟化的。 MicroVM: MicroVM 介于 传统的VM 与 LXC之间,隔离性比LXC好,但是比传统的VM要轻量,轻量体现在体积小(几M到几十M)、启动快(小于1s)。 AWS Firecracker 就是一种MicroVM的实现,用于AWS的Serverless计算领域,Serverless要求启动快,租户之间隔离性好。 UniKernel: 是一种专用的(特定编程语言技术栈专用)、单地址空间、使用 library OS 构建出来的镜像。UniKernel要解决的问题是减少应用软件的技术栈层次,现代软件层次太多导致越来越臃肿:硬件+HostOS+虚拟化模拟+GuestOS+APP。UniKernel目标是:硬件+HostOS+虚拟化模拟+APP-with-libos。 三种技术对比表: 开销 体积 启动速度 隔离/安全 生态 LXC 低(几乎为0) 小 快(等同进程启动) 差(内核共享) 好 MicroVM 高 大 慢(小于1s) 好 中(Kata项目) UniKernel 中 中 中 好 差 根据上述对比来看,LXC是应用虚拟化首选的技术,如果LXC无法满足隔离性要,则可以考虑MicroVM这种技术。当前社区已经在着手融合LXC与MicroVM这两种技术,从应用打包/发布调度/运行层面统一规范,Kubernetes集成Kata支持混合应用调度特性可以了解一下。 UniKernel 在应用生态方面相对比较落后,目前在追赶中,目前通过 linuxkit 工具可以在UniKernel应用镜像中使用docker镜像。这种方式笔者还未验证过,另外docker镜像运行起来之后,如何监控目前还未知。 从上述三种应用虚拟化技术对比,可以得出结论: (2)容器技术与传统虚拟化技术不断融合中。 再从规范视角来看容器技术,可以将容器技术定义为: (3)容器=OCI+CRI+辅助工具。 OCI规范包含两部分,镜像规范与运行时规范。简要的说,要实现一个OCI的规范,需要能够下载镜像并解压镜像到文件系统上组成成一个文件目录结构,运行时工具能够理解这个目录结构并基于此目录结构管理(创建/启动/停止/删除)进程。 容器(container)的技术构成就是实现OCI规范的技术集合。 对于不同的操作系统(Linux/Windows),OCI规范的实现技术不同,当前docker的实现,支持Windows与Linux与MacOS操作系统。当前使用最广的是Linux系统,OCI的实现,在Linux上组成容器的主要技术: chroot: 通过分层文件系统堆叠出容器进程的rootfs,然后通过chroot设置容器进程的根文件系统为堆叠出的rootfs。 cgroups: 通过cgroups技术隔离容器进程的cpu/内存资源。 namesapce: 通过pid, uts, mount, network, user namesapce 分别隔离容器进程的进程ID,时间,文件系统挂载,网络,用户资源。 网络虚拟化: 容器进程被放置到独立的网络命名空间,通过Linux网络虚拟化veth, macvlan, bridge等技术连接主机网络与容器虚拟网络。 存储驱动: 本地文件系统,使用容器镜像分层文件堆叠的各种实现驱动,当前推荐的是overlay2。 广义的容器还包含容器编排,即当下很火热的Kubernetes。Kubernetes为了把控容器调度的生态,发布了CRI规范,通过CRI规范解耦Kubelet与容器,只要实现了CRI接口,都可以与Kubelet交互,从而被Kubernetes调度。OCI规范的容器实现与CRI标准接口对接的实现是CRI-O。 辅助工具用户构建镜像,验证镜像签名,管理存储卷等。 容器定义 容器是一种轻量化的应用虚拟化技术。 容器=OCI+CRI+辅助工具。 容器技术与传统虚拟化技术不断融合中。 什么是容器编排与调度 选择了应用虚拟化技术之后,还需要应用调度编排,当前Kubernetes是容器领域内编排的事实标准,不管使用何种应用虚拟化技术,都已经纳入到了Kubernetes治理框架中。 Kubernetes 通过 CRI 接口规范,将应用编排与应用虚拟化实现解耦:不管使用何种应用虚拟化技术(LXC, MicroVM, LibOS),都能够通过Kubernetes统一编排。 当前使用最多的是docker,其次是cri-o。docker与crio结合kata-runtime都能够支持多种应用虚拟化技术混合编排的场景,如LXC与MicroVM混合编排。 docker(now): Moby 公司贡献的 docker 相关部件,当前主流使用的模式。 docker(daemon) 提供对外访问的API与CLI(docker client) containerd 提供与 kubelet 对接的 CRI 接口实现 shim负责将Pod桥接到Host namespace。 cri-o: 由 RedHat/Intel/SUSE/IBM/Hyper 公司贡献的实现了CRI接口的符合OCI规范的运行时,当前包括 runc 与 kata-runtime ,也就是说使用 cir-o 可以同时运行LXC容器与MicroVM容器,具体在Kata介绍中有详细说明。 CRI-O: 实现了CRI接口的进程,与 kubelet 交互 crictl: 类似 docker 的命令行工具 conmon: Pod监控进程 other cri runtimes: 其他的一些cri实现,目前没有大规模应用到生产环境。 容器与传统虚拟化差异 容器(container)的技术构成 前面主要讲到的是容器与编排,包括CRI接口的各种实现,我们把容器领域的规范归纳为南向与北向两部分,CRI属于北向接口规范,对接编排系统,OCI就属于南向接口规范,实现应用虚拟化。 简单来讲,可以这么定义容器: 容器(container) ~= 应用打包(build) + 应用分发(ship) + 应用运行/资源隔离(run)。 build-ship-run 的内容都被定义到了OCI规范中,因此也可以这么定义容器: 容器(container) == OCI规范 OCI规范包含两部分,镜像规范与运行时规范。简要的说,要实现一个OCI的规范,需要能够下载镜像并解压镜像到文件系统上组成成一个文件目录结构,运行时工具能够理解这个目录结构并基于此目录结构管理(创建/启动/停止/删除)进程。 容器(container)的技术构成就是实现OCI规范的技术集合。 对于不同的操作系统(Linux/Windows),OCI规范的实现技术不同,当前docker的实现,支持Windows与Linux与MacOS操作系统。当前使用最广的是Linux系统,OCI的实现,在Linux上组成容器的主要技术: chroot: 通过分层文件系统堆叠出容器进程的rootfs,然后通过chroot设置容器进程的根文件系统为堆叠出的rootfs。 cgroups: 通过cgroups技术隔离容器进程的cpu/内存资源。 namesapce: 通过pid, uts, mount, network, user namesapce 分别隔离容器进程的进程ID,时间,文件系统挂载,网络,用户资源。 网络虚拟化: 容器进程被放置到独立的网络命名空间,通过Linux网络虚拟化veth, macvlan, bridge等技术连接主机网络与容器虚拟网络。 存储驱动: 本地文件系统,使用容器镜像分层文件堆叠的各种实现驱动,当前推荐的是overlay2。 广义的容器还包含容器编排,即当下很火热的Kubernetes。Kubernetes为了把控容器调度的生态,发布了CRI规范,通过CRI规范解耦Kubelet与容器,只要实现了CRI接口,都可以与Kubelet交互,从而被Kubernetes调度。OCI规范的容器实现与CRI标准接口对接的实现是CRI-O。 容器与虚拟机差异对比 容器与虚拟机的差异可以总结为2点:应用打包与分发的差异,应用资源隔离的差异。当然,导致这两点差异的根基是容器是以应用为中心来设计的,而虚拟化是以资源为中心来设计的,本文对比容器与虚拟机的差异,更多的是站在应用视角来对比。 从3个方面对比差异:资源隔离,应用打包与分发,延伸的日志/监控/DFX差异。 1.资源隔离 隔离机制差异 容器 虚拟化 mem/cpu cgroup, 使用时候设定 require 与 limit 值 QEMU, KVM network Linux网络虚拟化技术(veth,tap,bridge,macvlan,ipvlan), 跨虚拟机或出公网访问:SNAT/DNAT, service转发:iptables/ipvs, SR-IOV Linux网络虚拟化技术(veth,tap,bridge,macvlan,ipvlan), QEMU, SR-IOV storage 本地存储: 容器存储驱动 本地存储:virtio-blk 差异引入问题与实践建议 应用程序未适配 cgroup 的内存隔离导致问题: 典型的是 JVM 虚拟机,在 JVM 启动时候会根据系统内存自动设置 MaxHeapSize 值,通常是系统内存的1/4,但是 JVM 并未考虑 cgroup 场景,读系统内存时候任然读取主机的内存来设置 MaxHeapSize,这样会导致内存超过 cgroup 限制从而导致进程被 kill 。问题详细阐述与解决建议参考Java inside docker: What you must know to not FAIL。 多次网络虚拟化问题: 如果在虚拟机内使用容器,会多一层网络虚拟化,并加入了SNAT/DNAT技术, iptables/ipvs技术,对网络吞吐量与时延都有影响(具体依赖容器网络方案),对问题定位复杂度变高,同时还需要注意网络内核参数调优。 典型的网络调优参数有:转发表大小 /proc/sys/net/netfilter/nf_conntrack_max 使用iptables 作为service转发实现的时候,在转发规则较多的时候,iptables更新由于需要全量更新导致非常耗时,建议使用ipvs。详细参考[华为云在 K8S 大规模场景下的 Service 性能优化实践](https://zhuanlan.zhihu.com/p/37230013)。 容器IP地址频繁变化不固定,周边系统需要协调适配,包括基于IP地址的白名单或防火墙控制策略需要调整,CMDB记录的应用IP地址需要适配动态IP或者使用服务名替代IP地址。 存储驱动带来的性能损耗: 容器本地文件系统是通过联合文件系统方式堆叠出来的,当前主推与默认提供的是overlay2驱动,这种模式应用写本地文件系统文件或修改已有文件,使用Copy-On-Write方式,也就是会先拷贝源文件到可写层然后修改,如果这种操作非常频繁,建议使用 volume 方式。 2.应用打包与分发 应用打包/分发/调度差异 容器 虚拟化 打包 打包既部署 一般不会把应用程序与虚拟机打包在一起,通过部署系统部署应用 分发 使用镜像仓库存储与分发 使用文件存储 调度运行 使用K8S亲和/反亲和调度策略 使用部署系统的调度能力 差异引入问题与实践建议 部署提前到构建阶段,应用需要支持动态配置与静态程序分离;如果在传统部署脚本中依赖外部动态配置,这部分需要做一些调整。 打包格式发生变化,制作容器镜像需要注意安全/效率因素,可参考Dockerfile最佳实践 容器镜像存储与分发是按layer来组织的,镜像在传输过程中放篡改的方式是传统软件包有差异。 3.监控/日志/DFX 差异 容器 虚拟化 监控 cpu/mem的资源上限是cgroup定义的;containerd/shim/docker-daemon等进程的监控 传统进程监控 日志采集 stdout/stderr日志采集方式变化;日志持久化需要挂载到volume;进程会被随机调度到其他节点导致日志需要实时采集否则分散很难定位 传统日志采集 问题定位 进程down之后自动拉起会导致问题定位现场丢失;无法停止进程来定位问题因为停止即删除实例 传统问题定位手段 差异引入问题实践与建议 使用成熟的监控工具,运行在docker中的应用使用cadvisor+prometheus实现采集与警报,cadvisor中预置了常用的监控指标项 对于docker管理进程(containerd/shim/docker-daemon)也需要一并监控 使用成熟的日志采集工具,如果已有日志采集Agent,则可以考虑将日志文件挂载到volume后由Agent采集;需要注意的是stderr/stdout输出也要一并采集 如果希望容器内应用进程退出后保留现场定位问题,则可以将Pod的restartPolicy设置为never,进程退出后进程文件都还保留着(/var/lib/docker/containers)。但是这么做的话需要进程没有及时恢复,会影响业务,需要自己实现进程重拉起。 团队配合 与周边的开发团队、架构团队、测试团队、运维团队评审并交流方案,与周边团队达成一致。 落地策略与注意事项 逐步演进过程中网络互通 根据当前已经存在的基础实施情况,选择容器化落地策略。通常使用逐步演进的方式,由于容器化引入了独立的网络namespace导致容器与传统虚拟机进程网络隔离,逐步演进过程中如何打通隔离的网络是最大的挑战。 分两种场景讨论: 不同服务集群之间使用VIP模式互通: 这种模式相对简单,基于VIP做灰度发布。 不同服务集群之间使用微服务点对点模式互通(SpringCloud/ServiceComb/Dubbo都是这一类): 这种模式相对复杂,在逐步容器化过程中,要求容器网络与传统虚拟机网络能够互通(难点是在虚拟机进程内能够直接访问到容器网络的IP地址),当前解决这个问题有几种方法。 自建Kubernetes场景,可使用开源的kube-router,kube-router 使用BGP协议实现容器网络与传统虚拟机网络之间互通,要求网络交换机支持BGP协议。 使用云厂商托管Kubernetes场景,选择云厂商提供的VPC-Router互通的网络插件,如阿里云的Terway网络插件, 华为云的Underlay网络模式。 选择物理机还是虚拟机 选择物理机运行容器还是虚拟机运行容器,需要结合基础设施与业务隔离性要求综合考虑。分两种场景:自建IDC、租用公有云。 自建IDC: 理想情况是使用物理机组成一个大集群,根据业务诉求,对资源保障与安全性要求高的应用,使用MicorVM方式隔离;普通应用使用LXC方式隔离。所有物理机在一个大集群内,方便削峰填谷提升资源利用率。 租用公有云:当前公有云厂家提供的裸金属服务价格较贵且只能包周期,使用裸金属性价比并不高,使用虚拟机更合适。 集群规模与划分 选择集群时候,是多个应用共用一个大集群,还是按应用分组分成多个小集群呢?我们把节点规模数量>=1000的定义为大集群,节点数<1000的定义为小集群。 大集群的优点是资源池共享容器,方便资源调度(削峰填谷);缺点是随着节点数量与负载数量的增多,会引入管理性能问题(需要量化): DNS 解析表变大,增加/删除 Service 或 增加/删除 Endpoint 导致DNS表刷新慢 K8S Service 转发表变大,导致工作负载增加/删除刷新iptables/ipvs记录变慢 etcd 存储空间变大,如果加上ConfigMap,可能导致 etcd 访问时延增加 小集群的优点是不会有管理性能问题,缺点是会导致资源碎片化,不容易共享。共享分两种情况: 应用之间削峰填谷:目前无法实现 计算任务与应用之间削峰填谷:由于计算任务是短时任务,可以通过上层的任务调度软件,在多个集群之间分发计算任务,从而达到集群之间资源共享的目的。 选择集群规模的时候,可以参考上述分析,结合实际情况选择适合的集群划分。 Helm? Helm是为了解决K8S管理对象散碎的问题,在K8S中并没有"应用"的概念,只有一个个散的对象(Deployment, ConfigMap, Service, etc),而一个"应用"是多个对象组合起来的,且这些对象之间还可能存在一定的版本配套关系。 Helm 通过将K8S多个对象打包为一个包并标注版本号形成一个"应用",通过 Helm 管理进程部署/升级这个"应用"。这种方式解决了一些问题(应用分发更方便)同时也引入了一些问题(引入Helm增加应用发布/管理复杂度、在K8S修改了对象后如何同步到Helm)。对于是否需要使用Helm,建议如下: 在自运维模式下不使用Helm: 自运维模式下,很多场景是开发团队交付一个运行包,运维团队负责部署与配置下发,内部通过兼容性或软件包与配置版本配套清单、管理软件包与配置的配套关系。 在交付软件包模式下使用Helm: 交付软件包模式下,Helm 这种把散碎组件组装为一个应用的模式比较适合,使用Helm实现软件包分发/部署/升级场比较简单。 Reference DOCKER vs LXC vs VIRTUAL MACHINES Cgroup与LXC简介 Introducing Container Runtime Interface (CRI) in Kubernetes frakti rkt appc-spec OCI 和 runc:容器标准化和 docker Linux 容器技术史话:从 chroot 到未来 Linux Namespace和Cgroup Java inside docker: What you must know to not FAIL QEMU,KVM及QEMU-KVM介绍 kvm libvirt qemu实践系列(一)-kvm介绍 KVM 介绍(4):I/O 设备直接分配和 SR-IOV [KVM PCI/PCIe Pass-Through SR-IOV] prometheus-book 到底什么是Unikernel? The Rise and Fall of the Operating System The Design and Implementation of the Anykernel and Rump Kernels UniKernel Unikernel:从不入门到入门 OSv 京东如何打造K8s全球最大集群支撑万亿电商交易 Cloud Native App Hub 更多云最佳实践 https://best.practices.cloud 本篇文章为转载内容。原文链接:https://blog.csdn.net/sinat_33155975/article/details/118013855。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-09-17 15:03:28
225
转载
建站模板下载
...浏览。基于前端CMS架构,它支持二次开发,配备前端后台管理系统,方便企业进行内容管理与更新。模板遵循SEO优化原则,有利于搜索引擎收录和提升网站排名,助力五金类企业构建专业、易用且利于推广的线上产品展示平台。同时兼容Dedecms系统,实现快速部署与便捷运维。 点我下载 文件大小:12.84 MB 您将下载一个资源包,该资源包内部文件的目录结构如下: 本网站提供模板下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2023-03-21 20:59:06
49
本站
建站模板下载
...EDECMS和前端框架构建,支持二次开发,方便定制扩展功能。其代码结构遵循SEO优化原则,包含手工DIV+CSS布局,有效提升搜索引擎排名表现。该模板以精美图文展示园林景观与苗木产品信息,是打造专业、高颜值企业官网的理想选择。 点我下载 文件大小:16.86 MB 您将下载一个资源包,该资源包内部文件的目录结构如下: 本网站提供模板下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2023-03-22 21:40:51
359
本站
CSS
...ponents的广泛应用,对CSS样式选择器优先级的理解和运用变得更为关键。在最新的Web开发趋势中,开发者能够通过Houdini API自定义CSS属性和布局模型,这无疑增加了样式复杂性和可能的冲突场景,理解并合理设置选择器优先级成为优化性能、保证页面渲染一致性的基石。 另外,现代CSS框架如Tailwind CSS提倡使用实用类名而非ID或过于具体的元素选择器,这样的设计原则有助于降低样式的优先级复杂度,提高代码可维护性,同时也符合“原子化CSS”设计理念。然而,在处理特定场景时,如何结合!important声明、层级关系以及CSS定制特性以达到预期效果,仍需开发者深入理解和灵活应用CSS样式选择器优先级规则。 值得注意的是,W3C在不断更新和完善CSS规范的过程中,也在探讨关于样式优先级的进一步优化方案。例如,在草案阶段的CSS Cascading and Inheritance Level 4(CSS层叠和继承第4级)中,提出了新的计算方式和覆盖规则,旨在为更复杂的组件化、模块化前端架构提供更精细的样式控制能力。因此,持续关注CSS标准的发展动态,将有助于我们与时俱进地掌握和利用样式优先级这一核心概念,实现高效且优雅的网页样式设计。
2023-11-06 08:37:41
535
键盘勇士
站内搜索
用于搜索本网站内部文章,支持栏目切换。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
xargs -I{} command {}
- 将标准输入传递给命令进行批量处理。
推荐内容
推荐本栏目内的其它文章,看看还有哪些文章让你感兴趣。
2023-04-28
2023-08-09
2023-06-18
2023-04-14
2023-02-18
2023-04-17
2024-01-11
2023-10-03
2023-09-09
2023-06-13
2023-08-07
2023-03-11
历史内容
快速导航到对应月份的历史文章列表。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"