前端技术
HTML
CSS
Javascript
前端框架和UI库
VUE
ReactJS
AngularJS
JQuery
NodeJS
JSON
Element-UI
Bootstrap
Material UI
服务端和客户端
Java
Python
PHP
Golang
Scala
Kotlin
Groovy
Ruby
Lua
.net
c#
c++
后端WEB和工程框架
SpringBoot
SpringCloud
Struts2
MyBatis
Hibernate
Tornado
Beego
Go-Spring
Go Gin
Go Iris
Dubbo
HessianRPC
Maven
Gradle
数据库
MySQL
Oracle
Mongo
中间件与web容器
Redis
MemCache
Etcd
Cassandra
Kafka
RabbitMQ
RocketMQ
ActiveMQ
Nacos
Consul
Tomcat
Nginx
Netty
大数据技术
Hive
Impala
ClickHouse
DorisDB
Greenplum
PostgreSQL
HBase
Kylin
Hadoop
Apache Pig
ZooKeeper
SeaTunnel
Sqoop
Datax
Flink
Spark
Mahout
数据搜索与日志
ElasticSearch
Apache Lucene
Apache Solr
Kibana
Logstash
数据可视化与OLAP
Apache Atlas
Superset
Saiku
Tesseract
系统与容器
Linux
Shell
Docker
Kubernetes
[Docker镜像构建流程详解]的搜索结果
这里是文章列表。热门标签的颜色随机变换,标签颜色没有特殊含义。
点击某个标签可搜索标签相关的文章。
点击某个标签可搜索标签相关的文章。
Docker
Docker 打JAR包(Docker 运行JAR包) 一、引言 随着云计算的飞速发展,容器技术逐渐成为了开发者的新宠儿。而在这众多的容器技术中,Docker无疑是最受关注的一款。这个小东西提供了一个超级轻便的隔离空间,让咱们开发、测试、部署这些环节变得轻轻松松,效率嗖嗖地提升。就像在自家后院种菜一样简单快捷,不用再为复杂的环境困扰啦! 在本文中,我们将重点介绍如何使用Docker来打包并运行Java应用的JAR包。 二、Docker 的基本概念 首先,我们需要了解一些基础的概念。 2.1 Docker镜像 Docker镜像是一个只读的数据层,包含了一切在构建容器时需要的东西,如操作系统、库文件、配置文件等。 2.2 Docker容器 Docker容器是镜像的一个实例,它可以从镜像创建出来,并且可以在宿主机上运行。 2.3 Dockerfile Dockerfile是一个文本文件,用于定义镜像的构建步骤。它可以被用来自动构建一个新的镜像。 三、Dockerfile 实践 下面,我们通过一个简单的示例来展示如何编写和使用Dockerfile来构建一个基于Alpine Linux的Java应用的Docker镜像。 Dockerfile 使用官方的Alpine Java镜像作为父镜像 FROM openjdk:8-jdk-alpine 将当前目录下的文件复制到容器的 /app 目录下 COPY . /app 定义环境变量 ENV JAVA_APP_JAR app.jar 指定容器启动时执行的命令 CMD ["java","-jar", "$JAVA_APP_JAR"] 上述Dockerfile中的COPY . /app命令将当前目录下的所有文件复制到容器的/app目录下。在设置环境变量时,我们敲下ENV JAVA_APP_JAR app.jar这个命令,这就意味着我们创建了一个名为JAVA_APP_JAR的小家伙,并给它赋予了app.jar这个值。就像是给一个储物箱贴上了标签,上面写着'JAVA_APP_JAR',而储物箱里装的就是'app.jar'这个宝贝。最后,你瞧,“CMD ["java","-jar", "$JAVA_APP_JAR"]”这串代码是给容器启动时定下的行动指南,简单来说,就是告诉容器:“嘿,启动的时候记得运行咱们的‘app.jar’这个小家伙!” 四、Docker Compose 使用 有了Dockerfile后,我们就可以通过Docker Compose来构建、运行我们的Java应用了。 以下是一个简单的Docker Compose文件的例子: yaml version: '3' services: web: build: . ports: - "8080:8080" 上述Docker Compose文件定义了一个名为web的服务,该服务从本地的.目录构建镜像,并将宿主机的8080端口映射到容器的8080端口。 五、结论 总的来说,使用Docker来打包并运行Java应用的JAR包,不仅可以大大简化开发流程,还可以提高应用的可移植性和可靠性。嘿,你知道吗?Docker Compose的横空出世,那可真是让咱部署应用变得超级省事儿,前所未有的便捷快速啊!就像搭积木一样简单,嗖嗖几下就搞定了。 在未来,我相信Docker将会继续发挥着它的重要作用,推动着容器技术的发展,为我们的开发工作带来更多的便利和可能。
2023-05-01 20:23:48
246
桃李春风一杯酒-t
Gradle
...作为一款强大的自动化构建工具,其重要性和影响力与日俱增。近期,Gradle官方团队发布了最新的7.4版本(根据实际发布时间调整),进一步优化了依赖管理性能,并强化了对Maven中央仓库及其他第三方仓库的支持,使得开发者能够更加便捷高效地处理项目依赖关系。 与此同时,随着云原生和Kubernetes等现代技术架构的发展,Gradle也积极适应潮流,开始支持容器化构建和部署,例如通过集成Jib插件,可以一步到位地将Java应用构建为Docker镜像并推送到仓库。这一特性极大地简化了DevOps流程,提升了开发效率。 此外,社区对于Gradle的应用研究也在不断深入,很多大型开源项目如Spring Boot、Android Studio等均采用Gradle作为默认构建工具。为了更好地帮助开发者理解和掌握Gradle,一些知名的技术博客和教育平台纷纷推出了Gradle实战教程及深度解读文章,从原理到实践,全方位解析Gradle在复杂项目构建中的应用策略与最佳实践。 总结来说,Gradle正以其与时俱进的创新特性和日益完善的生态系统,在软件开发生态中占据着举足轻重的地位,值得广大开发者密切关注和深入学习。
2024-01-13 12:54:38
481
梦幻星空_t
转载文章
...ring Boot和Docker等技术的普及,开发者在处理项目部署时有了更为便捷高效的解决方案。 例如,Spring Boot通过内嵌的Tomcat服务器简化了Java Web应用的部署流程,只需构建一个可执行的JAR或WAR文件,便能在任何支持Java环境的地方启动项目,无需繁琐的服务器配置。对于版本适配问题,Spring Boot会自动管理依赖库的版本,确保项目的稳定运行。 同时,容器化技术如Docker为软件部署提供了标准化、轻量级的方式。通过编写Dockerfile定义应用环境,开发者可以快速创建包含应用程序及其所有依赖项的镜像,并在任何安装有Docker的环境中一键部署,极大提升了部署的一致性和可移植性。 另外,云原生技术的发展也改变了传统的服务器管理模式,Kubernetes作为容器编排工具,能够实现自动化部署、扩展和管理容器化应用,有效解决了多实例、动态扩容等问题,使得项目管理和运维更加灵活高效。 总之,在Eclipse等IDE之外,掌握现代化的项目部署与服务器管理技术将有助于开发者应对更多实际场景中的挑战,提升开发效率及系统的稳定性。因此,深入学习Spring Boot、Docker以及Kubernetes等相关知识,是每一位Web开发者持续进阶的必修课。
2024-02-23 12:52:12
489
转载
转载文章
...能够帮助读者深入理解Docker的命令,还有容器(container)和镜像(image)之间的区别,并深入探讨容器和运行中的容器之间的区别。 当我对Docker技术还是一知半解的时候,我发现理解Docker的命令非常困难。于是,我花了几周的时间来学习Docker的工作原理,更确 切地说,是关于Docker统一文件系统(the union file system)的知识,然后回过头来再看Docker的命令,一切变得顺理成章,简单极了。 题外话:就我个人而言,掌握一门技术并合理使用它的最好办法就是深入理解这项技术背后的工作原理。通常情况 下,一项新技术的诞生常常会伴随着媒体的大肆宣传和炒作,这使得用户很难看清技术的本质。更确切地说,新技术总是会发明一些新的术语或者隐喻词来帮助宣 传,这在初期是非常有帮助的,但是这给技术的原理蒙上了一层砂纸,不利于用户在后期掌握技术的真谛。 Git就是一个很好的例子。我之前不能够很好的使用Git,于是我花了一段时间去学习Git的原理,直到这时,我才真正明白了Git的用法。我坚信只有真正理解Git内部原理的人才能够掌握这个工具。 Image Definition 镜像(Image)就是一堆只读层(read-only layer)的统一视角,也许这个定义有些难以理解,下面的这张图能够帮助读者理解镜像的定义。 从左边我们看到了多个只读层,它们重叠在一起。除了最下面一层,其它层都会有一个指针指向下一层。这些层是Docker内部的实现细节,并且能够 在主机(译者注:运行Docker的机器)的文件系统上访问到。统一文件系统(union file system)技术能够将不同的层整合成一个文件系统,为这些层提供了一个统一的视角,这样就隐藏了多层的存在,在用户的角度看来,只存在一个文件系统。 我们可以在图片的右边看到这个视角的形式。 你可以在你的主机文件系统上找到有关这些层的文件。需要注意的是,在一个运行中的容器内部,这些层是不可见的。在我的主机上,我发现它们存在于/var/lib/docker/aufs目录下。 sudo tree -L 1 /var/lib/docker/ /var/lib/docker/├── aufs├── containers├── graph├── init├── linkgraph.db├── repositories-aufs├── tmp├── trust└── volumes7 directories, 2 files Container Definition 容器(container)的定义和镜像(image)几乎一模一样,也是一堆层的统一视角,唯一区别在于容器的最上面那一层是可读可写的。 细心的读者可能会发现,容器的定义并没有提及容器是否在运行,没错,这是故意的。正是这个发现帮助我理解了很多困惑。 要点:容器 = 镜像 + 可读层。并且容器的定义并没有提及是否要运行容器。 接下来,我们将会讨论运行态容器。 Running Container Definition 一个运行态容器(running container)被定义为一个可读写的统一文件系统加上隔离的进程空间和包含其中的进程。下面这张图片展示了一个运行中的容器。 正是文件系统隔离技术使得Docker成为了一个前途无量的技术。一个容器中的进程可能会对文件进行修改、删除、创建,这些改变都将作用于可读写层(read-write layer)。下面这张图展示了这个行为。 我们可以通过运行以下命令来验证我们上面所说的: docker run ubuntu touch happiness.txt 即便是这个ubuntu容器不再运行,我们依旧能够在主机的文件系统上找到这个新文件。 find / -name happiness.txt /var/lib/docker/aufs/diff/860a7b...889/happiness.txt Image Layer Definition 为了将零星的数据整合起来,我们提出了镜像层(image layer)这个概念。下面的这张图描述了一个镜像层,通过图片我们能够发现一个层并不仅仅包含文件系统的改变,它还能包含了其他重要信息。 元数据(metadata)就是关于这个层的额外信息,它不仅能够让Docker获取运行和构建时的信息,还包括父层的层次信息。需要注意,只读层和读写层都包含元数据。 除此之外,每一层都包括了一个指向父层的指针。如果一个层没有这个指针,说明它处于最底层。 Metadata Location: 我发现在我自己的主机上,镜像层(image layer)的元数据被保存在名为”json”的文件中,比如说: /var/lib/docker/graph/e809f156dc985.../json e809f156dc985...就是这层的id 一个容器的元数据好像是被分成了很多文件,但或多或少能够在/var/lib/docker/containers/<id>目录下找到,<id>就是一个可读层的id。这个目录下的文件大多是运行时的数据,比如说网络,日志等等。 全局理解(Tying It All Together) 现在,让我们结合上面提到的实现细节来理解Docker的命令。 docker create <image-id> docker create 命令为指定的镜像(image)添加了一个可读写层,构成了一个新的容器。注意,这个容器并没有运行。 docker start <container-id> Docker start命令为容器文件系统创建了一个进程隔离空间。注意,每一个容器只能够有一个进程隔离空间。 docker run <image-id> 看到这个命令,读者通常会有一个疑问:docker start 和 docker run命令有什么区别。 从图片可以看出,docker run 命令先是利用镜像创建了一个容器,然后运行这个容器。这个命令非常的方便,并且隐藏了两个命令的细节,但从另一方面来看,这容易让用户产生误解。 题外话:继续我们之前有关于Git的话题,我认为docker run命令类似于git pull命令。git pull命令就是git fetch 和 git merge两个命令的组合,同样的,docker run就是docker create和docker start两个命令的组合。 docker ps docker ps 命令会列出所有运行中的容器。这隐藏了非运行态容器的存在,如果想要找出这些容器,我们需要使用下面这个命令。 docker ps –a docker ps –a命令会列出所有的容器,不管是运行的,还是停止的。 docker images docker images命令会列出了所有顶层(top-level)镜像。实际上,在这里我们没有办法区分一个镜像和一个只读层,所以我们提出了top-level 镜像。只有创建容器时使用的镜像或者是直接pull下来的镜像能被称为顶层(top-level)镜像,并且每一个顶层镜像下面都隐藏了多个镜像层。 docker images –a docker images –a命令列出了所有的镜像,也可以说是列出了所有的可读层。如果你想要查看某一个image-id下的所有层,可以使用docker history来查看。 docker stop <container-id> docker stop命令会向运行中的容器发送一个SIGTERM的信号,然后停止所有的进程。 docker kill <container-id> docker kill 命令向所有运行在容器中的进程发送了一个不友好的SIGKILL信号。 docker pause <container-id> docker stop和docker kill命令会发送UNIX的信号给运行中的进程,docker pause命令则不一样,它利用了cgroups的特性将运行中的进程空间暂停。具体的内部原理你可以在这里找到:https://www.kernel.org/doc/Doc ... m.txt,但是这种方式的不足之处在于发送一个SIGTSTP信号对于进程来说不够简单易懂,以至于不能够让所有进程暂停。 docker rm <container-id> docker rm命令会移除构成容器的可读写层。注意,这个命令只能对非运行态容器执行。 docker rmi <image-id> docker rmi 命令会移除构成镜像的一个只读层。你只能够使用docker rmi来移除最顶层(top level layer)(也可以说是镜像),你也可以使用-f参数来强制删除中间的只读层。 docker commit <container-id> docker commit命令将容器的可读写层转换为一个只读层,这样就把一个容器转换成了不可变的镜像。 docker build docker build命令非常有趣,它会反复的执行多个命令。 我们从上图可以看到,build命令根据Dockerfile文件中的FROM指令获取到镜像,然后重复地1)run(create和start)、2)修改、3)commit。在循环中的每一步都会生成一个新的层,因此许多新的层会被创建。 docker exec <running-container-id> docker exec 命令会在运行中的容器执行一个新进程。 docker inspect <container-id> or <image-id> docker inspect命令会提取出容器或者镜像最顶层的元数据。 docker save <image-id> docker save命令会创建一个镜像的压缩文件,这个文件能够在另外一个主机的Docker上使用。和export命令不同,这个命令为每一个层都保存了它们的元数据。这个命令只能对镜像生效。 docker export <container-id> docker export命令创建一个tar文件,并且移除了元数据和不必要的层,将多个层整合成了一个层,只保存了当前统一视角看到的内容(译者注:expoxt后 的容器再import到Docker中,通过docker images –tree命令只能看到一个镜像;而save后的镜像则不同,它能够看到这个镜像的历史镜像)。 docker history <image-id> docker history命令递归地输出指定镜像的历史镜像。 参考: http://www.cnblogs.com/bethal/p/5942369.html 本篇文章为转载内容。原文链接:https://blog.csdn.net/u010098331/article/details/53485539。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-11-26 15:47:20
538
转载
Docker
Docker , Docker是一种开源的应用容器引擎,它通过将应用程序及其依赖项打包在轻量级可执行容器中,实现应用的便捷部署、运行和迁移。在本文上下文中,Docker被用于为团队搭建统一且易于管理的开发环境,以及部署和运行应用程序。通过创建Docker镜像和容器,团队成员可以快速复现一致的开发环境,并简化部署流程,从而提高协作效率和软件交付质量。 Dockerfile , Dockerfile是一个文本文件,包含了一系列用于构建Docker镜像的指令集合。在文章的具体示例中,Dockerfile定义了基于Node.js 14-alpine镜像的基础环境,设置了工作目录,复制并安装项目所需的package.json文件及依赖,然后将项目源代码复制到镜像中,并暴露3000端口以供服务访问,最后指定启动命令为npm start。通过执行docker build命令,Docker会根据Dockerfile中的指令逐行构建出一个定制化的Docker镜像。 Docker Compose , Docker Compose是Docker提供的一款工具,用于对多个Docker容器进行定义和编排,实现容器化应用的生命周期管理。在团队协作场景下,Docker Compose通过配置文件(如docker-compose.yml)来描述多容器应用程序的服务、网络和数据卷等组件间的依赖关系。用户只需通过一条简单的docker-compose up命令,即可一次性启动、停止或重启所有相关的服务容器,极大地简化了复杂微服务架构下的环境搭建和维护工作,增强了团队开发与协作的便利性。
2023-08-21 13:49:56
559
编程狂人
Docker
Docker , Docker是一种开源的应用容器引擎,它通过将应用程序及其依赖打包到可移植的容器中,实现了软件的标准化部署和运行。在本文语境下,用户使用Docker来拉取、管理和运行官方提供的镜像,但在国内网络环境下遇到了访问不稳定的问题。 镜像(Image) , 在Docker环境下,镜像是一个轻量级、可执行的独立软件包,包含运行某个软件所需的所有内容,包括代码、运行时环境、系统工具库等。当用户执行docker pull命令拉取镜像时,实际上是下载这个包含了应用运行环境及应用本身的文件集合。 国内镜像源 , 由于网络原因,直接从国外的Docker Hub获取镜像可能会遇到速度慢或无法连接的问题。国内镜像源是针对这一问题提供的一种解决方案,它通常是托管在国内服务器上的Docker Registry服务,用于同步或缓存Docker Hub上的官方镜像。用户通过配置Docker以使用这些国内镜像源,可以提高镜像拉取的速度和稳定性。 daemon.json , 在Docker中,daemon.json是一个重要的配置文件,用于存储Docker守护进程的全局配置选项。当需要更改Docker的默认行为,如添加镜像加速器(registry mirror)、设置日志级别等时,就需要编辑这个文件。在本文中,作者通过修改daemon.json文件中的\ registry-mirrors\ 字段,指定使用国内的镜像源。 systemctl , systemctl是Systemd系统和服务管理器的一部分,用于管理系统级别的服务,例如启动、停止、重启服务以及查看服务状态等。在本文中,作者使用systemctl命令来重新加载Docker服务的配置并重启Docker服务,以便新的镜像源配置生效。
2024-03-06 16:10:51
401
程序媛
Docker
...想告诉你一个好消息:Docker可以解决这些问题。 Docker是一个开源的应用容器引擎,它允许开发者打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux机器上,也可以实现虚拟化。让我们一起开始学习如何安装和使用Docker吧! 二、Docker的基本概念 在我们深入学习Docker之前,我们需要先理解一些基本的概念。首先,Docker镜像可不得了,它超级轻巧、灵活便携,而且是个全能自给自足的小型运行环境容器。这些镜像,你可以随意选择从仓库直接下载,或者更 DIY 一点,通过 Dockerfile 自己动手打造! 接下来,我们来了解下Dockerfile是什么。Dockerfile,你可把它想象成一本菜谱,里面密密麻麻记录了一连串神奇的指令。这些指令啊,就像是做一道道工序,一步步告诉你如何从零开始,精心打造出一个完整的Docker镜像。当你准备动手构建一个新的Docker镜像时,完全可以告诉Docker那个藏着构建秘籍的Dockerfile在哪儿,然后Docker就会超级听话地根据这个文件一步步自动搭建出你的新镜像来。 最后,我们要知道Docker容器。Docker容器是在宿主机(主机)上运行的独立的进程空间。每个容器都有自己的文件系统,网络,端口映射等特性。 三、Docker的安装步骤 1. 更新操作系统的软件源列表 在Ubuntu上,可以通过以下命令更新软件源列表: bash sudo apt-get update 2. 安装Docker Ubuntu用户可以在终端中输入以下命令安装Docker: bash sudo apt-get install docker-ce docker-ce-cli containerd.io 3. 启动Docker服务并设置开机启动 在Ubuntu上,可以执行以下命令启动Docker服务,并设置为开机启动: bash sudo systemctl start docker sudo systemctl enable docker 4. 验证Docker的安装 你可以使用以下命令验证Docker的安装: bash docker run hello-world 5. 设置Docker加速器 如果你在中国,为了提高Docker镜像下载速度,可以设置Docker加速器。首先,需要在Docker官网注册账号,然后复制加速器的地址。在终端中,输入以下命令添加加速器: bash docker pull --registry-username= --registry-password= registry.cn-shanghai.aliyuncs.com/: 将、、和替换为你自己的信息。 四、使用Docker的基本命令 现在,我们已经完成了Docker的安装,接下来让我们一起学习一些基本的Docker命令吧! 1. 查看Docker版本 bash docker version 2. 显示正在运行的容器 bash docker ps 3. 列出所有的镜像 bash docker images 4. 创建一个新的Docker镜像 bash docker build -t . 5. 运行一个Docker容器 bash docker run -it 6. 查看所有容器的日志 bash docker logs 五、总结 总的来说,Docker是一个非常强大的工具,可以帮助我们更高效地管理我们的应用程序。通过本篇文章的学习,我相信你对Docker已经有了初步的理解。希望你以后不论是上班摸鱼,还是下班享受生活,都能更溜地用上Docker这个神器,让效率嗖嗖往上升。
2023-02-21 20:40:21
477
星河万里-t
Docker
Docker 是一款容器技术,可将应用及其附属程序封装在一个容器中,使其可以容易地在不同的系统和环境下运行。而迅雷是一款流行的获取客户端,如果您想在 Docker 中运行迅雷,必须先部署 Docker 和迅雷。下面是Docker怎么部署迅雷的详细步骤。 步骤一:部署 Docker 在开始部署迅雷之前,您必须在您的系统中部署 Docker。 yum install docker-ce 以上命令在CentOS 7上部署 Docker。在 Ubuntu 18.04 上部署 Docker,请执行以下指令: apt install docker-ce 步骤二:获取 迅雷 Docker 镜像 获取迅雷 Docker 镜像,您必须在命令行中执行以下指令: docker pull liumiaocn/thunder-linux 步骤三:开启 迅雷 Docker 容器 在获取完成之后,您必须开启 Docker 容器。请执行以下指令: docker run --name thunder -d -v /tmp/.X11-unix:/tmp/.X11-unix -v ${HOME}/Downloads:/root/Downloads -e DISPLAY=$DISPLAY liumiaocn/thunder-linux:latest thunder 以上命令将新建名为“ thunder”的 Docker 容器,并将它连接到 X11 服务器以显示应用窗口。容器将您的获取存储在本地计算机的 ~/Downloads 目录中。 步骤四:运行 迅雷 现在,您可以通过执行以下指令来开启 迅雷: docker exec -it thunder thunder 既然您已经进入了容器,现在就可以运行迅雷。完成此操作后,您可以通过执行以下指令来离开容器: exit
2023-01-28 13:49:08
526
程序媛
Docker
Docker , Docker是一个开源的应用容器引擎,它通过容器化技术将应用程序及其依赖环境打包成一个可移植、自包含的镜像,能够在不同的Linux操作系统上以一致的方式运行。在本文中,用户通过手动输入Docker命令来管理(如创建、启动、停止和进入容器)这些容器。 Docker Hub , Docker Hub是Docker官方提供的镜像仓库服务,类似于软件应用商店,其中包含了大量由社区和官方发布的预构建Docker镜像。用户可以通过docker pull命令从Docker Hub下载所需的镜像,以便快速部署和运行各种应用程序或服务。 容器 , 在Docker环境下,容器是一种轻量级、独立运行的一组进程,它们与主机和其他容器共享内核,但每个容器拥有自己独立的文件系统、网络配置和资源限制。容器提供了隔离且一致的运行环境,使得应用程序可以在不同环境中实现无缝迁移和快速部署。 端口映射 , 端口映射是在Docker容器与宿主机之间建立的一种网络通信机制,通过-p选项在docker run命令中指定。例如,-p 80:80表示将宿主机的80端口与容器内部的80端口进行映射,这样外部客户端可以通过访问宿主机的80端口来与容器内的服务进行通信。 Docker Compose , 尽管文章没有直接提到,但它是Docker生态中的一个重要工具,用于定义和运行多容器应用程序。通过编写一个YAML格式的docker-compose.yml文件,可以轻松地定义一组相关联的服务以及它们之间的依赖关系,然后使用一条命令来启动和协调所有容器的生命周期。 Kubernetes(简称K8s) , 虽然在给出的文章摘要中未详细阐述,但在现代云原生架构中,Kubernetes是一个流行的开源容器编排系统,它可以自动化容器应用的部署、扩展和管理。在文中提及的新版Docker优化了与Kubernetes的集成体验,意味着用户能够更加便捷地将基于Docker的容器部署到Kubernetes集群中,实现大规模容器集群的高效管理和调度。
2023-03-26 21:05:17
324
软件工程师
Docker
Docker , Docker是一种开源的应用容器引擎技术,它通过操作系统级别的虚拟化方式,将应用程序及其依赖环境封装在轻量级的、可移植的容器中。这些容器能够在不同基础设施之间无缝运行,实现应用的快速部署、扩展和版本管理。每个Docker容器都是一个独立的运行时环境,基于只读的Docker镜像创建,并且可以配置资源限制、网络设置以及存储卷等。 Docker镜像 , Docker镜像是创建Docker容器的基础模板,是一个包含应用程序及其所有依赖组件(包括操作系统层)的静态文件集合。镜像以层级结构保存,遵循可复用原则,允许开发人员构建分层的、模块化的软件交付物。在Docker中,用户可以通过编写Dockerfile来定义镜像的具体构建过程,然后使用docker build命令生成新的镜像。 Docker Compose , Docker Compose是一款用于定义和运行多容器Docker应用程序的工具,它通过一个名为docker-compose.yml的YAML文件来描述多个容器服务、网络及数据卷等组件间的依赖关系和服务配置。借助Docker Compose,开发者能够简化多容器应用的部署与管理,轻松地在一个命令下启动、停止或重新配置整个应用栈,极大地提升了开发效率和生产力。例如,在docker-compose.yml文件中,可以定义web服务器容器和数据库容器,并配置它们之间的网络连接、端口映射和环境变量等信息。
2024-01-21 17:25:00
424
电脑达人
Docker
Docker , Docker是一种开源的应用容器引擎,通过容器化技术实现软件的标准化打包、分发和部署。在文中,Docker被用于将SpringBoot应用及其依赖环境封装在一个轻量级、可移植的容器中,使得开发、测试和部署流程更为便捷高效。 Nginx反向代理 , Nginx是一个高性能的HTTP和反向代理服务器,能够处理大量并发连接。在本文场景下,Nginx作为反向代理服务器,其功能是接收来自客户端的HTTP请求,并根据配置将这些请求转发到内部运行的多个SpringBoot应用实例上,同时对外提供统一的服务入口和负载均衡能力。 SpringBoot应用 , SpringBoot是由Pivotal公司提供的一个基于Java的开源框架,用于简化Spring应用程序的初始搭建以及开发过程。它内嵌了Tomcat等Web容器,允许开发者快速构建独立运行、生产级别的基于Spring框架的应用程序。在本文中,SpringBoot应用指的是开发者使用SpringBoot框架开发并需要通过Docker和Nginx进行部署管理的Web服务。
2024-01-24 15:58:35
617
柳暗花明又一村_t
Docker
Dockerfile编写指南:从入门到实践 1. 引言 理解Docker与Dockerfile的重要性 在数字化转型的浪潮中,Docker作为一款强大的容器化技术工具,为软件开发、测试和部署带来了革命性的改变。Dockerfile,这个家伙可是构建Docker镜像的关键“配方”,你就把它想象成一本烹饪手册,一步步手把手教Docker怎么捣鼓出一个既精确又可重复利用的应用环境。今天,咱们就一起唠唠这个超级神奇的“菜谱”——Dockerfile的编写秘籍吧! 2. Dockerfile基础 搭建你的第一个Docker镜像 首先,让我们通过一个简单的示例来揭开Dockerfile的神秘面纱: dockerfile 这是一个最基础的Dockerfile模板 FROM ubuntu:latest 我们基于最新的Ubuntu镜像开始构建 RUN apt-get update && apt-get install -y curl 在镜像内安装curl命令 CMD ["curl", "https://www.docker.com"] 设置默认启动时运行的命令 在这个例子中,我们执行了三个基本操作: - FROM 指令指定了基础镜像。 - RUN 指令用于在新创建的镜像中执行命令并提交结果。 - CMD 指令设置了容器启动后的默认执行命令。 3. Dockerfile进阶 深入理解和使用指令 3.1 COPY与ADD指令 当我们需要将宿主机的文件复制到镜像内部时,可以使用COPY或ADD指令: dockerfile COPY . /app 将当前目录下的所有内容复制到镜像的/app目录下 ADD requirements.txt /app/ 添加特定文件到镜像指定位置,并支持自动解压tar归档文件 3.2 ENV指令 设置环境变量对于配置应用程序至关重要,ENV指令允许我们在构建镜像时定义环境变量: dockerfile ENV NODE_ENV=production 3.3 WORKDIR指令 WORKDIR用来指定工作目录,后续的RUN、CMD、ENTRYPOINT等指令都将在这个目录下执行: dockerfile WORKDIR /app 3.4 EXPOSE指令 EXPOSE用于声明容器对外提供服务所监听的端口: dockerfile EXPOSE 80 443 4. 高级话题 Dockerfile最佳实践与思考 - 保持镜像精简:每次修改镜像都应尽量小且独立,遵循单一职责原则,每个镜像只做一件事并做好。 - 层叠优化:合理安排Dockerfile中的指令顺序,减少不必要的层构建,提升构建效率。 - 充分利用缓存:Docker在构建过程中会利用缓存机制,如果已有的层没有变化,则直接复用,因此,把变动可能性大的步骤放在最后能有效利用缓存加速构建。 在编写Dockerfile的过程中,我们常常会遇到各种挑战和问题,这正是探索与学习的乐趣所在。每一次动手尝试,都是我们对容器化这个理念的一次接地气的深入理解和灵活运用,就好比每敲出的一行代码,都在悄无声息地讲述着我们这群人,对于打造出那种既高效、又稳定、还能随时随地搬来搬去的应用环境,那份死磕到底、永不言弃的坚持与热爱。 所以,亲爱的开发者朋友们,不妨亲手拿起键盘,去编写属于你自己的Dockerfile,感受那种“从无到有”的创造魅力,同时也能深深体验到Docker所带来的便捷和力量。在这场编程之旅中,愿我们都能以更轻便的方式,拥抱云原生时代!
2023-08-01 16:49:40
513
百转千回_
RabbitMQ
...抽走了几块,整个业务流程就可能乱套,数据的一致性也难免会出岔子。最后,网络波动还可能导致RabbitMQ服务器的CPU负载增加,降低其整体性能。 三、监控网络波动对RabbitMQ性能的影响 为了能够及时发现和解决网络波动对RabbitMQ性能的影响,我们需要对其进行实时的监控。以下是几种常见的监控方法: 1. 使用Prometheus监控RabbitMQ Prometheus是一个开源的监控系统,可以用来收集和存储各种系统的监控指标,并提供灵活的查询语言和可视化界面。我们可以利用Prometheus这个小帮手,实时抓取RabbitMQ的各种运行数据,比如消息收发的速度啦、消息丢失的比例呀等等,这样就能像看仪表盘一样,随时了解RabbitMQ的“心跳”情况,确保它健健康康地运行。 python 安装Prometheus和grafana sudo apt-get update sudo apt-get install prometheus grafana 配置Prometheus的配置文件 cat << EOF > /etc/prometheus/prometheus.yml global: scrape_interval: 1s scrape_configs: - job_name: 'prometheus' static_configs: - targets: ['localhost:9090'] - job_name: 'rabbitmq' metrics_path: '/api/metrics' params: username: 'guest' password: 'guest' static_configs: - targets: ['localhost:15672'] EOF 启动Prometheus sudo systemctl start prometheus 2. 使用RabbitMQ自带的管理界面监控 RabbitMQ本身也提供了一个内置的管理界面,我们可以在这个界面上查看RabbitMQ的各种运行状态和监控指标,如消息的消费速度、消息的发布速度、消息的丢失率等。 javascript 访问RabbitMQ的管理界面 http://localhost:15672/ 3. 使用New Relic监控RabbitMQ New Relic是一款功能强大的云监控工具,可以用来监控各种应用程序和服务的性能。我们可以借助New Relic这个小帮手,实时监控RabbitMQ的各种关键表现,比如消息被“吃掉”的速度有多快、消息被“扔”出去的速度如何,甚至还能瞅瞅消息有没有迷路的(也就是丢失率)。这样一来,咱们就能像看比赛直播那样,对这些指标进行即时跟进啦。 ruby 注册New Relic账户并安装New Relic agent sudo curl -L https://download.newrelic.com/binaries/newrelic_agent/linux/x64_64/newrelic RPM | sudo tar xzv sudo mv newrelic RPM/usr/lib/ 配置New Relic的配置文件 cat << EOF > /etc/newrelic/nrsysmond.cfg license_key = YOUR_LICENSE_KEY server_url = https://insights-collector.newrelic.com application_name = rabbitmq daemon_mode = true process_monitor.enabled = true process_monitor.log_process_counts = true EOF 启动New Relic agent sudo systemctl start newrelic-sysmond.service 四、调试网络波动对RabbitMQ性能的影响 除了监控外,我们还需要对网络波动对RabbitMQ性能的影响进行深入的调试。以下是几种常见的调试方法: 1. 使用Wireshark抓取网络流量 Wireshark是一个开源的网络分析工具,可以用来捕获和分析网络中的各种流量。我们能够用Wireshark这个工具,像侦探一样监听网络中的各种消息发送和接收活动,这样一来,就能顺藤摸瓜找出导致网络波动的幕后“元凶”啦。 csharp 下载和安装Wireshark sudo apt-get update sudo apt-get install wireshark 打开Wireshark并开始抓包 wireshark & 2. 使用Docker搭建测试环境 Docker是一种轻量级的容器化平台,可以用来快速构建和部署各种应用程序和服务。我们可以动手用Docker搭建一个模拟网络波动的环境,就像搭积木一样构建出一个专门用来“折腾”RabbitMQ性能的小天地,在这个环境中好好地对RabbitMQ进行一番“体检”。 bash 安装Docker sudo apt-get update sudo apt-get install docker.io 创建一个包含网络波动模拟器的Docker镜像 docker build -t network-flakiness .
2023-10-10 09:49:37
99
青春印记-t
转载文章
...企业系统从0开始全新构建的场景,这种场景相对简单。 容器实践路线图 企业着手实践容器的路线,建议从3个维度评估,然后根据评估结果落地实施。3个评估维度为:商业目标,技术选型,团队配合。 商业目标是重中之重,需要回答为何要容器化,这个也是牵引团队在容器实践路上不断前行的动力,是遇到问题是解决问题的方向指引,最重要的是让决策者认同商业目标,并能了解到支持商业目标的技术原理,上下目标对齐才好办事。 商业目标确定之后,需要确定容器相关的技术选型,容器是一种轻量化的虚拟化技术,与传统虚拟机比较有优点也有缺点,要找出这些差异点识别出对基础设施与应用的影响,提前识别风险并采取应对措施。 技术选型明确之后,在公司或部门内部推广与评审,让开发人员、架构师、测试人员、运维人员相关人员与团队理解与认同方案,听取他们意见,他们是直接使用容器的客户,不要让他们有抱怨。 最后是落地策略,一般是选取一些辅助业务先试点,在实践过程中不断总结经验。 商业目标 容器技术是以应用为中心的轻量级虚拟化技术,而传统的Xen与KVM是以资源为中心的虚拟化技术,这是两者的本质差异。以应用为中心是容器技术演进的指导原则,正是在这个原则指导下,容器技术相对于传统虚拟化有几个特点:打包既部署、镜像分层、应用资源调度。 打包即部署:打包即部署是指在容器镜像制作过程包含了传统软件包部署的过程(安装依赖的操作系统库或工具、创建用户、创建运行目录、解压、设置文件权限等等),这么做的好处是把应用及其依赖封装到了一个相对封闭的环境,减少了应用对外部环境的依赖,增强了应用在各种不同环境下的行为一致性,同时也减少了应用部署时间。 镜像分层:容器镜像包是分层结构,同一个主机上的镜像层是可以在多个容器之间共享的,这个机制可以极大减少镜像更新时候拉取镜像包的时间,通常应用程序更新升级都只是更新业务层(如Java程序的jar包),而镜像中的操作系统Lib层、运行时(如Jre)层等文件不会频繁更新。因此新版本镜像实质有变化的只有很小的一部分,在更新升级时候也只会从镜像仓库拉取很小的文件,所以速度很快。 应用资源调度:资源(计算/存储/网络)都是以应用为中心的,中心体现在资源分配是按照应用粒度分配资源、资源随应用迁移。 基于上述容器技术特点,可以推导出容器技术的3大使用场景:CI/CD、提升资源利用率、弹性伸缩。这3个使用场景自然推导出通用的商业层面收益:CI/CD提升研发效率、提升资源利用率降低成本、按需弹性伸缩在体验与成本之间达成平衡。 当然,除了商业目标之外,可能还有其他一些考虑因素,如基于容器技术实现计算任务调度平台、保持团队技术先进性等。 CI/CD提升研发效率 为什么容器技术适合CI/CD CI/CD是DevOps的关键组成部分,DevOps是一套软件工程的流程,用于持续提升软件开发效率与软件交付质量。DevOps流程来源于制造业的精益生产理念,在这个领域的领头羊是丰田公司,《丰田套路》这本书总结丰田公司如何通过PDCA(Plan-Do-Check-Act)方法实施持续改进。PDCA通常也称为PDCA循环,PDCA实施过程简要描述为:确定目标状态、分析当前状态、找出与目标状态的差距、制定实施计划、实施并总结、开始下一个PDCA过程。 DevOps基本也是这么一个PDCA流程循环,很容易认知到PDCA过程中效率是关键,同一时间段内,实施更多数量的PDCA过程,收益越高。在软件开发领域的DevOps流程中,各种等待(等待编译、等待打包、等待部署等)、各种中断(部署失败、机器故障)是影响DevOps流程效率的重要因素。 容器技术出来之后,将容器技术应用到DevOps场景下,可以从技术手段消除DevOps流程中的部分等待与中断,从而大幅度提升DevOps流程中CI/CD的效率。 容器的OCI标准定义了容器镜像规范,容器镜像包与传统的压缩包(zip/tgz等)相比有两个关键区别点:1)分层存储;2)打包即部署。 分层存储可以极大减少镜像更新时候拉取镜像包的时间,通常应用程序更新升级都只是更新业务层(如Java程序的jar包),而镜像中的操作系统Lib层、运行时(如Jre)层等文件不会频繁更新。因此新版本镜像实质有变化的只有很小的一部分,在更新升级时候也只会从镜像仓库拉取很小的文件,所以速度很快。 打包即部署是指在容器镜像制作过程包含了传统软件包部署的过程(安装依赖的操作系统库或工具、创建用户、创建运行目录、解压、设置文件权限等等),这么做的好处是把应用及其依赖封装到了一个相对封闭的环境,减少了应用对外部环境的依赖,增强了应用在各种不同环境下的行为一致性,同时也减少了应用部署时间。 基于容器镜像的这些优势,容器镜像用到CI/CD场景下,可以减少CI/CD过程中的等待时间,减少因环境差异而导致的部署中断,从而提升CI/CD的效率,提升整体研发效率。 CI/CD的关键诉求与挑战 快 开发人员本地开发调试完成后,提交代码,执行构建与部署,等待部署完成后验证功能。这个等待的过程尽可能短,否则开发人员工作容易被打断,造成后果就是效率降低。如果提交代码后几秒钟就能够完成部署,那么开发人员几乎不用等待,工作也不会被打断;如果需要好几分钟或十几分钟,那么可以想象,这十几分钟就是浪费了,这时候很容易做点别的事情,那么思路又被打断了。 所以构建CI/CD环境时候,快是第一个需要考虑的因素。要达到快,除了有足够的机器资源免除排队等待,引入并行编译技术也是常用做法,如Maven3支持多核并行构建。 自定义流程 不同行业存在不同的行业规范、监管要求,各个企业有一套内部质量规范,这些要求都对软件交付流程有定制需求,如要求使用商用的代码扫描工具做安全扫描,如构建结果与企业内部通信系统对接发送消息。 在团队协同方面,不同的公司,对DevOps流程在不同团队之间分工有差异,典型的有开发者负责代码编写构建出构建物(如jar包),而部署模板、配置由运维人员负责;有的企业开发人员负责构建并部署到测试环境;有的企业开发人员直接可以部署到生产环境。这些不同的场景,对CI/CD的流程、权限管控都有定制需求。 提升资源利用率 OCI标准包含容器镜像标准与容器运行时标准两部分,容器运行时标准聚焦在定义如何将镜像包从镜像仓库拉取到本地并更新、如何隔离运行时资源这些方面。得益于分层存储与打包即部署的特性,容器镜像从到镜像仓库拉取到本地运行速度非常快(通常小于30秒,依赖镜像本身大小等因素),基于此可以实现按需分配容器运行时资源(cpu与内存),并限定单个容器资源用量;然后根据容器进程资源使用率设定弹性伸缩规则,实现自动的弹性伸缩。 这种方式相对于传统的按峰值配置资源方式,可以提升资源利用率。 按需弹性伸缩在体验与成本之间达成平衡 联动弹性伸缩 应用运行到容器,按需分配资源之后,理想情况下,Kubernetes的池子里没有空闲的资源。这时候扩容应用实例数,新扩容的实例会因资源不足调度失败。这时候需要资源池能自动扩容,加入新的虚拟机,调度新扩容的应用。 由于应用对资源的配比与Flavor有要求,因此新加入的虚拟机,应当是与应用所需要的资源配比与Flavor一致的。缩容也是类似。 弹性伸缩还有一个诉求点是“平滑”,对业务做到不感知,也称为“优雅”扩容/缩容。 请求风暴 上面提到的弹性伸缩一般是有计划或缓慢增压的场景,存在另外一种无法预期的请求风暴场景,这种场景的特征是无法预测、突然请求量增大数倍或数十倍、持续时间短。典型的例子如行情交易系统,当行情突变的时候,用户访问量徒增,持续几十分钟或一个小时。 这种场景的弹性诉求,要求短时间内能将资源池扩大数倍,关键是速度要快(秒级),否则会来不及扩容,系统已经被冲垮(如果无限流的话)。 目前基于 Virtual Kubelet 与云厂家的 Serverless 容器,理论上可以提供应对请求风暴的方案。不过在具体实施时候,需要考虑传统托管式Kubernetes容器管理平台与Serverless容器之间互通的问题,需要基于具体厂家提供的能力来评估。 基于容器技术实现计算调度平台 计算(大数据/AI训练等)场景的特征是短时间内需要大量算力,算完即释放。容器的环境一致性以及调度便利性适合这种场景。 技术选型 容器技术是属于基础设施范围,但是与传统虚拟化技术(Xen/KVM)比较,容器技术是应用虚拟化,不是纯粹的资源虚拟化,与传统虚拟化存在差异。在容器技术选型时候,需要结合当前团队在应用管理与资源管理的现状,对照容器技术与虚拟化技术的差异,选择最合适的容器技术栈。 什么是容器技术 (1)容器是一种轻量化的应用虚拟化技术。 在讨论具体的容器技术栈的时候,先介绍目前几种常用的应用虚拟化技术,当前有3种主流的应用虚拟化技术: LXC,MicroVM,UniKernel(LibOS)。 LXC: Linux Container,通过 Linux的 namespace/cgroups/chroot 等技术隔离进程资源,目前应用最广的docker就是基于LXC实现应用虚拟化的。 MicroVM: MicroVM 介于 传统的VM 与 LXC之间,隔离性比LXC好,但是比传统的VM要轻量,轻量体现在体积小(几M到几十M)、启动快(小于1s)。 AWS Firecracker 就是一种MicroVM的实现,用于AWS的Serverless计算领域,Serverless要求启动快,租户之间隔离性好。 UniKernel: 是一种专用的(特定编程语言技术栈专用)、单地址空间、使用 library OS 构建出来的镜像。UniKernel要解决的问题是减少应用软件的技术栈层次,现代软件层次太多导致越来越臃肿:硬件+HostOS+虚拟化模拟+GuestOS+APP。UniKernel目标是:硬件+HostOS+虚拟化模拟+APP-with-libos。 三种技术对比表: 开销 体积 启动速度 隔离/安全 生态 LXC 低(几乎为0) 小 快(等同进程启动) 差(内核共享) 好 MicroVM 高 大 慢(小于1s) 好 中(Kata项目) UniKernel 中 中 中 好 差 根据上述对比来看,LXC是应用虚拟化首选的技术,如果LXC无法满足隔离性要,则可以考虑MicroVM这种技术。当前社区已经在着手融合LXC与MicroVM这两种技术,从应用打包/发布调度/运行层面统一规范,Kubernetes集成Kata支持混合应用调度特性可以了解一下。 UniKernel 在应用生态方面相对比较落后,目前在追赶中,目前通过 linuxkit 工具可以在UniKernel应用镜像中使用docker镜像。这种方式笔者还未验证过,另外docker镜像运行起来之后,如何监控目前还未知。 从上述三种应用虚拟化技术对比,可以得出结论: (2)容器技术与传统虚拟化技术不断融合中。 再从规范视角来看容器技术,可以将容器技术定义为: (3)容器=OCI+CRI+辅助工具。 OCI规范包含两部分,镜像规范与运行时规范。简要的说,要实现一个OCI的规范,需要能够下载镜像并解压镜像到文件系统上组成成一个文件目录结构,运行时工具能够理解这个目录结构并基于此目录结构管理(创建/启动/停止/删除)进程。 容器(container)的技术构成就是实现OCI规范的技术集合。 对于不同的操作系统(Linux/Windows),OCI规范的实现技术不同,当前docker的实现,支持Windows与Linux与MacOS操作系统。当前使用最广的是Linux系统,OCI的实现,在Linux上组成容器的主要技术: chroot: 通过分层文件系统堆叠出容器进程的rootfs,然后通过chroot设置容器进程的根文件系统为堆叠出的rootfs。 cgroups: 通过cgroups技术隔离容器进程的cpu/内存资源。 namesapce: 通过pid, uts, mount, network, user namesapce 分别隔离容器进程的进程ID,时间,文件系统挂载,网络,用户资源。 网络虚拟化: 容器进程被放置到独立的网络命名空间,通过Linux网络虚拟化veth, macvlan, bridge等技术连接主机网络与容器虚拟网络。 存储驱动: 本地文件系统,使用容器镜像分层文件堆叠的各种实现驱动,当前推荐的是overlay2。 广义的容器还包含容器编排,即当下很火热的Kubernetes。Kubernetes为了把控容器调度的生态,发布了CRI规范,通过CRI规范解耦Kubelet与容器,只要实现了CRI接口,都可以与Kubelet交互,从而被Kubernetes调度。OCI规范的容器实现与CRI标准接口对接的实现是CRI-O。 辅助工具用户构建镜像,验证镜像签名,管理存储卷等。 容器定义 容器是一种轻量化的应用虚拟化技术。 容器=OCI+CRI+辅助工具。 容器技术与传统虚拟化技术不断融合中。 什么是容器编排与调度 选择了应用虚拟化技术之后,还需要应用调度编排,当前Kubernetes是容器领域内编排的事实标准,不管使用何种应用虚拟化技术,都已经纳入到了Kubernetes治理框架中。 Kubernetes 通过 CRI 接口规范,将应用编排与应用虚拟化实现解耦:不管使用何种应用虚拟化技术(LXC, MicroVM, LibOS),都能够通过Kubernetes统一编排。 当前使用最多的是docker,其次是cri-o。docker与crio结合kata-runtime都能够支持多种应用虚拟化技术混合编排的场景,如LXC与MicroVM混合编排。 docker(now): Moby 公司贡献的 docker 相关部件,当前主流使用的模式。 docker(daemon) 提供对外访问的API与CLI(docker client) containerd 提供与 kubelet 对接的 CRI 接口实现 shim负责将Pod桥接到Host namespace。 cri-o: 由 RedHat/Intel/SUSE/IBM/Hyper 公司贡献的实现了CRI接口的符合OCI规范的运行时,当前包括 runc 与 kata-runtime ,也就是说使用 cir-o 可以同时运行LXC容器与MicroVM容器,具体在Kata介绍中有详细说明。 CRI-O: 实现了CRI接口的进程,与 kubelet 交互 crictl: 类似 docker 的命令行工具 conmon: Pod监控进程 other cri runtimes: 其他的一些cri实现,目前没有大规模应用到生产环境。 容器与传统虚拟化差异 容器(container)的技术构成 前面主要讲到的是容器与编排,包括CRI接口的各种实现,我们把容器领域的规范归纳为南向与北向两部分,CRI属于北向接口规范,对接编排系统,OCI就属于南向接口规范,实现应用虚拟化。 简单来讲,可以这么定义容器: 容器(container) ~= 应用打包(build) + 应用分发(ship) + 应用运行/资源隔离(run)。 build-ship-run 的内容都被定义到了OCI规范中,因此也可以这么定义容器: 容器(container) == OCI规范 OCI规范包含两部分,镜像规范与运行时规范。简要的说,要实现一个OCI的规范,需要能够下载镜像并解压镜像到文件系统上组成成一个文件目录结构,运行时工具能够理解这个目录结构并基于此目录结构管理(创建/启动/停止/删除)进程。 容器(container)的技术构成就是实现OCI规范的技术集合。 对于不同的操作系统(Linux/Windows),OCI规范的实现技术不同,当前docker的实现,支持Windows与Linux与MacOS操作系统。当前使用最广的是Linux系统,OCI的实现,在Linux上组成容器的主要技术: chroot: 通过分层文件系统堆叠出容器进程的rootfs,然后通过chroot设置容器进程的根文件系统为堆叠出的rootfs。 cgroups: 通过cgroups技术隔离容器进程的cpu/内存资源。 namesapce: 通过pid, uts, mount, network, user namesapce 分别隔离容器进程的进程ID,时间,文件系统挂载,网络,用户资源。 网络虚拟化: 容器进程被放置到独立的网络命名空间,通过Linux网络虚拟化veth, macvlan, bridge等技术连接主机网络与容器虚拟网络。 存储驱动: 本地文件系统,使用容器镜像分层文件堆叠的各种实现驱动,当前推荐的是overlay2。 广义的容器还包含容器编排,即当下很火热的Kubernetes。Kubernetes为了把控容器调度的生态,发布了CRI规范,通过CRI规范解耦Kubelet与容器,只要实现了CRI接口,都可以与Kubelet交互,从而被Kubernetes调度。OCI规范的容器实现与CRI标准接口对接的实现是CRI-O。 容器与虚拟机差异对比 容器与虚拟机的差异可以总结为2点:应用打包与分发的差异,应用资源隔离的差异。当然,导致这两点差异的根基是容器是以应用为中心来设计的,而虚拟化是以资源为中心来设计的,本文对比容器与虚拟机的差异,更多的是站在应用视角来对比。 从3个方面对比差异:资源隔离,应用打包与分发,延伸的日志/监控/DFX差异。 1.资源隔离 隔离机制差异 容器 虚拟化 mem/cpu cgroup, 使用时候设定 require 与 limit 值 QEMU, KVM network Linux网络虚拟化技术(veth,tap,bridge,macvlan,ipvlan), 跨虚拟机或出公网访问:SNAT/DNAT, service转发:iptables/ipvs, SR-IOV Linux网络虚拟化技术(veth,tap,bridge,macvlan,ipvlan), QEMU, SR-IOV storage 本地存储: 容器存储驱动 本地存储:virtio-blk 差异引入问题与实践建议 应用程序未适配 cgroup 的内存隔离导致问题: 典型的是 JVM 虚拟机,在 JVM 启动时候会根据系统内存自动设置 MaxHeapSize 值,通常是系统内存的1/4,但是 JVM 并未考虑 cgroup 场景,读系统内存时候任然读取主机的内存来设置 MaxHeapSize,这样会导致内存超过 cgroup 限制从而导致进程被 kill 。问题详细阐述与解决建议参考Java inside docker: What you must know to not FAIL。 多次网络虚拟化问题: 如果在虚拟机内使用容器,会多一层网络虚拟化,并加入了SNAT/DNAT技术, iptables/ipvs技术,对网络吞吐量与时延都有影响(具体依赖容器网络方案),对问题定位复杂度变高,同时还需要注意网络内核参数调优。 典型的网络调优参数有:转发表大小 /proc/sys/net/netfilter/nf_conntrack_max 使用iptables 作为service转发实现的时候,在转发规则较多的时候,iptables更新由于需要全量更新导致非常耗时,建议使用ipvs。详细参考[华为云在 K8S 大规模场景下的 Service 性能优化实践](https://zhuanlan.zhihu.com/p/37230013)。 容器IP地址频繁变化不固定,周边系统需要协调适配,包括基于IP地址的白名单或防火墙控制策略需要调整,CMDB记录的应用IP地址需要适配动态IP或者使用服务名替代IP地址。 存储驱动带来的性能损耗: 容器本地文件系统是通过联合文件系统方式堆叠出来的,当前主推与默认提供的是overlay2驱动,这种模式应用写本地文件系统文件或修改已有文件,使用Copy-On-Write方式,也就是会先拷贝源文件到可写层然后修改,如果这种操作非常频繁,建议使用 volume 方式。 2.应用打包与分发 应用打包/分发/调度差异 容器 虚拟化 打包 打包既部署 一般不会把应用程序与虚拟机打包在一起,通过部署系统部署应用 分发 使用镜像仓库存储与分发 使用文件存储 调度运行 使用K8S亲和/反亲和调度策略 使用部署系统的调度能力 差异引入问题与实践建议 部署提前到构建阶段,应用需要支持动态配置与静态程序分离;如果在传统部署脚本中依赖外部动态配置,这部分需要做一些调整。 打包格式发生变化,制作容器镜像需要注意安全/效率因素,可参考Dockerfile最佳实践 容器镜像存储与分发是按layer来组织的,镜像在传输过程中放篡改的方式是传统软件包有差异。 3.监控/日志/DFX 差异 容器 虚拟化 监控 cpu/mem的资源上限是cgroup定义的;containerd/shim/docker-daemon等进程的监控 传统进程监控 日志采集 stdout/stderr日志采集方式变化;日志持久化需要挂载到volume;进程会被随机调度到其他节点导致日志需要实时采集否则分散很难定位 传统日志采集 问题定位 进程down之后自动拉起会导致问题定位现场丢失;无法停止进程来定位问题因为停止即删除实例 传统问题定位手段 差异引入问题实践与建议 使用成熟的监控工具,运行在docker中的应用使用cadvisor+prometheus实现采集与警报,cadvisor中预置了常用的监控指标项 对于docker管理进程(containerd/shim/docker-daemon)也需要一并监控 使用成熟的日志采集工具,如果已有日志采集Agent,则可以考虑将日志文件挂载到volume后由Agent采集;需要注意的是stderr/stdout输出也要一并采集 如果希望容器内应用进程退出后保留现场定位问题,则可以将Pod的restartPolicy设置为never,进程退出后进程文件都还保留着(/var/lib/docker/containers)。但是这么做的话需要进程没有及时恢复,会影响业务,需要自己实现进程重拉起。 团队配合 与周边的开发团队、架构团队、测试团队、运维团队评审并交流方案,与周边团队达成一致。 落地策略与注意事项 逐步演进过程中网络互通 根据当前已经存在的基础实施情况,选择容器化落地策略。通常使用逐步演进的方式,由于容器化引入了独立的网络namespace导致容器与传统虚拟机进程网络隔离,逐步演进过程中如何打通隔离的网络是最大的挑战。 分两种场景讨论: 不同服务集群之间使用VIP模式互通: 这种模式相对简单,基于VIP做灰度发布。 不同服务集群之间使用微服务点对点模式互通(SpringCloud/ServiceComb/Dubbo都是这一类): 这种模式相对复杂,在逐步容器化过程中,要求容器网络与传统虚拟机网络能够互通(难点是在虚拟机进程内能够直接访问到容器网络的IP地址),当前解决这个问题有几种方法。 自建Kubernetes场景,可使用开源的kube-router,kube-router 使用BGP协议实现容器网络与传统虚拟机网络之间互通,要求网络交换机支持BGP协议。 使用云厂商托管Kubernetes场景,选择云厂商提供的VPC-Router互通的网络插件,如阿里云的Terway网络插件, 华为云的Underlay网络模式。 选择物理机还是虚拟机 选择物理机运行容器还是虚拟机运行容器,需要结合基础设施与业务隔离性要求综合考虑。分两种场景:自建IDC、租用公有云。 自建IDC: 理想情况是使用物理机组成一个大集群,根据业务诉求,对资源保障与安全性要求高的应用,使用MicorVM方式隔离;普通应用使用LXC方式隔离。所有物理机在一个大集群内,方便削峰填谷提升资源利用率。 租用公有云:当前公有云厂家提供的裸金属服务价格较贵且只能包周期,使用裸金属性价比并不高,使用虚拟机更合适。 集群规模与划分 选择集群时候,是多个应用共用一个大集群,还是按应用分组分成多个小集群呢?我们把节点规模数量>=1000的定义为大集群,节点数<1000的定义为小集群。 大集群的优点是资源池共享容器,方便资源调度(削峰填谷);缺点是随着节点数量与负载数量的增多,会引入管理性能问题(需要量化): DNS 解析表变大,增加/删除 Service 或 增加/删除 Endpoint 导致DNS表刷新慢 K8S Service 转发表变大,导致工作负载增加/删除刷新iptables/ipvs记录变慢 etcd 存储空间变大,如果加上ConfigMap,可能导致 etcd 访问时延增加 小集群的优点是不会有管理性能问题,缺点是会导致资源碎片化,不容易共享。共享分两种情况: 应用之间削峰填谷:目前无法实现 计算任务与应用之间削峰填谷:由于计算任务是短时任务,可以通过上层的任务调度软件,在多个集群之间分发计算任务,从而达到集群之间资源共享的目的。 选择集群规模的时候,可以参考上述分析,结合实际情况选择适合的集群划分。 Helm? Helm是为了解决K8S管理对象散碎的问题,在K8S中并没有"应用"的概念,只有一个个散的对象(Deployment, ConfigMap, Service, etc),而一个"应用"是多个对象组合起来的,且这些对象之间还可能存在一定的版本配套关系。 Helm 通过将K8S多个对象打包为一个包并标注版本号形成一个"应用",通过 Helm 管理进程部署/升级这个"应用"。这种方式解决了一些问题(应用分发更方便)同时也引入了一些问题(引入Helm增加应用发布/管理复杂度、在K8S修改了对象后如何同步到Helm)。对于是否需要使用Helm,建议如下: 在自运维模式下不使用Helm: 自运维模式下,很多场景是开发团队交付一个运行包,运维团队负责部署与配置下发,内部通过兼容性或软件包与配置版本配套清单、管理软件包与配置的配套关系。 在交付软件包模式下使用Helm: 交付软件包模式下,Helm 这种把散碎组件组装为一个应用的模式比较适合,使用Helm实现软件包分发/部署/升级场比较简单。 Reference DOCKER vs LXC vs VIRTUAL MACHINES Cgroup与LXC简介 Introducing Container Runtime Interface (CRI) in Kubernetes frakti rkt appc-spec OCI 和 runc:容器标准化和 docker Linux 容器技术史话:从 chroot 到未来 Linux Namespace和Cgroup Java inside docker: What you must know to not FAIL QEMU,KVM及QEMU-KVM介绍 kvm libvirt qemu实践系列(一)-kvm介绍 KVM 介绍(4):I/O 设备直接分配和 SR-IOV [KVM PCI/PCIe Pass-Through SR-IOV] prometheus-book 到底什么是Unikernel? The Rise and Fall of the Operating System The Design and Implementation of the Anykernel and Rump Kernels UniKernel Unikernel:从不入门到入门 OSv 京东如何打造K8s全球最大集群支撑万亿电商交易 Cloud Native App Hub 更多云最佳实践 https://best.practices.cloud 本篇文章为转载内容。原文链接:https://blog.csdn.net/sinat_33155975/article/details/118013855。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-09-17 15:03:28
225
转载
Docker
Docker是一个普及的容器平台,能够高效地发布和执行应用。在使用Docker时,你需要构建一个Docker镜像,他能够涵盖你的应用和其他依赖项,并且可以在Docker容器中执行。下面是如何使用Docker封装本机镜像的流程。 1. 创建Dockerfile FROM scratch ADD hello / CMD ["/hello"] Dockerfile是创建容器镜像的Docker脚本。上述Dockerfile从一个空白的镜像开始,然后将hello二进制文件添加到镜像中。最后,指定了hello二进制文件作为镜像启动时要执行的命令。 2. 构建Docker镜像 $ docker build -t hello . 该命令使用Dockerfile中的指令构建名称为hello的镜像。 3. 执行Docker容器 $ docker run --name hello-app hello 该命令启动名称为hello-app的容器,并使用构建好的hello镜像执行它。
2023-02-25 10:58:36
491
数据库专家
Docker
...植的单元——容器。在Docker这样的容器化平台上,每个容器都运行在宿主机操作系统上,但拥有隔离的用户空间,从而实现轻量级的资源隔离和部署。这意味着开发者可以将应用及其所有依赖项封装在一个容器中,在任何支持Docker的环境中,只需简单命令即可启动并运行该应用,确保了跨环境的一致性和便捷性。 Docker Hub , Docker Hub是Docker官方提供的镜像仓库服务,类似于软件开发中的代码仓库,但它存储的是Docker镜像。开发者可以在Docker Hub上查找、下载、分享和管理自己的Docker镜像,极大地简化了镜像分发与复用的过程。例如,通过docker run hello-world命令就能从Docker Hub拉取并运行hello-world镜像,体现了Docker Hub作为中心化镜像仓库的核心价值。 镜像 , 在Docker环境下,镜像是创建和运行容器的基础模板,包含了应用程序及其运行所需的所有文件和配置信息。镜像以层式结构构建,每层代表应用程序的一个修改或添加,从而使得镜像具有高效存储和快速分发的特点。例如,使用docker build -t myapp .命令基于当前目录下的Dockerfile构建一个名为myapp的新镜像,然后通过docker run -p 80:80 myapp命令使用这个新镜像启动一个容器,并映射端口以便外部访问。这样,无论何时何地,只要有了这个镜像,就可以快速且一致地创建出能够运行特定应用程序的容器实例。
2023-03-13 14:25:53
347
编程狂人
Docker
Docker是一个开放源代码的容器化平台,允许开发者对应用程序进行封装、测试和部署。 Docker最初是由Dotcloud公司创立的,并于2013年3月作为开放源代码项目进行公布。 从性能上看,Docker涵盖以下几个方面: • 将应用程序和依赖库封装到一个轻量级容器中,以保证应用程序在任何运行环境中都能运行。 • 迅速、统一性和可靠性,保证您的应用程序程序能够在每个部署和交付中都重现。 • 这种容器的标准化,允许您迅速迭代和交付高质量的应用程序。 • Docker被广泛用于构建、封装、部署和运行云原生应用程序程序,这些应用程序程序以容器为基础构建、分布和部署。 我们可以使用命令 docker --version 来检查Docker的版本信息。例如,上述命令将返回以下输出: Docker version 17.09.0-ce, build afdb6d4 从上面的输出可以看出,我们所使用的Docker版本号是17.09.0-ce。由此可见,Docker已经发展成为非常成熟和广泛使用的容器化技术,拥有大量的用户和使用案例。
2024-02-25 16:17:40
343
软件工程师
Docker
Docker是一个允许开发者在容器中创建、封装和发布应用程序的开源平台。它的优点在于提高开发、测试和生产环境的一致性、弹性和迁移性。 在本文中,我们将介绍如何执行Docker创建一个NPM环境。 首先,我们需要预备一个项目目录。在该目录下创建一个Dockerfile,这是Docker用以创建镜像的文件。 FROM node:10 RUN npm install -g npm WORKDIR /app COPY package.json ./ RUN npm install COPY . . CMD ["npm", "start"] 该Dockerfile执行Node.js作为基础容器,并在其中添加了NPM。它将我们的应用程序文件移动至/app目录,并通过CMD运行NPM。接下来,执行docker build命令来创建该镜像: docker build -t mynpm . 这个命令会创建一个名为"mynpm"的镜像。一旦创建完成,我们就可以通过以下命令将其运行: docker run -it --rm mynpm 这个命令将在交互模式下运行容器,并在容器中运行NPM。如果我们需要将宿主机的文件夹映射到容器中,以便可以对代码进行更改和调试,则可以执行以下命令: docker run -it --rm -v "$(pwd)":/app mynpm 此命令将把当前项目目录绑定到容器的/app目录中。 在容器中安装npm包很容易。只需执行docker run -it --rm mynpm 命令进入交互模式,然后在其中运行npm install即可。 在完成容器的创建和运行后,我们现在已经拥有了一个可重复、可移植并且易于管理的NPM环境!
2023-12-05 10:01:06
529
逻辑鬼才
Docker
Docker是一种很普遍的应用容器化平台。它允许程序员在容器中封装,部署和执行各种应用。在Docker中,映像是创建容器的基础。映像是一个不可写的模板文件,它定义如何创建容器。它涵盖应用所需的所有文件和设置,例如源文件,依赖项,环境参数等。映像有标记,标记是对映像版本的引用。 在Docker中,更改映像的标记是一种常见操作。有时您需要为已有的映像打新的标记。这可以用于将映像标记为不同的版本,使其更容易区分和管理。以下是如何在Docker中更改映像标记的示例: 列出您现有的映像 docker images 将映像标记为新标记 docker tag old_image_tag new_image_tag 列出你的映像,观察新的标签是否被添加 docker images 在此示例中,您需要首先列出已有的映像。这将帮助您确定要更改的映像的名称和标记。接下来,您需要执行Docker tag命令,并将所需的标记指定为新标记。这会在映像名称下添加一个新标记。最后,您需要再次列出您的映像,并确保新的标记已添加成功。 更改Docker映像标记是一个很简单的过程。这使得容器的版本控制和管理变得非常容易。您也可以使用标记来跟踪和管理您的容器和应用。
2023-03-17 16:21:20
311
编程狂人
Docker
Docker , Docker是一个开源的应用容器引擎,它通过操作系统级别的虚拟化技术,将应用程序及其依赖环境打包成一个可移植、自包含的容器。在容器中运行的应用程序与宿主机系统和其他容器相互隔离,但共享操作系统的内核,从而实现轻量级的虚拟化。使用Docker,开发人员可以构建、发布和运行任何应用,无论是在本地开发环境、测试环境还是生产环境,都能确保应用程序在不同环境下的一致性表现。 Dockerfile , Dockerfile是一种文本格式的配置文件,用于定义如何创建一个新的Docker镜像。在Dockerfile中,用户可以指定基础镜像、执行安装命令、设置环境变量、复制文件等一系列构建步骤。通过运行docker build命令,Docker会根据Dockerfile中的指令逐行执行,最终生成一个包含了应用程序及其所有依赖项的定制化镜像。 Kubernetes(K8s) , Kubernetes是一个开源的容器编排系统,为容器化的应用提供了部署、扩展和管理的功能。在Docker等容器技术的基础上,Kubernetes能够自动化部署、管理和运维容器化的应用,并实现了跨主机集群的资源调度、服务发现、负载均衡、自动恢复等功能,使得大规模容器化应用的部署和管理变得简单高效。在Docker生态中,Kubernetes常被用来对多个Docker容器进行集中管理和协调,以满足复杂的企业级应用需求。
2024-01-10 21:35:41
463
代码侠
Docker
...evOps的热潮中,Docker容器技术的地位日益凸显。近期,Docker公司发布了Docker Desktop 4.0版本,进一步增强了对Kubernetes的支持,并优化了开发者的工作流程,使得创建、构建、推送和运行容器化应用程序变得更加简单高效。 与此同时,全球范围内的企业也正在积极采用Docker进行数字化转型。例如,某知名电商平台通过全面应用Docker容器技术,成功实现了微服务架构的落地,不仅大幅度提升了系统的稳定性和可扩展性,还大大减少了资源浪费,降低了运维成本。 深入探讨Docker的安全问题,业界专家强调遵循安全最佳实践的重要性,如最小权限原则、定期更新镜像以及实施严格的容器网络策略等。此外,随着云原生生态的发展,诸如OpenShift、Harbor等开源项目也在为Docker提供更强大的镜像仓库管理和部署支持,助力企业在保证安全性的同时提升业务敏捷性。 值得注意的是,Docker与服务网格(Service Mesh)的结合应用正逐渐成为新的趋势。 Istio、Linkerd等服务网格解决方案能够有效解决大规模容器集群间的通信和服务治理问题,为企业提供了更为完善的云原生基础设施。 综上所述,Docker作为容器技术的领军者,在不断迭代演进的过程中持续赋能企业创新与变革,而在未来,Docker与更多前沿技术的深度融合将有望塑造更加智能、灵活且安全的云环境。
2023-07-04 21:55:54
503
算法侠
Nginx
Docker启动的Nginx如何解决浏览器跨域问题? 什么是Nginx? Nginx是一款轻量级的Web服务器和反向代理服务器,它是开源的,并且具有很高的性能和稳定性。由于它的高可用性和易用性,它已经被广泛应用于生产环境中。 什么是跨域问题? 当我们在网页上请求不同域名下的资源时,就会发生跨域问题。浏览器出于安全考虑,不允许这种行为。要搞定这个问题,我们得用上一个叫做“跨域资源共享”的技术,简称CORS。简单来说,就是让不同的网站之间能够安全地共享资源,就像邻里之间互相借个酱油、醋啥的,大家都方便。 使用Docker启动Nginx 我们可以使用Docker来方便地启动Nginx服务器。首先,我们需要创建一个新的Dockerfile,内容如下: bash FROM nginx:latest COPY nginx.conf /etc/nginx/nginx.conf EXPOSE 80 CMD ["nginx", "-g", "daemon off;"] 然后,我们需要创建一个名为nginx.conf的文件,内容如下: perl http { server { listen 80; location / { proxy_pass http://localhost:8080; } } } 最后,我们可以通过运行以下命令来启动Nginx服务器: css docker build -t my-nginx . docker run -d --name my-nginx -p 80:80 my-nginx 现在,我们已经成功地使用Docker启动了一个Nginx服务器,并且可以通过访问http://localhost/来测试。 如何解决浏览器跨域问题? 为了能够在Nginx服务器上解决浏览器跨域问题,我们需要在nginx.conf文件中添加一些配置。具体来说,我们需要添加以下两个配置: javascript add_header 'Access-Control-Allow-Origin' ''; add_header 'Access-Control-Allow-Methods' 'GET, POST, OPTIONS'; 这两个配置的作用分别是: Access-Control-Allow-Origin:指定允许跨域请求的来源。 Access-Control-Allow-Methods:指定允许跨域请求的方法。 注意,我们在location块中添加了proxy_pass指令,这个指令的作用是转发HTTP请求到另一个服务器。嘿,伙计,这次的情况是这样的,我们把请求给“嗖”地一下转送到了localhost那个家伙的8080端口上啦。 现在,我们已经成功地在Nginx服务器上解决了浏览器跨域问题。我们可以再次访问http://localhost/来测试。 总结 总的来说,使用Docker启动Nginx服务器是一种非常简单且有效的方式来解决浏览器跨域问题。只需要几个简单的步骤,咱们就能轻松搞定Nginx服务器的配置,让它帮咱们顺顺利利解决跨域这个小麻烦。而且,这种方式还可以让我们更方便地管理和扩展我们的应用程序。如果你还没有尝试过使用Docker和Nginx,那么我强烈建议你去试试看!
2023-11-18 17:50:15
154
断桥残雪_t
站内搜索
用于搜索本网站内部文章,支持栏目切换。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
history | grep keyword
- 查找历史命令中包含关键词的部分。
推荐内容
推荐本栏目内的其它文章,看看还有哪些文章让你感兴趣。
2023-04-28
2023-08-09
2023-06-18
2023-04-14
2023-02-18
2023-04-17
2024-01-11
2023-10-03
2023-09-09
2023-06-13
2023-08-07
2023-03-11
历史内容
快速导航到对应月份的历史文章列表。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"