前端技术
HTML
CSS
Javascript
前端框架和UI库
VUE
ReactJS
AngularJS
JQuery
NodeJS
JSON
Element-UI
Bootstrap
Material UI
服务端和客户端
Java
Python
PHP
Golang
Scala
Kotlin
Groovy
Ruby
Lua
.net
c#
c++
后端WEB和工程框架
SpringBoot
SpringCloud
Struts2
MyBatis
Hibernate
Tornado
Beego
Go-Spring
Go Gin
Go Iris
Dubbo
HessianRPC
Maven
Gradle
数据库
MySQL
Oracle
Mongo
中间件与web容器
Redis
MemCache
Etcd
Cassandra
Kafka
RabbitMQ
RocketMQ
ActiveMQ
Nacos
Consul
Tomcat
Nginx
Netty
大数据技术
Hive
Impala
ClickHouse
DorisDB
Greenplum
PostgreSQL
HBase
Kylin
Hadoop
Apache Pig
ZooKeeper
SeaTunnel
Sqoop
Datax
Flink
Spark
Mahout
数据搜索与日志
ElasticSearch
Apache Lucene
Apache Solr
Kibana
Logstash
数据可视化与OLAP
Apache Atlas
Superset
Saiku
Tesseract
系统与容器
Linux
Shell
Docker
Kubernetes
[Vuejs中el-select触发验证事...]的搜索结果
这里是文章列表。热门标签的颜色随机变换,标签颜色没有特殊含义。
点击某个标签可搜索标签相关的文章。
点击某个标签可搜索标签相关的文章。
AngularJS
...采用 MVC(Model-View-Controller)架构模式,专为构建单页面应用设计,通过双向数据绑定、指令系统和依赖注入等功能,简化了开发者在构建动态网页应用时的操作流程和复杂性。 ngsubmit , ngsubmit 是 AngularJS 指令中的一种,用于处理表单提交事件。当表单触发 submit 事件时,ngsubmit 指令会调用关联的方法或表达式进行预定义的操作,如数据验证、异步请求等,从而实现对表单提交行为的自定义控制。 布尔类型 , 布尔类型是编程语言中的基本数据类型之一,在本文语境中特指 AngularJS 表达式返回的结果应符合的数据类型要求。布尔类型只有两个值,即 true 和 false。在 ngsubmit 表达式中,返回值必须为布尔型,以便 AngularJS 根据该结果判断是否执行表单提交操作。如果表达式的返回值不是布尔类型,那么 AngularJS 就无法正确判断表单提交的状态,进而可能导致异常。
2023-11-13 22:15:25
464
寂静森林-t
MySQL
...。使用如下指令: SELECT id FROM role WHERE name='游戏角色名'; 其中,游戏角色名为需要更正虚拟货币的游戏角色名。 更正虚拟货币 找到相应的游戏角色的标识符后,我们就可以更正其虚拟货币了。使用如下指令: UPDATE role 设定 gold=虚拟货币数目 WHERE id=游戏角色标识符; 其中,虚拟货币数目为想要更正的虚拟货币数目,游戏角色标识符为上一步搜索到的游戏角色标识符。 完成 至此,游戏角色虚拟货币的更正就完成了。可以通过如下指令来检查更正是否成功: SELECT gold FROM role WHERE id=游戏角色标识符; 其中,游戏角色标识符为更正虚拟货币时使用的标识符。 总之,以上就是使用MySQL更正游戏角色虚拟货币的方法。当然,具体使用时需要根据实际情况进行调整,但基本思路是相同的。
2023-04-20 08:05:28
62
软件工程师
JQuery
...,执行动画效果,处理事件以及通过AJAX与服务器通信等任务。在本文中,jQuery通过选择器选取按钮元素,并使用其内置方法toggleClass()来实现按钮点击后的选中状态切换。 JavaScript库 , JavaScript库是一组预先编写的JavaScript代码集合,旨在为开发者提供便捷的工具和函数,帮助他们快速高效地完成常见任务或复杂功能。例如,jQuery就是一个广泛应用于网页开发的JavaScript库,它封装了一系列常用的功能,如DOM操作、事件处理、Ajax请求等,极大程度上简化了前端开发工作。 CSS类切换 , CSS类切换是网页样式控制的一种技术,允许开发者通过JavaScript(在本文中使用jQuery)动态添加、移除或切换HTML元素上的CSS类名,从而改变元素的样式表现。在文章示例中,当用户点击按钮时,jQuery会通过toggleClass()方法在按钮元素上切换 .selected 这个CSS类,进而触发CSS样式的变更,实现了按钮的点击选中效果。具体表现为,当按钮具有 selected 类时,将应用不同的背景色和文本颜色以体现按钮的选中状态。
2023-05-17 18:43:07
102
电脑达人
MySQL
...更加安全的插件式身份验证方法,如caching_sha2_password,以增强密码安全性。 此外,为了应对潜在的密码遗忘或泄露问题,除了上述文章中提到的方法外,还可以利用现代化的身份验证工具,如LDAP、PAM(可插拔认证模块)集成进行统一身份验证管理,从而实现更高级别的密码策略和访问控制。同时,强烈建议定期更换MySQL密码,并启用二步验证机制以提高账户安全性。 最近的安全报告显示,针对数据库系统的攻击事件频发,其中不乏因弱口令、未更新补丁等原因导致的数据泄露。因此,无论是在查看还是重置MySQL密码的过程中,都必须遵循严格的权限管理和操作流程,确保在整个过程中数据的保密性和完整性得到保障。同时,运维人员也应持续关注MySQL官方的安全公告和技术文档,及时了解并修复可能存在的安全漏洞,全面提升MySQL数据库系统的安全保障能力。
2024-02-18 15:42:33
121
码农
HTML
...下拉框中的选项后,会触发其他下拉框内容的动态更新,形成逐级筛选的效果。例如在本文中,省份、城市和县区三个下拉框就构成了三级联动,当用户选定某个省份时,对应的市级和县级下拉框会自动加载并显示该省份下的城市和县区列表。 onChange事件 , onChange是HTML元素的一个常见JavaScript事件,它会在元素(如input、select等)内容发生改变且失去焦点时触发。在本文的上下文中,省份下拉框通过设置onChange属性,并绑定changeProvince函数,使得当用户更改省份选项时,能实时调用该函数来更新后续的城市和县区下拉框选项。 Option对象 , 在JavaScript中,Option对象代表HTML select元素中的一个选项。在创建或修改下拉菜单选项时,可以使用new Option()构造函数创建一个新的Option对象实例。例如,在文章的代码示例中,我们通过add方法将新的Option对象添加到城市或县区下拉框的options集合中,其中Option对象的两个参数分别指定了选项的显示文本和对应的value值,这样就能实现根据省份选择动态生成城市和县区选项的功能。
2023-11-21 16:03:03
523
软件工程师
Element-UI
如何在 Element UI 的日期选择器中添加清空和确认按钮? 在日常的前端开发过程中,Element UI 作为一款优秀的 Vue.js 组件库,为我们提供了丰富且易用的 UI 组件。其中,日期选择器(Date Picker)是我们在表单处理、日程安排等场景下频繁使用的组件之一。然而,原生的 Element UI 日期选择器并未直接提供清空和确认按钮的功能,那么,如何巧妙地在日期选择器中增加这两个实用功能呢?本文将带领大家一步步实现这个目标,并通过示例代码进行详细说明。 1. 分析需求 首先,我们需要理解用户在使用日期选择器时可能的需求。用户在选择日期后,通常希望有明确的操作反馈,例如点击“确认”以确认所选日期,或点击“清空”来取消已选日期。这样的设计能够提升用户体验,使操作更加直观和便捷。 2. 设计方案 为了实现上述功能,我们可以考虑在 Element UI 的日期选择器外部包裹一层自定义组件,包含两个按钮(确认和清空),并通过事件监听来更新日期选择器的值。具体来说: 3. 创建自定义组件 vue v-model="selectedDate" type="date" placeholder="选择日期"> 确认 清空 在上面的代码中,我们创建了一个名为 custom-date-picker 的自定义组件,它包括一个 Element UI 的日期选择器和两个按钮。当用户点下那个“确认”按钮的时候,系统就像接到命令的小助手一样,会立刻执行 confirmDate 这个方法。而如果用户心血来潮,点击了“清空”按钮,那么系统也会瞬间响应,跑去触发 clearDate 方法,这样一来,就能轻松实现对日期选择状态的灵活掌控啦! 4. 深入探讨与优化 当然,在实际项目中,我们可能会遇到更复杂的情况,比如需要联动其他组件的状态变化或者验证日期的有效性。此时,你可以在 confirmDate 和 clearDate 方法中加入更多的逻辑判断和状态管理。 此外,为了提升用户体验,还可以为按钮添加相应的样式和提示信息,例如当日期未选择时禁用“确认”按钮,同时在按钮上显示合适的提示文字。 总结 通过以上步骤,我们成功地在 Element UI 的日期选择器中添加了清空和确认按钮,并实现了预期功能。这一过程不仅体现了 Vue.js 和 Element UI 在组件化开发中的灵活性,也展示了我们在面对特定需求时,如何结合现有工具进行创新扩展的能力。在实际工作中,咱们得学会灵活思考、动手实践,不断琢磨怎么让用户跟产品的交流更顺畅、体验更美妙,让技术实实在在地为我们的产品和用户效力,做到贴心又实用。
2023-07-02 11:30:26
497
秋水共长天一色_
JQuery
...化HTML文档遍历、事件处理、动画以及Ajax交互等功能的开发。它封装了JavaScript语言的核心功能,提供了一种更加简洁、易于理解且具有高度可读性的语法结构,使得开发者能够更高效地操作网页DOM元素、处理事件和执行异步请求。 DOM(Document Object Model)操作 , 在Web开发中,DOM是浏览器对HTML或XML文档的一种内部表示方式,允许开发者通过JavaScript等脚本语言动态地访问、修改和创建网页内容与结构。在本文提到的jQuery教程中,DOM操作是指使用jQuery提供的方法来选取、修改、添加或删除HTML元素,例如更改元素样式、内容,插入新的元素,或者隐藏显示已有元素等行为。 插件 , 在jQuery框架下,插件是一种扩展jQuery功能的独立模块。开发者可以基于jQuery核心库开发出特定用途的功能组件,这些组件可以在项目中直接引入并调用,以实现诸如表单验证、图片轮播、拖拽效果等各种复杂功能。教程中的插件章节介绍了如何正确安装和使用jQuery社区或其他开发者编写的第三方插件,帮助开发者增强网站的用户体验和交互性。
2023-11-17 23:55:27
362
程序媛
JQuery
...操作DOM元素、处理事件以及执行Ajax交互等任务时的工作。通过提供简洁易读的API和丰富的插件生态系统,JQuery使得开发者能够快速实现诸如动画效果、表单验证、网页内容筛选等功能,从而提高开发效率并增强用户体验。 JavaScript库 , JavaScript库是一组预先编写的、可复用的JavaScript代码集合,旨在为开发者提供便利,简化常见的编程任务,例如DOM操作、Ajax请求、事件处理、动画制作等。在本文中,JQuery就是一个用于简化网页开发的JavaScript库,它封装了许多复杂的JavaScript功能,使得开发者可以使用更简洁、易于理解的语法来完成复杂任务。 DOM遍历(文中提及的段落遍历) , DOM遍历是指在HTML文档对象模型(Document Object Model, DOM)中查找、访问或操作每一个节点的过程。在本文上下文中,通过JQuery的each()方法遍历ID为“content”的div元素下的所有段落(p标签),逐个检查其文本内容是否包含用户在搜索框中输入的关键字,进而实现搜索文字变色的功能。 keyup事件 , keyup事件是JavaScript中的一个DOM事件,当用户释放键盘上的任意键后触发。在本文示例中,我们为搜索框绑定了keyup事件监听器,这样每当用户在搜索框中输入或修改关键词后松开按键,就会触发相应的JavaScript函数,实时更新页面内匹配关键词的文字高亮状态。 CSS样式(文中提及的highlight类) , CSS(层叠样式表)是一种样式表语言,用于描述HTML或XML(包括如SVG、MathML等各种XML方言)文档的呈现。在文章中提到的.highlight类样式,就是在CSS中定义的一种样式规则,用来给匹配到搜索关键词的文本添加背景颜色(黄色),从而实现高亮显示的效果。
2023-04-05 13:26:07
90
码农
Python
...正常浏览器行为、设置验证码或Cookie验证等手段。文中提及实战中的爬虫开发会遇到反爬机制这一挑战,要求开发者必须具备相应的策略和技术来规避或应对反爬机制。 动态加载内容 , 动态加载内容是指随着用户滚动页面或者触发特定事件(如点击按钮),网页内容逐渐加载呈现的一种网页设计方式。传统爬虫在处理静态网页时可以直接从HTML源码中提取数据,但面对动态加载内容则需要额外的技术手段,例如使用Selenium等工具模拟真实用户操作,或者分析和处理AJAX请求来获取动态生成的内容。文中指出,在实际开发中,网络爬虫可能会遇到这种动态加载情况,这也为爬虫编程提出了更高的要求。
2023-04-21 09:18:01
97
星河万里-t
VUE
...属性(props)并触发自定义事件(events),从而实现组件间的数据传递和功能交互。 Vuex , Vuex是Vue.js官方提供的状态管理模式,适用于管理大型单页应用中多个组件共享的状态。它采用集中式存储管理应用的所有组件的状态,并通过统一的方法进行状态的获取和修改。Vuex通过actions、mutations和getters等概念,确保状态以可预测的方式进行改变,同时提供了方便的状态追溯和调试工具,大大提升了大型项目中状态管理和组件间通信的效率与可控性。
2023-04-09 19:53:58
152
雪域高原_
AngularJS
...图中更改了数据,也会触发模型的变化。这就是所谓的双向数据绑定。 三、AngularJS中的数据绑定原理 AngularJS中的数据绑定其实是一种观察者模式的实现。当你在编程时创建了一个变量或是对象,就像捏造了一个小盒子用来装信息一样。这时,你可以借助一个叫ngModel的神奇工具,把它和HTML页面中的某个元素“牵上线”,这样一来,两者就建立起联系啦!然后,AngularJS会在背后监控这个变量或者对象的变化,并且在发生变化时自动更新对应的HTML元素。这就是数据绑定的工作原理。 四、数据绑定的语法 在AngularJS中,数据绑定主要有三种方式:属性绑定、表达式绑定和指令绑定。 1. 属性绑定 属性绑定是最常见的数据绑定方式,它用于在HTML元素和JavaScript变量之间建立连接。例如,如果你有一个名为person的JavaScript对象,你可以这样绑定它的名字属性: html Name: { { person.name } } 在这个例子中,{ { person.name } }就是一个表达式绑定,它表示将person对象的名字属性显示在HTML元素中。 2. 表达式绑定 表达式绑定允许你在表达式中包含任意JavaScript代码,从而执行复杂的逻辑操作。例如,你可以这样创建一个简单的计数器: html { { count } } Increment 在这个例子中,{ { count } }就是一个表达式绑定,它会显示count变量的值。当你轻轻一点那个按钮,就像给count变量喂了颗能量豆似的,它立马就噌噌噌地往上涨。这样一来,HTML元素里的数字也紧跟着摇身一变,变得越来越大啦! 3. 指令绑定 指令绑定是一种特殊的表达式绑定,它允许你在指令中指定复杂的业务逻辑。例如,你可以创建一个指令来验证用户输入的有效性: html Input is too short! 在这个例子中,ngRequired指令告诉AngularJS,必须输入至少三个字符。如果用户啥都没输入,或者只敲了不超过三个字符,ngShow指令就会悄悄地把对应的HTML元素藏起来,不让它显示在页面上。 五、数据绑定的实际应用 让我们来看一个实际的应用场景。想象一下,你要捣鼓出一个网上购物车应用,用户可以往里头丢商品,还能随时瞅一眼总价,就像在超市亲自推着小车挑选商品一样方便。你可以使用AngularJS的数据绑定来实现这个功能: html Cart total: { { cart.total } } { { product.name } } { { product.price } } Remove Add to cart 在这个例子中,cart对象包含了所有的商品信息,包括它们的价格、数量和ID。我们可以使用ngRepeat指令遍历所有的商品,并在表格中显示它们的信息。同时,我们也提供了添加和移除商品的功能,以及显示总价的功能。这些功能之所以能实现,靠的就是数据绑定这招“法宝”,这样一来,咱们整个系统的开发过程不仅变得更简单易行,还高效得不得了!
2024-01-20 13:07:16
415
风中飘零-t
VUE
...两侧添加花括号,就会触发语法错误: vue { { message // 忘记闭合花括号 { { message } } 2.2 方法调用与事件绑定混淆 Vue中,直接在模板内调用方法需要加上括号,而在处理事件绑定时则不需要。下面是一个错误示例: vue 点击我 点击我 2.3 访问未定义的属性或方法 尝试访问一个不存在的数据属性或方法也会引发错误: vue { { notDefinedProperty } } 3. Vue计算属性与侦听器报错实例 3.1 计算属性函数未返回值 计算属性必须返回一个值,否则在试图读取该属性时会抛出异常: vue { { computedValue } } 3.2 侦听器监听未定义的属性变更 当我们在watch对象中监听一个未初始化或未定义的属性时,也会触发错误: vue 4. 总结与思考 在Vue开发过程中,我们常常会遇到各种语法错误,这不仅要求我们深入理解Vue的语法特性,同时也需要扎实的JavaScript基础。每一次面对报错,都是一次学习和成长的机会。咱们得学会聪明地运用那些错误信息,就像探照灯一样找准问题所在。具体怎么搞呢?首先,别怕翻文档,那可是咱们的武功秘籍,多读多看才能融会贯通。其次,多和大伙儿讨论交流,毕竟“三个臭皮匠顶个诸葛亮”,一起头脑风暴往往能碰撞出新的火花。最后,实践是检验真理的唯一标准,得多动手实操,通过不断的试错和验证,这样才能真正深化对Vue,乃至整个前端技术栈的理解和掌握,让自己的技术水平蹭蹭往上涨。在编程的世界里,解决问题就跟闯迷宫、寻宝一样刺激有趣。每一个小挑战,就像是游戏中的关卡任务,不断地催促着我们勇往直前,激发我们的探索欲望和动力。只有真正摸透并熟练掌握这些可能会让你在Vue道路上踩坑的“陷阱”,你才能更好地玩转Vue,亲手打造出既结实又高效的Web应用。
2023-12-20 22:40:22
82
断桥残雪_
Tomcat
...列通用功能,例如登录验证、字符编码转换、日志记录等,这些功能将在请求到达目标资源(如Servlet)之前或响应发送给客户端之后执行。 Listener(监听器) , Listener在Java Servlet规范中是一种特殊的类,它实现了特定的监听接口,用于监听Web应用程序中的特定事件,如Servlet上下文初始化、会话创建与销毁、属性修改等。当这些事件发生时,监听器会自动触发其相关方法,使得开发者可以在特定的生命周期阶段添加自定义行为,增强了程序的灵活性和可扩展性。 web.xml文件 , web.xml文件全称为Web应用程序部署描述符,它是Java Web应用程序的标准配置文件,遵循XML格式。该文件主要定义了应用的基本结构和启动参数,包括Servlet映射、Filter配置、Listener注册、初始化参数设定等内容。Tomcat等Servlet容器在启动时会解析web.xml文件,根据其中的配置信息加载并管理Web应用程序的不同组件及其生命周期。
2023-08-20 15:01:52
346
醉卧沙场
VUE
... 序号3:监听滚动事件 为了实现滚动加载历史数据,我们可以监听滚动事件,当用户滚动到底部时触发加载。这里使用Intersection Observer API来检测元素是否进入视口。在mounted()生命周期钩子中,我们可以初始化这个观察者。 javascript mounted() { const observer = new IntersectionObserver((entries) => { entries.forEach((entry) => { if (entry.isIntersecting) { this.loadHistoricalData(); } }); }); // 添加滚动区域的元素到观察者 observer.observe(document.querySelector('scroll-region')); }, 在loadHistoricalData方法中,我们需要向后请求数据,比如最近的10条记录: javascript methods: { async loadHistoricalData() { this.isLoading = true; const lastItemIndex = this.dataList.length - 1; const startFrom = lastItemIndex - 9; // 假设每次加载10条,从最后一条的前一条开始 const historicalData = await this.fetchHistoricalData(startFrom); this.dataList = this.dataList.slice(0, startFrom).concat(historicalData); this.isLoading = false; }, fetchHistoricalData(startFrom) { return this.$http.get(/api/historical-data?startFrom=${startFrom}); } }, 序号4:优化和性能考虑 为了提高性能,你可以采取以下策略: - 缓存加载数据: 如果数据结构不变,可以将已加载的数据缓存起来,避免重复请求。 - 懒加载: 对于非关键部分的数据,可以使用懒加载(如图片),只在用户滚动到可视区域时加载。 - 分页和批次加载: 限制每次加载的数量,减少一次性发送大量请求的压力。 结论 Vue.js的强大在于其灵活性和组件化的设计,使得实现动态加载和滚动加载变得简单易行。用Mint UI和超酷的浏览器黑科技混搭,能整出那种顺滑又速度飞快的用户体验,就像丝般流畅,简直不要太爽!你知道吗,细节这家伙有时候就是胜负手,对前端工程来说,提升性能跟让用户爽歪歪一样重要,绝对马虎不得。嘿,看看这些实例,想象一下它们在你手头的项目里如何轻松玩转滚动加载的魔法,肯定能让你眼前一亮!
2024-06-16 10:44:31
97
断桥残雪_
DorisDB
...制、增量复制以及基于事件的复制,能够满足不同场景下的数据管理需求。 三、实现步骤 以下是一个简单的示例,展示如何在DorisDB中实现基本的数据复制和同步: 1. 创建数据源表 首先,我们需要创建两个数据源表,一个作为主表(Master),另一个作为从表(Slave)。这两个表结构应该完全相同,以便数据可以无缝复制。 sql -- 创建主表 CREATE TABLE master_table ( id INT, name STRING, age INT ) ENGINE = MergeTree() ORDER BY id; -- 创建从表 CREATE TABLE slave_table ( id INT, name STRING, age INT ) ENGINE = ReplicatedMergeTree('/data/replication', 'slave_replica', id, name, 8192); 2. 配置复制规则 为了实现数据同步,我们需要在DorisDB的配置文件中设置复制规则。对于本示例,我们假设使用默认的复制规则,即从表会自动从主表复制数据。 sql -- 查看当前复制规则配置 SHOW REPLICA RULES; -- 如果需要自定义规则,可以使用REPLICA RULE命令添加规则 -- 示例:REPLICA RULE 'slave_to_master' FROM TABLE 'master_table' TO TABLE 'slave_table'; 3. 触发数据同步 DorisDB会在数据变更时自动触发数据同步。为了确认数据小抄有没有搞定,咱们可以动手查查看,比对一下主文件和从文件里的信息是不是一模一样。就像侦探破案一样,咱们得找找看有没有啥遗漏或者错误的地方。这样咱就能确保数据复制的过程没出啥岔子,一切都顺利进行。 sql -- 查询主表数据 SELECT FROM master_table; -- 查询从表数据 SELECT FROM slave_table; 4. 检查数据一致性 为了确保数据的一致性,可以在主表进行数据修改后,立即检查从表是否更新了相应数据。如果从表的数据与主表保持一致,则表示数据复制和同步功能正常工作。 sql -- 在主表插入新数据 INSERT INTO master_table VALUES (5, 'John Doe', 30); -- 等待一段时间,让数据同步完成 SLEEP(5); -- 检查从表是否已同步新数据 SELECT FROM slave_table; 四、结论 通过上述步骤,我们不仅实现了在DorisDB中的基本数据复制功能,还通过实际操作验证了数据的一致性。DorisDB的强大之处在于其简洁的配置和自动化的数据同步机制,使得数据管理变得高效且可靠。嘿,兄弟!你得知道 DorisDB 这个家伙可厉害了,不管是用来备份数据,还是帮咱们平衡服务器的负载,或者是分发数据,它都能搞定,而且效率杠杠的,稳定性也是一流的。有了 DorisDB 的保驾护航,咱们企业的数据驱动战略就稳如泰山,打心底里感到放心和踏实! --- 在编写本文的过程中,我尝试将技术内容融入到更贴近人类交流的语言中,不仅介绍了DorisDB数据复制与同步的技术细节,还通过具体的SQL语句和代码示例,展示了实现这一功能的实际操作流程。这样的写作方式旨在帮助读者更好地理解和实践相关技术,同时也增加了文章的可读性和实用性。
2024-08-25 16:21:04
109
落叶归根
.net
...M(Object-Relational Mapping)框架,用于.NET平台,它将数据库表映射为.NET对象,使得开发者可以直接使用面向对象的方式来操作数据库。在文章中,Entity Framework示例代码展示了如何使用它来查询数据库并处理结果,包括如何通过OrderBy和GroupBy进行排序和去重。 DISTINCT关键字 , SQL查询中的关键字,用于从查询结果中去除重复的行。当在SQL查询中使用DISTINCT时,数据库会在执行查询时自动去除相同值的行,这在处理可能包含重复数据的数据库查询时非常有用。在Entity Framework中,可以通过GroupBy操作符实现类似的功能。 IQueryable<T> , .NET框架中的接口,用于表示一个可延迟执行的查询。在使用IQueryable时,查询不会立即执行,而是在需要结果时才执行,这对于处理大量数据或流式处理非常有效。在.NET Core 6.0的更新中,IQueryableExtensions扩展了这个接口,提供了更多的查询操作选项,增强了性能和灵活性。 Lazy Loading , 一种数据加载模式,在.NET中,当访问一个关联对象时,只有当它真的被请求时才会从数据库加载。这种方法可以减少内存占用,但在处理大量数据时需要谨慎,因为它可能导致不必要的数据库查询。 Serverless , 一种云计算模型,用户无需管理底层服务器资源,只需编写代码并按照使用的资源付费。在数据处理场景中,Serverless可以帮助开发者专注于业务逻辑,而无需关心服务器运维和扩展问题。 Azure Functions , 微软提供的无服务器计算服务,它允许开发者创建和部署小型、独立的函数,这些函数在事件触发时自动运行。在处理大数据时,Azure Functions可以作为数据处理的中间层,处理和过滤数据,然后再将其存储或转发到其他系统。
2024-04-07 11:24:46
437
星河万里_
ClickHouse
...系统权限不正确的处理方法 3.1 问题描述 假设我们已创建一个指向本地文件系统的外部表,但在查询时收到错误提示:“Access to file denied”,这通常意味着ClickHouse服务账户没有足够的权限访问该文件。 sql CREATE TABLE external_table (event Date, id Int64) ENGINE = File(Parquet, '/path/to/your/file.parquet'); SELECT FROM external_table; -- Access to file denied 3.2 解决方案 首先,我们需要确认ClickHouse服务运行账户对目标文件或目录拥有读取权限。可以通过更改文件或目录的所有权或修改访问权限来实现: bash sudo chown -R clickhouse:clickhouse /path/to/your/file.parquet sudo chmod -R 750 /path/to/your/file.parquet 这里,“clickhouse”是ClickHouse服务默认使用的系统账户名,您需要将其替换为您的实际环境下的账户名。对了,你知道吗?这个“750”啊,就像是个门锁密码一样,代表着一种常见的权限分配方式。具体来说呢,就是文件的所有者,相当于家的主人,拥有全部权限——想读就读,想写就写,还能执行操作;同组的其他用户呢,就好比是家人或者室友,他们能读取文件内容,也能执行相关的操作,但就不能随意修改了;而那些不属于这个组的其他用户呢,就像是门外的访客,对于这个文件来说,那可是一点权限都没有,完全进不去。 4. 文件不存在的问题及其解决策略 4.1 问题描述 当我们在创建外部表时指定的文件路径无效或者文件已被删除时,尝试从该表查询数据会返回“File not found”的错误。 sql CREATE TABLE missing_file_table (data String) ENGINE = File(TSV, '/nonexistent/path/file.tsv'); SELECT FROM missing_file_table; -- File not found 4.2 解决方案 针对此类问题,我们的首要任务是确保指定的文件路径是存在的并且文件内容有效。若文件确实已被移除,那么重新生成或恢复文件是最直接的解决办法。另外,你还可以琢磨一下在ClickHouse的配置里头开启自动监控和重试功能,这样一来,万一碰到文件临时抽风、没法用的情况,它就能自己动手解决问题了。 另外,对于周期性更新的外部数据源,推荐结合ALTER TABLE ... UPDATE语句或MaterializeMySQL等引擎动态更新外部表的数据源路径。 sql -- 假设新文件已经生成,只需更新表结构即可 ALTER TABLE missing_file_table MODIFY SETTING path = '/new/existing/path/file.tsv'; 5. 结论与思考 在使用ClickHouse外部表的过程中,理解并妥善处理文件系统权限和文件状态问题是至关重要的。只有当数据能够被安全、稳定地访问,才能充分发挥ClickHouse在大数据分析领域的强大效能。这也正好敲响我们的小闹钟,在我们捣鼓数据架构和运维流程的设计时,千万不能忘了把权限控制和数据完整性这两块大骨头放进思考篮子里。这样一来,咱们才能稳稳当当地保障整个数据链路健健康康地运转起来。
2023-09-29 09:56:06
467
落叶归根
SeaTunnel
...he SeaTunnel(以前叫Dlink)搞定这个难题。 2. 数据库容量预警的重要性 首先,我们得明白为什么数据库容量预警这么重要。想象一下,如果你的数据库突然撑破了天花板,那可不只是系统要罢工了,搞不好你辛辛苦苦存的东西都会打水漂呢!要是真摊上这事,那你可有的忙了,不仅要拼命恢复数据,还得应付客户和老板的一堆问题。所以说,有个靠谱的预警系统能在数据库快要爆满时提前通知你,这真是太关键了。 3. 当前预警机制的不足 目前,很多公司依赖手动监控或者一些基本的告警工具。但是这些方法往往不够及时和准确。比如说吧,我以前就碰到过这么一回。有个表格的数据量突然像坐火箭一样猛增,结果我们没收到任何预警,存储空间就被塞得满满当当的了。结果就是,系统崩溃,用户投诉,还得加班加点解决问题。这让我意识到,必须找到一种更智能、更自动化的解决方案。 4. 使用SeaTunnel进行数据库容量预警 4. 1. 安装与配置 要开始使用SeaTunnel进行数据库容量预警,首先需要安装并配置好环境。假设你已经安装好了Java环境和Maven,那么接下来就是安装SeaTunnel本身。你可以从GitHub上克隆项目,然后按照官方文档中的步骤进行编译和打包。 bash git clone https://github.com/apache/incubator-seatunnel.git cd incubator-seatunnel mvn clean package -DskipTests 接着,你需要配置SeaTunnel的配置文件seatunnel-env.sh,确保环境变量正确设置: bash export SEATUNNEL_HOME=/path/to/seatunnel 4. 2. 创建任务配置文件 接下来,我们需要创建一个任务配置文件来定义我们的预警逻辑。比如说,我们要盯着MySQL里某个表的个头,一旦它长得太大,超出了我们定的界限,就赶紧发封邮件提醒我们。我们可以创建一个名为capacity_alert.conf的配置文件: yaml job { name = "DatabaseCapacityAlert" parallelism = 1 sources { mysql_source { type = "jdbc" url = "jdbc:mysql://localhost:3306/mydb" username = "root" password = "password" query = "SELECT table_schema, table_name, data_length + index_length AS total_size FROM information_schema.tables WHERE table_schema = 'mydb' AND table_name = 'my_table'" } } sinks { mail_sink { type = "mail" host = "smtp.example.com" port = 587 username = "alert@example.com" password = "alert_password" from = "alert@example.com" to = "admin@example.com" subject = "Database Capacity Alert" content = """ The database capacity is approaching the threshold. Please take necessary actions. """ } } } 4. 3. 运行任务 配置完成后,就可以启动SeaTunnel任务了。你可以通过以下命令运行: bash bin/start-seatunnel.sh --config conf/capacity_alert.conf 4. 4. 监控与调整 运行后,你可以通过日志查看任务的状态和输出。如果一切正常,你应该会看到类似如下的输出: [INFO] DatabaseCapacityAlert - Running task with parallelism 1... [INFO] MailSink - Sending email alert to admin@example.com... [INFO] MailSink - Email sent successfully. 如果发现任何问题,比如邮件发送失败,可以检查配置文件中的SMTP设置是否正确,或者尝试重新运行任务。 5. 总结与展望 通过这次实践,我发现SeaTunnel真的非常强大,能够帮助我们构建复杂的ETL流程,包括数据库容量预警这样的高级功能。当然了,这个过程也不是一路畅通的,中间遇到了不少坑,但好在最后都解决了。将来,我打算继续研究怎么把SeaTunnel和其他监控工具连起来,打造出一个更全面、更聪明的预警系统。这样就能更快地发现问题,省去很多麻烦。 希望这篇文章对你有所帮助,如果你有任何疑问或建议,欢迎在评论区留言交流!
2025-01-29 16:02:06
74
月下独酌
转载文章
...于此功能的一些对象和方法: 1. window.event对象: event代表事件的状态,例如触发event对象的元素、鼠标的位置及状态、按下的键等等。 event对象只在事件发生的过程中才有效。 2. event.srcElement: 表示该事件的发生源 通俗一点说也就是该事件被触发的地方 3. srcElement.parentNode: 表示该事件发生源的父结点 4. srcElement.tagName: 表示事件发生源的标签名 5. toUpperCase(): 大写化相应字符串的方法 基本上就是这些属性和方法,可能对于刚刚接触javascript的朋友们或者以前很少使用此类功能的朋友来说, 这些对象有些陌生,不过没关系,了解以后发现其实并不难,和javascript验证表单之类的并没有太多的不同。 下面就结合程序给大家一步一步讲解(程序难免有不合理之处,希望大家多多指正,共同进步): 第一部分:javascript纪录浏览动作 复制内容到剪贴板 代码: function glog(evt) //定义纪录鼠标点击动作的函数 { evt=evt?evt:window.event;var srcElem=(evt.target)?evt.target:evt.srcElement; try { while(srcElem.parentNode&&srcElem!=srcElem.parentNode) //以上这个语句判断鼠标动作是否发生在有效区域,防止用户的无效点击也被纪录下来 { if(srcElem.tagName&&srcElem.tagName.toUpperCase()=="A")//判断用户点击的对象是否属于链接 { linkname=srcElem.innerHTML; //取出事件发生源的名称,也就是和之间的文字,也就是链接名称哈 address=srcElem.href+"_www.achome.cn_"; //取出事件发生源的href值,也就是该链接的地址 wlink=linkname+"+"+address; //将链接名称和链接地址整合到一个变量当中 old_info=getCookie("history_info"); //从Cookies中取出以前纪录的浏览历史,该函数后面有声明 //以下程序开始判断新的浏览动作是否和已有的前6个历史重复,如果不重复则写入cookies var insert=true; if(old_info==null) //判断cookie是否为空 { insert=true; } else { var old_link=old_info.split("_www.achome.cn_"); for(var j=0;j<=5;j++) { if(old_link[j].indexOf(linkname)!=-1) insert=false; if(old_link[j]=="null") break; } } if(insert) { wlink+=getCookie("history_info"); setCookie("history_info",wlink); //写入cookie,该函数后面有声明 history_show().reload(); break; } } srcElem = srcElem.parentNode; } } catch(e){} return true; } document.οnclick=glog;//使每一次页面的点击动作都执行glog函数 第2部分:Cookies的相关函数 复制内容到剪贴板 代码: //cookie的相关函数 //读取cookie中指定的内容 function getCookieVal (offset) { var endstr = document.cookie.indexOf (";", offset); if (endstr == -1) endstr = document.cookie.length; return unescape(document.cookie.substring(offset, endstr)); } function getCookie (name) { var arg = name + "="; var alen = arg.length; var clen = document.cookie.length; var i = 0; while (i < clen) { var j = i + alen; if (document.cookie.substring(i, j) == arg) return getCookieVal (j); i = document.cookie.indexOf(" ", i) + 1; if (i == 0) break; } return null; } //将浏览动作写入cookie function setCookie (name, value) { var exp = new Date(); exp.setTime (exp.getTime()+3600000000); document.cookie = name + "=" + value + "; expires=" + exp.toGMTString(); } 第3部分:页面显示函数 复制内容到剪贴板 代码: function history_show() { var history_info=getCookie("history_info"); //取出cookie中的历史记录 var content=""; //定义一个显示变量 if(history_info!=null) { history_arg=history_info.split("_www.achome.cn_"); var i; for(i=0;i<=5;i++) { if(history_arg[i]!="null") { var wlink=history_arg[i].split("+"); content+=("↑"+""+wlink[0]+" "); } document.getElementById("history").innerHTML=content; } } else {document.getElementById("history").innerHTML="对不起,您没有任何浏览纪录";} } 代码差不多就是这些了 就为大家分析到这里 还有不足之处还请大家多多指教 下面可以运行代码查看效果 查看效果 //cookie的相关函数 function getCookieVal (offset) { var endstr = document.cookie.indexOf (";", offset); if (endstr == -1) endstr = document.cookie.length; return unescape(document.cookie.substring(offset, endstr)); } function getCookie (name) { var arg = name + "="; var alen = arg.length; var clen = document.cookie.length; var i = 0; while (i < clen) { var j = i + alen; if (document.cookie.substring(i, j) == arg) return getCookieVal (j); i = document.cookie.indexOf(" ", i) + 1; if (i == 0) break; } return null; } function setCookie (name, value) { var exp = new Date(); exp.setTime (exp.getTime()+3600000000); document.cookie = name + "=" + value + "; expires=" + exp.toGMTString(); } function glog(evt) { evt=evt?evt:window.event;var srcElem=(evt.target)?evt.target:evt.srcElement; try { while(srcElem.parentNode&&srcElem!=srcElem.parentNode) { if(srcElem.tagName&&srcElem.tagName.toUpperCase()=="A") { linkname=srcElem.innerHTML; address=srcElem.href+"_www.achome.cn_"; wlink=linkname+"+"+address; old_info=getCookie("history_info"); var insert=true; if(old_info==null) //判断cookie是否为空 { insert=true; } else { var old_link=old_info.split("_www.achome.cn_"); for(var j=0;j<=5;j++) { if(old_link[j].indexOf(linkname)!=-1) insert=false; if(old_link[j]=="null") break; } } / if(insert) //如果符合条件则重新写入数据 { wlink+=getCookie("history_info"); setCookie("history_info",wlink); history_show().reload(); break; } } srcElem = srcElem.parentNode; } } catch(e){} return true; } document.οnclick=glog; function history_show() { var history_info=getCookie("history_info"); var content=""; if(history_info!=null) { history_arg=history_info.split("_www.achome.cn_"); var i; for(i=0;i<=5;i++) { if(history_arg[i]!="null") { var wlink=history_arg[i].split("+"); content+=("↑"+""+wlink[0]+" "); } document.getElementById("history").innerHTML=content; } } else {document.getElementById("history").innerHTML="对不起,您没有任何浏览纪录";} } // JavaScript Document 浏览历史排行(只显示6个最近访问站点并且没有重复的站点出现) history_show(); 点击链接: 网站1 网站2 网站3 网站4 网站5 网站6 网站7 网站8 网站9 如果有其他疑问请登陆www.achome.cn与我联系 提示:您可以先修改部分代码再运行 本篇文章为转载内容。原文链接:https://blog.csdn.net/weixin_30611227/article/details/117818020。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-04-30 21:14:40
49
转载
转载文章
....fromEvent方法将WebSocket服务器实例上的 connection 事件转换为可观察对象,然后订阅这个可观察对象以便在客户端连接到WebSocket服务器时触发相应的事件处理函数(即onConnect函数),从而在控制台上打印出连接成功的日志消息。
2023-03-19 12:00:21
53
转载
NodeJS
...它天生就擅长处理异步事件流,再加上强大的生态系统(比如 Express、Socket.IO 等),简直就是为实时应用量身定制的工具。所以,今天我们就用 Node.js + WebSocket 来做一个简单的实时监控面板,顺便分享一下我的一些心得。 --- 2. 第一步 搭建基础环境 首先,我们需要准备开发环境。Node.js 的安装非常简单,去官网下载对应版本就行。安装完后,用 node -v 和 npm -v 验证是否成功。如果这两个命令都能正常输出版本号,那就说明环境配置好了。 接下来,我们创建项目文件夹,并初始化 npm: bash mkdir real-time-monitor cd real-time-monitor npm init -y 然后安装必要的依赖包。这里我们用到两个核心库:Express 和 ws(WebSocket 库)。Express 是用来搭建 HTTP 服务的,ws 则专门用于 WebSocket 通信。 bash npm install express ws 接下来,我们写一个最基础的 HTTP 服务,确保环境能正常工作: javascript // server.js const express = require('express'); const app = express(); app.get('/', (req, res) => { res.send('Hello World!'); }); const PORT = process.env.PORT || 3000; app.listen(PORT, () => { console.log(Server is running on port ${PORT}); }); 保存文件后运行 node server.js,然后在浏览器输入 http://localhost:3000,应该能看到 “Hello World!”。到这里,我们的基本框架已经搭好了,是不是感觉还挺容易的? --- 3. 第二步 引入 WebSocket 现在我们有了一个 HTTP 服务,接下来该让 WebSocket 上场了。WebSocket 的好处就是能在浏览器和服务器之间直接搭起一条“高速公路”,不用老是像发短信那样频繁地丢 HTTP 请求过去,省时又高效!为了方便,我们可以直接用 ws 库来实现。 修改 server.js 文件,添加 WebSocket 相关代码: javascript // server.js const express = require('express'); const WebSocket = require('ws'); const app = express(); const wss = new WebSocket.Server({ port: 8080 }); wss.on('connection', (ws) => { console.log('A client connected!'); // 接收来自客户端的消息 ws.on('message', (message) => { console.log(Received message => ${message}); ws.send(You said: ${message}); }); // 当客户端断开时触发 ws.on('close', () => { console.log('Client disconnected.'); }); }); app.get('/', (req, res) => { res.sendFile(__dirname + '/index.html'); }); const PORT = process.env.PORT || 3000; app.listen(PORT, () => { console.log(HTTP Server is running on port ${PORT}); }); 这段代码做了几件事: 1. 创建了一个 WebSocket 服务器,监听端口 8080。 2. 当客户端连接时,打印日志并等待消息。 3. 收到消息后,会回传给客户端。 4. 如果客户端断开连接,也会记录日志。 为了让浏览器能连接到 WebSocket 服务器,我们还需要一个简单的 HTML 页面作为客户端入口: html Real-Time Monitor WebSocket Test Send Message 这段 HTML 代码包含了一个简单的聊天界面,用户可以在输入框中输入内容并通过 WebSocket 发送到服务器,同时也能接收到服务器返回的信息。跑完 node server.js 之后,别忘了打开浏览器,去 http://localhost:3000 看一眼,看看它是不是能正常转起来。 --- 4. 第三步 扩展功能——实时监控数据 现在我们的 WebSocket 已经可以正常工作了,但还不能算是一个真正的监控面板。为了让它更实用一点,咱们不妨假装弄点监控数据玩玩,像CPU用得多不多、内存占了百分之多少之类的。 首先,我们需要一个生成随机监控数据的函数: javascript function generateRandomMetrics() { return { cpuUsage: Math.random() 100, memoryUsage: Math.random() 100, diskUsage: Math.random() 100 }; } 然后,在 WebSocket 连接中定时向客户端推送这些数据: javascript wss.on('connection', (ws) => { console.log('A client connected!'); setInterval(() => { const metrics = generateRandomMetrics(); ws.send(JSON.stringify(metrics)); }, 1000); // 每秒发送一次 ws.on('close', () => { console.log('Client disconnected.'); }); }); 客户端需要解析接收到的数据,并动态更新页面上的信息。我们可以稍微改造一下 HTML 和 JavaScript: html CPU Usage: Memory Usage: Disk Usage: javascript socket.onmessage = (event) => { const metrics = JSON.parse(event.data); document.getElementById('cpuProgress').value = metrics.cpuUsage; document.getElementById('memoryProgress').value = metrics.memoryUsage; document.getElementById('diskProgress').value = metrics.diskUsage; const messagesDiv = document.getElementById('messages'); messagesDiv.innerHTML += Metrics updated. ; }; 这样,每秒钟都会从服务器获取一次监控数据,并在页面上以进度条的形式展示出来。是不是很酷? --- 5. 结尾 总结与展望 通过这篇文章,我们从零开始搭建了一个基于 Node.js 和 WebSocket 的实时监控面板。别看它现在功能挺朴素的,但这东西一出手就让人觉得,WebSocket 在实时互动这块儿真的大有可为啊!嘿,听我说!以后啊,你完全可以接着把这个项目捯饬得更酷一些。比如说,弄点新鲜玩意儿当监控指标,让用户用起来更爽,或者直接把它整到真正的生产环境里去,让它发挥大作用! 其实开发的过程就像拼图一样,有时候你会遇到困难,但只要一点点尝试和调整,总会找到答案。希望这篇文章能给你带来灵感,也欢迎你在评论区分享你的想法和经验! 最后,如果你觉得这篇文章对你有帮助,记得点个赞哦!😄 --- 完
2025-05-06 16:24:48
77
清风徐来
转载文章
...早由 Dan Kegel 在 1999 年提出。那时的服务器还只是 32 位系统,运行着 Linux 2.2 版本(后来又升级到了 2.4 和 2.6,而 2.6 才支持 x86_64),只配置了很少的内存(2GB)和千兆网卡。 怎么在这样的系统中支持并发 1 万的请求呢? 从资源上来说,对 2GB 内存和千兆网卡的服务器来说,同时处理 10000 个请求,只要每个请求处理占用不到 200KB(2GB/10000)的内存和 100Kbit (1000Mbit/10000)的网络带宽就可以。 物理资源是足够的,是软件的问题,特别是网络的 I/O 模型问题。 I/O 的模型,文件 I/O和网络 I/O 模型也类似。 在 C10K 以前,Linux 中网络处理都用同步阻塞的方式,也就是每个请求都分配一个进程或者线程。 请求数只有 100 个时,这种方式自然没问题,但增加到 10000 个请求时,10000 个进程或线程的调度、上下文切换乃至它们占用的内存,都会成为瓶颈。 每个请求分配一个线程的方式不合适,为了支持 10000 个并发请求,有两个问题需要我们解决 第一,怎样在一个线程内处理多个请求,也就是要在一个线程内响应多个网络 I/O。以前的同步阻塞方式下,一个线程只能处理一个请求,到这里不再适用,是不是可以用非阻塞 I/O 或者异步 I/O 来处理多个网络请求呢? 第二,怎么更节省资源地处理客户请求,也就是要用更少的线程来服务这些请求。是不是可以继续用原来的 100 个或者更少的线程,来服务现在的 10000 个请求呢? I/O 模型优化 异步、非阻塞 I/O 的解决思路是我们在网络编程中经常用到的 I/O 多路复用(I/O Multiplexing) 两种 I/O 事件通知的方式:水平触发和边缘触发,它们常用在套接字接口的文件描述符中。 水平触发:只要文件描述符可以非阻塞地执行 I/O ,就会触发通知。也就是说,应用程序可以随时检查文件描述符的状态,然后再根据状态,进行 I/O 操作。 边缘触发:只有在文件描述符的状态发生改变(也就是 I/O 请求达到)时,才发送一次通知。这时候,应用程序需要尽可能多地执行 I/O,直到无法继续读写,才可以停止。如果 I/O 没执行完,或者因为某种原因没来得及处理,那么这次通知也就丢失了。 I/O 多路复用的方法有很多实现方法,我带你来逐个分析一下。 第一种,使用非阻塞 I/O 和水平触发通知,比如使用 select 或者 poll。 根据刚才水平触发的原理,select 和 poll 需要从文件描述符列表中,找出哪些可以执行 I/O ,然后进行真正的网络 I/O 读写。由于 I/O 是非阻塞的,一个线程中就可以同时监控一批套接字的文件描述符,这样就达到了单线程处理多请求的目的。所以,这种方式的最大优点,是对应用程序比较友好,它的 API 非常简单。 但是,应用软件使用 select 和 poll 时,需要对这些文件描述符列表进行轮询,这样,请求数多的时候就会比较耗时。并且,select 和 poll 还有一些其他的限制。 select 使用固定长度的位相量,表示文件描述符的集合,因此会有最大描述符数量的限制。比如,在 32 位系统中,默认限制是 1024。并且,在 select 内部,检查套接字状态是用轮询的方法,再加上应用软件使用时的轮询,就变成了一个 O(n^2) 的关系。 而 poll 改进了 select 的表示方法,换成了一个没有固定长度的数组,这样就没有了最大描述符数量的限制(当然还会受到系统文件描述符限制)。但应用程序在使用 poll 时,同样需要对文件描述符列表进行轮询,这样,处理耗时跟描述符数量就是 O(N) 的关系。 除此之外,应用程序每次调用 select 和 poll 时,还需要把文件描述符的集合,从用户空间传入内核空间,由内核修改后,再传出到用户空间中。这一来一回的内核空间与用户空间切换,也增加了处理成本。 有没有什么更好的方式来处理呢?答案自然是肯定的。 第二种,使用非阻塞 I/O 和边缘触发通知,比如 epoll。既然 select 和 poll 有那么多的问题,就需要继续对其进行优化,而 epoll 就很好地解决了这些问题。 epoll 使用红黑树,在内核中管理文件描述符的集合,这样,就不需要应用程序在每次操作时都传入、传出这个集合。 epoll 使用事件驱动的机制,只关注有 I/O 事件发生的文件描述符,不需要轮询扫描整个集合。 不过要注意,epoll 是在 Linux 2.6 中才新增的功能(2.4 虽然也有,但功能不完善)。由于边缘触发只在文件描述符可读或可写事件发生时才通知,那么应用程序就需要尽可能多地执行 I/O,并要处理更多的异常事件。 第三种,使用异步 I/O(Asynchronous I/O,简称为 AIO)。 在前面文件系统原理的内容中,我曾介绍过异步 I/O 与同步 I/O 的区别。异步 I/O 允许应用程序同时发起很多 I/O 操作,而不用等待这些操作完成。而在 I/O 完成后,系统会用事件通知(比如信号或者回调函数)的方式,告诉应用程序。这时,应用程序才会去查询 I/O 操作的结果。 异步 I/O 也是到了 Linux 2.6 才支持的功能,并且在很长时间里都处于不完善的状态,比如 glibc 提供的异步 I/O 库,就一直被社区诟病。同时,由于异步 I/O 跟我们的直观逻辑不太一样,想要使用的话,一定要小心设计,其使用难度比较高。 工作模型优化 了解了 I/O 模型后,请求处理的优化就比较直观了。 使用 I/O 多路复用后,就可以在一个进程或线程中处理多个请求,其中,又有下面两种不同的工作模型。 第一种,主进程 + 多个 worker 子进程,这也是最常用的一种模型。这种方法的一个通用工作模式就是:主进程执行 bind() + listen() 后,创建多个子进程;然后,在每个子进程中,都通过 accept() 或 epoll_wait() ,来处理相同的套接字。 比如,最常用的反向代理服务器 Nginx 就是这么工作的。它也是由主进程和多个 worker 进程组成。主进程主要用来初始化套接字,并管理子进程的生命周期;而 worker 进程,则负责实际的请求处理。我画了一张图来表示这个关系。 这里要注意,accept() 和 epoll_wait() 调用,还存在一个惊群的问题。换句话说,当网络 I/O 事件发生时,多个进程被同时唤醒,但实际上只有一个进程来响应这个事件,其他被唤醒的进程都会重新休眠。 其中,accept() 的惊群问题,已经在 Linux 2.6 中解决了; 而 epoll 的问题,到了 Linux 4.5 ,才通过 EPOLLEXCLUSIVE 解决。 为了避免惊群问题, Nginx 在每个 worker 进程中,都增加一个了全局锁(accept_mutex)。这些 worker 进程需要首先竞争到锁,只有竞争到锁的进程,才会加入到 epoll 中,这样就确保只有一个 worker 子进程被唤醒。 不过,根据前面 CPU 模块的学习,你应该还记得,进程的管理、调度、上下文切换的成本非常高。那为什么使用多进程模式的 Nginx ,却具有非常好的性能呢? 这里最主要的一个原因就是,这些 worker 进程,实际上并不需要经常创建和销毁,而是在没任务时休眠,有任务时唤醒。只有在 worker 由于某些异常退出时,主进程才需要创建新的进程来代替它。 当然,你也可以用线程代替进程:主线程负责套接字初始化和子线程状态的管理,而子线程则负责实际的请求处理。由于线程的调度和切换成本比较低,实际上你可以进一步把 epoll_wait() 都放到主线程中,保证每次事件都只唤醒主线程,而子线程只需要负责后续的请求处理。 第二种,监听到相同端口的多进程模型。在这种方式下,所有的进程都监听相同的接口,并且开启 SO_REUSEPORT 选项,由内核负责将请求负载均衡到这些监听进程中去。这一过程如下图所示。 由于内核确保了只有一个进程被唤醒,就不会出现惊群问题了。比如,Nginx 在 1.9.1 中就已经支持了这种模式。 不过要注意,想要使用 SO_REUSEPORT 选项,需要用 Linux 3.9 以上的版本才可以。 C1000K 基于 I/O 多路复用和请求处理的优化,C10K 问题很容易就可以解决。不过,随着摩尔定律带来的服务器性能提升,以及互联网的普及,你并不难想到,新兴服务会对性能提出更高的要求。 很快,原来的 C10K 已经不能满足需求,所以又有了 C100K 和 C1000K,也就是并发从原来的 1 万增加到 10 万、乃至 100 万。从 1 万到 10 万,其实还是基于 C10K 的这些理论,epoll 配合线程池,再加上 CPU、内存和网络接口的性能和容量提升。大部分情况下,C100K 很自然就可以达到。 那么,再进一步,C1000K 是不是也可以很容易就实现呢?这其实没有那么简单了。 首先从物理资源使用上来说,100 万个请求需要大量的系统资源。比如, 假设每个请求需要 16KB 内存的话,那么总共就需要大约 15 GB 内存。 而从带宽上来说,假设只有 20% 活跃连接,即使每个连接只需要 1KB/s 的吞吐量,总共也需要 1.6 Gb/s 的吞吐量。千兆网卡显然满足不了这么大的吞吐量,所以还需要配置万兆网卡,或者基于多网卡 Bonding 承载更大的吞吐量。 其次,从软件资源上来说,大量的连接也会占用大量的软件资源,比如文件描述符的数量、连接状态的跟踪(CONNTRACK)、网络协议栈的缓存大小(比如套接字读写缓存、TCP 读写缓存)等等。 最后,大量请求带来的中断处理,也会带来非常高的处理成本。这样,就需要多队列网卡、中断负载均衡、CPU 绑定、RPS/RFS(软中断负载均衡到多个 CPU 核上),以及将网络包的处理卸载(Offload)到网络设备(如 TSO/GSO、LRO/GRO、VXLAN OFFLOAD)等各种硬件和软件的优化。 C1000K 的解决方法,本质上还是构建在 epoll 的非阻塞 I/O 模型上。只不过,除了 I/O 模型之外,还需要从应用程序到 Linux 内核、再到 CPU、内存和网络等各个层次的深度优化,特别是需要借助硬件,来卸载那些原来通过软件处理的大量功能。 C10M 显然,人们对于性能的要求是无止境的。再进一步,有没有可能在单机中,同时处理 1000 万的请求呢?这也就是 C10M 问题。 实际上,在 C1000K 问题中,各种软件、硬件的优化很可能都已经做到头了。特别是当升级完硬件(比如足够多的内存、带宽足够大的网卡、更多的网络功能卸载等)后,你可能会发现,无论你怎么优化应用程序和内核中的各种网络参数,想实现 1000 万请求的并发,都是极其困难的。 究其根本,还是 Linux 内核协议栈做了太多太繁重的工作。从网卡中断带来的硬中断处理程序开始,到软中断中的各层网络协议处理,最后再到应用程序,这个路径实在是太长了,就会导致网络包的处理优化,到了一定程度后,就无法更进一步了。 要解决这个问题,最重要就是跳过内核协议栈的冗长路径,把网络包直接送到要处理的应用程序那里去。这里有两种常见的机制,DPDK 和 XDP。 第一种机制,DPDK,是用户态网络的标准。它跳过内核协议栈,直接由用户态进程通过轮询的方式,来处理网络接收。 说起轮询,你肯定会下意识认为它是低效的象征,但是进一步反问下自己,它的低效主要体现在哪里呢?是查询时间明显多于实际工作时间的情况下吧!那么,换个角度来想,如果每时每刻都有新的网络包需要处理,轮询的优势就很明显了。比如: 在 PPS 非常高的场景中,查询时间比实际工作时间少了很多,绝大部分时间都在处理网络包; 而跳过内核协议栈后,就省去了繁杂的硬中断、软中断再到 Linux 网络协议栈逐层处理的过程,应用程序可以针对应用的实际场景,有针对性地优化网络包的处理逻辑,而不需要关注所有的细节。 此外,DPDK 还通过大页、CPU 绑定、内存对齐、流水线并发等多种机制,优化网络包的处理效率。 第二种机制,XDP(eXpress Data Path),则是 Linux 内核提供的一种高性能网络数据路径。它允许网络包,在进入内核协议栈之前,就进行处理,也可以带来更高的性能。XDP 底层跟我们之前用到的 bcc-tools 一样,都是基于 Linux 内核的 eBPF 机制实现的。 XDP 的原理如下图所示: 你可以看到,XDP 对内核的要求比较高,需要的是 Linux 4.8 以上版本,并且它也不提供缓存队列。基于 XDP 的应用程序通常是专用的网络应用,常见的有 IDS(入侵检测系统)、DDoS 防御、 cilium 容器网络插件等。 总结 C10K 问题的根源,一方面在于系统有限的资源;另一方面,也是更重要的因素,是同步阻塞的 I/O 模型以及轮询的套接字接口,限制了网络事件的处理效率。Linux 2.6 中引入的 epoll ,完美解决了 C10K 的问题,现在的高性能网络方案都基于 epoll。 从 C10K 到 C100K ,可能只需要增加系统的物理资源就可以满足;但从 C100K 到 C1000K ,就不仅仅是增加物理资源就能解决的问题了。这时,就需要多方面的优化工作了,从硬件的中断处理和网络功能卸载、到网络协议栈的文件描述符数量、连接状态跟踪、缓存队列等内核的优化,再到应用程序的工作模型优化,都是考虑的重点。 再进一步,要实现 C10M ,就不只是增加物理资源,或者优化内核和应用程序可以解决的问题了。这时候,就需要用 XDP 的方式,在内核协议栈之前处理网络包;或者用 DPDK 直接跳过网络协议栈,在用户空间通过轮询的方式直接处理网络包。 当然了,实际上,在大多数场景中,我们并不需要单机并发 1000 万的请求。通过调整系统架构,把这些请求分发到多台服务器中来处理,通常是更简单和更容易扩展的方案。 本篇文章为转载内容。原文链接:https://blog.csdn.net/qq_23864697/article/details/114626793。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-04-11 18:25:52
261
转载
站内搜索
用于搜索本网站内部文章,支持栏目切换。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
head -n 10 file.txt
- 显示文件前10行。
推荐内容
推荐本栏目内的其它文章,看看还有哪些文章让你感兴趣。
2023-04-28
2023-08-09
2023-06-18
2023-04-14
2023-02-18
2023-04-17
2024-01-11
2023-10-03
2023-09-09
2023-06-13
2023-08-07
2023-03-11
历史内容
快速导航到对应月份的历史文章列表。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"