前端技术
HTML
CSS
Javascript
前端框架和UI库
VUE
ReactJS
AngularJS
JQuery
NodeJS
JSON
Element-UI
Bootstrap
Material UI
服务端和客户端
Java
Python
PHP
Golang
Scala
Kotlin
Groovy
Ruby
Lua
.net
c#
c++
后端WEB和工程框架
SpringBoot
SpringCloud
Struts2
MyBatis
Hibernate
Tornado
Beego
Go-Spring
Go Gin
Go Iris
Dubbo
HessianRPC
Maven
Gradle
数据库
MySQL
Oracle
Mongo
中间件与web容器
Redis
MemCache
Etcd
Cassandra
Kafka
RabbitMQ
RocketMQ
ActiveMQ
Nacos
Consul
Tomcat
Nginx
Netty
大数据技术
Hive
Impala
ClickHouse
DorisDB
Greenplum
PostgreSQL
HBase
Kylin
Hadoop
Apache Pig
ZooKeeper
SeaTunnel
Sqoop
Datax
Flink
Spark
Mahout
数据搜索与日志
ElasticSearch
Apache Lucene
Apache Solr
Kibana
Logstash
数据可视化与OLAP
Apache Atlas
Superset
Saiku
Tesseract
系统与容器
Linux
Shell
Docker
Kubernetes
[PostgreSQL中GiST SP-G...]的搜索结果
这里是文章列表。热门标签的颜色随机变换,标签颜色没有特殊含义。
点击某个标签可搜索标签相关的文章。
点击某个标签可搜索标签相关的文章。
PostgreSQL
B-tree索引 , B-tree(平衡树)索引是PostgreSQL数据库中广泛使用的一种索引类型,它以一种自平衡的树状结构组织数据。在查询时,B-tree索引可以快速定位到满足条件的数据行,特别适合于范围查询和精确匹配操作,能够显著提高查询性能。在文章语境中,创建B-tree索引意味着在特定列上建立这种高效查找结构,以便更快地检索和排序数据。 GiST索引 , Generalized Search Tree(通用搜索树)索引是PostgreSQL支持的一种可扩展索引框架,允许开发人员为不同类型的数据创建定制化的索引方法。GiST索引尤其适用于复杂的数据类型,如地理空间数据或文本搜索,通过提供对这些特殊数据类型的优化搜索能力,进一步提升查询效率。在本文中提及GiST索引,旨在说明不同索引类型在处理特定数据场景时的优势与适用性。 索引类型 , 在数据库管理系统中,索引类型指的是用于存储和检索数据的不同策略或结构。例如,PostgreSQL支持多种索引类型,包括但不限于B-tree、哈希、GiST、SP-GiST和GIN等。每种索引类型都有其独特的优缺点和适用场景,选择合适的索引类型对于优化查询性能至关重要。在文章的上下文中,创建“可以显示值的索引”实际上是指根据需求选择恰当的索引类型来提高特定列的查询速度。
2023-11-30 10:13:56
261
半夏微凉_t
PostgreSQL
PostgreSQL:如何创建一个可以“显示”值出来的索引?——索引背后的奥秘与实战应用 1. 引言 索引的"可视化"概念理解 在数据库的世界里,当我们谈论创建一个“可以显示值”的索引时,实际上是一种形象化的表达方式。我们可不是说索引它自己会变魔术般直接把数据展示给你看,而是想表达,索引这个小帮手能像寻宝图一样,在你查找数据时迅速找到正确路径,大大加快查询速度,让你省时又省力。就像一本老式的电话本,虽然它不会直接把每个朋友的所有信息都明晃晃地“晒”出来,但只要你报上姓名,就能麻溜地翻到那一页,找到你要的电话号码。本文将深入浅出地探讨PostgreSQL中如何创建和利用各种类型的索引,以加速查询性能。 2. 创建索引的基本过程 (1)单字段索引创建 假设我们有一个名为employees的表,其中包含一列employee_id,为了加快对员工ID的查询速度,我们可以创建一个B树索引: sql CREATE INDEX idx_employee_id ON employees (employee_id); 这个命令实质上是在employees表的employee_id列上构建了一个内部的数据结构,使得系统能够根据给定的employee_id快速检索相关行。 (2)多字段复合索引 如果我们经常需要按照first_name和surname进行联合查询,可以创建一个复合索引: sql CREATE INDEX idx_employee_names ON employees (first_name, surname); 这样的索引在搜索姓氏和名字组合时尤为高效。 3. 表达式索引的妙用 有时候,我们可能基于某个计算结果进行查询,例如,我们希望根据员工年龄(age)筛选出所有大于30岁的员工,尽管数据库中存储的是出生日期(birth_date),但可以通过创建表达式索引来实现: sql CREATE INDEX idx_employee_age ON employees ((CURRENT_DATE - birth_date)); 在这个示例中,索引并非直接针对birth_date,而是基于当前日期减去出生日期得出的虚拟年龄字段。 4. 理解索引类型及其应用场景 - B树索引(默认):适合范围查询和平行排序,如上所述的employee_id或age查询。 - 哈希索引:对于等值查询且数据分布均匀的情况效果显著,但不适合范围查询和排序。 - GiST、SP-GiST、GIN索引:这些索引适用于特殊的数据类型(如地理空间数据、全文搜索等),提供了不同于传统B树索引的功能和优势。 5. 并发创建索引 保持服务在线 在生产环境中,我们可能不愿因创建索引而阻塞其他查询操作。幸运的是,PostgreSQL支持并发创建索引,这意味着在索引构建过程中,表上的读写操作仍可继续进行: sql BEGIN; CREATE INDEX CONCURRENTLY idx_employee_ids ON employees (employee_id); COMMIT; 6. 思考与探讨 在实际使用中,索引虽好,但并非越多越好,也需权衡其带来的存储成本以及对写操作的影响。每次添加或删除记录时,相应的索引也需要更新,这可能导致写操作变慢。所以,在制定索引策略的时候,咱们得接地气儿点,充分考虑实际业务场景、查询习惯和数据分布的特性,然后做出个聪明的选择。 总结来说,PostgreSQL中的索引更像是幕后英雄,它们并不直接“显示”数据,却通过精巧的数据结构布局,让我们的查询请求如同拥有超能力一般疾速响应。设计每一个索引,其实就像是在开启一段优化的冒险旅程。这不仅是一次实实在在的技术操作实战,更是我们对浩瀚数据世界深度解读和灵动运用的一次艺术创作展示。
2023-01-07 15:13:28
430
时光倒流_
PostgreSQL
在理解了如何在PostgreSQL中创建和使用索引的基础概念后,进一步关注的是索引优化的实际应用场景与最新进展。近期,PostgreSQL 14版本发布了一系列关于索引功能的增强,其中包括对部分查询场景下BRIN(Block Range Indexes)索引性能的显著提升,以及对空间索引支持的扩展,这些改进使得处理大规模地理空间数据更为高效。 同时,在数据库运维实践中,智能索引管理工具愈发受到重视。例如,一些第三方工具通过实时分析SQL查询语句及数据分布情况,自动为高频率查询且数据量庞大的字段推荐并创建最优索引策略,从而实现动态、自动化的索引优化管理。 然而,值得注意的是,尽管索引能够提高查询效率,但过度依赖或不恰当的索引策略也可能导致写入性能下降,存储空间增加等问题。因此,DBA和开发人员需要结合业务特性和实际负载情况,灵活运用包括B-Tree、Hash、GiST、GIN等多种类型的索引,并密切关注PostgreSQL官方的更新动态和社区的最佳实践分享,以确保数据库系统的整体性能和稳定性。
2023-06-18 18:39:15
1325
海阔天空_t
PostgreSQL
...是我们的信息仓库,而索引则是加速查询速度的金钥匙。PostgreSQL,这款开源的关系型数据库管理系统,就像是开发者们手里的瑞士军刀,功能强大得不得了,灵活性更是让它圈粉无数,实实在在地赢得了广大开发者的青睐和心水。这篇东西,我将手把手带你潜入PostgreSQL索引的深处,教你如何妙用它们,让咱们的应用程序性能嗖嗖提升,飞得更高更稳!让我们一起踏上这场数据查询的优化之旅吧! 二、索引基础与理解 1. 索引是什么? 索引就像书的目录,帮助我们快速找到所需的信息。在数据库这个大仓库里,索引就像是一本超详细的目录,它能够帮助数据库系统瞬间找到你要的那一行数据,而不需要像翻箱倒柜一样把整张表从头到尾扫一遍。 2. PostgreSQL的索引类型 PostgreSQL支持多种索引类型,如B-Tree、GiST、GIN等。其实吧,B-Tree是最家常便饭的那个,基本上大多数情况下它都能派上用场;不过呢,遇到那些比较复杂的“角儿”,比如JSON或者数组这些数据类型,就得请出GiST和GIN两位大神了。 sql -- 创建一个B-Tree索引 CREATE INDEX idx_users_name ON users (name); 三、选择合适的索引策略 1. 索引选择原则 选择索引时,要考虑查询频率、数据更新频率以及数据分布。频繁查询且更新少的列更适合建立索引。 2. 复合索引 对于同时包含多个字段的查询,可以创建复合索引,但要注意索引的顺序,通常应将最常用于WHERE子句的列放在前面。 sql CREATE INDEX idx_users_first_last ON users (first_name, last_name); 四、优化查询语句 1. 避免在索引列上进行函数操作 函数操作可能导致索引失效,尽量避免在索引列上使用EXTRACT、DATE_TRUNC等函数。 2. 使用覆盖索引 覆盖索引是指查询结果可以直接从索引中获取,减少I/O操作,提高效率。 sql CREATE INDEX idx_users_email ON users (email) WHERE is_active = true; 五、维护和监控索引 1. 定期分析和重建索引 使用ANALYZE命令更新统计信息,当索引不再准确时,使用REINDEX命令重建。 2. 使用pg_stat_user_indexes监控 pg_stat_user_indexes视图可以提供索引的使用情况,包括查询次数、命中率等,有助于了解并调整索引策略。 六、结论 通过合理的索引设计和优化,我们可以显著提升PostgreSQL的查询性能。然而,记住,索引并非万能的,过度使用或不适当的索引可能会带来反效果。在实际操作中,咱们得根据业务的具体需求和数据的特性来灵活调整,让索引真正变成提升数据库性能的独门秘籍。 在这个快速变化的技术世界里,持续学习和实践是关键。愿你在探索PostgreSQL索引的道路上越走越远,收获满满!
2024-03-14 11:15:25
495
初心未变-t
PostgreSQL
在深入理解了PostgreSQL如何创建索引的基础知识后,我们可以进一步探索索引在实际应用中的最新趋势和优化策略。近期,PostgreSQL 14版本发布了一系列关于索引的增强功能,包括对BRIN(Block Range Indexes)索引类型的改进,它能更高效地处理大规模数据表,尤其对于按时间序列或连续数值排序的数据有显著提升。此外,还引入了表达式索引的新特性,允许用户基于列计算结果创建索引,极大地增强了索引的灵活性与适用性。 同时,在数据库优化实践中,了解何时以及如何选择正确的索引类型至关重要。例如,对于频繁进行范围查询的场景,B-tree索引可能是最佳选择;而对于全文搜索,则可能需要使用到gin或者gist索引。值得注意的是,尽管索引能够极大提升查询效率,但过度使用或不当使用也可能导致写操作性能下降及存储空间浪费,因此在设计数据库架构时需综合考量读写负载平衡及存储成本等因素。 此外,随着机器学习和AI技术的发展,智能化索引管理工具也逐渐崭露头角,它们可以根据历史查询模式自动推荐、调整甚至自动生成索引,以实现数据库性能的动态优化。这为数据库管理员提供了更为便捷高效的索引管理手段,有助于持续提升PostgreSQL等关系型数据库的服务质量和响应速度。
2023-11-16 14:06:06
485
晚秋落叶_t
PostgreSQL
在深入理解了PostgreSQL数据库中如何创建和利用索引优化查询性能后,我们进一步关注数据库索引技术的最新发展动态。近年来,随着数据量的爆发式增长和实时性要求的提高,索引技术也在不断演进创新。 2021年,PostgreSQL社区发布了其最新版本14,其中对索引功能进行了多项增强。例如,引入了并行索引构建功能,允许在多核CPU环境下并行创建索引,极大地缩短了大规模数据集上索引建立的时间。同时,新版本还改进了部分索引类型的性能,如BRIN(Block Range Indexes)索引,使其在处理大数据场景时更加高效。 此外,针对特定查询需求,如全文搜索、地理空间查询等,PostgreSQL提供了诸如GiST(Generalized Search Tree)、GIN(Generalized Inverted Index)等多种索引类型,这些高级索引结构为复杂查询场景提供了更强大的支持。在实际应用中,结合业务特性和查询模式合理选择和使用不同类型的索引至关重要。 不仅如此,数据库领域对于索引自动优化的研究也日益深入。一些现代数据库系统开始尝试智能化索引管理,通过机器学习算法预测查询模式并据此动态调整或建议索引策略,以实现持续的性能优化。 因此,在日常使用PostgreSQL或其他数据库系统时,除了掌握基础的索引创建方法外,跟踪并了解索引技术的最新进展和最佳实践,将有助于我们更好地应对大数据时代下的查询性能挑战,提升系统的整体响应速度与用户体验。
2023-06-22 19:00:45
122
时光倒流_t
PostgreSQL
PostgreSQL:如何创建一个可以显示值出来的索引呢? 在进行大量数据操作时,索引是非常重要的工具之一。通过创建索引,我们可以提高查询速度,减少查询时间。然而,对于初学者来说,创建索引可能并不容易。今天,我要和大伙儿分享一些我在PostgreSQL创建索引时摸爬滚打总结出的实战经验和小窍门,让大家也能从中受益,让数据库操作更加顺手溜。 创建索引的基本步骤 创建索引的基本步骤是先确定你要创建的索引是什么类型的,然后编写SQL语句进行创建。下面我们来具体看看。 选择索引类型 PostgreSQL提供了多种索引类型,例如B-Tree、Hash、GiST和GIN等。每种索引类型都有其适用的场景。比如,如果你想要进行查找某个范围内的信息,那么选用B-Tree索引就再合适不过啦,它绝对是个靠谱的小帮手。如果你想进行全文搜索,那么GiST或GIN索引会更加合适。 编写创建索引的SQL语句 根据你的需求,编写相应的SQL语句。以下是一些常用的创建索引的SQL语句示例: sql -- 创建一个普通B-Tree索引 CREATE INDEX idx_employee_name ON employees (name); -- 创建一个复合B-Tree索引 CREATE INDEX idx_employee_salary_age ON employees (salary, age); -- 创建一个唯一约束索引 ALTER TABLE employees ADD CONSTRAINT uq_employee_email UNIQUE (email); 创建复合索引 在PostgreSQL中,你可以在一个索引上同时包含多个字段。这被称为复合索引。复合索引可以帮助你更有效地查询数据。以下是创建复合索引的一些示例: sql -- 创建一个包含两个字段的复合索引 CREATE INDEX idx_employee_name_age ON employees (name, age); -- 创建一个包含三个字段的复合索引 CREATE INDEX idx_employee_last_name_first_name ON employees (last_name, first_name); 使用特殊字符 在PostgreSQL中,你可以使用特殊字符来创建索引。比如,如果你想引用文本列,你完全可以给它加上一对双引号;要是你想引用所有列,那就潇洒地甩出一个星号()就搞定了。以下是一些示例: sql -- 使用双引号创建索引 CREATE INDEX idx_employee_full_name ON employees ("full_name"); -- 使用星号创建索引 CREATE INDEX idx_employee_all_columns ON employees (); 创建索引的注意事项 虽然创建索引有很多好处,但是你也需要注意一些事项。例如,你需要定期维护索引,以确保它们仍然有效。另外,你知道吗?老是过度依赖索引这玩意儿,可能会让系统的速度“滑铁卢”。每当你要插入一条新记录,或者更新、删除已有记录时,系统都得忙不迭地去同步更新那些索引,这样一来,性能自然就有可能掉链子啦。因此,在决定是否创建索引时,你应该考虑你的应用程序的具体需求。 总结 在本文中,我给大家分享了一些有关PostgreSQL创建索引的经验和技巧。希望这些内容能对你有所帮助!如果你有任何问题,请随时向我提问。
2023-01-05 19:35:54
189
月影清风_t
转载文章
...布,智能指针的功能和应用场景得到了进一步拓展和完善。在C++17中,std::make_unique函数被正式引入,它与std::make_shared类似,可以安全、高效地创建unique_ptr实例,避免了直接使用new操作符可能导致的问题。此外,C++20对三种智能指针进行了增强,例如shared_ptr现在支持定制删除器和分配器,并且允许通过std::atomic_shared_ptr进行原子操作,增强了其在多线程环境下的安全性。 同时,对于智能指针在容器中的应用也有了更深入的研究和发展。STL容器如vector、list等支持存储智能指针类型元素,使得资源管理更为便捷和可靠。而C++20引入的std::jthread线程类以及相关库函数,则鼓励开发者使用std::shared_ptr来传递线程间共享资源,以防止因资源生命周期管理不当引发的各类问题。 另外,关于智能指针在实际项目开发中的最佳实践,业界持续涌现出大量的实战案例和经验总结。例如,在大型游戏引擎Unreal Engine 4和Unity3D中,智能指针被广泛用于内存管理和对象生命周期控制,这些成功案例为C++开发者提供了宝贵的参考和借鉴。 值得注意的是,尽管智能指针极大程度上简化了内存管理,但过度依赖或错误使用也可能带来额外开销甚至隐藏bug。因此,对于特定场景下是否应采用智能指针,以及选用何种类型的智能指针,开发者需要根据具体需求进行权衡和决策,同时结合现代编译器和运行时优化技术,确保程序性能和安全性的最优化。
2023-02-24 18:25:46
141
转载
转载文章
...MS) 支持OLAP应用,采用MPP(Massively Parallel Processing:大规模并行处理系统)架构模式 支持OLTP应用,读写性能可扩展 集群级别的ACID特性 多租户安全 也可被用作分布式Key-Value存储 事务处理与数据分析处理混合型数据库 支持丰富的SQL语句类型,比如:关联子查询 支持绝大部分PostgreSQL的SQL语句 分布式多版本并发控制(MVCC:Multi-version Concurrency Control) 支持JSON和XML格式 Postgres-XL缺少的功能 内建的高可用机制 使用外部机制实现高可能,如:Corosync/Pacemaker 有未来功能提升的空间 增加节点/重新分片数据(re-shard)的简便性 数据重分布(redistribution)期间会锁表 可采用预分片(pre-shard)方式解决,在同台物理服务器上建立多个数据节点,每个节点存储一个数据分片。数据重分布时,将一些数据节点迁出即可 某些外键、唯一性约束功能 Postgres-XL架构 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-M9lFuEIP-1640133702200)(./assets/postgre-xl.jpg)] 基于开源项目Postgres-XC XL增加了MPP,允许数据节点间直接通讯,交换复杂跨节点关联查询相关数据信息,减少协调器负载。 多个协调器(Coordinator) 应用程序的数据库连入点 分析查询语句,生成执行计划 多个数据节点(DataNode) 实际的数据存储 数据自动打散分布到集群中各数据节点 本地执行查询 一个查询在所有相关节点上并行查询 全局事务管理器(GTM:Global Transaction Manager) 提供事务间一致性视图 部署GTM Proxy实例,以提高性能 Postgre-XL主要组件 GTM (Global Transaction Manager) - 全局事务管理器 GTM是Postgres-XL的一个关键组件,用于提供一致的事务管理和元组可见性控制。 GTM Standby GTM的备节点,在pgxc,pgxl中,GTM控制所有的全局事务分配,如果出现问题,就会导致整个集群不可用,为了增加可用性,增加该备用节点。当GTM出现问题时,GTM Standby可以升级为GTM,保证集群正常工作。 GTM-Proxy GTM需要与所有的Coordinators通信,为了降低压力,可以在每个Coordinator机器上部署一个GTM-Proxy。 Coordinator --协调器 协调器是应用程序到数据库的接口。它的作用类似于传统的PostgreSQL后台进程,但是协调器不存储任何实际数据。实际数据由数据节点存储。协调器接收SQL语句,根据需要获取全局事务Id和全局快照,确定涉及哪些数据节点,并要求它们执行(部分)语句。当向数据节点发出语句时,它与GXID和全局快照相关联,以便多版本并发控制(MVCC)属性扩展到集群范围。 Datanode --数据节点 用于实际存储数据。表可以分布在各个数据节点之间,也可以复制到所有数据节点。数据节点没有整个数据库的全局视图,它只负责本地存储的数据。接下来,协调器将检查传入语句,并制定子计划。然后,根据需要将这些数据连同GXID和全局快照一起传输到涉及的每个数据节点。数据节点可以在不同的会话中接收来自各个协调器的请求。但是,由于每个事务都是惟一标识的,并且与一致的(全局)快照相关联,所以每个数据节点都可以在其事务和快照上下文中正确执行。 Postgres-XL继承了PostgreSQL Postgres-XL是PostgreSQL的扩展并继承了其很多特性: 复杂查询 外键 触发器 视图 事务 MVCC(多版本控制) 此外,类似于PostgreSQL,用户可以通过多种方式扩展Postgres-XL,例如添加新的 数据类型 函数 操作 聚合函数 索引类型 过程语言 安装 环境说明 由于资源有限,gtm一台、另外两台身兼数职。 主机名 IP 角色 端口 nodename 数据目录 gtm 192.168.20.132 GTM 6666 gtm /nodes/gtm 协调器 5432 coord1 /nodes/coordinator xl1 192.168.20.133 数据节点 5433 node1 /nodes/pgdata gtm代理 6666 gtmpoxy01 /nodes/gtm_pxy1 协调器 5432 coord2 /nodes/coordinator xl2 192.168.20.134 数据节点 5433 node2 /nodes/pgdata gtm代理 6666 gtmpoxy02 /nodes/gtm_pxy2 要求 GNU make版本 3.8及以上版本 [root@pg ~] make --versionGNU Make 3.82Built for x86_64-redhat-linux-gnuCopyright (C) 2010 Free Software Foundation, Inc.License GPLv3+: GNU GPL version 3 or later <http://gnu.org/licenses/gpl.html>This is free software: you are free to change and redistribute it.There is NO WARRANTY, to the extent permitted by law. 需安装GCC包 需安装tar包 用于解压缩文件 默认需要GNU Readline library 其作用是可以让psql命令行记住执行过的命令,并且可以通过键盘上下键切换命令。但是可以通过--without-readline禁用这个特性,或者可以指定--withlibedit-preferred选项来使用libedit 默认使用zlib压缩库 可通过--without-zlib选项来禁用 配置hosts 所有主机上都配置 [root@xl2 11] cat /etc/hosts127.0.0.1 localhost192.168.20.132 gtm192.168.20.133 xl1192.168.20.134 xl2 关闭防火墙、Selinux 所有主机都执行 关闭防火墙: [root@gtm ~] systemctl stop firewalld.service[root@gtm ~] systemctl disable firewalld.service selinux设置: [root@gtm ~]vim /etc/selinux/config 设置SELINUX=disabled,保存退出。 This file controls the state of SELinux on the system. SELINUX= can take one of these three values: enforcing - SELinux security policy is enforced. permissive - SELinux prints warnings instead of enforcing. disabled - No SELinux policy is loaded.SELINUX=disabled SELINUXTYPE= can take one of three two values: targeted - Targeted processes are protected, minimum - Modification of targeted policy. Only selected processes are protected. mls - Multi Level Security protection. 安装依赖包 所有主机上都执行 yum install -y flex bison readline-devel zlib-devel openjade docbook-style-dsssl gcc 创建用户 所有主机上都执行 [root@gtm ~] useradd postgres[root@gtm ~] passwd postgres[root@gtm ~] su - postgres[root@gtm ~] mkdir ~/.ssh[root@gtm ~] chmod 700 ~/.ssh 配置SSH免密登录 仅仅在gtm节点配置如下操作: [root@gtm ~] su - postgres[postgres@gtm ~] ssh-keygen -t rsa[postgres@gtm ~] cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys[postgres@gtm ~] chmod 600 ~/.ssh/authorized_keys 将刚生成的认证文件拷贝到xl1到xl2中,使得gtm节点可以免密码登录xl1~xl2的任意一个节点: [postgres@gtm ~] scp ~/.ssh/authorized_keys postgres@xl1:~/.ssh/[postgres@gtm ~] scp ~/.ssh/authorized_keys postgres@xl2:~/.ssh/ 对所有提示都不要输入,直接enter下一步。直到最后,因为第一次要求输入目标机器的用户密码,输入即可。 下载源码 下载地址:https://www.postgres-xl.org/download/ [root@slave ~] ll postgres-xl-10r1.1.tar.gz-rw-r--r-- 1 root root 28121666 May 30 05:21 postgres-xl-10r1.1.tar.gz 编译、安装Postgres-XL 所有节点都安装,编译需要一点时间,最好同时进行编译。 [root@slave ~] tar xvf postgres-xl-10r1.1.tar.gz[root@slave ~] ./configure --prefix=/home/postgres/pgxl/[root@slave ~] make[root@slave ~] make install[root@slave ~] cd contrib/ --安装必要的工具,在gtm节点上安装即可[root@slave ~] make[root@slave ~] make install 配置环境变量 所有节点都要配置 进入postgres用户,修改其环境变量,开始编辑 [root@gtm ~]su - postgres[postgres@gtm ~]vi .bashrc --不是.bash_profile 在打开的文件末尾,新增如下变量配置: export PGHOME=/home/postgres/pgxlexport LD_LIBRARY_PATH=$PGHOME/lib:$LD_LIBRARY_PATHexport PATH=$PGHOME/bin:$PATH 按住esc,然后输入:wq!保存退出。输入以下命令对更改重启生效。 [postgres@gtm ~] source .bashrc --不是.bash_profile 输入以下语句,如果输出变量结果,代表生效 [postgres@gtm ~] echo $PGHOME 应该输出/home/postgres/pgxl代表生效 配置集群 生成pgxc_ctl.conf配置文件 [postgres@gtm ~] pgxc_ctl prepare/bin/bashInstalling pgxc_ctl_bash script as /home/postgres/pgxl/pgxc_ctl/pgxc_ctl_bash.ERROR: File "/home/postgres/pgxl/pgxc_ctl/pgxc_ctl.conf" not found or not a regular file. No such file or directoryInstalling pgxc_ctl_bash script as /home/postgres/pgxl/pgxc_ctl/pgxc_ctl_bash.Reading configuration using /home/postgres/pgxl/pgxc_ctl/pgxc_ctl_bash --home /home/postgres/pgxl/pgxc_ctl --configuration /home/postgres/pgxl/pgxc_ctl/pgxc_ctl.confFinished reading configuration. PGXC_CTL START Current directory: /home/postgres/pgxl/pgxc_ctl 配置pgxc_ctl.conf 新建/home/postgres/pgxc_ctl/pgxc_ctl.conf文件,编辑如下: 对着模板文件一个一个修改,否则会造成初始化过程出现各种神奇问题。 pgxcInstallDir=$PGHOMEpgxlDATA=$PGHOME/data pgxcOwner=postgres---- GTM Master -----------------------------------------gtmName=gtmgtmMasterServer=gtmgtmMasterPort=6666gtmMasterDir=$pgxlDATA/nodes/gtmgtmSlave=y Specify y if you configure GTM Slave. Otherwise, GTM slave will not be configured and all the following variables will be reset.gtmSlaveName=gtmSlavegtmSlaveServer=gtm value none means GTM slave is not available. Give none if you don't configure GTM Slave.gtmSlavePort=20001 Not used if you don't configure GTM slave.gtmSlaveDir=$pgxlDATA/nodes/gtmSlave Not used if you don't configure GTM slave.---- GTM-Proxy Master -------gtmProxyDir=$pgxlDATA/nodes/gtm_proxygtmProxy=y gtmProxyNames=(gtm_pxy1 gtm_pxy2) gtmProxyServers=(xl1 xl2) gtmProxyPorts=(6666 6666) gtmProxyDirs=($gtmProxyDir $gtmProxyDir) ---- Coordinators ---------coordMasterDir=$pgxlDATA/nodes/coordcoordNames=(coord1 coord2) coordPorts=(5432 5432) poolerPorts=(6667 6667) coordPgHbaEntries=(0.0.0.0/0)coordMasterServers=(xl1 xl2) coordMasterDirs=($coordMasterDir $coordMasterDir)coordMaxWALsernder=0 没设置备份节点,设置为0coordMaxWALSenders=($coordMaxWALsernder $coordMaxWALsernder) 数量保持和coordMasterServers一致coordSlave=n---- Datanodes ----------datanodeMasterDir=$pgxlDATA/nodes/dn_masterprimaryDatanode=xl1 主数据节点datanodeNames=(node1 node2)datanodePorts=(5433 5433) datanodePoolerPorts=(6668 6668) datanodePgHbaEntries=(0.0.0.0/0)datanodeMasterServers=(xl1 xl2)datanodeMasterDirs=($datanodeMasterDir $datanodeMasterDir)datanodeMaxWalSender=4datanodeMaxWALSenders=($datanodeMaxWalSender $datanodeMaxWalSender) 集群初始化,启动,停止 初始化 pgxc_ctl -c /home/postgres/pgxc_ctl/pgxc_ctl.conf init all 输出结果: /bin/bashInstalling pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Installing pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Reading configuration using /home/postgres/pgxc_ctl/pgxc_ctl_bash --home /home/postgres/pgxc_ctl --configuration /home/postgres/pgxc_ctl/pgxc_ctl.conf/home/postgres/pgxc_ctl/pgxc_ctl.conf: line 189: $coordExtraConfig: ambiguous redirectFinished reading configuration. PGXC_CTL START Current directory: /home/postgres/pgxc_ctlStopping all the coordinator masters.Stopping coordinator master coord1.Stopping coordinator master coord2.pg_ctl: directory "/home/postgres/pgxc/nodes/coord/coord1" does not existpg_ctl: directory "/home/postgres/pgxc/nodes/coord/coord2" does not existDone.Stopping all the datanode masters.Stopping datanode master datanode1.Stopping datanode master datanode2.pg_ctl: PID file "/home/postgres/pgxc/nodes/datanode/datanode1/postmaster.pid" does not existIs server running?Done.Stop GTM masterwaiting for server to shut down.... doneserver stopped[postgres@gtm ~]$ echo $PGHOME/home/postgres/pgxl[postgres@gtm ~]$ ll /home/postgres/pgxl/pgxc/nodes/gtm/gtm.^C[postgres@gtm ~]$ pgxc_ctl -c /home/postgres/pgxc_ctl/pgxc_ctl.conf init all/bin/bashInstalling pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Installing pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Reading configuration using /home/postgres/pgxc_ctl/pgxc_ctl_bash --home /home/postgres/pgxc_ctl --configuration /home/postgres/pgxc_ctl/pgxc_ctl.conf/home/postgres/pgxc_ctl/pgxc_ctl.conf: line 189: $coordExtraConfig: ambiguous redirectFinished reading configuration. PGXC_CTL START Current directory: /home/postgres/pgxc_ctlInitialize GTM masterERROR: target directory (/home/postgres/pgxc/nodes/gtm) exists and not empty. Skip GTM initilializationDone.Start GTM masterserver startingInitialize all the coordinator masters.Initialize coordinator master coord1.ERROR: target coordinator master coord1 is running now. Skip initilialization.Initialize coordinator master coord2.The files belonging to this database system will be owned by user "postgres".This user must also own the server process.The database cluster will be initialized with locale "en_US.UTF-8".The default database encoding has accordingly been set to "UTF8".The default text search configuration will be set to "english".Data page checksums are disabled.fixing permissions on existing directory /home/postgres/pgxc/nodes/coord/coord2 ... okcreating subdirectories ... okselecting default max_connections ... 100selecting default shared_buffers ... 128MBselecting dynamic shared memory implementation ... posixcreating configuration files ... okrunning bootstrap script ... okperforming post-bootstrap initialization ... creating cluster information ... oksyncing data to disk ... okfreezing database template0 ... okfreezing database template1 ... okfreezing database postgres ... okWARNING: enabling "trust" authentication for local connectionsYou can change this by editing pg_hba.conf or using the option -A, or--auth-local and --auth-host, the next time you run initdb.Success.Done.Starting coordinator master.Starting coordinator master coord1ERROR: target coordinator master coord1 is already running now. Skip initialization.Starting coordinator master coord22019-05-30 21:09:25.562 EDT [2148] LOG: listening on IPv4 address "0.0.0.0", port 54322019-05-30 21:09:25.562 EDT [2148] LOG: listening on IPv6 address "::", port 54322019-05-30 21:09:25.563 EDT [2148] LOG: listening on Unix socket "/tmp/.s.PGSQL.5432"2019-05-30 21:09:25.601 EDT [2149] LOG: database system was shut down at 2019-05-30 21:09:22 EDT2019-05-30 21:09:25.605 EDT [2148] LOG: database system is ready to accept connections2019-05-30 21:09:25.612 EDT [2156] LOG: cluster monitor startedDone.Initialize all the datanode masters.Initialize the datanode master datanode1.Initialize the datanode master datanode2.The files belonging to this database system will be owned by user "postgres".This user must also own the server process.The database cluster will be initialized with locale "en_US.UTF-8".The default database encoding has accordingly been set to "UTF8".The default text search configuration will be set to "english".Data page checksums are disabled.fixing permissions on existing directory /home/postgres/pgxc/nodes/datanode/datanode1 ... okcreating subdirectories ... okselecting default max_connections ... 100selecting default shared_buffers ... 128MBselecting dynamic shared memory implementation ... posixcreating configuration files ... okrunning bootstrap script ... okperforming post-bootstrap initialization ... creating cluster information ... oksyncing data to disk ... okfreezing database template0 ... okfreezing database template1 ... okfreezing database postgres ... okWARNING: enabling "trust" authentication for local connectionsYou can change this by editing pg_hba.conf or using the option -A, or--auth-local and --auth-host, the next time you run initdb.Success.The files belonging to this database system will be owned by user "postgres".This user must also own the server process.The database cluster will be initialized with locale "en_US.UTF-8".The default database encoding has accordingly been set to "UTF8".The default text search configuration will be set to "english".Data page checksums are disabled.fixing permissions on existing directory /home/postgres/pgxc/nodes/datanode/datanode2 ... okcreating subdirectories ... okselecting default max_connections ... 100selecting default shared_buffers ... 128MBselecting dynamic shared memory implementation ... posixcreating configuration files ... okrunning bootstrap script ... okperforming post-bootstrap initialization ... creating cluster information ... oksyncing data to disk ... okfreezing database template0 ... okfreezing database template1 ... okfreezing database postgres ... okWARNING: enabling "trust" authentication for local connectionsYou can change this by editing pg_hba.conf or using the option -A, or--auth-local and --auth-host, the next time you run initdb.Success.Done.Starting all the datanode masters.Starting datanode master datanode1.WARNING: datanode master datanode1 is running now. Skipping.Starting datanode master datanode2.2019-05-30 21:09:33.352 EDT [2404] LOG: listening on IPv4 address "0.0.0.0", port 154322019-05-30 21:09:33.352 EDT [2404] LOG: listening on IPv6 address "::", port 154322019-05-30 21:09:33.355 EDT [2404] LOG: listening on Unix socket "/tmp/.s.PGSQL.15432"2019-05-30 21:09:33.392 EDT [2404] LOG: redirecting log output to logging collector process2019-05-30 21:09:33.392 EDT [2404] HINT: Future log output will appear in directory "pg_log".Done.psql: FATAL: no pg_hba.conf entry for host "192.168.20.132", user "postgres", database "postgres"psql: FATAL: no pg_hba.conf entry for host "192.168.20.132", user "postgres", database "postgres"Done.psql: FATAL: no pg_hba.conf entry for host "192.168.20.132", user "postgres", database "postgres"psql: FATAL: no pg_hba.conf entry for host "192.168.20.132", user "postgres", database "postgres"Done.[postgres@gtm ~]$ pgxc_ctl -c /home/postgres/pgxc_ctl/pgxc_ctl.conf stop all/bin/bashInstalling pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Installing pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Reading configuration using /home/postgres/pgxc_ctl/pgxc_ctl_bash --home /home/postgres/pgxc_ctl --configuration /home/postgres/pgxc_ctl/pgxc_ctl.conf/home/postgres/pgxc_ctl/pgxc_ctl.conf: line 189: $coordExtraConfig: ambiguous redirectFinished reading configuration. PGXC_CTL START Current directory: /home/postgres/pgxc_ctlStopping all the coordinator masters.Stopping coordinator master coord1.Stopping coordinator master coord2.pg_ctl: directory "/home/postgres/pgxc/nodes/coord/coord1" does not existDone.Stopping all the datanode masters.Stopping datanode master datanode1.Stopping datanode master datanode2.pg_ctl: PID file "/home/postgres/pgxc/nodes/datanode/datanode1/postmaster.pid" does not existIs server running?Done.Stop GTM masterwaiting for server to shut down.... doneserver stopped[postgres@gtm ~]$ pgxc_ctl/bin/bashInstalling pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Installing pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Reading configuration using /home/postgres/pgxc_ctl/pgxc_ctl_bash --home /home/postgres/pgxc_ctl --configuration /home/postgres/pgxc_ctl/pgxc_ctl.conf/home/postgres/pgxc_ctl/pgxc_ctl.conf: line 189: $coordExtraConfig: ambiguous redirectFinished reading configuration. PGXC_CTL START Current directory: /home/postgres/pgxc_ctlPGXC monitor allNot running: gtm masterRunning: coordinator master coord1Not running: coordinator master coord2Running: datanode master datanode1Not running: datanode master datanode2PGXC stop coordinator master coord1Stopping coordinator master coord1.pg_ctl: directory "/home/postgres/pgxc/nodes/coord/coord1" does not existDone.PGXC stop datanode master datanode1Stopping datanode master datanode1.pg_ctl: PID file "/home/postgres/pgxc/nodes/datanode/datanode1/postmaster.pid" does not existIs server running?Done.PGXC monitor allNot running: gtm masterRunning: coordinator master coord1Not running: coordinator master coord2Running: datanode master datanode1Not running: datanode master datanode2PGXC monitor allNot running: gtm masterNot running: coordinator master coord1Not running: coordinator master coord2Not running: datanode master datanode1Not running: datanode master datanode2PGXC exit[postgres@gtm ~]$ pgxc_ctl -c /home/postgres/pgxc_ctl/pgxc_ctl.conf init all/bin/bashInstalling pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Installing pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Reading configuration using /home/postgres/pgxc_ctl/pgxc_ctl_bash --home /home/postgres/pgxc_ctl --configuration /home/postgres/pgxc_ctl/pgxc_ctl.conf/home/postgres/pgxc_ctl/pgxc_ctl.conf: line 189: $coordExtraConfig: ambiguous redirectFinished reading configuration. PGXC_CTL START Current directory: /home/postgres/pgxc_ctlInitialize GTM masterERROR: target directory (/home/postgres/pgxc/nodes/gtm) exists and not empty. Skip GTM initilializationDone.Start GTM masterserver startingInitialize all the coordinator masters.Initialize coordinator master coord1.Initialize coordinator master coord2.The files belonging to this database system will be owned by user "postgres".This user must also own the server process.The database cluster will be initialized with locale "en_US.UTF-8".The default database encoding has accordingly been set to "UTF8".The default text search configuration will be set to "english".Data page checksums are disabled.fixing permissions on existing directory /home/postgres/pgxc/nodes/coord/coord1 ... okcreating subdirectories ... okselecting default max_connections ... 100selecting default shared_buffers ... 128MBselecting dynamic shared memory implementation ... posixcreating configuration files ... okrunning bootstrap script ... okperforming post-bootstrap initialization ... creating cluster information ... oksyncing data to disk ... okfreezing database template0 ... okfreezing database template1 ... okfreezing database postgres ... okWARNING: enabling "trust" authentication for local connectionsYou can change this by editing pg_hba.conf or using the option -A, or--auth-local and --auth-host, the next time you run initdb.Success.The files belonging to this database system will be owned by user "postgres".This user must also own the server process.The database cluster will be initialized with locale "en_US.UTF-8".The default database encoding has accordingly been set to "UTF8".The default text search configuration will be set to "english".Data page checksums are disabled.fixing permissions on existing directory /home/postgres/pgxc/nodes/coord/coord2 ... okcreating subdirectories ... okselecting default max_connections ... 100selecting default shared_buffers ... 128MBselecting dynamic shared memory implementation ... posixcreating configuration files ... okrunning bootstrap script ... okperforming post-bootstrap initialization ... creating cluster information ... oksyncing data to disk ... okfreezing database template0 ... okfreezing database template1 ... okfreezing database postgres ... okWARNING: enabling "trust" authentication for local connectionsYou can change this by editing pg_hba.conf or using the option -A, or--auth-local and --auth-host, the next time you run initdb.Success.Done.Starting coordinator master.Starting coordinator master coord1Starting coordinator master coord22019-05-30 21:13:03.998 EDT [25137] LOG: listening on IPv4 address "0.0.0.0", port 54322019-05-30 21:13:03.998 EDT [25137] LOG: listening on IPv6 address "::", port 54322019-05-30 21:13:04.000 EDT [25137] LOG: listening on Unix socket "/tmp/.s.PGSQL.5432"2019-05-30 21:13:04.038 EDT [25138] LOG: database system was shut down at 2019-05-30 21:13:00 EDT2019-05-30 21:13:04.042 EDT [25137] LOG: database system is ready to accept connections2019-05-30 21:13:04.049 EDT [25145] LOG: cluster monitor started2019-05-30 21:13:04.020 EDT [2730] LOG: listening on IPv4 address "0.0.0.0", port 54322019-05-30 21:13:04.020 EDT [2730] LOG: listening on IPv6 address "::", port 54322019-05-30 21:13:04.021 EDT [2730] LOG: listening on Unix socket "/tmp/.s.PGSQL.5432"2019-05-30 21:13:04.057 EDT [2731] LOG: database system was shut down at 2019-05-30 21:13:00 EDT2019-05-30 21:13:04.061 EDT [2730] LOG: database system is ready to accept connections2019-05-30 21:13:04.062 EDT [2738] LOG: cluster monitor startedDone.Initialize all the datanode masters.Initialize the datanode master datanode1.Initialize the datanode master datanode2.The files belonging to this database system will be owned by user "postgres".This user must also own the server process.The database cluster will be initialized with locale "en_US.UTF-8".The default database encoding has accordingly been set to "UTF8".The default text search configuration will be set to "english".Data page checksums are disabled.fixing permissions on existing directory /home/postgres/pgxc/nodes/datanode/datanode1 ... okcreating subdirectories ... okselecting default max_connections ... 100selecting default shared_buffers ... 128MBselecting dynamic shared memory implementation ... posixcreating configuration files ... okrunning bootstrap script ... okperforming post-bootstrap initialization ... creating cluster information ... oksyncing data to disk ... okfreezing database template0 ... okfreezing database template1 ... okfreezing database postgres ... okWARNING: enabling "trust" authentication for local connectionsYou can change this by editing pg_hba.conf or using the option -A, or--auth-local and --auth-host, the next time you run initdb.Success.The files belonging to this database system will be owned by user "postgres".This user must also own the server process.The database cluster will be initialized with locale "en_US.UTF-8".The default database encoding has accordingly been set to "UTF8".The default text search configuration will be set to "english".Data page checksums are disabled.fixing permissions on existing directory /home/postgres/pgxc/nodes/datanode/datanode2 ... okcreating subdirectories ... okselecting default max_connections ... 100selecting default shared_buffers ... 128MBselecting dynamic shared memory implementation ... posixcreating configuration files ... okrunning bootstrap script ... okperforming post-bootstrap initialization ... creating cluster information ... oksyncing data to disk ... okfreezing database template0 ... okfreezing database template1 ... okfreezing database postgres ... okWARNING: enabling "trust" authentication for local connectionsYou can change this by editing pg_hba.conf or using the option -A, or--auth-local and --auth-host, the next time you run initdb.Success.Done.Starting all the datanode masters.Starting datanode master datanode1.Starting datanode master datanode2.2019-05-30 21:13:12.077 EDT [25392] LOG: listening on IPv4 address "0.0.0.0", port 154322019-05-30 21:13:12.077 EDT [25392] LOG: listening on IPv6 address "::", port 154322019-05-30 21:13:12.079 EDT [25392] LOG: listening on Unix socket "/tmp/.s.PGSQL.15432"2019-05-30 21:13:12.114 EDT [25392] LOG: redirecting log output to logging collector process2019-05-30 21:13:12.114 EDT [25392] HINT: Future log output will appear in directory "pg_log".2019-05-30 21:13:12.079 EDT [2985] LOG: listening on IPv4 address "0.0.0.0", port 154322019-05-30 21:13:12.079 EDT [2985] LOG: listening on IPv6 address "::", port 154322019-05-30 21:13:12.081 EDT [2985] LOG: listening on Unix socket "/tmp/.s.PGSQL.15432"2019-05-30 21:13:12.117 EDT [2985] LOG: redirecting log output to logging collector process2019-05-30 21:13:12.117 EDT [2985] HINT: Future log output will appear in directory "pg_log".Done.psql: FATAL: no pg_hba.conf entry for host "192.168.20.132", user "postgres", database "postgres"psql: FATAL: no pg_hba.conf entry for host "192.168.20.132", user "postgres", database "postgres"Done.psql: FATAL: no pg_hba.conf entry for host "192.168.20.132", user "postgres", database "postgres"psql: FATAL: no pg_hba.conf entry for host "192.168.20.132", user "postgres", database "postgres"Done. 启动 pgxc_ctl -c /home/postgres/pgxc_ctl/pgxc_ctl.conf start all 关闭 pgxc_ctl -c /home/postgres/pgxc_ctl/pgxc_ctl.conf stop all 查看集群状态 [postgres@gtm ~]$ pgxc_ctl monitor all/bin/bashInstalling pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Installing pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Reading configuration using /home/postgres/pgxc_ctl/pgxc_ctl_bash --home /home/postgres/pgxc_ctl --configuration /home/postgres/pgxc_ctl/pgxc_ctl.conf/home/postgres/pgxc_ctl/pgxc_ctl.conf: line 189: $coordExtraConfig: ambiguous redirectFinished reading configuration. PGXC_CTL START Current directory: /home/postgres/pgxc_ctlRunning: gtm masterRunning: coordinator master coord1Running: coordinator master coord2Running: datanode master datanode1Running: datanode master datanode2 配置集群信息 分别在数据节点、协调器节点上分别执行以下命令: 注:本节点只执行修改操作即可(alert node),其他节点执行创建命令(create node)。因为本节点已经包含本节点的信息。 create node coord1 with (type=coordinator,host=xl1, port=5432);create node coord2 with (type=coordinator,host=xl2, port=5432);alter node coord1 with (type=coordinator,host=xl1, port=5432);alter node coord2 with (type=coordinator,host=xl2, port=5432);create node datanode1 with (type=datanode, host=xl1,port=15432,primary=true,PREFERRED);create node datanode2 with (type=datanode, host=xl2,port=15432);alter node datanode1 with (type=datanode, host=xl1,port=15432,primary=true,PREFERRED);alter node datanode2 with (type=datanode, host=xl2,port=15432);select pgxc_pool_reload(); 分别登陆数据节点、协调器节点验证 postgres= select from pgxc_node;node_name | node_type | node_port | node_host | nodeis_primary | nodeis_preferred | node_id-----------+-----------+-----------+-----------+----------------+------------------+-------------coord1 | C | 5432 | xl1 | f | f | 1885696643coord2 | C | 5432 | xl2 | f | f | -1197102633datanode2 | D | 15432 | xl2 | f | f | -905831925datanode1 | D | 15432 | xl1 | t | f | 888802358(4 rows) 测试 插入数据 在数据节点1,执行相关操作。 通过协调器端口登录PG [postgres@xl1 ~]$ psql -p 5432psql (PGXL 10r1.1, based on PG 10.6 (Postgres-XL 10r1.1))Type "help" for help.postgres= create database lei;CREATE DATABASEpostgres= \c lei;You are now connected to database "lei" as user "postgres".lei= create table test1(id int,name text);CREATE TABLElei= insert into test1(id,name) select generate_series(1,8),'测试';INSERT 0 8lei= select from test1;id | name----+------1 | 测试2 | 测试5 | 测试6 | 测试8 | 测试3 | 测试4 | 测试7 | 测试(8 rows) 注:默认创建的表为分布式表,也就是每个数据节点值存储表的部分数据。关于表类型具体说明,下面有说明。 通过15432端口登录数据节点,查看数据 有5条数据 [postgres@xl1 ~]$ psql -p 15432psql (PGXL 10r1.1, based on PG 10.6 (Postgres-XL 10r1.1))Type "help" for help.postgres= \c lei;You are now connected to database "lei" as user "postgres".lei= select from test1;id | name----+------1 | 测试2 | 测试5 | 测试6 | 测试8 | 测试(5 rows) 登录到节点2,查看数据 有3条数据 [postgres@xl2 ~]$ psql -p15432psql (PGXL 10r1.1, based on PG 10.6 (Postgres-XL 10r1.1))Type "help" for help.postgres= \c lei;You are now connected to database "lei" as user "postgres".lei= select from test1;id | name----+------3 | 测试4 | 测试7 | 测试(3 rows) 两个节点的数据加起来整个8条,没有问题。 至此Postgre-XL集群搭建完成。 创建数据库、表时可能会出现以下错误: ERROR: Failed to get pooled connections 是因为pg_hba.conf配置不对,所有节点加上host all all 192.168.20.0/0 trust并重启集群即可。 ERROR: No Datanode defined in cluster 首先确认是否创建了数据节点,也就是create node相关的命令。如果创建了则执行select pgxc_pool_reload();使其生效即可。 集群管理与应用 表类型说明 REPLICATION表:各个datanode节点中,表的数据完全相同,也就是说,插入数据时,会分别在每个datanode节点插入相同数据。读数据时,只需要读任意一个datanode节点上的数据。 建表语法: CREATE TABLE repltab (col1 int, col2 int) DISTRIBUTE BY REPLICATION; DISTRIBUTE :会将插入的数据,按照拆分规则,分配到不同的datanode节点中存储,也就是sharding技术。每个datanode节点只保存了部分数据,通过coordinate节点可以查询完整的数据视图。 CREATE TABLE disttab(col1 int, col2 int, col3 text) DISTRIBUTE BY HASH(col1); 模拟数据插入 任意登录一个coordinate节点进行建表操作 [postgres@gtm ~]$ psql -h xl1 -p 5432 -U postgrespostgres= INSERT INTO disttab SELECT generate_series(1,100), generate_series(101, 200), 'foo';INSERT 0 100postgres= INSERT INTO repltab SELECT generate_series(1,100), generate_series(101, 200);INSERT 0 100 查看数据分布结果: DISTRIBUTE表分布结果 postgres= SELECT xc_node_id, count() FROM disttab GROUP BY xc_node_id;xc_node_id | count ------------+-------1148549230 | 42-927910690 | 58(2 rows) REPLICATION表分布结果 postgres= SELECT count() FROM repltab;count -------100(1 row) 查看另一个datanode2中repltab表结果 [postgres@datanode2 pgxl9.5]$ psql -p 15432psql (PGXL 10r1.1, based on PG 10.6 (Postgres-XL 10r1.1))Type "help" for help.postgres= SELECT count() FROM repltab;count -------100(1 row) 结论:REPLICATION表中,datanode1,datanode2中表是全部数据,一模一样。而DISTRIBUTE表,数据散落近乎平均分配到了datanode1,datanode2节点中。 新增数据节点与数据重分布 在线新增节点、并重新分布数据。 新增datanode节点 在gtm集群管理节点上执行pgxc_ctl命令 [postgres@gtm ~]$ pgxc_ctl/bin/bashInstalling pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Installing pgxc_ctl_bash script as /home/postgres/pgxc_ctl/pgxc_ctl_bash.Reading configuration using /home/postgres/pgxc_ctl/pgxc_ctl_bash --home /home/postgres/pgxc_ctl --configuration /home/postgres/pgxc_ctl/pgxc_ctl.confFinished reading configuration. PGXC_CTL START Current directory: /home/postgres/pgxc_ctlPGXC 在服务器xl3上,新增一个master角色的datanode节点,名称是datanode3 端口号暂定5430,pool master暂定6669 ,指定好数据目录位置,从两个节点升级到3个节点,之后要写3个none none应该是datanodeSpecificExtraConfig或者datanodeSpecificExtraPgHba配置PGXC add datanode master datanode3 xl3 15432 6671 /home/postgres/pgxc/nodes/datanode/datanode3 none none none 等待新增完成后,查询集群节点状态: postgres= select from pgxc_node;node_name | node_type | node_port | node_host | nodeis_primary | nodeis_preferred | node_id-----------+-----------+-----------+-----------+----------------+------------------+-------------datanode1 | D | 15432 | xl1 | t | f | 888802358datanode2 | D | 15432 | xl2 | f | f | -905831925datanode3 | D | 15432 | xl3 | f | f | -705831925coord1 | C | 5432 | xl1 | f | f | 1885696643coord2 | C | 5432 | xl2 | f | f | -1197102633(4 rows) 节点新增完毕 数据重新分布 由于新增节点后无法自动完成数据重新分布,需要手动操作。 DISTRIBUTE表分布在了node1,node2节点上,如下: postgres= SELECT xc_node_id, count() FROM disttab GROUP BY xc_node_id;xc_node_id | count ------------+-------1148549230 | 42-927910690 | 58(2 rows) 新增一个节点后,将sharding表数据重新分配到三个节点上,将repl表复制到新节点 重分布sharding表postgres= ALTER TABLE disttab ADD NODE (datanode3);ALTER TABLE 复制数据到新节点postgres= ALTER TABLE repltab ADD NODE (datanode3);ALTER TABLE 查看新的数据分布: postgres= SELECT xc_node_id, count() FROM disttab GROUP BY xc_node_id;xc_node_id | count ------------+--------700122826 | 36-927910690 | 321148549230 | 32(3 rows) 登录datanode3(新增的时候,放在了xl3服务器上,端口15432)节点查看数据: [postgres@gtm ~]$ psql -h xl3 -p 15432 -U postgrespsql (PGXL 10r1.1, based on PG 10.6 (Postgres-XL 10r1.1))Type "help" for help.postgres= select count() from repltab;count -------100(1 row) 很明显,通过 ALTER TABLE tt ADD NODE (dn)命令,可以将DISTRIBUTE表数据重新分布到新节点,重分布过程中会中断所有事务。可以将REPLICATION表数据复制到新节点。 从datanode节点中回收数据 postgres= ALTER TABLE disttab DELETE NODE (datanode3);ALTER TABLEpostgres= ALTER TABLE repltab DELETE NODE (datanode3);ALTER TABLE 删除数据节点 Postgresql-XL并没有检查将被删除的datanode节点是否有replicated/distributed表的数据,为了数据安全,在删除之前需要检查下被删除节点上的数据,有数据的话,要回收掉分配到其他节点,然后才能安全删除。删除数据节点分为四步骤: 1.查询要删除节点dn3的oid postgres= SELECT oid, FROM pgxc_node;oid | node_name | node_type | node_port | node_host | nodeis_primary | nodeis_preferred | node_id -------+-----------+-----------+-----------+-----------+----------------+------------------+-------------11819 | coord1 | C | 5432 | datanode1 | f | f | 188569664316384 | coord2 | C | 5432 | datanode2 | f | f | -119710263316385 | node1 | D | 5433 | datanode1 | f | t | 114854923016386 | node2 | D | 5433 | datanode2 | f | f | -92791069016397 | dn3 | D | 5430 | datanode1 | f | f | -700122826(5 rows) 2.查询dn3对应的oid中是否有数据 testdb= SELECT FROM pgxc_class WHERE nodeoids::integer[] @> ARRAY[16397];pcrelid | pclocatortype | pcattnum | pchashalgorithm | pchashbuckets | nodeoids ---------+---------------+----------+-----------------+---------------+-------------------16388 | H | 1 | 1 | 4096 | 16397 16385 1638616394 | R | 0 | 0 | 0 | 16397 16385 16386(2 rows) 3.有数据的先回收数据 postgres= ALTER TABLE disttab DELETE NODE (dn3);ALTER TABLEpostgres= ALTER TABLE repltab DELETE NODE (dn3);ALTER TABLEpostgres= SELECT FROM pgxc_class WHERE nodeoids::integer[] @> ARRAY[16397];pcrelid | pclocatortype | pcattnum | pchashalgorithm | pchashbuckets | nodeoids ---------+---------------+----------+-----------------+---------------+----------(0 rows) 4.安全删除dn3 PGXC$ remove datanode master dn3 clean 故障节点FAILOVER 1.查看当前集群状态 [postgres@gtm ~]$ psql -h xl1 -p 5432psql (PGXL 10r1.1, based on PG 10.6 (Postgres-XL 10r1.1))Type "help" for help.postgres= SELECT oid, FROM pgxc_node;oid | node_name | node_type | node_port | node_host | nodeis_primary | nodeis_preferred | node_id-------+-----------+-----------+-----------+-----------+----------------+------------------+-------------11739 | coord1 | C | 5432 | xl1 | f | f | 188569664316384 | coord2 | C | 5432 | xl2 | f | f | -119710263316387 | datanode2 | D | 15432 | xl2 | f | f | -90583192516388 | datanode1 | D | 15432 | xl1 | t | t | 888802358(4 rows) 2.模拟datanode1节点故障 直接关闭即可 PGXC stop -m immediate datanode master datanode1Stopping datanode master datanode1.Done. 3.测试查询 只要查询涉及到datanode1上的数据,那么该查询就会报错 postgres= SELECT xc_node_id, count() FROM disttab GROUP BY xc_node_id;WARNING: failed to receive file descriptors for connectionsERROR: Failed to get pooled connectionsHINT: This may happen because one or more nodes are currently unreachable, either because of node or network failure.Its also possible that the target node may have hit the connection limit or the pooler is configured with low connections.Please check if all nodes are running fine and also review max_connections and max_pool_size configuration parameterspostgres= SELECT xc_node_id, FROM disttab WHERE col1 = 3;xc_node_id | col1 | col2 | col3------------+------+------+-------905831925 | 3 | 103 | foo(1 row) 测试发现,查询范围如果涉及到故障的node1节点,会报错,而查询的数据范围不在node1上的话,仍然可以查询。 4.手动切换 要想切换,必须要提前配置slave节点。 PGXC$ failover datanode node1 切换完成后,查询集群 postgres= SELECT oid, FROM pgxc_node;oid | node_name | node_type | node_port | node_host | nodeis_primary | nodeis_preferred | node_id -------+-----------+-----------+-----------+-----------+----------------+------------------+-------------11819 | coord1 | C | 5432 | datanode1 | f | f | 188569664316384 | coord2 | C | 5432 | datanode2 | f | f | -119710263316386 | node2 | D | 15432 | datanode2 | f | f | -92791069016385 | node1 | D | 15433 | datanode2 | f | t | 1148549230(4 rows) 发现datanode1节点的ip和端口都已经替换为配置的slave了。 本篇文章为转载内容。原文链接:https://blog.csdn.net/qianglei6077/article/details/94379331。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-01-30 11:09:03
94
转载
JSON
...aScript中灵活应用的基础上,进一步探讨其在现代Web开发中的实际运用和最新进展。近期,随着前端技术的快速发展,JSON扮演的角色愈发重要,尤其是在API设计、数据传输与存储方面。 例如,在RESTful API设计规范中,JSON已成为主流的数据交换格式,其简洁明了的结构极大地提高了接口的易用性和可读性。同时,由于JSON兼容多种编程语言,使得不同平台间的通信更为便捷。而随着HTTP/2协议的普及,JSON的序列化与反序列化效率得到了进一步优化,如通过HTTP压缩头部节省带宽,提升响应速度。 此外,现代浏览器对JSON原生支持的强化也为前端开发者提供了更多便利。如最新的Fetch API可以直接处理JSON数据,无需手动调用JSON.parse方法解析。而在数据库领域,NoSQL数据库(如MongoDB)更是充分利用了JSON文档型数据模型的优势,能够直接存储和查询JSON格式数据,简化了数据操作流程。 不仅如此,对于大数据和实时应用,诸如Apache Kafka等消息中间件也支持以JSON格式进行消息传递,便于系统间的数据交换和集成。在未来,随着JSON在物联网(IoT)、微服务架构等领域的深入应用,其无索引序列特性将更好地服务于复杂数据流的高效处理与传输。 总之,理解并掌握JSON的特性和使用方式,是当今软件开发工程师必备技能之一。不断跟进JSON相关的最新技术和应用场景,将有助于我们构建更高效、更具扩展性的现代Web应用。
2023-01-19 19:48:00
519
代码侠
Lua
...ble与Table的区别 (3.1) 内在差异 虽然metatables和tables都是Lua中的数据结构,但两者的用途截然不同。就像我们这次讨论的主题说的那样,“metatable可不就是个普通table”,这句话的重点在于,metatables并不直接存东西,它更像是个幕后操控者,专门用来定制或者调整其他table的行为规矩。 (3.2) 示例二: lua -- 创建一个带有metatable的table local t = {x = 10} local mt = { __index = function(table, key) if key == "y" then return 20 end end } setmetatable(t, mt) -- 访问不存在的键 print(t.y) -- 输出:20 这段代码展示了metatable如何控制table的索引访问。当你在table t里头翻来找去都找不到那个叫y的键时,Lua这家伙可机灵了,它会跑到metatable这个“幕后大佬”那里,去找一个叫__index的秘密武器来取值。这就相当于给你展示了metatable虽然不是table本身,但却能偷偷摸摸地改变table行为的一个鲜活例子。 4. 结语 所以,下一次当你听到有人说“metatableisnotatable”,你应该明白这其中蕴含的深意。Metatables在Lua的世界里,就像是给开发者们打造的一把神奇万能钥匙。它深藏功与名,低调而强大,灵活得不得了,堪称实现面向对象功能的秘密武器。正是因为有了metatables的存在,Lua才能如此游刃有余地应对各种复杂的定制需求场景,让开发者们的工作如虎添翼,轻松搞定!理解并掌握metatables的使用,就如同解锁Lua世界的一把金钥匙,助你在Lua编程的道路上更加游刃有余。下次再面对复杂的Lua对象操作问题时,不妨思考一下:“我是否可以通过metatable来巧妙地解决这个问题呢?”
2023-03-14 23:59:50
92
林中小径
Golang
...库和包的核心概念及其区别后,我们可以进一步探索其在实际开发中的应用与最新动态。近期,Go团队持续优化标准库,例如在Go 1.16版本中对net/http库进行增强,引入了可返回HTTP trailers的ResponseWriter接口,以及改进了http.Transport的KeepAlive逻辑,这些更新使得开发者能够更高效地构建高性能网络服务。 此外,Go社区在包管理器方面也取得了显著进展。2021年发布的Go Modules(模块)已经成为官方推荐的依赖管理方案,它解决了长期困扰开发者的版本依赖问题,并为大型项目提供了一种更为稳定、可复现的依赖管理方式。 深入探究Go语言生态,我们会发现开源社区贡献了大量的第三方库,如GORM(用于数据库操作)、Gin(Web框架)、Cobra(命令行工具生成器)等,这些库大大丰富了Golang的应用场景并提升了开发效率。与此同时,遵循良好的包设计原则,比如单一职责原则,也成为优秀Go程序员的重要素养之一。 综上所述,在Golang的世界里,库和包的概念不仅体现在语言设计层面,更是通过不断发展的生态系统和实践来展现其价值,值得广大开发者关注和深入研究。
2023-01-22 13:27:31
497
时光倒流-t
Hibernate
...储过程不再仅仅是单个应用程序的专属工具,而是开始在微服务环境中扮演重要角色。例如,Netflix在其Chaos Engineering实践中,就利用存储过程实现了服务间的断路和故障注入,以测试系统的弹性。同时,由于存储过程在数据库层面执行,减少了服务间通信的开销,符合微服务架构倡导的低延迟原则。 另一个趋势是使用云原生数据库,如AWS的RDS for PostgreSQL或Google Cloud的Cloud Spanner,这些数据库支持用户自定义存储过程,进一步增强了服务的可扩展性和定制性。在这些环境下,存储过程可以作为服务之间的API接口,提供统一的业务逻辑处理,简化服务之间的协作。 存储过程在数据治理和合规性方面也有所贡献。随着GDPR等数据保护法规的实施,存储过程可以用于执行数据清洗、脱敏等操作,确保数据处理过程透明且符合法规要求。 总的来说,存储过程在微服务架构中的角色正从传统的执行点扩展到服务间的交互、数据管理和合规性保障。开发者需要重新审视和学习如何在新的技术栈中有效地利用存储过程,以适应不断演进的软件开发环境。
2024-04-30 11:22:57
520
心灵驿站
PostgreSQL
PostgreSQL是一种非常强大的关系型数据库管理系统,广泛应用于各种场景中。在使用PostgreSQL时,我们常常会遇到需要通过索引来优化查询性能的需求。那么,如何创建一个可以显示值出来的索引呢?接下来,我将详细阐述这一过程,并给出一些实例代码。 创建索引 在PostgreSQL中,我们可以使用CREATE INDEX语句来创建索引。首先,咱们得先搞清楚到底要给哪个表格建索引,还有具体打算对哪些字段进行索引设置。例如,如果我们有一个名为"articles"的表,其中包含"a", "b", "c"三个字段,我们可以使用以下代码来创建一个基于"a"字段的索引: sql CREATE INDEX idx_articles_a ON articles(a); 上述代码将会在"articles"表的"a"字段上创建一个名为"idx_articles_a"的索引。嘿,你知道吗?索引名这个家伙其实可以任你自由定制!不过在大多数情况下,我们会倾向于选择一个跟字段名“沾亲带故”的命名方式,这样一来,不仅能让我们更轻松地理解索引是干嘛的,还能方便我们日后的管理和维护工作,是不是听起来更人性化、更好理解啦? 除了基本的CREATE INDEX语句外,PostgreSQL还支持一些高级的索引创建选项。例如,我们可以使用CLUSTER BY子句来指定哪些字段应该被用作聚簇键。你知道吗,聚簇键其实是个挺神奇的小东西,它就像是数据库里的超级分类员。这个特殊的索引能帮我们飞快地找到那些拥有相同数值的一堆记录,就像一个魔法师挥挥魔杖,唰的一下就把同类项全部给召唤出来一样!以下是创建一个基于"a"字段的聚簇索引的示例代码: sql CLUSTER articles USING idx_articles_a; 上述代码将会把"articles"表中的所有行按照"a"字段的值重新排列,并且在这个新的顺序下创建一个新的索引(名为"idx_articles_a")。这样一来,当我们想找带有特定"a"字段值的那些行时,就完全可以跳过翻完整个表的繁琐过程,直接在我们新建的这个索引里轻松找到啦! 显示索引 一旦我们创建了一个索引,我们可以通过EXPLAIN或EXPLAIN ANALYZE语句来查看其详细信息。这两个语句都可以用来查看查询的执行计划,包括哪些索引被使用了,以及它们的效率如何等信息。以下是使用EXPLAIN语句查看索引的示例代码: sql EXPLAIN SELECT FROM articles WHERE a = 'value'; 上述代码将会返回一个查询执行计划,其中包含了索引"idx_articles_a"的相关信息。如果索引被正确地使用了,那么查询的速度就会大大提高。 总结 总的来说,创建一个可以显示值出来的索引并不复杂,只需要使用CREATE INDEX语句指定要创建索引的表和字段即可。但是,想要构建一个恰到好处的索引真心不是个轻松活儿,这中间要考虑的因素可多了去了,像什么表的大小啊、查询的频率和复杂程度啊、数据分布的情况等等,都得琢磨透彻才行。所以在实际操作里头,咱们往往得不断试错、反复调校,才能摸清最高效的索引方法。这就像炒菜一样,不经过多次实践尝试,哪能调出最美味的佐料比例呢?同时呢,咱们也得时刻留意着索引的使用状况,一旦发现有啥苗头不对劲的地方,就得赶紧出手把它解决掉,避免出现更大的麻烦。
2023-07-04 17:44:31
345
梦幻星空_t
HTML
...进行本地存储。它们的区别在于数据的生命周期不同。你知道吗,localStorage就像个倔强的小记事本,哪怕你把浏览器关了,它也能牢牢地记住之前存进去的数据。但是sessionStorage就不一样啦,它更像一个临时便签,浏览器一关,它就立马“健忘”,之前写的所有数据都会被清清爽爽地清除掉! 二、HTML5本地存储的使用方法 下面,我们就来看一下如何使用这两种接口进行本地存储吧! 2.1 使用localStorage进行本地存储 首先,我们需要通过JavaScript的window对象来调用localStorage的接口。然后,我们可以使用setItem()方法来向localStorage中添加新的键值对,也可以使用getItem()方法来获取指定键对应的值。 以下是一个简单的例子: javascript // 向localStorage中添加一个新的键值对 localStorage.setItem("username", "张三"); // 获取指定键对应的值 var username = localStorage.getItem("username"); console.log(username); // 输出:张三 2.2 使用sessionStorage进行本地存储 同样的,我们也可以通过JavaScript的window对象来调用sessionStorage的接口。不过,你得知道这么个事儿,sessionStorage里头的信息就像临时记事本一样,只在你当前浏览这个网站的这一整个过程,也就是“同一个会话”期间有效。打个比方,就像你看电影时买的一桶爆米花,电影结束,爆米花也就吃完了。同样道理,一旦你的这次会话或者访问结束,sessionStorage里存的所有数据都会被清空掉,不会留下任何痕迹。 以下是一个简单的例子: javascript // 向sessionStorage中添加一个新的键值对 sessionStorage.setItem("username", "李四"); // 获取指定键对应的值 var username = sessionStorage.getItem("username"); console.log(username); // 输出:李四 三、HTML5本地存储的应用场景 说了这么多,那么我们在实际开发中,应该如何利用这些本地存储功能呢?接下来,我就给大家分享一些常见的应用场景。 3.1 存储用户的登录状态 当我们需要让用户在多个页面之间保持登录状态时,就可以将用户的身份信息存储到localStorage中。这样,就算用户在各个页面之间跳来跳去,也能确保他们的登录状态始终稳稳当当的,不会无缘无故消失。 以下是一个简单的例子: javascript // 当用户成功登录后,将用户名和密码存储到localStorage中 localStorage.setItem("username", "张三"); localStorage.setItem("password", "123456"); // 在后续的页面中,可以从localStorage中读取用户的登录信息 var username = localStorage.getItem("username"); var password = localStorage.getItem("password"); 3.2 存储购物车的商品信息 在电商网站中,我们常常需要记录用户购物车中的商品信息。这时候,我们就能把您购物车里的商品信息存到localStorage这个小仓库里头,这样一来,您在各个页面之间穿梭时,都能随时查看和修改您的购物清单啦。 以下是一个简单的例子: javascript // 当用户将商品加入购物车后,将商品信息存储到localStorage中 localStorage.setItem("cart", JSON.stringify([{"id":1,"name":"苹果","price":5},{"id":2,"name":"香蕉","price":3}])); // 在后续的页面中,可以从localStorage中读取购物车中的商品信息 var cart = JSON.parse(localStorage.getItem("cart")); console.log(cart); 总结: 以上就是我为大家介绍的HTML5如何支持本地存储(localStorage)和会话存储(sessionStorage)功能的一些基础知识和常见应用场景。希望通过这篇接地气的文章,大家伙都能把这项牛逼哄哄的功能理解得明明白白,掌握得妥妥当当,这样一来,咱们的开发效率嗖嗖往上升,用户体验蹭蹭地优化,就贼棒啦!如果你有任何问题或者疑问,欢迎随时留言给我,我会尽力帮助你解决问题。最后,感谢大家的阅读和支持!
2023-08-20 09:34:37
515
清风徐来_t
PostgreSQL
...工具使用不当可能导致PostgreSQL中SQL执行效率低下的问题后,进一步了解数据库性能优化的最新趋势与实践显得尤为重要。近日,PostgreSQL 14版本发布了一系列针对查询优化的重要更新,包括增强对并行查询的支持、改进索引扫描以及增强统计信息收集功能等,这些都为提高SQL执行效率提供了更为强大的原生支持。 实际上,业界也在不断研究和推出新的数据库性能分析工具,如PgHero、pgMustard等,它们能够提供可视化的查询性能报告,并智能地给出索引优化建议。同时,对于大规模数据处理场景,结合使用分区表、物化视图等高级特性,也成为提升SQL查询性能的有效手段。 此外,数据库社区专家强调了理解业务逻辑的重要性,提倡“以业务为导向”的SQL优化策略,即根据实际应用场景灵活调整索引结构和查询语句,避免盲目依赖优化工具的自动化建议。通过持续监控数据库运行状态,定期进行性能调优审计,并结合数据库内核原理深入剖析,是实现高效SQL查询的持久之道。 综上所述,在瞬息万变的技术环境中,与时俱进地掌握最新的数据库优化技术和理念,将有助于我们更好地应对SQL执行效率挑战,最大化挖掘出PostgreSQL等数据库系统的潜能。
2023-09-28 21:06:07
263
冬日暖阳
转载文章
...的数组,与普通数组的区别就是它是没有固定大小的限制,我们可以添加或删除元素。 2. ArrayList 继承了 AbstractList ,并实现了 List 接口。 3. ArrayList 类位于 java.util 包中,使用前需要引入它,语法格式如下: import java.util.ArrayList; // 引入 ArrayList 类ArrayList<E> objectName =new ArrayList<>(); // 初始化 4. ArrayList 是一个数组队列,提供了相关的添加、删除、修改等功能。 5. ArrayList 中的元素实际上是对象,在以上实例中,数组列表元素都是字符串 String 类型。 如果我们要存储其他类型,而 <E> 只能为引用数据类型,这时我们就需要使用到基本类型的包装类。 基本类型对应的包装类表如下: 基本类型 引用类型 boolean Boolean byte Byte short Short int Integer long Long float Float double Double char Character 访问 ArrayList 中的元素可以使用 get() 方法: public static void main(String[] args) {ArrayList<String> sites = new ArrayList<String>();sites.add("weipinhui");sites.add("pinduoduo");sites.add("Taobao");sites.add("jingdong");System.out.println(sites);} 注意:数组的索引值从 0 开始。 ArrayList 类提供了很多有用的方法,添加元素到 ArrayList 可以使用 add() 方法 public static void main(String[] args) {ArrayList<String> sites = new ArrayList<String>();sites.add("weipinhui");sites.add("pinduoduo");sites.add("Taobao");sites.add("jingdong");sites.set(2, "Weixin"); // 第一个参数为索引位置,第二个为要修改的值System.out.println(sites);} 如果要修改 ArrayList 中的元素可以使用 set() 方法: public static void main(String[] args) {ArrayList<String> sites = new ArrayList<String>();sites.add("weipinhui");sites.add("pinduoduo");sites.add("Taobao");sites.add("jingdong");sites.set(2, "Weixin"); // 第一个参数为索引位置,第二个为要修改的值System.out.println(sites);} 如果要删除 ArrayList 中的元素可以使用 remove() 方法: public static void main(String[] args) {ArrayList<String> sites = new ArrayList<String>();sites.add("weipinhui");sites.add("pinduoduo");sites.add("Taobao");sites.add("jingdong");sites.remove(3); // 删除第四个元素System.out.println(sites);} 如果要计算 ArrayList 中的元素数量可以使用 size() 方法: public static void main(String[] args) {ArrayList<String> sites = new ArrayList<String>();sites.add("weipinhui");sites.add("pinduoduo");sites.add("Taobao");sites.add("jingdong");System.out.println(sites.size());} 使用Scanner、Random、ArrayList完成一个不重复的点名程序: public static void main(String[] args) {//可以使用Arrays的asList实现序列化一个集合List<String> list= Arrays.asList("叶枫","饶政","郭汶广","王志刚","时力强","柴浩阳","王宁","雷坤恒","贠耀强","齐东豪","袁文涛","孙啸聪","李文彬","孙赛欧","曾毅","付临","王文龙","朱海尧","史艳红","赵冉冉","詹梦","苏真娇","张涛","王浩","刘发光","王愉茜","牛怡衡","臧照生","梁晓声","孔顺达","田野","宫帅龙","高亭","张卓","陈盼盼","杨延欣","李蒙惠","瞿新成","王婧源","刘建豪","彭习峰","胡凯","张武超","李炳杰","刘传","焦泽国");//把list作为参数重新构建一个新的ArrayList集合ArrayList<String> names=new ArrayList<>(list);//使用Scanner、Random、ArrayList完成一个不重复的点名程序Random random=new Random();Scanner scanner=new Scanner(System.in);while(true){//如果集合中没有元素了别结束循环if(names.size()==0){System.out.println("已完成所有学生抽查,抽查结束请重新开始");break;}System.out.println("确认点名请输入吧Y/y");String input=scanner.next();if(input.equals("Y")||input.equals("y")){//随机一个集合下标int index=random.nextInt(names.size());System.out.println(""+names.get(index));//该学生已经被抽到,把他从集合中移除names.remove(index);}else{System.out.println("本次抽查结束");break;} }} 本篇文章为转载内容。原文链接:https://blog.csdn.net/gccv_/article/details/128037485。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2024-02-19 12:24:39
583
转载
转载文章
...iveLock 在 PostgreSQL 中是一种锁模式,表示排他锁或独占锁。当一个事务对表、行或其他资源获取了 ExclusiveLock,其他任何事务都无法在同一资源上获取任何类型的锁,直到持有 ExclusiveLock 的事务结束。在文章的上下文中,问题表现为由于某个后台进程对目标表持有 ExclusiveLock,导致其他操作(包括删除表)无法执行。 pg_terminate_backend() , pg_terminate_backend 是 PostgreSQL 提供的一个系统级函数,用于向指定的后台进程发送 SIGTERM 信号,强制终止该进程以及其所关联的所有事务。这个函数需要超级用户权限,并且会立即结束进程,释放所有持有的锁,同时回滚未提交的事务。在解决文章中描述的问题时,通过查找锁定表的后台进程 ID 并调用此函数来解除表的锁定状态。 pg_cancel_backend() , pg_cancel_backend 是 PostgreSQL 另一个系统级函数,作用是向指定的后台进程发送 SIGINT 信号,尝试以更温和的方式取消当前正在执行的事务,从而释放对该事务所占用资源的锁定。与 pg_terminate_backend() 不同,它并不会立即结束进程,而是尝试让进程自行回滚事务并退出。在实际应用中,如果不需要立即结束整个会话,可以优先考虑使用 pg_cancel_backend() 来尝试解决问题。 pg_locks 表 , 在 PostgreSQL 系统中,pg_locks 是一个系统视图,用于显示当前所有的锁信息,包括锁的类型、级别、归属进程等详细情况。通过查询 pg_locks 表,管理员能够识别出哪些事务或进程持有特定资源的锁,这对于诊断和解决诸如表无法删除这样的并发控制问题至关重要。 pg_class 表 , pg_class 是 PostgreSQL 系统中的一个系统目录表,记录了数据库中的所有表、索引、视图等对象的基本信息,如名称(relname)、OID(唯一标识符)等。在处理本文所述问题时,通过联合查询 pg_class 表和其他系统表,可以找到与被锁定表相关的后台进程信息。 pg_stat_activity 表 , pg_stat_activity 是 PostgreSQL 内置的一个系统视图,提供了关于数据库当前活动会话及其执行状态的信息,包括会话 ID(pid)、启动时间(backend_start)、应用程序名(application_name)、查询开始时间(query_start)、等待状态(waiting)、事务状态(state)以及当前执行的查询语句(query)等。在排查锁定问题时,通过查询 pg_stat_activity 表可了解哪些会话可能对问题表进行了锁定操作。
2023-09-22 09:08:45
126
转载
MyBatis
...问题。全文搜索在很多应用场景中都是不可或缺的功能,比如搜索引擎、电商商品检索等。MyBatis 这个挺不错的 ORM 框架虽然自己不带全文搜索的功能,但咱们可以用一些小技巧和巧妙的设置,在 MyBatis 项目里搞定全文搜索的需求。接下来,让我们一起深入探索如何避免常见的配置错误,让全文搜索更加高效。 1. 全文搜索的基础概念与需求分析 首先,我们需要明白全文搜索是什么。简单说吧,全文搜索就像是在一大堆乱七八糟的书里迅速找到包含你想要的关键字的那一段,挺方便的。与简单的字符串匹配不同,全文搜索可以处理更复杂的查询条件,比如忽略大小写、支持布尔逻辑运算等。在数据库层面,这通常涉及到使用特定的全文索引和查询语法。 假设你正在开发一个电商平台,用户需要能够通过输入关键词快速找到他们想要的商品信息。要是咱们数据库里存了好多商品描述,那单靠简单的LIKE查询可能就搞不定事儿了,速度会特别慢。这时候,引入全文搜索就显得尤为重要。 2. MyBatis中实现全文搜索的基本思路 在MyBatis中实现全文搜索并不是直接由框架提供的功能,而是需要结合数据库本身的全文索引功能来实现。不同的数据库在全文搜索这块各有各的招数。比如说,MySQL里的InnoDB引擎就支持全文索引,而PostgreSQL更是自带强大的全文搜索功能,用起来特别方便。这里我们以MySQL为例进行讲解。 2.1 数据库配置 首先,你需要确保你的数据库支持全文索引,并且已经为相关字段启用了全文索引。比如,在MySQL中,你可以这样创建一个带有全文索引的表: sql CREATE TABLE product ( id INT AUTO_INCREMENT PRIMARY KEY, name VARCHAR(255), description TEXT, FULLTEXT(description) ); 这里,我们为description字段添加了一个全文索引,这意味着我们可以在这个字段上执行全文搜索。 2.2 MyBatis映射文件配置 接下来,在MyBatis的映射文件(Mapper XML)中定义相应的SQL查询语句。这里的关键在于正确地构建全文搜索的SQL语句。比如,假设我们要实现根据商品描述搜索商品的功能,可以这样编写: xml SELECT FROM product WHERE MATCH(description) AGAINST ({keyword} IN NATURAL LANGUAGE MODE) 这里的MATCH(description) AGAINST ({keyword})就是全文搜索的核心部分。“IN NATURAL LANGUAGE MODE”就是用大白话来搜东西,这种方式更直接、更接地气。搜出来的结果也会按照跟你要找的东西的相关程度来排个序。 3. 实际应用中的常见问题及解决方案 在实际开发过程中,可能会遇到一些配置不当导致全文搜索功能失效的情况。这里,我将分享几个常见的问题及其解决方案。 3.1 搜索结果不符合预期 问题描述:当你执行全文搜索时,发现搜索结果并不是你期望的那样,可能是因为搜索关键词太短或者太常见,导致匹配度不高。 解决方法:尝试调整全文搜索的模式,比如使用BOOLEAN MODE来提高搜索精度。此外,确保搜索关键词足够长且具有一定的独特性,可以显著提高搜索效果。 xml SELECT FROM product WHERE MATCH(description) AGAINST ({keyword} IN BOOLEAN MODE) 3.2 性能瓶颈 问题描述:随着数据量的增加,全文搜索可能会变得非常慢,影响用户体验。 解决方法:优化索引设计,比如适当减少索引字段的数量,或者对索引进行分区。另外,也可以考虑在应用层缓存搜索结果,减少数据库负担。 4. 总结与展望 通过上述内容,我们了解了如何在MyBatis项目中正确配置全文搜索功能,并探讨了一些实际操作中可能遇到的问题及解决策略。全文搜索这东西挺强大的,但你得小心翼翼地设置才行。要是设置得好,不仅能让人用起来更爽,还能让整个应用变得更全能、更灵活。 当然,这只是全文搜索配置的一个起点。随着业务越做越大,技术也越来越先进,我们可以试试更多高大上的功能,比如支持多种语言,还能处理同义词啥的。希望本文能对你有所帮助,如果有任何疑问或想法,欢迎随时交流讨论! --- 希望这篇文章能够帮助到你,如果有任何具体的需求或者想了解更多细节,随时告诉我!
2024-11-06 15:45:32
135
岁月如歌
PostgreSQL
PostgreSQL 数据复制问题深度解析与实践 1. 引言 在当今的大数据时代,数据库的稳定性、高效性和数据一致性显得尤为重要。PostgreSQL这款开源的对象关系型数据库系统,那家伙可厉害了!人家凭仗着无比强大的功能和顶呱呱的性能表现,在江湖上那是赢得了一片叫好声,圈粉无数啊!然而,在实际操作中,我们总会遇到一个挠头的大问题:怎样才能既快速又稳妥地复制数据,确保系统高度稳定、随时可恢复,还能适应分布式部署的各种需求呢?本文将深入探讨PostgreSQL的数据复制问题,并通过实例代码带您一起走进实战环节。 2. PostgreSQL 数据复制基础概念 2.1 复制类型 PostgreSQL提供了物理复制和逻辑复制两种方式。物理复制这东西,就好比有个超级认真的小秘书,它利用WAL(提前写日志)的方法,实时、同步地把数据库所有的改动“原封不动”地搬到另一个地方。而逻辑复制呢,则更像是个懂业务的翻译官,专门关注SQL这种高级命令或者一连串的操作事务,特别适合那些需要把数据分发到多个数据库,或者在传输过程中还需要对数据进行转换处理的情况。 2.2 主从复制架构 典型的PostgreSQL数据复制采用主-从架构,其中主节点负责处理写入请求并生成WAL日志,从节点则订阅并应用这些日志,从而实现数据的实时同步。 3. 物理复制实践 3.1 配置主从复制 让我们首先通过一段示例配置开启主从复制: postgresql -- 在主库上创建复制用户并赋予权限 CREATE ROLE replication_user WITH REPLICATION LOGIN ENCRYPTED PASSWORD 'your_password'; GRANT ALL PRIVILEGES ON DATABASE your_database TO replication_user; -- 查看主库的当前WAL位置 SELECT pg_current_wal_lsn(); -- 在从库上设置主库信息 RECOVERY.conf 文件内容如下: standby_mode = 'on' primary_conninfo = 'host=master_host port=5432 user=replication_user password=your_password' -- 刷新从库并启动复制进程 pg_ctl restart -D /path/to/your_slave_node_data_directory 3.2 监控与故障切换 当主库出现故障时,可以手动提升从库为新的主库。但为了实现自动化,通常会借助 Patroni 或者其它集群管理工具来管理和监控整个复制过程。 4. 逻辑复制实践 4.1 创建发布与订阅 逻辑复制需在主库上创建发布(publication),并在从库上创建订阅(subscription): postgresql -- 在主库上创建发布 CREATE PUBLICATION my_pub FOR TABLE table1, table2; -- 在从库上创建订阅 CREATE SUBSCRIPTION my_sub CONNECTION 'dbname=your_dbname host=master_host user=replication_user password=your_password' PUBLICATION my_pub; 4.2 实时同步与冲突解决 逻辑复制虽然提供更灵活的数据分发方式,但也可能引入数据冲突的问题。所以在规划逻辑复制方案的时候,咱们得充分琢磨一下冲突检测和解决的策略,就像是可以通过触发器或者应用程序自身的逻辑巧妙地进行管控那样。 5. 结论与思考 PostgreSQL的数据复制机制为我们提供了可靠的数据冗余和扩展能力,但同时也带来了一系列运维挑战,如复制延迟、数据冲突等问题。在实际操作的时候,我们得瞅准业务的特性跟需求,像挑衣服那样选出最合身的复制策略。而且呢,咱们还得像个操心的老妈子一样,时刻盯着系统的状态,随时给它调校调校,确保一切运转正常。甭管是在追求数据完美同步这条道上,还是在捣鼓系统性能提升的过程中,每一次对PostgreSQL数据复制技术的深入理解和动手实践,都像是一场充满挑战又收获满满的探险之旅。 记住,每个数据库背后都是鲜活的业务需求和海量的数据故事,我们在理解PostgreSQL数据复制的同时,也在理解着这个世界的数据流动与变迁,这正是我们热衷于此的原因所在!
2023-03-15 11:06:28
343
人生如戏
转载文章
...百度下拉词数据的实际应用场景中,这种技术手段对于SEO优化、市场趋势分析以及关键词研究等领域具有重要意义。近日,随着互联网营销和搜索引擎算法的持续更新,精准获取并分析搜索下拉词成为了企业及个人用户洞察市场需求、制定有效网络营销策略的重要一环。 据《中国网络营销白皮书》最新数据显示,搜索引擎下拉词是用户搜索行为的真实反映,其中隐藏着丰富的行业热点与潜在需求信息。通过抓取并分析这些数据,企业能够更准确地定位目标受众,优化网站内容以提升关键词排名,从而增强品牌曝光度与流量转化率。 此外,值得注意的是,在实施此类数据采集时,务必遵守相关法律法规,尊重并保护用户隐私。近期,我国对大数据应用领域的监管趋严,《个人信息保护法》等法规对数据收集、使用提出了更为严格的要求。因此,在实际操作中,应当确保数据来源合法,遵循正当必要原则,并采取必要的脱敏措施。 综上所述,结合当下网络营销环境,合理合法地运用技术手段进行百度下拉词数据的采集与分析,不仅可以为企业提供宝贵的数据资源,还能助力其在瞬息万变的市场环境中抢占先机,实现可持续发展。同时,也应关注行业动态,紧跟政策导向,合规合法地开展数据采集工作,确保企业在数字化转型过程中行稳致远。
2023-06-21 12:59:26
490
转载
Consul
...锁一样,只不过这里是应用程序在存取数据罢了。每一个键(Key)对应一个值(Value),并且支持版本控制和过期时间设置。这使得KV Store非常适合用于配置管理、状态跟踪和元数据存储。 go // 使用Consul的Go客户端存储键值对 package main import ( "fmt" "github.com/hashicorp/consul/api" ) func main() { config := api.DefaultConfig() config.Address = "localhost:8500" client, err := api.NewClient(config) if err != nil { panic(err) } // 存储键值对 _, _, err = client.KV().Put(&api.KVPair{ Key: "myapp/config/db_url", Value: []byte("postgresql://localhost:5432/mydb"), }, nil) if err != nil { fmt.Printf("Error storing key: %v\n", err) } else { fmt.Println("Key-value stored successfully") } } 3. 版本控制与事务 Consul KV Store支持版本控制,这意味着每次更新键值对时,都会记录一个新的版本。这对于确保数据一致性至关重要。例如,你可以使用KV() API的CheckAndSet方法原子性地更新值,只有当键的当前值与预期一致时才进行更新。 go // 更新键值对并确保值匹配 _, _, err = client.KV().CheckAndSet(&api.KVPair{ Key: "myapp/config/db_url", Value: []byte("postgresql://localhost:5432/mydb-updated"), Version: 1, // 假设我们已经知道当前版本是1 }, nil) 4. 过期时间与自动清理 Consul允许为键设置过期时间,一旦超过这个时间,Consul会自动删除该键值对,无需人工干预。这对于临时存储或缓存数据特别有用。 go // 设置过期时间为1小时的键值对 _, _, err = client.KV().Put(&api.KVPair{ Key: "myapp/temp_data", Value: []byte("temp data"), TTL: time.Hour, }, nil) 5. 集群同步与一致性 Consul的KV Store采用复制和一致性算法,确保所有节点上的数据保持同步。当有新数据需要写入时,Consul会发动一次全体节点参与的协同作战,确保这些新鲜出炉的数据会被所有节点稳稳接收到,这样一来,就不用担心数据会神秘消失或者出现啥不一致的情况啦。 6. 动态配置与服务发现 Consul的KV Store常用于动态配置,如应用的环境变量。同时呢,它还跟服务发现玩得可亲密了。具体来说就是,服务实例会主动把自己的信息挂到KV Store这个公告板上,其他服务一看,嘿,只要找到像service/myapp这样的关键词,就能轻松查到这些服务的配置情况和健康状况啦。 go // 注册服务 service := &api.AgentServiceRegistration{ ID: "myapp", Name: "My App Service", Tags: []string{"web"}, Address: "192.168.1.100:8080", } _, _, err = client.Agent().ServiceRegister(service, nil) 7. 总结与展望 Consul的Key-Value存储是其强大功能的核心,它使得数据管理变得简单且可靠。嘿,你知道吗?KV Store就像个超能小管家,在分布式系统里大显身手。它通过灵活的版本控制机制,像记录家族大事记一样,确保每一次数据变动都有迹可循;再搭配上过期时间管理这一神技能,让数据能在合适的时间自动更新换代,永葆青春;最关键的是,它还提供了一致性保证这个法宝,让所有节点的数据都能保持同步协调,稳如磐石。所以说啊,KV Store实实在在地为分布式系统搭建了一个无比坚实的基础支撑。无论是服务发现还是配置管理,Consul都展现了其灵活和实用的一面。随着企业越来越离不开微服务和云原生架构,Consul这个家伙将在现代DevOps的日常运作中持续扮演它的“大主角”,而且这戏份只会越来越重。 --- 在撰写这篇文章的过程中,我尽力将复杂的概念以易于理解的方式呈现,同时也融入了一些代码示例,以便读者能更直观地感受Consul的工作原理。甭管你是刚刚开始摸Consul的开发者小哥,还是正在绞尽脑汁提升自家系统稳定性的工程师大佬,都能从Consul这儿捞到实实在在的好处。希望本文能帮助你在使用Consul时更好地理解和利用其数据存储能力。
2024-03-04 11:46:36
433
人生如戏-t
站内搜索
用于搜索本网站内部文章,支持栏目切换。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
tar -cvzf archive.tar.gz dir
- 压缩目录至gzip格式的tar包。
推荐内容
推荐本栏目内的其它文章,看看还有哪些文章让你感兴趣。
2023-04-28
2023-08-09
2023-06-18
2023-04-14
2023-02-18
2023-04-17
2024-01-11
2023-10-03
2023-09-09
2023-06-13
2023-08-07
2023-03-11
历史内容
快速导航到对应月份的历史文章列表。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"