[SQL查询优化以减少连接使用]的搜索结果

...对象关系映射）框架来连接和查询数据库的。例如，使用Entity Framework，我们可以这样获取数据： csharp using (var context = new MyDbContext()) { var query = context.MyTable.OrderBy("MyField"); var result = query.ToList(); } 这段代码创建了一个上下文对象，执行SQL查询（按"myField"排序），并将结果转换为List集合。 1.2 遍历与重复问题 当我们直接将查询结果存储到集合中时，如果数据库中有重复的记录，那么集合自然也会包含这些重复项。这是因为集合的默认行为是不进行去重的。 三、去重机制与解决方案 2.1 去重的基本概念 在.NET中，我们需要明确区分两种不同的去重方式：在内存中的去重和在数据库层面的去重。你知道吗，通常在我们拿到数据后，第一件事儿就是清理内存里的重复项，就像整理房间一样，要把那些重复的玩意儿挑出去。而在数据库那头，去重可就有点技术含量了，得靠咱们精心编写的SQL语句，就像侦探破案一样，一点一点找出那些隐藏的“双胞胎”记录。 2.2 内存层面的去重 如果我们希望在遍历后立即去除重复项，可以使用LINQ的Distinct()方法： csharp var uniqueResult = result.Distinct().ToList(); 这将创建一个新的集合，其中只包含唯一的元素。 2.3 SQL层面的去重 如果去重应在数据库层面完成，我们需要在查询语句中加入GROUP BY或DISTINCT关键字。例如： csharp var query = context.MyTable.OrderBy("MyField").GroupBy(x => x.MyField).Select(x => x.First()); 这将确保每组相同的"MyField"值仅返回一个结果。 四、优化与最佳实践 3.1 性能考虑 在处理大量数据时，直接在内存中去重可能会消耗大量资源。在这种情况下，我们可以选择分批处理或者使用数据库的分组功能。 3.2 数据一致性 在设计数据库表结构时，考虑使用唯一索引或主键来保证数据的唯一性，这将减少在应用程序中手动去重的需求。 五、结论 虽然.NET的C为我们提供了强大的数据库操作能力，但处理重复数据时需要我们细心考虑。要想在翻遍数据库的时候不被重复数据烦扰，关键在于透彻明白查询的门道，熟练掌握去重技巧，还得根据实际情况灵活运用策略，就像找宝藏一样，每次都能避开那些已经踩过的雷区。记住，编程不仅仅是语法，更是逻辑和思维的艺术。祝你在.NET的世界里游刃有余！

...研究Tomcat性能优化的世界里了，希望能把这事儿搞定。嘿，大家好！今天想跟你们聊聊我最近的一次探索之旅，还有我是怎么捣鼓Tomcat的设置，让网站加载快得像闪电一样！ 1. 初识Tomcat 为何它会影响网站响应时间？ 首先，让我们简单回顾一下Tomcat是个啥。Tomcat可是个大名鼎鼎的开源Web服务器，它是Apache旗下的产物。简单来说，Tomcat就像个超级能干的小助手，专门负责解读和运行Java Servlet和JSP（就是那种用来编写动态网页的Java代码）。这样一来，它就能帮我们生成各种炫酷的动态网页啦！不过，你可能会想，这跟网站打开慢有啥关系呢？其实很多时候，网站加载慢并不是因为服务器不够强，而是因为Tomcat没配好，或者是应用本身有点问题。 思考时刻：你有没有想过，为什么同样的代码在不同的服务器上表现差异巨大？这就是我们需要深入研究Tomcat配置的原因之一。 2. 性能瓶颈分析 找出问题所在 在解决任何问题之前，我们首先需要知道问题出在哪里。这里有几个常见的影响因素： - 内存不足：如果Tomcat服务器分配给Java堆的内存不够，应用程序运行时可能会频繁触发垃圾回收，导致响应时间变长。 - 线程池配置不合理：线程池大小设置不当会导致请求处理效率低下，特别是在高并发场景下。 - 数据库连接池配置：数据库连接池配置不当也会严重影响性能，比如连接池大小设置太小，导致数据库连接成为瓶颈。 代码示例： 假设我们想要增加Tomcat中Java堆的内存，可以在catalina.sh文件中添加如下参数： bash JAVA_OPTS="-Xms512m -Xmx1024m" 这里，-Xms表示初始堆大小，-Xmx表示最大堆大小。根据实际情况调整这两个值可以有效缓解内存不足的问题。 3. 调优技巧 如何让Tomcat飞起来？ 找到问题之后，接下来就是对症下药了。下面是一些实用的调优建议： - 调整JVM参数：除了前面提到的内存设置外，还可以考虑启用压缩引用（-XX:+UseCompressedOops）等JVM参数来提高性能。 - 优化线程池配置：合理设置线程池大小可以显著提高并发处理能力。例如，在server.xml文件中的元素下设置maxThreads="200"。 - 使用连接池：确保数据库连接池配置正确，比如使用HikariCP这样的高性能连接池。 代码示例： 在server.xml中配置线程池： xml connectionTimeout="20000" redirectPort="8443" maxThreads="200"/> 4. 实践案例分享 从慢到快的转变 在我自己的项目中，我发现网站响应时间过长的主要原因是数据库查询效率低。加了缓存之后，再加上SQL查询也优化了一下，网站的反应速度快了不少，用起来顺手多了！另外，我调了一下JVM参数和线程池配置，这样系统在高峰期就能扛得住更大的流量啦。 思考时刻：优化工作往往不是一蹴而就的，需要不断测试、调整、再测试。在这个过程中，耐心和细心是非常重要的品质。 结语 好了，今天的分享就到这里。希望这篇文章能给你点灵感，让你知道怎么通过调整Tomcat的设置来让网站跑得更快些。记住，技术永远是在不断进步的，保持好奇心和学习的态度是成长的关键。如果你有任何问题或见解，欢迎随时留言交流！ 最后，祝大家都能拥有一个响应迅速、用户体验优秀的网站！ --- 希望这篇技术文章能够帮助到你，如果有任何具体问题或者需要进一步的信息，请随时告诉我！

PostgreSQL系统配置错误：导致性能下降与故障发生的深层解析 1. 引言 PostgreSQL，作为一款功能强大、开源的关系型数据库管理系统，在全球范围内广受赞誉。不过呢，就像老话说的，“好马得配好鞍”，哪怕PostgreSQL这匹“骏马”有着超凡的性能和稳如磐石的稳定性，可一旦咱们给它配上不合适的“鞍子”，也就是配置出岔子或者系统闹点儿小情绪，那很可能就拖了它的后腿，影响性能，严重点儿还可能引发各种意想不到的问题。这篇文章咱们要接地气地聊聊，配置出岔子可能会带来的那些糟心影响，并且我还会手把手地带你瞧瞧实例代码，教你如何把配置调校得恰到好处，让这些问题通通远离咱们。 2. 配置失误对性能的影响 2.1 shared_buffers设置不合理 shared_buffers是PostgreSQL用于缓存数据的重要参数，其大小直接影响到数据库的查询性能。要是你把这数值设得过小，就等于是在让磁盘I/O忙个不停，频繁操作起来，就像个永不停歇的陀螺，会拖累整体性能，让系统跑得像只乌龟。反过来，如果你一不留神把数值调得过大，那就像是在内存里开辟了一大片空地却闲置不用，这就白白浪费了宝贵的内存资源，还会把其他系统进程挤得没地方住，人家也会闹情绪的。 postgresql -- 在postgresql.conf中调整shared_buffers值 shared_buffers = 4GB -- 假设服务器有足够内存支持此设置 2.2 work_mem不足 work_mem定义了每个SQL查询可以使用的内存量，对于复杂的排序、哈希操作等至关重要。过低的work_mem设定可能导致大量临时文件生成，进一步降低性能。 postgresql -- 调整work_mem大小 work_mem = 64MB -- 根据实际业务负载进行合理调整 3. 配置失误导致的故障案例 3.1 max_connections设置过高 max_connections参数限制了PostgreSQL同时接受的最大连接数。如果设置得过高，却没考虑服务器的实际承受能力，就像让一个普通人硬扛大铁锤，早晚得累垮。这样一来，系统资源就会被消耗殆尽，好比车票都被抢光了，新的连接请求就无法挤上这趟“网络列车”。最终，整个系统可能就要“罢工”瘫痪啦。 postgresql -- 不合理的高连接数设置示例 max_connections = 500 -- 若服务器硬件条件不足以支撑如此多的并发连接，则可能引发故障 3.2 日志设置不当造成磁盘空间耗尽 log_line_prefix、log_directory等日志相关参数设置不当，可能导致日志文件迅速增长，占用过多磁盘空间，进而引发数据库服务停止。 postgresql -- 错误的日志设置示例 log_line_prefix = '%t [%p]: ' -- 时间戳和进程ID前缀可能会使日志行变得冗长 log_directory = '/var/log/postgresql' -- 如果不加以定期清理，日志文件可能会撑满整个分区 4. 探讨与建议 面对PostgreSQL的系统配置问题，我们需要深入了解每个参数的含义以及它们在不同场景下的最佳实践。优化配置是一个持续的过程，需要结合业务特性和硬件资源来进行细致调优。 - 理解需求：首先，应了解业务特点，包括数据量大小、查询复杂度、并发访问量等因素。 - 监控分析：借助pg_stat_activity、pg_stat_bgwriter等视图监控数据库运行状态，结合如pgBadger、pg_top等工具分析性能瓶颈。 - 逐步调整：每次只更改一个参数，观察并评估效果，切忌盲目跟从网络上的推荐配置。 总结来说，PostgreSQL的强大性能背后，合理的配置是关键。要让咱们的数据库系统跑得溜又稳，像老黄牛一样可靠，给业务发展扎扎实实当好坚强后盾，那就必须把这些参数整得门儿清，调校得恰到好处才行。

...的数据类型选择和性能优化 1. 引言 大家好，今天我们要聊聊Apache Impala这个工具，特别是如何在使用过程中选择合适的数据类型以及如何通过这些选择来优化性能。说实话，最开始我也是一头雾水，不过后来我就像是找到了乐子，越玩越过瘾，感觉就像在玩解谜游戏一样。让我们一起走进这个神奇的世界吧！ 2. 数据类型的重要性 2.1 为什么选择合适的数据类型很重要？ 数据类型是数据库的灵魂。选对了数据类型，不仅能让你的查询结果更靠谱，还能让查询快得像闪电一样！想象一下，如果你选错了数据类型来处理海量数据，那可就麻烦大了。不仅白白占用了宝贵的存储空间，查询速度也会变得跟蜗牛爬似的。最惨的是，整个系统可能会慢得让你怀疑人生，就像乌龟在赛跑中领先一样夸张。 2.2 Impala支持的主要数据类型 在Impala中，我们有多种数据类型可以选择： - 整型：如TINYINT, SMALLINT, INT, BIGINT。 - 浮点型：如FLOAT, DOUBLE。 - 字符串：如STRING, VARCHAR, CHAR。 - 日期时间：如TIMESTAMP。 - 布尔型：BOOLEAN。 每种数据类型都有其适用场景，选择合适的类型就像是为你的数据穿上最合身的衣服。 3. 如何选择合适的数据类型 3.1 整型的选择 示例代码： sql CREATE TABLE numbers ( id TINYINT, value SMALLINT, count INT, total BIGINT ); 在这个例子中，id 可能只需要一个非常小的范围，所以 TINYINT 是一个不错的选择。而 value 和 count 则可以根据实际需求选择 SMALLINT 或 INT。要是你得对付那些超级大的数字，比如说计算网站的点击量，那 BIGINT 可就派上用场了。 3.2 浮点型的选择 示例代码： sql CREATE TABLE prices ( product_id INT, price FLOAT, discount_rate DOUBLE ); 在处理价格和折扣率这类数据时，FLOAT 足够满足大部分需求。不过，如果是要做金融计算这种得特别精确的事情，还是用 DOUBLE 类型吧，这样数据才靠谱。 3.3 字符串的选择 示例代码： sql CREATE TABLE users ( user_id INT, name STRING, email VARCHAR(255) ); 对于用户名称和电子邮件地址这种信息，我们可以使用 STRING 类型。如果知道字段的最大长度，推荐使用 VARCHAR，这样可以节省一些存储空间。 3.4 日期时间的选择 示例代码： sql CREATE TABLE orders ( order_id INT, order_date TIMESTAMP, delivery_date TIMESTAMP ); 在处理订单日期和交货日期这样的信息时，TIMESTAMP 类型是最直接的选择。这个不仅能存日期，还能带上具体的时间，特别适合用来做时间上的研究和分析。 3.5 布尔型的选择 示例代码： sql CREATE TABLE active_users ( user_id INT, is_active BOOLEAN ); 如果你有一个字段需要表示某种状态是否开启（如用户账户是否激活），那么 BOOLEAN 类型就是最佳选择。它只有两种取值：TRUE 和 FALSE，非常适合用来简化逻辑判断。 4. 性能优化技巧 4.1 减少数据冗余 尽量避免不必要的数据冗余。例如，在多个表中重复存储相同的字符串数据（如用户姓名）。可以考虑使用外键或者创建一个独立的字符串存储表来减少重复数据。 4.2 使用分区表 分区表可以帮助我们更好地管理和优化大型数据集。把数据按时间戳之类的东西分个区，查询起来会快很多，特别是当你 dealing with 时间序列数据的时候。 示例代码： sql CREATE TABLE sales ( year INT, month INT, day INT, amount DECIMAL(10,2) ) PARTITION BY (year, month); 在这个例子中，我们将 sales 表按年份和月份进行了分区，这样查询某个特定时间段的数据就会变得非常高效。 4.3 使用索引 合理利用索引可以大大提高查询速度。不过，在建索引的时候得好好想想，毕竟索引会吃掉一部分存储空间，而且在往里面添加或修改数据时，还得额外花工夫去维护。 示例代码： sql CREATE INDEX idx_user_email ON users(email); 通过在 email 字段上创建索引，我们可以快速查找特定邮箱的用户记录。 5. 结论 通过本文的学习，我们了解了如何在Impala中选择合适的数据类型以及如何通过这些选择来优化查询性能。希望这些知识能够帮助你在实际工作中做出更好的决策。记住啊，选数据类型和搞性能优化这事儿，就跟学骑自行车一样，得不停地练。别害怕摔跤，每次跌倒都是长经验的好机会！祝你在这个过程中找到乐趣，享受数据带来的无限可能！

PostgreSQL：揭秘索引创建的艺术，让查询结果“脱颖而出” 在PostgreSQL的世界里，索引是我们优化数据库性能、加速数据检索过程的秘密武器。你有没有想过这样一个问题：“怎样才能捣鼓出一个索引，让它不仅能嗖嗖地提升查询速度，还能像魔法一样直观地显示数据值呢？”其实啊，索引这玩意儿本身并不会亲自跳出来展示它肚子里存储的具体数值，它们更像是电影里的无名英雄，在幕后悄无声息地给数据库引擎当导航，让引擎能以迅雷不及掩耳之势找到我们需要的记录。不过呢，只要咱们能搞明白索引是怎么工作的，再掌握好创建和使用它的正确姿势，就完全能够在查询数据的时候，让速度嗖嗖的，达到最理想的性能表现。接下来，我们将一起深入探讨PostgreSQL中索引的创建过程，并通过一系列生动的例子来揭示这一“魔法”的运作机制。 1. 理解索引的核心概念 首先，我们要明确一点，索引并不是为了直接显示数据而存在，而是提高数据查询效率的一种数据结构。想象一下，当你在一本按字母顺序排列的词典中查找词汇时，索引就如同那目录页，让你迅速找到目标单词所在的页面。在PostgreSQL中，最常见的索引类型是B树索引，它能高效地支持范围查询和等值查询。 sql -- 创建一个简单的B树索引示例 CREATE INDEX idx_employee_name ON employees (first_name, last_name); 上述代码会在employees表的first_name和last_name列上创建一个多字段B树索引，这样当我们查找特定员工姓名时，数据库能够快速定位到相关记录。 2. 索引的可视化与验证 虽然索引自身并不直接显示数据，但我们可以通过查询系统表来查看索引信息，间接了解其内容和作用效果。例如： sql -- 查看已创建的索引详情 SELECT FROM pg_indexes WHERE tablename = 'employees'; -- 或者查看索引大小和统计信息 ANALYZE idx_employee_name; 这些操作有助于我们评估索引的有效性和利用率，而不是直接看到索引存储的具体值。 3. 表达式索引的妙用 有时，我们可能需要基于某个计算表达式的值来建立索引，这就是所谓的“表达式索引”。这就像是你整理音乐播放列表，把歌曲按照时长从小到大或者从大到小排个队。虽然实际上你的手机或电脑里存的是每首歌的名字和文件地址，但为了让它们按照时长排列整齐，系统其实是在根据每首歌的时长给它们编了个索引号。 sql -- 创建一个基于年龄（假设从出生日期计算）的表达式索引 CREATE INDEX idx_employee_age ON employees ((EXTRACT(YEAR FROM age(birth_date)))); 此索引将根据员工的出生日期计算出他们的年龄并据此排序，对于按年龄筛选查询特别有用。 4. 并发创建索引与生产环境考量 在大型应用或繁忙的生产环境中，创建索引可能会对业务造成影响。幸运的是，PostgreSQL允许并发创建索引，以尽量减少对读写操作的影响： sql -- 使用CONCURRENTLY关键字创建索引，降低阻塞 CREATE INDEX CONCURRENTLY idx_employee_salary ON employees (salary); 这段代码会创建一个与现有业务并发运行的索引构建任务，使得其他查询可以继续执行，而不必等待索引完成。 结语 虽然我们无法直接通过索引来“显示”数据，但通过合理创建和利用索引，我们可以显著提升数据库系统的响应速度，从而为用户提供更好的体验。在PostgreSQL的世界里，捣鼓索引的学问，就像是在破解一个数据库优化的神秘谜团。每一个我们用心打造的索引，都像是朝着高性能数据库架构迈进的一块积木，虽然小，但却至关重要，步步为赢。每一次实践，都伴随着我们的思考与理解，让我们愈发深刻体会到数据库底层逻辑的魅力所在。下次当你面对庞大的数据集时，别忘了这个无声无息却无比强大的工具——索引，它正静候你的指令，随时准备为你提供闪电般的查询速度。

...——以PostgreSQL为例 1. 开场白 为什么我们需要分页和排序？ 嘿，朋友们！今天我们要聊的是一个非常实用的话题：如何在PostgreSQL数据库中实现数据的分页和排序功能。这事儿每个搞数据库的小伙伴都可能碰到，不管是做那个让大伙儿用起来顺手的网页应用，还是搭建那个能搞定一大堆数据的分析平台，怎么把海量数据弄得清清楚楚、井井有条，真的是太关键了。 1.1 为什么需要分页？ 想象一下，如果你正在开发一个电商网站，而你的产品目录里有成千上万种商品，如果直接把所有商品一次性展示给用户，不仅页面加载速度会慢得让人抓狂，而且用户也很难找到他们想要的商品。这时候，分页功能就显得尤为重要了。这家伙能帮我们把海量数据切成小块，吃起来方便，还能让咱们用得更爽，系统也跑得飞快！ 1.2 为什么需要排序？ 再来聊聊排序。在数据展示中，排序功能可以帮助用户根据自己的需求快速定位到所需信息。比如说，在新闻网站上，大家通常都想第一时间看到最新的新闻动态，或者是想找那些大家都爱看的热门文章，点开看看究竟多火。这样一来，我们就能按照用户的喜好来调整数据的排列顺序，让用户看着更舒心，自然也就更满意啦！ 2. PostgreSQL中的分页与排序 既然了解了为什么我们需要这些功能，那么现在让我们来看看如何在PostgreSQL中实现它们吧！ 2.1 分页的基本概念 在SQL中，分页通常涉及到两个关键参数：OFFSET 和 LIMIT。OFFSET用于指定从结果集的哪个位置开始返回数据，而LIMIT则限制了返回的数据条目数量。例如，如果你想从第5条记录开始获取10条数据，你可以这样写： sql SELECT FROM your_table_name ORDER BY some_column OFFSET 5 LIMIT 10; 这里，ORDER BY some_column是可选的，但强烈建议你总是为查询加上一个排序条件，因为没有明确的排序规则时，返回的数据可能会出现不一致的情况。 2.2 实战演练：分页查询实例 假设你有一个名为products的表，里面存储了各种产品的信息，你想实现一个分页功能来展示这些产品。首先，你得搞清楚用户现在要看的是哪一页（就是每页显示多少条记录），然后用这个信息算出正确的OFFSET值。这样子才能让用户的请求对上数据库里的数据。 sql -- 假设每页显示10条记录 WITH page AS ( SELECT product_id, name, price, ROW_NUMBER() OVER (ORDER BY product_id) AS row_number FROM products ) SELECT FROM page WHERE row_number BETWEEN (page_number - 1) items_per_page + 1 AND page_number items_per_page; 这里的page_number和items_per_page是根据前端传入的参数动态计算出来的。这样，无论用户请求的是第几页，你都可以正确地返回对应的数据。 2.3 排序的魅力 排序同样重要。通过在查询中添加ORDER BY子句，我们可以控制数据的输出顺序。比如，如果你想按价格降序排列产品列表，可以这样写： sql SELECT FROM products ORDER BY price DESC; 或者，如果你想让用户能够自由选择排序方式，可以在应用层接收用户的输入，并相应地调整SQL语句中的排序条件。 3. 结合分页与排序 实战案例 接下来，让我们将分页和排序结合起来，看看实际效果。咱们有个卖东西的网站，得弄个页面能让大伙儿按不同的标准（比如说价格高低、卖得快不快这些）来排产品。这样大家找东西就方便多了。 sql WITH sorted_products AS ( SELECT FROM products ORDER BY CASE WHEN :sort_by = 'price' THEN price END ASC, CASE WHEN :sort_by = 'sales' THEN sales END DESC ) SELECT FROM sorted_products LIMIT :items_per_page OFFSET (:page_number - 1) :items_per_page; 在这个例子中，:sort_by、:items_per_page和:page_number都是从用户输入或配置文件中获取的变量。这种方式使得我们的查询更加灵活，能够适应不同的业务场景。 4. 总结与反思 通过这篇文章，我们探索了如何在PostgreSQL中有效地实现数据的分页和排序功能。别看这些技术好像挺简单，其实它们对提升用户体验和让系统跑得更顺畅可重要着呢！当然啦，随着项目的不断推进，你可能会碰到更多棘手的问题，比如说要应对大量的同时访问，还得绞尽脑汁优化查询速度啥的。不过别担心，掌握了基础之后，一切都会变得容易起来。 希望这篇技术分享对你有所帮助，也欢迎你在评论区分享你的想法和经验。让我们一起进步，共同成长！ --- 这就是我关于“如何在数据库中实现数据的分页和排序功能？”的全部内容啦！如果你对PostgreSQL或者其他数据库技术有任何疑问或见解，记得留言哦。编程路上，我们一起加油！

...数据库作为数据存储和查询的核心组件，其性能直接影响着业务效率。DorisDB，这款采用分布式、MPP架构设计的列式数据库，可以说是相当厉害了。它能像压缩饼干一样高效地“挤”数据，大大节省存储空间；查询速度更是快如闪电，让你无需漫长等待；而且它的实时分析功能强大到飞起，让用户们爱不释手。正是因为这些优点，DorisDB才赢得了众多用户的芳心和点赞呢！然而，在实际操作的时候，我们可能会遇到SQL查询速度卡壳的问题，这篇文呢，咱就来好好唠唠嗑，聊聊怎么通过各种小妙招优化DorisDB这个数据库系统的SQL查询效率，让它跑得溜溜的。 2. 理解与诊断查询性能 首先，我们需要对DorisDB的查询过程有一个基本理解，这包括查询计划的生成、数据分区的选择以及执行引擎的工作原理等。当你发现查询速度不尽如人意时，可以通过EXPLAIN命令来查看SQL语句的执行计划，如同医生检查病人的“体检报告”一样： sql -- 使用EXPLAIN获取查询计划 EXPLAIN SELECT FROM my_table WHERE key = 'some_value'; 通过分析这个执行计划，我们可以了解到查询涉及哪些分区、索引是否被有效利用等关键信息，从而为优化工作找准方向。 3. 优化策略一 合理设计表结构与分区策略 - 列选择性优化：由于DorisDB是列式存储，高选择性的列（即唯一或接近唯一的列）能更好地发挥其优势。例如，对于用户ID这样的列，将其设为主键或构建Bloom Filter索引，可以大幅提升查询性能。 sql -- 创建包含主键的表 CREATE TABLE my_table ( user_id INT PRIMARY KEY, ... ); - 分区设计：根据业务需求和数据分布特性，合理设计分区策略至关重要。比如，咱们可以按照时间段给数据分区，这样做的好处可多了。首先呢，能大大减少需要扫描的数据量，让查询过程不再那么费力；其次，还能巧妙地利用局部性原理，就像你找东西时先从最近的地方找起一样，这样就能显著提升查询的效率，让你的数据查找嗖嗖快！ sql -- 按天分区 CREATE TABLE my_table ( ... ) PARTITION BY RANGE (dt) ( PARTITION p20220101 VALUES LESS THAN ("2022-01-02"), PARTITION p20220102 VALUES LESS THAN ("2022-01-03"), ... ); 4. 优化策略二 SQL查询优化 - 避免全表扫描：尽量在WHERE子句中指定明确的过滤条件，利用索引加速查询。例如，假设我们已经为user_id字段创建了索引，那么以下查询会更高效： sql SELECT FROM my_table WHERE user_id = 123; - 减少数据传输量：只查询需要的列，避免使用SELECT 。同时，合理运用聚合函数和分组，避免不必要的计算和排序。 sql -- 只查询特定列，避免全表扫描 SELECT user_name, email FROM my_table WHERE user_id = 123; -- 合理运用GROUP BY和聚合函数 SELECT COUNT(), category FROM my_table GROUP BY category; 5. 优化策略三 系统配置调优 DorisDB提供了丰富的系统参数供用户调整以适应不同场景下的性能需求。比方说，你可以通过调节max_scan_range_length这个参数，来决定每次查询时最多能扫描多少数据范围，就像控制扫地机器人的清扫范围那样。再者，通过巧妙调整那些和内存相关的设置，就能让服务器资源得到充分且高效的利用，就像精心安排储物空间，让每个角落都物尽其用。 6. 结语 优化DorisDB的SQL查询性能是一个综合且持续的过程，需要结合业务特点和数据特征，从表结构设计、查询语句编写到系统配置调整等多个维度着手。每个环节都需细心打磨，才能使DorisDB在大数据洪流中游刃有余，提供更为出色的服务。每一次对DorisDB的优化，都是我们携手这位好伙伴，一起摸爬滚打、不断解锁新技能、共同进步的重要印记。这样一来，咱的数据分析之路也能走得更顺溜，效率嗖嗖往上涨，就像坐上了火箭一样快呢！

...供一种灵活且高效的 SQL 映射方式，开发者可以将 SQL 语句映射到 Java 对象上，并通过简单的 API 进行数据库 CRUD（创建、读取、更新和删除）操作。在本文中，MyBatis 的核心功能之一是自动管理和优化数据库连接的打开与关闭过程。 SqlSessionFactory , 在 MyBatis 框架中，SqlSessionFactory 是一个核心组件，扮演着数据库连接工厂的角色。它负责创建 SqlSession 对象，而 SqlSession 是执行所有数据库操作的主要接口。当创建 SqlSessionFactory 实例时，会自动管理数据库连接的建立和维护，使得应用程序能够高效地获取并使用已打开的数据库连接。 PreparedStatementCache , PreparedStatementCache 是 MyBatis 中用于缓存预编译 SQL 查询语句的一个内部组件。在处理 SQL 查询请求时，StatementExecutor 类会首先查找 PreparedStatementCache 中是否存在匹配的预编译 SQL 查询语句。如果存在，则直接复用该预编译语句以提高查询性能；如果不存在，则先通过 JDBC API 编译 SQL 查询语句，并可能在执行次数达到一定阈值后将其存储到 PreparedStatementCache 中，以便后续重复查询时快速获取，从而减少数据库连接的开销和提升应用程序整体运行效率。

...1. 引言 Solr查询性能的困惑 嗨，朋友们！今天我要跟大家聊聊一个让我头疼了好一阵子的问题——Apache Solr的查询性能不稳定。这事真让我头疼，谁不希望自己的搜索系统又快又准呢？我在一个项目里用了Solr，本来以为它能大显神通，没想到查询速度时快时慢，有时简直让人想砸键盘！我刚开始还以为是自己出了什么岔子，不过后来才发现原来不只是我一个人碰到了这个问题。我就想，干脆好好查一查，看看是不是啥外部因素或者设置问题搞的鬼。 2. 初步排查 Solr配置检查 2.1 索引优化 首先，我想到的是索引是否进行了优化。Solr的索引优化对于查询性能至关重要。如果索引过大且碎片较多，那么查询速度自然会受到影响。我查看了Solr的日志文件，发现确实存在一些索引碎片。为了优化索引，我执行了以下命令： bash curl http://localhost:8983/solr/mycollection/update?optimize=true&maxSegments=1 这个命令会将所有索引合并成一个段，并释放未使用的空间。运行后，查询速度确实有所提升，但这只是暂时的解决方案。 2.2 缓存设置 接着，我又检查了Solr的缓存设置。Solr提供了多种缓存机制，如Query Result Cache、Document Cache等，这些缓存可以显著提高查询性能。我调整了配置文件solrconfig.xml中的相关参数： xml size="512" initialSize="128" autowarmCount="64" eternal="true" ttiMillis="0" ttlMillis="0"/> 通过调整缓存大小和预热数量，我发现查询响应时间有所改善，但还是不够稳定。 3. 深入分析 外部依赖的影响 3.1 网络延迟 在排除了内部配置问题后，我开始怀疑是否有外部因素在作祟。经过一番排查，我发现网络延迟可能是罪魁祸首之一。Solr在处理查询时，得从好几个地方找信息，如果网速慢得像乌龟爬，那查询速度肯定也会变慢。我用ping命令测了一下和数据库服务器的连接，发现确实有点儿延时，挺磨人的。为了解决这个问题，我在想是不是可以在Solr服务器和数据库服务器中间加一台缓存服务器。这样就能少直接去查数据库了，效率应该能提高不少。 3.2 第三方API调用 除了网络延迟外，第三方API调用也可能是导致性能不稳定的另一个原因。Solr在处理某些查询时，可能需要调用外部服务来获取额外的数据。如果这些服务响应缓慢，整个查询过程也会变慢。我翻了一下Solr的日志，发现有些查询卡在那儿等外部服务回应，结果等超时了。为了搞定这个问题，我在Solr里加了个异步召唤的功能，这样Solr就能一边等着外部服务响应，一边还能接着处理别的查询请求了。具体代码如下： java public void handleExternalRequest() { CompletableFuture.supplyAsync(() -> { // 调用外部服务获取数据 return fetchDataFromExternalService(); }).thenAccept(result -> { // 处理返回的数据 processResult(result); }); } 4. 实践经验分享 配置波动与性能优化 4.1 动态配置管理 在实践中，我发现Solr的配置文件经常需要根据实际需求进行调整。然而，频繁地修改配置文件可能导致系统性能不稳定。为了更好地管理配置文件的变化，我建议使用动态配置管理工具，如Zookeeper。Zookeeper可帮我们在不耽误Solr正常运转的前提下更新配置，这样就不用担心因为调整设置而影响性能了。 4.2 监控与报警 最后，我强烈建议建立一套完善的监控和报警机制。通过实时盯着Solr的各种表现（比如查询速度咋样、CPU用得多不多等），我们就能赶紧发现状况，然后迅速出手解决。另外，咱们得设定好警报线，就像给系统设个底线。一旦性能掉到这线下，它就会自动给我们发警告。这样我们就能赶紧找出毛病，及时修好，不让小问题拖成大麻烦。例如，可以使用Prometheus和Grafana来搭建监控系统，代码示例如下： yaml Prometheus配置 global: scrape_interval: 15s scrape_configs: - job_name: 'solr' static_configs: - targets: ['localhost:8983'] json // Grafana仪表盘JSON配置 { "dashboard": { "panels": [ { "type": "graph", "title": "Solr查询响应时间", "targets": [ { "expr": "solr_query_response_time_seconds", "legendFormat": "{ {instance} }" } ] } ] } } 5. 结语 共勉与展望 总的来说，Solr查询性能不稳定是一个复杂的问题，可能涉及多方面的因素。咱们得从内部设置、外部依赖还有监控报警这些方面一起考虑，才能找出个靠谱的解决办法。在这个过程中，我也学到了很多，希望大家能够从中受益。未来，我将继续探索更多关于Solr优化的方法，希望能与大家共同进步！ 希望这篇文章对你有所帮助，如果你有任何疑问或想法，欢迎随时交流讨论。

...味着Solr无法正确连接到外部数据源或者执行SQL查询来获取索引数据。 CoreContainer , 在Apache Solr中，CoreContainer是管理Solr核心集合（Solr Core）的主要容器类。它负责加载、初始化、监控和卸载Solr核心，并在集群环境下协调多个节点之间的状态和服务。在文章给出的代码示例中，CoreContainer用于启动Solr集群并查询其包含的核心集合的状态信息。 JMX (Java Management Extensions) , JMX是一种Java技术标准，用于管理和监控Java应用程序的各种资源，包括内存使用情况、线程池状态以及服务配置等。在Solr安全漏洞排查部分，建议关闭不必要的JMX服务以减少潜在的安全风险，防止恶意用户通过JMX接口远程访问和操控系统。 全文索引 (Full-text Indexing) , 全文索引是一种将文档内容转换为可搜索格式的过程，允许用户搜索文本中的任何词组或短语。在Apache Solr中，全文索引是其主要功能之一，能够对大量非结构化数据进行高效检索。当遇到“全文索引导入失败”的问题时，需要排查与全文索引构建过程相关的配置和数据源连接问题。

...学习 Java，推荐使用视频加书籍学习。视频资源可以去慕课网，网易云课堂寻找，这个不展开叙述。至于书籍，这里推荐 「Java核心技术(卷1):基础知识」，「Java编程思想」。两本书都是经典好书，尤其后面一本更是经典中经典。这里切记一点，切勿买 「xx 入门到精通」、「21 天带你学会 xx」 系列书籍，尽管这类书籍销量很好。 不推荐直接看书学习。因为你如果单纯看书，你很容易会困乏，而且很容易抓不住重点。这个过程很容易会让你失去兴趣。而结合视频学习，你可以跟视频进度学习，进而能掌握自己大概学习进度。这个学习过程中，你先看完视频，然后动手练习视频中的代码。 一定要动手练习！ 一定要动手练习！ 一定要动手练习！ 代码是需要动手练习，才能孰生巧。 学完 Java 基础，用学的知识去完成一个小项目，这里会让自己有些小成就，这样能更好学下去。 Java 基础知识不用去学 awt，swing 等图形化编程。 如果这第一步都坚持不下来，那其实真的放弃吧。后面你只会越学越困难 聊聊选择的问题 自学第二步，选择从事的方向。 学完 Java 基础，你就面临自己以后需要从事开发的方向。如 Java 来说，一般分为服务段开发与客户端开发，方向不同，接下去学的知识点就会不同。所以这里选择需要慎重思考。 这里可以使用一个方法，我们从事件的价值出发，列出一个优缺清单表。比如你要选择服务端开发还是客户端开发，你先去充分了解这两个方向，然后列一分优缺清单表格，把了解到每一个点都写上去，打一个分数，分数分为 -10 到 10 分。最后我们统计一个总分，然后那个分数较高的方向。 掌握数据库 由于本人从事服务端开发，下面说说服务端开发学习的过程。 服务端开发，需要学习的东西会很多，不过不用担心，我们一个个说。 首先我们先说数据库。数据库对于服务端开发，一定要学会的技术，所以这个我们需要着重学习。 首先按照网上教程，自己在电脑上搭建一个数据库，这里推荐 MySQL。搭建之后，再下载一个数据库客户端管理工具，如 Navicat，DataGrip。弄完这些基础设施之后，我们这里接着去学会 SQL 的语法。这里着重学习单表增删改查的语法，跨表的连接查询等。网上找一个例子，如可以自己构建一个学生课程信息表，做到可以用以上学习到的语法。 学习完数据库，接着我们就需要学习Java JDBC 的知识。学习的 JDBC 就是让我们了解，如何使用 Java 操作数据库，运行 Mybatis的增删改查的语句。 接着我们可以去学习相关 ORM 的框架，如 Hibernate 或 Mybatis，这里推荐 Mybatis。学习框架，我们要做到掌握框架的使用技巧就可以。 这个过程你可能会发现，Mybatis 这类框架这么如此简化开发，为什么我们不直接学习 Mybatis ？ 学习 JDBC 的目的，其实就是让你了解这些 ORM 的基础。 学完这个阶段，我们接下去就要进入 WEB 开发。 WEB 开发 这个过程我们首先学习一些前端知识，如 HTML，CSS,JavaScript，然后再去 Jquery 等前端框架，做到能实现一些简单的功能。我们不需要跟你上面一样精通，我们只要了解一些概念即可。 接下去我们学习 Servlet，做到能使用原生 Servlet + Jsp 能运行一个 WEB 程序。 后面我们再去学习 Spring 框架，使用 SpringMVC 了解 MVC 的概念。最后用 SpringMVC+Spring+Mybatis+MySQL 完成一个简单的管理系统。 其他 学完以上内容，基本上已经学习完工作中学习到的技术栈。这个过程你还需要额外学习一些工作中用到其他知识。 你需要去学习协同开发的工具，如 Git，SVN。做到了解如何新建分支，如何拉取代码，如何合并代码即可。 你还需要去学习一些 Linux 的命令。 总结 学完上述内容，你实际就已经掌握初级开发所需要的技术，已经基本上可以从事一个初级开发的岗位。我们上面讲的都是使用技巧，但是面试的时候可能会问你一些原理性的内容，所以在我们去找工作之前我们还需要去了解一些原理性知识。这方面的内容通过搜索引擎搜索即可。 这个过程你可能会碰到很多问题，这个过程一定善于使用搜索引擎。 本篇文章为转载内容。原文链接：https://blog.csdn.net/qq_35006660/article/details/115610534。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...的新趋势：深度学习与SQL查询的融合 随着人工智能技术的飞速发展，数据分析领域正经历一场前所未有的变革。近年来，深度学习技术因其强大的模式识别能力和预测能力，在图像处理、语音识别、自然语言处理等领域取得了显著成就。然而，深度学习的应用往往依赖于大量的训练数据和复杂的模型结构，这在数据量庞大的商业环境中显得尤为重要。与此同时，传统的SQL查询作为一种高效的数据检索手段，已经广泛应用于大数据分析中，但其在复杂数据分析和预测任务上的局限性日益凸显。 深度学习与SQL查询的融合 面对这一挑战，研究人员开始探索将深度学习技术与SQL查询相结合的可能性，以期在保持SQL查询高效性的同时，增强其在复杂数据分析和预测任务上的能力。这种融合不仅限于简单的集成，而是涉及到深度学习模型的构建、优化以及与SQL查询系统的无缝对接。例如，通过使用SQL查询来预处理数据，提取特征，然后将这些特征输入到深度学习模型中进行训练和预测，从而实现高效的数据分析流程。 案例分析：深度学习辅助SQL查询优化 一项研究表明，结合深度学习的SQL查询优化策略能够显著提高查询性能和响应速度。研究团队通过构建深度强化学习模型，用于预测SQL查询的执行路径和最佳执行计划，以此来减少查询执行时间。该模型通过对历史查询日志的学习，自动识别出常见的查询模式和执行瓶颈，从而动态调整查询计划，以适应不同规模和复杂性的数据集。 行业应用与展望 这一融合趋势已经在多个行业中展现出巨大潜力。例如，在金融领域，深度学习辅助的SQL查询优化可以帮助银行快速处理大量交易数据，提高风险评估的准确性和效率；在医疗健康领域，结合深度学习的SQL查询技术能够加速病例数据的分析，支持个性化治疗方案的制定。此外，随着物联网设备的普及，海量实时数据的处理成为亟待解决的问题，深度学习与SQL查询的融合有望在此领域发挥重要作用。 结论 深度学习与SQL查询的融合是数据分析领域的一大创新方向，它不仅能够提升传统SQL查询系统的性能，还能够拓宽数据分析的边界，促进人工智能与传统数据库技术的深度融合。未来，随着技术的不断进步和应用场景的拓展，这一融合趋势将为各行各业带来更加智能、高效的数据分析解决方案，推动整个社会向智能化转型。 深度学习与SQL查询的融合，不仅是技术层面的创新，更是数据分析方式的根本变革，预示着未来数据驱动型决策将成为常态，而数据分析师的角色也将因此变得更加重要。

...特别直白——把你的 SQL 查询语句给翻译成 MapReduce 任务，然后甩给 Hadoop 去干活儿。而HDFS呢，就是存储这些数据的地方。它们就像一对老朋友，互相依赖，缺一不可。 但有时候，这俩家伙可能会闹别扭，尤其是当你发现Hive突然不能访问HDFS了。这可真是让人头疼，因为这意味着你的数据查询直接凉凉。所以今天我们就来聊聊，为什么会出现这种情况，以及该怎么解决。 二、可能的原因 为什么Hive访问不了HDFS？ 2.1 网络问题 首先，我们得想想是不是网络出了问题。嘿，你知道吗？我猜你们公司那位网络大神最近是不是偷偷调整了防火墙的设置？或者是服务器那边抽风了，直接断网了？反正不管咋回事儿，现在Hive跟HDFS就像是隔了一座大山，怎么也连不上，所以它想读数据都读不到啊！ 举个例子吧，假设你的Hive配置文件里写着HDFS的地址是hdfs://namenode:9000/，但是实际上NameNode所在的机器根本不在网络范围内，那Hive当然会报错啦。 解决方法：检查一下网络连接是否正常。你可以试着ping一下HDFS的NameNode地址，看看能不能通。如果不行的话，赶紧找网络管理员帮忙修一下。 2.2 权限问题 其次，权限问题也是常见的原因。HDFS对文件和目录是有严格权限控制的，如果你的用户没有足够的权限去读取某个文件，那么Hive自然也无能为力。 举个栗子，假如你有一个HDFS路径/user/hive/warehouse/my_table，但是这个目录的权限设置成了只有root用户才能访问，而你的Hive用户不是root，那肯定就悲剧了。 解决方法：检查HDFS上的文件和目录权限。如果你想看看某个文件的权限，可以用这个命令：hadoop fs -ls /path/to/file。看完之后，要是觉得权限不对劲，就动手改一下呗，比如说用hadoop fs -chmod 755 /path/to/file，给它整成合适的权限就行啦！ 2.3 HDFS服务未运行 还有一种可能是HDFS服务本身挂掉了。比如说，NameNode突然罢工了，DataNode也闹起了情绪，甚至整个集群都瘫痪了，啥都不干了。哎呀糟糕了，这情况有点悬啊！HDFS直接罢工了，完全不干活，任凭Hive使出浑身解数也无济于事。这下可好，整个系统像是瘫了一样，啥也跑不起来了。 解决方法：检查HDFS的服务状态。可以通过命令jps查看是否有NameNode和DataNode进程在运行。如果没有，那就得赶紧启动它们，或者重启整个HDFS服务。 三、实战演练 Hive访问HDFS的具体操作 接下来，我们通过一些实际的例子来看看如何用Hive操作HDFS。 3.1 创建表并加载数据到HDFS 假设我们现在要创建一个简单的表，并将数据加载到HDFS中。我们可以先创建一个本地文件data.txt，内容如下： id,name,age 1,Alice,25 2,Bob,30 3,Charlie,35 然后上传到HDFS： bash hadoop fs -put data.txt /user/hive/warehouse/my_table/ 接着在Hive中创建表： sql CREATE TABLE my_table ( id INT, name STRING, age INT ) ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE; 最后加载数据： sql LOAD DATA INPATH '/user/hive/warehouse/my_table/data.txt' INTO TABLE my_table; 这样，我们的数据就成功存到了HDFS上，并且Hive也能读取到了。 3.2 查询数据 现在我们可以试试查询数据： sql SELECT FROM my_table; 如果一切正常，你应该能看到类似这样的结果： OK 1 Alice 25 2 Bob 30 3 Charlie 35 Time taken: 0.077 seconds, Fetched: 3 row(s) 但如果之前出现了访问不了HDFS的情况，这里就会报错。所以我们要确保每一步都正确无误。 四、总结与展望 总之，Hive无法访问HDFS的问题虽然看起来很复杂，但实际上只要找到根本原因，解决起来并不难。无论是网络问题、权限问题还是服务问题，都有相应的解决办法。嘿，大家听我说啊！以后要是再碰到这种事儿，别害怕，也别乱了阵脚。就当是玩个解谜游戏，一步一步慢慢来，肯定能找出办法搞定它！ 未来，随着大数据技术的发展，Hive和HDFS的功能也会越来越强大。说不定哪天它们还能像人类一样交流感情呢！（开玩笑啦） 好了，今天的分享就到这里啦。如果你还有什么疑问或者经验想要分享，欢迎随时留言讨论哦！让我们一起进步，一起探索大数据的奥秘吧！

...然间，一切变得静止。查询返回一个错误信息，告诉你“写入失败”。这不仅让你感到沮丧，还可能影响了业务流程的连续性。 原因分析：写入失败可能是由多种因素引起的，包括但不限于网络延迟、资源限制（如磁盘空间不足）、事务冲突、以及数据库配置问题等。理解这些原因有助于我们对症下药。 第二章：案例研究：网络延迟引发的写入失败 场景还原：假设你正使用Python的dorisdb库进行数据插入操作。代码如下： python from dorisdb import DorisDBClient client = DorisDBClient(host='your_host', port=your_port, database='your_db') cursor = client.cursor() 插入数据 cursor.execute("INSERT INTO your_table (column1, column2) VALUES ('value1', 'value2')") 问题浮现：执行上述代码后，你收到了“写入失败”的消息，同时发现网络连接偶尔会中断。 解决方案：首先，检查网络连接稳定性。确保你的服务器与DorisDB实例之间的网络畅通无阻。其次，优化SQL语句的执行效率，减少网络传输的数据量。例如，可以考虑批量插入数据，而不是逐条插入。 第三章：资源限制：磁盘空间不足的挑战 场景还原：你的DorisDB实例运行在一个资源有限的环境中，某天，当你试图插入大量数据时，系统提示磁盘空间不足。 问题浮现：尽管你已经确保了网络连接稳定，但写入仍然失败。 解决方案：增加磁盘空间是显而易见的解决方法，但这需要时间和成本。哎呀，兄弟，你得知道，咱们手头的空间那可是个大问题啊！要是想在短时间内搞定它，我这儿有个小妙招给你。首先，咱们得做个大扫除，把那些用不上的数据扔掉。就像家里大扫除一样，那些过时的文件、照片啥的，该删就删，别让它占着地方。其次呢，咱们可以用更牛逼的压缩工具，比如ZIP或者RAR，它们能把文件压缩得更小，让硬盘喘口气。这样一来，不仅空间大了，还能节省点资源，挺划算的嘛！试试看，说不定你会发现自己的设备运行起来比以前流畅多了！嘿，兄弟！你听说过 DorisDB 的分片和分布式功能吗？这玩意儿超级厉害！它就像个大仓库，能把咱们的数据均匀地摆放在多个小仓库里（那些就是节点），这样不仅能让数据更高效地存储起来，还能让我们的系统跑得更快，用起来更顺畅。试试看，保管让你爱不释手！ 第四章：事务冲突与并发控制 场景还原：在高并发环境下，多个用户同时尝试插入数据到同一表中，导致了写入失败。 问题浮现：即使网络连接稳定，磁盘空间充足，事务冲突仍可能导致写入失败。 解决方案：引入适当的并发控制机制是关键。在DorisDB中，可以通过设置合理的锁策略来避免或减少事务冲突。例如，使用行级锁或表级锁，根据具体需求选择最合适的锁模式。哎呀，兄弟，咱们在优化程序的时候，得注意一点，别搞那些没必要的同时进行的操作，这样能大大提升系统的稳定性。就像是做饭，你要是同时炒好几个菜，肯定得忙得团团转，而且容易出错。所以啊，咱们得一个个来，稳扎稳打，这样才能让系统跑得又快又稳！ 结语：从困惑到解决的旅程 面对“写入失败”，我们需要冷静分析，从不同的角度寻找问题所在。哎呀，你知道嘛，不管是网速慢了点、硬件不够给力、操作过程中卡壳了，还是设置哪里没对劲，这些事儿啊，都有各自的小妙招来解决。就像是遇到堵车了，你得找找是哪段路的问题，然后对症下药，说不定就是换个路线或者等等红绿灯，就能顺畅起来呢！哎呀，你知道不？咱们要是能持续地学习和动手做，那咱处理问题的能力就能慢慢上个新台阶。就像给水管通了塞子，数据的流动就更顺畅了。这样一来，咱们的业务跑起来也快多了，就像是有了个贴身保镖，保护着业务高效运转呢！嘿！听好了，每回遇到难题都不是白来的，那可是让你升级打怪的好机会！咱们就一起手牵手，勇闯数据的汪洋大海，去发现那些藏在暗处的新世界吧！别怕，有我在你身边，咱俩一起探险，一起成长！

...直接渲染。 尽量不要使用 eval, new Function()，document.write()，document.writeln()，window.setInterval()，window.setTimeout()，innerHTML，document.creteElement() 等可执行字符串的方法。 如果做不到以上几点，也必须对涉及 DOM 渲染的方法传入的字符串参数做 escape 转义。 前端渲染的时候对任何的字段都需要做 escape 转义编码。 escape 转义的目的是将一些构成 HTML 标签的元素转义，比如 <，>，空格 等，转义成 <，>， 等显示转义字符。有很多开源的工具可以协助我们做 escape 转义。 持久型 XSS 持久型 XSS 漏洞，也被称为存储型 XSS 漏洞，一般存在于 Form 表单提交等交互功能，如发帖留言，提交文本信息等，黑客利用的 XSS 漏洞，将内容经正常功能提交进入数据库持久保存，当前端页面获得后端从数据库中读出的注入代码时，恰好将其渲染执行。 主要注入页面方式和非持久型 XSS 漏洞类似，只不过持久型的不是来源于 URL，refferer，forms 等，而是来源于后端从数据库中读出来的数据。持久型 XSS 攻击不需要诱骗点击，黑客只需要在提交表单的地方完成注入即可，但是这种 XSS 攻击的成本相对还是很高。攻击成功需要同时满足以下几个条件： POST 请求提交表单后端没做转义直接入库。 后端从数据库中取出数据没做转义直接输出给前端。 前端拿到后端数据没做转义直接渲染成 DOM。 持久型 XSS 有以下几个特点： 持久性，植入在数据库中 危害面广，甚至可以让用户机器变成 DDoS 攻击的肉鸡。 盗取用户敏感私密信息 为了防止持久型 XSS 漏洞，需要前后端共同努力： 后端在入库前应该选择不相信任何前端数据，将所有的字段统一进行转义处理。 后端在输出给前端数据统一进行转义处理。 前端在渲染页面 DOM 的时候应该选择不相信任何后端数据，任何字段都需要做转义处理。 基于字符集的 XSS 其实现在很多的浏览器以及各种开源的库都专门针对了 XSS 进行转义处理，尽量默认抵御绝大多数 XSS 攻击，但是还是有很多方式可以绕过转义规则，让人防不胜防。比如「基于字符集的 XSS 攻击」就是绕过这些转义处理的一种攻击方式，比如有些 Web 页面字符集不固定，用户输入非期望字符集的字符，有时会绕过转义过滤规则。 以基于 utf-7 的 XSS 为例 utf-7 是可以将所有的 unicode 通过 7bit 来表示的一种字符集 (但现在已经从 Unicode 规格中移除)。 这个字符集为了通过 7bit 来表示所有的文字, 除去数字和一部分的符号,其它的部分将都以 base64 编码为基础的方式呈现。 <script>alert("xss")</script>可以被解释为：+ADw-script+AD4-alert(+ACI-xss+ACI-)+ADw-/script+AD4- 可以形成「基于字符集的 XSS 攻击」的原因是由于浏览器在 meta 没有指定 charset 的时候有自动识别编码的机制，所以这类攻击通常就是发生在没有指定或者没来得及指定 meta 标签的 charset 的情况下。 所以我们有什么办法避免这种 XSS 呢？ 记住指定 XML 中不仅要指定字符集为 utf-8，而且标签要闭合 牛文推荐：http://drops.wooyun.org/papers/1327 （这个讲的很详细） 基于 Flash 的跨站 XSS 基于 Flash 的跨站 XSS 也是属于反射型 XSS 的一种，虽然现在开发 ActionScript 的产品线几乎没有了，但还是提一句吧，AS 脚本可以接受用户输入并操作 cookie，攻击者可以配合其他 XSS（持久型或者非持久型）方法将恶意 swf 文件嵌入页面中。主要是因为 AS 有时候需要和 JS 传参交互，攻击者会通过恶意的 XSS 注入篡改参数，窃取并操作cookie。 避免方法： 严格管理 cookie 的读写权限 对 Flash 能接受用户输入的参数进行过滤 escape 转义处理 未经验证的跳转 XSS 有一些场景是后端需要对一个传进来的待跳转的 URL 参数进行一个 302 跳转，可能其中会带有一些用户的敏感（cookie）信息。如果服务器端做302 跳转，跳转的地址来自用户的输入，攻击者可以输入一个恶意的跳转地址来执行脚本。 这时候需要通过以下方式来防止这类漏洞： 对待跳转的 URL 参数做白名单或者某种规则过滤 后端注意对敏感信息的保护, 比如 cookie 使用来源验证。 CSRF CSRF（Cross-Site Request Forgery），中文名称：跨站请求伪造攻击 那么 CSRF 到底能够干嘛呢？你可以这样简单的理解：攻击者可以盗用你的登陆信息，以你的身份模拟发送各种请求。攻击者只要借助少许的社会工程学的诡计，例如通过 QQ 等聊天软件发送的链接(有些还伪装成短域名，用户无法分辨)，攻击者就能迫使 Web 应用的用户去执行攻击者预设的操作。例如，当用户登录网络银行去查看其存款余额，在他没有退出时，就点击了一个 QQ 好友发来的链接，那么该用户银行帐户中的资金就有可能被转移到攻击者指定的帐户中。 所以遇到 CSRF 攻击时，将对终端用户的数据和操作指令构成严重的威胁。当受攻击的终端用户具有管理员帐户的时候，CSRF 攻击将危及整个 Web 应用程序。 CSRF 原理 下图大概描述了 CSRF 攻击的原理，可以理解为有一个小偷在你配钥匙的地方得到了你家的钥匙，然后拿着要是去你家想偷什么偷什么。 csrf原理 完成 CSRF 攻击必须要有三个条件： 用户已经登录了站点 A，并在本地记录了 cookie 在用户没有登出站点 A 的情况下（也就是 cookie 生效的情况下），访问了恶意攻击者提供的引诱危险站点 B (B 站点要求访问站点A)。 站点 A 没有做任何 CSRF 防御 你也许会问：「如果我不满足以上三个条件中的任意一个，就不会受到 CSRF 的攻击」。其实可以这么说的，但你不能保证以下情况不会发生： 你不能保证你登录了一个网站后，不再打开一个 tab 页面并访问另外的网站，特别现在浏览器都是支持多 tab 的。 你不能保证你关闭浏览器了后，你本地的 cookie 立刻过期，你上次的会话已经结束。 上图中所谓的攻击网站 B，可能是一个存在其他漏洞的可信任的经常被人访问的网站。 预防 CSRF CSRF 的防御可以从服务端和客户端两方面着手，防御效果是从服务端着手效果比较好，现在一般的 CSRF 防御也都在服务端进行。服务端的预防 CSRF 攻击的方式方法有多种，但思路上都是差不多的，主要从以下两个方面入手： 正确使用 GET，POST 请求和 cookie 在非 GET 请求中增加 token 一般而言，普通的 Web 应用都是以 GET、POST 请求为主，还有一种请求是 cookie 方式。我们一般都是按照如下规则设计应用的请求： GET 请求常用在查看，列举，展示等不需要改变资源属性的时候（数据库 query 查询的时候） POST 请求常用在 From 表单提交，改变一个资源的属性或者做其他一些事情的时候（数据库有 insert、update、delete 的时候） 当正确的使用了 GET 和 POST 请求之后，剩下的就是在非 GET 方式的请求中增加随机数，这个大概有三种方式来进行： 为每个用户生成一个唯一的 cookie token，所有表单都包含同一个伪随机值，这种方案最简单，因为攻击者不能获得第三方的 cookie(理论上)，所以表单中的数据也就构造失败，但是由于用户的 cookie 很容易由于网站的 XSS 漏洞而被盗取，所以这个方案必须要在没有 XSS 的情况下才安全。 每个 POST 请求使用验证码，这个方案算是比较完美的，但是需要用户多次输入验证码，用户体验比较差，所以不适合在业务中大量运用。 渲染表单的时候，为每一个表单包含一个 csrfToken，提交表单的时候，带上 csrfToken，然后在后端做 csrfToken 验证。 CSRF 的防御可以根据应用场景的不同自行选择。CSRF 的防御工作确实会在正常业务逻辑的基础上带来很多额外的开发量，但是这种工作量是值得的，毕竟用户隐私以及财产安全是产品最基础的根本。 SQL 注入 SQL 注入漏洞（SQL Injection）是 Web 开发中最常见的一种安全漏洞。可以用它来从数据库获取敏感信息，或者利用数据库的特性执行添加用户，导出文件等一系列恶意操作，甚至有可能获取数据库乃至系统用户最高权限。 而造成 SQL 注入的原因是因为程序没有有效的转义过滤用户的输入，使攻击者成功的向服务器提交恶意的 SQL 查询代码，程序在接收后错误的将攻击者的输入作为查询语句的一部分执行，导致原始的查询逻辑被改变，额外的执行了攻击者精心构造的恶意代码。 很多 Web 开发者没有意识到 SQL 查询是可以被篡改的，从而把 SQL 查询当作可信任的命令。殊不知，SQL 查询是可以绕开访问控制，从而绕过身份验证和权限检查的。更有甚者，有可能通过 SQL 查询去运行主机系统级的命令。 SQL 注入原理 下面将通过一些真实的例子来详细讲解 SQL 注入的方式的原理。 考虑以下简单的管理员登录表单： <form action="/login" method="POST"><p>Username: <input type="text" name="username" /></p><p>Password: <input type="password" name="password" /></p><p><input type="submit" value="登陆" /></p></form> 后端的 SQL 语句可能是如下这样的： let querySQL = SELECT FROM userWHERE username='${username}'AND psw='${password}'; // 接下来就是执行 sql 语句… 目的就是来验证用户名和密码是不是正确，按理说乍一看上面的 SQL 语句也没什么毛病，确实是能够达到我们的目的，可是你只是站在用户会老老实实按照你的设计来输入的角度来看问题，如果有一个恶意攻击者输入的用户名是 zoumiaojiang’ OR 1 = 1 --，密码随意输入，就可以直接登入系统了。WFT! 冷静下来思考一下，我们之前预想的真实 SQL 语句是: SELECT FROM user WHERE username='zoumiaojiang' AND psw='mypassword' 可以恶意攻击者的奇怪用户名将你的 SQL 语句变成了如下形式： SELECT FROM user WHERE username='zoumiaojiang' OR 1 = 1 --' AND psw='xxxx' 在 SQL 中，-- 是注释后面的内容的意思，所以查询语句就变成了： SELECT FROM user WHERE username='zoumiaojiang' OR 1 = 1 这条 SQL 语句的查询条件永远为真，所以意思就是恶意攻击者不用我的密码，就可以登录进我的账号，然后可以在里面为所欲为，然而这还只是最简单的注入，牛逼的 SQL 注入高手甚至可以通过 SQL 查询去运行主机系统级的命令，将你主机里的内容一览无余，这里我也没有这个能力讲解的太深入，毕竟不是专业研究这类攻击的，但是通过以上的例子，已经了解了 SQL 注入的原理，我们基本已经能找到防御 SQL 注入的方案了。 如何预防 SQL 注入 防止 SQL 注入主要是不能允许用户输入的内容影响正常的 SQL 语句的逻辑，当用户的输入的信息将要用来拼接 SQL 语句的话，我们应该永远选择不相信，任何内容都必须进行转义过滤，当然做到这个还是不够的，下面列出防御 SQL 注入的几点注意事项： 严格限制Web应用的数据库的操作权限，给此用户提供仅仅能够满足其工作的最低权限，从而最大限度的减少注入攻击对数据库的危害 后端代码检查输入的数据是否符合预期，严格限制变量的类型，例如使用正则表达式进行一些匹配处理。 对进入数据库的特殊字符（’，"，\，<，>，&，，; 等）进行转义处理，或编码转换。基本上所有的后端语言都有对字符串进行转义处理的方法，比如 lodash 的 lodash._escapehtmlchar 库。 所有的查询语句建议使用数据库提供的参数化查询接口，参数化的语句使用参数而不是将用户输入变量嵌入到 SQL 语句中，即不要直接拼接 SQL 语句。例如 Node.js 中的 mysqljs 库的 query 方法中的 ? 占位参数。 mysql.query(SELECT FROM user WHERE username = ? AND psw = ?, [username, psw]); 在应用发布之前建议使用专业的 SQL 注入检测工具进行检测，以及时修补被发现的 SQL 注入漏洞。网上有很多这方面的开源工具，例如 sqlmap、SQLninja 等。 避免网站打印出 SQL 错误信息，比如类型错误、字段不匹配等，把代码里的 SQL 语句暴露出来，以防止攻击者利用这些错误信息进行 SQL 注入。 不要过于细化返回的错误信息，如果目的是方便调试，就去使用后端日志，不要在接口上过多的暴露出错信息，毕竟真正的用户不关心太多的技术细节，只要话术合理就行。 碰到要操作的数据库的代码，一定要慎重，小心使得万年船，多找几个人多来几次 code review，将问题都暴露出来，而且要善于利用工具，操作数据库相关的代码属于机密，没事不要去各种论坛晒自家站点的 SQL 语句，万一被人盯上了呢？ 命令行注入 命令行注入漏洞，指的是攻击者能够通过 HTTP 请求直接侵入主机，执行攻击者预设的 shell 命令，听起来好像匪夷所思，这往往是 Web 开发者最容易忽视但是却是最危险的一个漏洞之一，看一个实例： 假如现在需要实现一个需求：用户提交一些内容到服务器，然后在服务器执行一些系统命令去产出一个结果返回给用户，接口的部分实现如下： // 以 Node.js 为例，假如在接口中需要从 github 下载用户指定的 repoconst exec = require('mz/child_process').exec;let params = {/ 用户输入的参数 /};exec(git clone ${params.repo} /some/path); 这段代码确实能够满足业务需求，正常的用户也确实能从指定的 git repo 上下载到想要的代码，可是和 SQL 注入一样，这段代码在恶意攻击者眼中，简直就是香饽饽。 如果 params.repo 传入的是 https://github.com/zoumiaojiang/zoumiaojiang.github.io.git 当然没问题了。 可是如果 params.repo 传入的是 https://github.com/xx/xx.git && rm -rf / && 恰好你的服务是用 root 权限起的就惨了。 具体恶意攻击者能用命令行注入干什么也像 SQL 注入一样，手法是千变万化的，比如「反弹 shell 注入」等，但原理都是一样的，我们绝对有能力防止命令行注入发生。防止命令行注入需要做到以下几件事情： 后端对前端提交内容需要完全选择不相信，并且对其进行规则限制（比如正则表达式）。 在调用系统命令前对所有传入参数进行命令行参数转义过滤。 不要直接拼接命令语句，借助一些工具做拼接、转义预处理，例如 Node.js 的 shell-escape npm 包。 还是前面的例子，我们可以做到如下： const exec = require('mz/child_process').exec;// 借助 shell-escape npm 包解决参数转义过滤问题const shellescape = require('shell-escape');let params = {/ 用户输入的参数 /};// 先过滤一下参数，让参数符合预期if (!/正确的表达式/.test(params.repo)) {return;}let cmd = shellescape(['git','clone',params.repo,'/some/path']);// cmd 的值: git clone 'https://github.com/xx/xx.git && rm -rf / &&' /some/path// 这样就不会被注入成功了。exec(cmd); DDoS 攻击 DDoS 又叫分布式拒绝服务，全称 Distributed Denial of Service，其原理就是利用大量的请求造成资源过载，导致服务不可用，这个攻击应该不能算是安全问题，这应该算是一个另类的存在，因为这种攻击根本就是耍流氓的存在，「伤敌一千，自损八百」的行为。出于保护 Web App 不受攻击的攻防角度，还是介绍一下 DDoS 攻击吧，毕竟也是挺常见的。 DDoS 攻击可以理解为：「你开了一家店，隔壁家点看不惯，就雇了一大堆黑社会人员进你店里干坐着，也不消费，其他客人也进不来，导致你营业惨淡」。为啥说 DDoS 是个「伤敌一千，自损八百」的行为呢？毕竟隔壁店还是花了不少钱雇黑社会但是啥也没得到不是？DDoS 攻击的目的基本上就以下几个： 深仇大恨，就是要干死你 敲诈你，不给钱就干你 忽悠你，不买我防火墙服务就会有“人”继续干你 也许你的站点遭受过 DDoS 攻击，具体什么原因怎么解读见仁见智。DDos 攻击从层次上可分为网络层攻击与应用层攻击，从攻击手法上可分为快型流量攻击与慢型流量攻击，但其原理都是造成资源过载，导致服务不可用。 网络层 DDoS 网络层 DDos 攻击包括 SYN Flood、ACK Flood、UDP Flood、ICMP Flood 等。 SYN Flood 攻击 SYN flood 攻击主要利用了 TCP 三次握手过程中的 Bug，我们都知道 TCP 三次握手过程是要建立连接的双方发送 SYN，SYN + ACK，ACK 数据包，而当攻击方随意构造源 IP 去发送 SYN 包时，服务器返回的 SYN + ACK 就不能得到应答（因为 IP 是随意构造的），此时服务器就会尝试重新发送，并且会有至少 30s 的等待时间，导致资源饱和服务不可用，此攻击属于慢型 DDoS 攻击。 ACK Flood 攻击 ACK Flood 攻击是在 TCP 连接建立之后，所有的数据传输 TCP 报文都是带有 ACK 标志位的，主机在接收到一个带有 ACK 标志位的数据包的时候，需要检查该数据包所表示的连接四元组是否存在，如果存在则检查该数据包所表示的状态是否合法，然后再向应用层传递该数据包。如果在检查中发现该数据包不合法，例如该数据包所指向的目的端口在本机并未开放，则主机操作系统协议栈会回应 RST 包告诉对方此端口不存在。 UDP Flood 攻击 UDP flood 攻击是由于 UDP 是一种无连接的协议，因此攻击者可以伪造大量的源 IP 地址去发送 UDP 包，此种攻击属于大流量攻击。正常应用情况下，UDP 包双向流量会基本相等，因此发起这种攻击的攻击者在消耗对方资源的时候也在消耗自己的资源。 ICMP Flood 攻击 ICMP Flood 攻击属于大流量攻击，其原理就是不断发送不正常的 ICMP 包（所谓不正常就是 ICMP 包内容很大），导致目标带宽被占用，但其本身资源也会被消耗。目前很多服务器都是禁 ping 的（在防火墙在可以屏蔽 ICMP 包），因此这种攻击方式已经落伍。 网络层 DDoS 防御 网络层的 DDoS 攻击究其本质其实是无法防御的，我们能做得就是不断优化服务本身部署的网络架构，以及提升网络带宽。当然，还是做好以下几件事也是有助于缓解网络层 DDoS 攻击的冲击： 网络架构上做好优化，采用负载均衡分流。 确保服务器的系统文件是最新的版本，并及时更新系统补丁。 添加抗 DDos 设备，进行流量清洗。 限制同时打开的 SYN 半连接数目，缩短 SYN 半连接的 Timeout 时间。 限制单 IP 请求频率。 防火墙等防护设置禁止 ICMP 包等。 严格限制对外开放的服务器的向外访问。 运行端口映射程序或端口扫描程序，要认真检查特权端口和非特权端口。 关闭不必要的服务。 认真检查网络设备和主机/服务器系统的日志。只要日志出现漏洞或是时间变更,那这台机器就可能遭到了攻击。 限制在防火墙外与网络文件共享。这样会给黑客截取系统文件的机会，主机的信息暴露给黑客，无疑是给了对方入侵的机会。 加钱堆机器。。 报警。。 应用层 DDoS 应用层 DDoS 攻击不是发生在网络层，是发生在 TCP 建立握手成功之后，应用程序处理请求的时候，现在很多常见的 DDoS 攻击都是应用层攻击。应用层攻击千变万化，目的就是在网络应用层耗尽你的带宽，下面列出集中典型的攻击类型。 CC 攻击 当时绿盟为了防御 DDoS 攻击研发了一款叫做 Collapasar 的产品，能够有效的防御 SYN Flood 攻击。黑客为了挑衅，研发了一款 Challenge Collapasar 攻击工具（简称 CC）。 CC 攻击的原理，就是针对消耗资源比较大的页面不断发起不正常的请求，导致资源耗尽。因此在发送 CC 攻击前，我们需要寻找加载比较慢，消耗资源比较多的网页，比如需要查询数据库的页面、读写硬盘文件的等。通过 CC 攻击，使用爬虫对某些加载需要消耗大量资源的页面发起 HTTP 请求。 DNS Flood DNS Flood 攻击采用的方法是向被攻击的服务器发送大量的域名解析请求，通常请求解析的域名是随机生成或者是网络世界上根本不存在的域名，被攻击的DNS 服务器在接收到域名解析请求的时候首先会在服务器上查找是否有对应的缓存，如果查找不到并且该域名无法直接由服务器解析的时候，DNS 服务器会向其上层 DNS 服务器递归查询域名信息。域名解析的过程给服务器带来了很大的负载，每秒钟域名解析请求超过一定的数量就会造成 DNS 服务器解析域名超时。 根据微软的统计数据，一台 DNS 服务器所能承受的动态域名查询的上限是每秒钟 9000 个请求。而我们知道，在一台 P3 的 PC 机上可以轻易地构造出每秒钟几万个域名解析请求，足以使一台硬件配置极高的 DNS 服务器瘫痪，由此可见 DNS 服务器的脆弱性。 HTTP 慢速连接攻击 针对 HTTP 协议，先建立起 HTTP 连接，设置一个较大的 Conetnt-Length，每次只发送很少的字节，让服务器一直以为 HTTP 头部没有传输完成，这样连接一多就很快会出现连接耗尽。 应用层 DDoS 防御 判断 User-Agent 字段（不可靠，因为可以随意构造） 针对 IP + cookie，限制访问频率（由于 cookie 可以更改，IP 可以使用代理，或者肉鸡，也不可靠) 关闭服务器最大连接数等，合理配置中间件，缓解 DDoS 攻击。 请求中添加验证码，比如请求中有数据库操作的时候。 编写代码时，尽量实现优化，并合理使用缓存技术，减少数据库的读取操作。 加钱堆机器。。 报警。。 应用层的防御有时比网络层的更难，因为导致应用层被 DDoS 攻击的因素非常多，有时往往是因为程序员的失误，导致某个页面加载需要消耗大量资源，有时是因为中间件配置不当等等。而应用层 DDoS 防御的核心就是区分人与机器（爬虫），因为大量的请求不可能是人为的，肯定是机器构造的。因此如果能有效的区分人与爬虫行为，则可以很好地防御此攻击。 其他 DDoS 攻击 发起 DDoS 也是需要大量的带宽资源的，但是互联网就像森林，林子大了什么鸟都有，DDoS 攻击者也能找到其他的方式发起廉价并且极具杀伤力的 DDoS 攻击。 利用 XSS 举个例子，如果 12306 页面有一个 XSS 持久型漏洞被恶意攻击者发现，只需在春节抢票期间在这个漏洞中执行脚本使得往某一个小站点随便发点什么请求，然后随着用户访问的增多，感染用户增多，被攻击的站点自然就会迅速瘫痪了。这种 DDoS 简直就是无本万利，不用惊讶，现在大站有 XSS 漏洞的不要太多。 来自 P2P 网络攻击 大家都知道，互联网上的 P2P 用户和流量都是一个极为庞大的数字。如果他们都去一个指定的地方下载数据，成千上万的真实 IP 地址连接过来，没有哪个设备能够支撑住。拿 BT 下载来说，伪造一些热门视频的种子，发布到搜索引擎，就足以骗到许多用户和流量了，但是这只是基础攻击。 高级的 P2P 攻击，是直接欺骗资源管理服务器。如迅雷客户端会把自己发现的资源上传到资源管理服务器，然后推送给其它需要下载相同资源的用户，这样，一个链接就发布出去。通过协议逆向，攻击者伪造出大批量的热门资源信息通过资源管理中心分发出去，瞬间就可以传遍整个 P2P 网络。更为恐怖的是，这种攻击是无法停止的，即使是攻击者自身也无法停止，攻击一直持续到 P2P 官方发现问题更新服务器且下载用户重启下载软件为止。 最后总结下，DDoS 不可能防的住，就好比你的店只能容纳 50 人，黑社会有 100 人，你就换一家大店，能容纳 500 人，然后黑社会又找来了 1000 人，这种堆人头的做法就是 DDoS 本质上的攻防之道，「道高一尺，魔高一丈，魔高一尺，道高一丈」，讲真，必要的时候就答应勒索你的人的条件吧，实在不行就报警吧。 流量劫持 流量劫持应该算是黑产行业的一大经济支柱了吧？简直是让人恶心到吐，不吐槽了，还是继续谈干货吧，流量劫持基本分两种：DNS 劫持 和 HTTP 劫持，目的都是一样的，就是当用户访问 zoumiaojiang.com 的时候，给你展示的并不是或者不完全是 zoumiaojiang.com 提供的 “内容”。 DNS 劫持 DNS 劫持，也叫做域名劫持，可以这么理解，「你打了一辆车想去商场吃饭，结果你打的车是小作坊派来的，直接给你拉到小作坊去了」，DNS 的作用是把网络地址域名对应到真实的计算机能够识别的 IP 地址，以便计算机能够进一步通信，传递网址和内容等。如果当用户通过某一个域名访问一个站点的时候，被篡改的 DNS 服务器返回的是一个恶意的钓鱼站点的 IP，用户就被劫持到了恶意钓鱼站点，然后继而会被钓鱼输入各种账号密码信息，泄漏隐私。 dns劫持 这类劫持，要不就是网络运营商搞的鬼，一般小的网络运营商与黑产勾结会劫持 DNS，要不就是电脑中毒，被恶意篡改了路由器的 DNS 配置，基本上做为开发者或站长却是很难察觉的，除非有用户反馈，现在升级版的 DNS 劫持还可以对特定用户、特定区域等使用了用户画像进行筛选用户劫持的办法，另外这类广告显示更加随机更小，一般站长除非用户投诉否则很难觉察到，就算觉察到了取证举报更难。无论如何，如果接到有 DNS 劫持的反馈，一定要做好以下几件事： 取证很重要，时间、地点、IP、拨号账户、截屏、URL 地址等一定要有。 可以跟劫持区域的电信运营商进行投诉反馈。 如果投诉反馈无效，直接去工信部投诉，一般来说会加白你的域名。 HTTP 劫持 HTTP 劫持您可以这么理解，「你打了一辆车想去商场吃饭，结果司机跟你一路给你递小作坊的广告」，HTTP 劫持主要是当用户访问某个站点的时候会经过运营商网络，而不法运营商和黑产勾结能够截获 HTTP 请求返回内容，并且能够篡改内容，然后再返回给用户，从而实现劫持页面，轻则插入小广告，重则直接篡改成钓鱼网站页面骗用户隐私。能够实施流量劫持的根本原因，是 HTTP 协议没有办法对通信对方的身份进行校验以及对数据完整性进行校验。如果能解决这个问题，则流量劫持将无法轻易发生。所以防止 HTTP 劫持的方法只有将内容加密，让劫持者无法破解篡改，这样就可以防止 HTTP 劫持了。 HTTPS 协议就是一种基于 SSL 协议的安全加密网络应用层协议，可以很好的防止 HTTP 劫持。这里有篇 文章 讲的不错。HTTPS 在这就不深讲了，后面有机会我会单独好好讲讲 HTTPS。如果不想站点被 HTTP 劫持，赶紧将你的站点全站改造成 HTTPS 吧。 服务器漏洞 服务器除了以上提到的那些大名鼎鼎的漏洞和臭名昭著的攻击以外，其实还有很多其他的漏洞，往往也很容易被忽视，在这个小节也稍微介绍几种。 越权操作漏洞 如果你的系统是有登录控制的，那就要格外小心了，因为很有可能你的系统越权操作漏洞，越权操作漏洞可以简单的总结为 「A 用户能看到或者操作 B 用户的隐私内容」，如果你的系统中还有权限控制就更加需要小心了。所以每一个请求都需要做 userid 的判断 以下是一段有漏洞的后端示意代码： // ctx 为请求的 context 上下文let msgId = ctx.params.msgId;mysql.query('SELECT FROM msg_table WHERE msg_id = ?',[msgId]); 以上代码是任何人都可以查询到任何用户的消息，只要有 msg_id 就可以，这就是比较典型的越权漏洞，需要如下这么改进一下： // ctx 为请求的 context 上下文let msgId = ctx.params.msgId;let userId = ctx.session.userId; // 从会话中取出当前登陆的 userIdmysql.query('SELECT FROM msg_table WHERE msg_id = ? AND user_id = ?',[msgId, userId]); 嗯，大概就是这个意思，如果有更严格的权限控制，那在每个请求中凡是涉及到数据库的操作都需要先进行严格的验证，并且在设计数据库表的时候需要考虑进 userId 的账号关联以及权限关联。 目录遍历漏洞 目录遍历漏洞指通过在 URL 或参数中构造 …/，./ 和类似的跨父目录字符串的 ASCII 编码、unicode 编码等，完成目录跳转，读取操作系统各个目录下的敏感文件，也可以称作「任意文件读取漏洞」。 目录遍历漏洞原理：程序没有充分过滤用户输入的 …/ 之类的目录跳转符，导致用户可以通过提交目录跳转来遍历服务器上的任意文件。使用多个… 符号，不断向上跳转，最终停留在根 /，通过绝对路径去读取任意文件。 目录遍历漏洞几个示例和测试，一般构造 URL 然后使用浏览器直接访问，或者使用 Web 漏洞扫描工具检测，当然也可以自写程序测试。 http://somehost.com/../../../../../../../../../etc/passwdhttp://somehost.com/some/path?file=../../Windows/system.ini 借助 %00 空字符截断是一个比较经典的攻击手法http://somehost.com/some/path?file=../../Windows/system.ini%00.js 使用了 IIS 的脚本目录来移动目录并执行指令http://somehost.com/scripts/..%5c../Windows/System32/cmd.exe?/c+dir+c:\ 防御 方法就是需要对 URL 或者参数进行 …/，./ 等字符的转义过滤。 物理路径泄漏 物理路径泄露属于低风险等级缺陷，它的危害一般被描述为「攻击者可以利用此漏洞得到信息，来对系统进一步地攻击」，通常都是系统报错 500 的错误信息直接返回到页面可见导致的漏洞。得到物理路径有些时候它能给攻击者带来一些有用的信息，比如说：可以大致了解系统的文件目录结构；可以看出系统所使用的第三方软件；也说不定会得到一个合法的用户名（因为很多人把自己的用户名作为网站的目录名）。 防止这种泄漏的方法就是做好后端程序的出错处理，定制特殊的 500 报错页面。 源码暴露漏洞 和物理路径泄露类似，就是攻击者可以通过请求直接获取到你站点的后端源代码，然后就可以对系统进一步研究攻击。那么导致源代码暴露的原因是什么呢？基本上就是发生在服务器配置上了，服务器可以设置哪些路径的文件才可以被直接访问的，这里给一个 koa 服务起的例子，正常的 koa 服务器可以通过 koa-static 中间件去指定静态资源的目录，好让静态资源可以通过路径的路由访问。比如你的系统源代码目录是这样的： |- project|- src|- static|- ...|- server.js 你想要将 static 的文件夹配成静态资源目录，你应该会在 server.js 做如下配置： const Koa = require('koa');const serve = require('koa-static');const app = new Koa();app.use(serve(__dirname + '/project/static')); 但是如果配错了静态资源的目录，可能就出大事了，比如： // ...app.use(serve(__dirname + '/project')); 这样所有的源代码都可以通过路由访问到了，所有的服务器都提供了静态资源机制，所以在通过服务器配置静态资源目录和路径的时候，一定要注意检验，不然很可能产生漏洞。 最后，希望 Web 开发者们能够管理好自己的代码隐私，注意代码安全问题，比如不要将产品的含有敏感信息的代码放到第三方外部站点或者暴露给外部用户，尤其是前端代码，私钥类似的保密性的东西不要直接输出在代码里或者页面中。也许还有很多值得注意的点，但是归根结底还是绷住安全那根弦，对待每一行代码都要多多推敲。 请关注我的订阅号 本篇文章为转载内容。原文链接：https://blog.csdn.net/MrCoderStack/article/details/88547919。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...关系型数据库或者NoSQL数据库。在这里，我们将重点介绍如何使用Golang与MySQL数据库进行交互。 四、Go与MySQL的连接 首先，我们需要引入“database/sql”包，这个包包含了对SQL数据库的基本操作。然后，我们需要创建一个函数来初始化数据库连接。 go import ( "database/sql" _ "github.com/go-sql-driver/mysql" ) func initDB() (sql.DB, error) { db, err := sql.Open("mysql", "user:password@tcp(localhost:3306)/dbname") if err != nil { return nil, err } return db, nil } 五、插入数据 接下来，我们就可以开始使用连接来进行数据的插入操作了。下面是一个简单的例子： go db, err := initDB() if err != nil { panic(err.Error()) } defer db.Close() _, err = db.Exec("INSERT INTO users (username, password) VALUES (?, ?)", "john", "$2a$10$B8AIFbLlWz2fPnZrjL9wmuPfYmV5XKpQyvJ7UeV9nGZIvnpOKwldO.") if err != nil { panic(err.Error()) } 六、查询数据 除了插入数据，我们还需要能够从数据库中查询数据。同样，这也很简单。下面是一个查询的例子： go db, err := initDB() if err != nil { panic(err.Error()) } defer db.Close() rows, err := db.Query("SELECT FROM users WHERE username = ?", "john") if err != nil { panic(err.Error()) } defer rows.Close() for rows.Next() { var username string var password string err = rows.Scan(&username, &password) if err != nil { panic(err.Error()) } fmt.Println(username, password) } 七、总结 通过以上内容，我们可以看出，使用Golang与MySQL进行数据持久化是非常容易的。只需要引入必要的库，就可以开始编写相关的代码了。而且，你知道吗，正因为Golang的独特优势，我们能够编写出超级高效、超稳可靠的代码！所以，如果你正在寻觅一种崭新的法子来搞定数据的长期存储问题，那么我真心推荐你试一试Golang，它绝对会让你眼前一亮！

...锁类型。假设我们正在使用MySQL数据库，我们可以这样配置： go import ( "github.com/kataras/iris/v12" "github.com/go-sql-driver/mysql" ) func main() { app := iris.New() // 配置MySQL连接 config := mysql.NewConfig() config.User = "root" config.Passwd = "password" config.Net = "tcp" config.Addr = "localhost:3306" config.DBName = "testdb" // 设置锁类型 config.InterpolateParams = true config.Params = map[string]string{ "charset": "utf8mb4", "parseTime": "True", "loc": "Local", "sql_mode": "STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION", "tx_isolation": "READ-COMMITTED", // 这里设置为读提交，你可以根据需求调整 } // 创建数据库连接池 db, err := sql.Open("mysql", config.FormatDSN()) if err != nil { panic(err) } // 使用数据库连接池 app.Use(func(ctx iris.Context) { ctx.Values().Set("db", db) ctx.Next() }) // 定义路由 app.Get("/", func(ctx iris.Context) { db := ctx.Values().Get("db").(sql.DB) // 开始事务 tx, err := db.Begin() if err != nil { ctx.StatusCode(iris.StatusInternalServerError) ctx.WriteString("Error starting transaction") return } defer tx.Rollback() // 执行查询 stmt, err := tx.Prepare("SELECT FROM users WHERE id = ? FOR UPDATE") if err != nil { ctx.StatusCode(iris.StatusInternalServerError) ctx.WriteString("Error preparing statement") return } defer stmt.Close() var user User err = stmt.QueryRow(1).Scan(&user.ID, &user.Name, &user.Email) if err != nil { ctx.StatusCode(iris.StatusInternalServerError) ctx.WriteString("Error executing query") return } // 更新数据 _, err = tx.Exec("UPDATE users SET name = ? WHERE id = ?", "New Name", user.ID) if err != nil { ctx.StatusCode(iris.StatusInternalServerError) ctx.WriteString("Error updating data") return } // 提交事务 err = tx.Commit() if err != nil { ctx.StatusCode(iris.StatusInternalServerError) ctx.WriteString("Error committing transaction") return } ctx.WriteString("Data updated successfully!") }) // 启动服务器 app.Run(iris.Addr(":8080")) } 5. 实际应用中的考虑 在实际应用中，我们需要根据具体的业务场景选择合适的锁类型。比如说，如果有好几个小伙伴得同时查看数据，又不想互相打扰，那我们就用共享锁来搞定。要是你想保证数据一致，防止同时有人乱改，那就得用排他锁了。 另外，要注意的是，过度使用锁可能会导致性能问题，因为锁会阻塞其他事务的执行。因此，在设计系统时，我们需要权衡数据一致性和性能之间的关系。 6. 结语 通过今天的讨论，希望大家对Iris框架中的数据库锁类型配置有了更深入的理解。虽然设置锁类型会让事情变得稍微复杂一点，但这样做真的能帮我们更好地应对多任务同时进行时可能出现的问题，确保系统稳稳当当的不掉链子。 最后，我想说的是，技术的学习是一个不断积累的过程。有时候，我们会觉得某些概念很难理解，但这都是正常的。只要我们保持好奇心和探索精神，总有一天会豁然开朗。希望你们能够持续学习，不断进步！ 谢谢大家！

在深入理解了如何使用Scala编写Spark SQL代码进行复杂的数据统计分析并将结果导入MySQL数据库后，进一步的延伸阅读可以关注以下内容： 近年来，随着大数据技术的快速发展，Apache Spark作为一款高效、通用的大数据处理引擎，其在实时流处理、机器学习、SQL查询等方面展现出了强大的性能。据Databricks公司（Spark的主要贡献者）最新发布的博客，Apache Spark 3.2版本引入了一系列优化和新特性，比如对动态分区剪枝的改进、对Catalyst查询优化器的增强以及对Structured Streaming功能的扩展，这些都将为数据分析工作者提供更加强大且易用的工具。 与此同时，跨系统数据迁移与整合也是现代企业数据架构中的关键环节。近期，业界领先的云服务商如AWS、阿里云等相继推出了基于Spark的无缝数据集成服务，支持从Hadoop、MySQL等多种数据源到目标数据库的高效迁移，同时强化了数据转换、清洗以及合规性检查等功能，使得在整个数据生命周期管理中，数据工程师能够更加便捷地实现异构数据源之间的同步与融合。 此外，针对电商领域的数据分析实战，可参考某电商平台公开的年度报告，了解其如何运用Spark SQL结合各类大数据技术挖掘用户行为模式、预测销售趋势，并依据地区、时间等维度精细化运营策略，从而提升整体业务表现。这将有助于读者对照实际案例，深化对文中所述统计分析方法在实际场景中的应用理解。 综上所述，紧跟大数据技术和应用的发展趋势，持续探索Spark SQL在数据处理及跨系统迁移方面的最佳实践，结合行业实例深入解析，将助力我们更好地应对日益增长的数据挑战，为企业决策提供强有力的数据支撑。

... 引言 Sqoop（SQL-to-Hadoop）作为大数据生态系统中的重要工具，承担着关系型数据库与Hadoop之间高效、便捷的数据迁移重任。它就像一个超级能干的“数据搬运工”，不辞辛苦地把企业那些海量的、整齐排列的数据从RDBMS这个仓库，搬到Hadoop的大数据分析基地去深度挖掘和处理；或者有时候也会反向操作，把数据从Hadoop搬回到RDBMS中。 shell 一个简单的Sqoop导入示例 sqoop import \ --connect jdbc:mysql://localhost:3306/mydatabase \ --username myuser \ --password mypassword \ --table mytable \ --target-dir /user/hadoop/mytable_imported 这个命令展示了如何从MySQL数据库导入mytable表到HDFS的/user/hadoop/mytable_imported目录下。 2. Sqoop工作原理及功能特性 (此处详细描述Sqoop的工作原理，如并行导入导出、自动生成Java类、分区导入等特性) 2.1 并行导入示例 Sqoop利用MapReduce模型实现并行数据导入，大幅提高数据迁移效率。 shell sqoop import --num-mappers 4 ... 此命令设置4个map任务并行执行数据导入操作。 3. Sqoop的基本使用 （这里详细说明Sqoop的各种命令，包括import、export、create-hive-table等，并给出实例） 3.1 Sqoop Import 实例详解 shell 示例：将Oracle表同步至Hive表 sqoop import \ --connect jdbc:oracle:thin:@//hostname:port/service_name \ --username username \ --password password \ --table source_table \ --hive-import \ --hive-table target_table 这段代码演示了如何将Oracle数据库中的source_table直接导入到Hive的target_table。 4. Sqoop高级应用与实践问题探讨 （这部分深入探讨Sqoop的一些高级用法，如增量导入、容错机制、自定义连接器等，并通过具体案例阐述） 4.1 增量导入策略 shell 使用lastmodified或incremental方式实现增量导入 sqoop import \ --connect ... \ --table source_table \ --check-column id \ --incremental lastmodified \ --last-value 这段代码展示了如何根据最后一次导入的id值进行增量导入。 5. Sqoop在实际业务场景中的应用与挑战 （在这部分，我们可以探讨Sqoop在真实业务环境下的应用场景，以及可能遇到的问题及其解决方案） 以上仅为大纲及部分内容展示，实际上每部分都需要进一步拓展、深化和情感化的表述，使读者能更好地理解Sqoop的工作机制，掌握其使用方法，并能在实际工作中灵活运用。为了达到1000字以上的要求，每个章节都需要充实详尽的解释、具体的思考过程、理解难点解析以及更多的代码实例和应用场景介绍。

...on是一种常见的网络连接错误。当我们试图访问一个不存在或者不可达的主机时，就会抛出这个异常。那么，假设我们现在正用Apache Spark来对付大数据这块硬骨头，我们该如何巧妙又体面地解决这个问题呢？这篇文章就打算给大家伙分享一些超级实用的招数！ 二、什么是UnknownHostException？ 首先，让我们了解一下什么是UnknownHostException。在Java的世界里，有一个特别的异常类，它专门负责处理这样一种情况：当你试图解析一个压根儿就不在DNS服务器上的主机名或者IP地址时，系统就会抛出这个异常，告诉你这次解析尝试失败了。简单来说，就是我们的应用程序试图访问一个不存在的服务器。 三、UnknownHostException在Spark中的常见表现 在Spark应用中，UnknownHostException通常会在以下几种情况下出现： 1. 尝试连接到外部数据源时 例如，Hive、Kafka等。 2. 在使用Spark SQL进行操作时，需要从外部系统读取数据。 3. 使用Spark Streaming进行实时流处理时，可能会因为无法建立与上游系统的连接而抛出此异常。 四、解决UnknownHostException的方法 那么，我们该如何优雅地处理UnknownHostException呢？以下是几种常用的方法： 方法一：增加重试次数 当遇到UnknownHostException时，我们可以选择增加重试次数。这样，如果服务器只是暂时不可用，那么程序仍有可能成功运行。下面是使用Scala编写的一个示例： scala val conf = new SparkConf().setAppName("MyApp") val sc = new SparkContext(conf) val maxRetries = 5 var retryCount = 0 while (retryCount < maxRetries) { try { // 这里是你的代码... ... break } catch { case e: UnknownHostException => if (retryCount == maxRetries - 1) { throw e } println(s"Received UnknownHostException, retrying in ${maxRetries - retryCount} seconds...") Thread.sleep(maxRetries - retryCount 1000) retryCount += 1 } } 在这个示例中，我们设置了最大重试次数为5次。每次重试之间会等待一段时间，避免过度消耗资源。 方法二：使用备用数据源 如果主数据源经常出现问题，我们可以考虑使用备用数据源。这可以保证即使主数据源不可用，我们的程序仍然能够正常运行。以下是一个简单的示例： scala val conf = new SparkConf().setAppName("MyApp") val sc = new SparkContext(conf) val master = "spark://:7077" val spark = SparkSession.builder() .appName("MyApp") .master(master) .getOrCreate() // 查询数据 val data = spark.sql("SELECT FROM my_table") // 处理数据 data.show() 在这个示例中，我们设置了两个Spark配置项：spark.master和spark.sql.warehouse.dir。这两个选项分别指定了Spark集群的Master节点和数据仓库目录。这样子做的话，我们就能保证，就算某个地方的数据出了岔子，我们的程序依旧能稳稳当当地运行下去，一点儿不受影响。 方法三：检查网络连接 最后，我们还可以尝试检查网络连接是否存在问题。比如，咱们可以试试给那个疑似出问题的服务器丢个ping包瞧瞧，看看它是不是还健在，能给出正常回应不。要是搞不定的话，可能就得瞅瞅咱们的网络配置是否出了啥问题，或者直接找IT部门的大神们求救了。 五、总结 总的来说，处理UnknownHostException的关键在于找到问题的原因并采取适当的措施。不管是多试几次，还是找个备胎数据源来顶上，都能实实在在地让咱们的程序更加稳如磐石。在使用Spark开发应用的时候，我们还能充分挖掘Spark的硬核实力，比如灵活运用SQL查询功能，实时处理数据流等招数，这都能让咱们的应用性能嗖嗖提升，更上一层楼。希望通过这篇文章，你能学到一些实用的技巧，并在未来的开发工作中游刃有余。

...能的秘密武器，数据库连接池绝对算得上是一把好手，它的重要性不容小觑！在使用Beego框架时，我们怎么才能把数据库连接池调校到最佳状态呢？别急，本文会手把手、从零开始，一步步带你揭开这个秘密，保证让你明明白白了解个透彻。 二、为什么要使用数据库连接池？ 当我们频繁地操作数据库时，每次都会创建一个新的数据库连接，这不仅会消耗大量的系统资源，而且还会增加数据库的负载。为了解决这个问题，我们可以使用数据库连接池。数据库连接池，你可以想象成一个数据库连接的“共享小仓库”。它会提前准备一些数据库连接，就像把玩具预先放进收纳箱一样，都存放在这个池子里。当你的程序需要和数据库打交道时，就从这个“池子”里取出一个连接来用，用完之后呢，也不用随手扔掉，而是放回这个池子里，这样下次再需要的时候还能接着用，既方便又高效。这样既可以减少资源的浪费，又可以提高数据库的响应速度。 三、如何在Beego框架下使用数据库连接池？ 在Beego框架下，我们可以通过使用开源的database/sql包来使用数据库连接池。首先，我们需要创建一个数据库连接池： go db, err := sql.Open("mysql", "user:password@/dbname") if err != nil { panic(err.Error()) } defer db.Close() pool := &sql.DB{} pool.SetMaxOpenConns(20) pool.SetMaxIdleConns(10) 这段代码首先通过sql.Open()函数打开一个数据库连接，然后定义了一个新的变量pool，类型为sql.DB。接着，我们设置了连接池的最大开放连接数为20，最大空闲连接数为10。 四、如何优化数据库连接池的配置？ 在配置数据库连接池时，我们需要注意以下几个方面： 1. 设置合适的最大开放连接数和最大空闲连接数。如果最大允许的开放连接数太多了，就好比是一个接待员同时应付太多的客人，不仅会让整个系统的资源被胡乱消耗掉，变得大手大脚；而另一方面，要是最大空闲连接数设置得不够多，那就像是在高峰期，排队等待服务的顾客太少，结果就是数据库不得不频繁地忙前忙后，响应速度自然也就慢下来了。因此，这两个参数需要根据实际的业务需求来进行调整。 2. 避免频繁地关闭数据库连接。虽然数据库连接池确实是个好东西，能帮咱们有效解决频繁创建和销毁数据库连接这个大麻烦，但你要是总把它当成回收站，频繁地把连接丢回去，那这好经也可能被念歪了，会导致数据库连接资源白白浪费掉。因此，我们应该尽可能地减少数据库连接的释放次数。 3. 定期检查数据库连接池的状态。为了确保数据库连接池运转得顺顺畅畅，我们得定期给它做个全面体检，摸摸底儿，瞅瞅像当前有多少个连接在用啊，又有多少闲着没事儿干的空闲连接等等这些关键指标。这样一来，一旦有啥小毛小病的，咱们就能立马发现并及时处理掉，保证一切正常运行。 五、总结 总的来说，在Beego框架下使用数据库连接池是一个非常有效的方法，可以帮助我们提高数据库的性能。不过呢，咱们也得不断地摸索和捣鼓，才能找到那个最适合自家数据库的连接池配置。就像是找鞋子一样，不试穿几双，怎么能知道哪一双穿起来最合脚、最舒服呢？所以，对于数据库连接池的配置，咱也得慢慢尝试、逐步调整，才能找到最佳的那个“黄金比例”。同时，我们也应该注意保持良好的编程习惯，避免产生无谓的资源浪费。希望这篇内容能实实在在帮到你，让你更溜地掌握和运用Beego框架下的数据库连接池，让数据操作变得更顺手、更高效。

...用 课程计划媒资信息查询接口，获取该课程计划的视频播放的 m3u8 url地址，并返回给前端，前端使用该 url 进行视频的在线播放。 在线学习完整的测试流程：媒资信息的上传、选择、发布到前端门户、搜索门户测试，在线学习的播放视频。 目录 内容会比较多，小伙伴门可以根据目录进行按需查阅。 文章目录 😎 知识点概览 目录 一、学习页面：查询课程计划 0x01 需求分析 0x02 Api接口 0x03 服务端开发 Controller Service 测试 0x04 前端开发 配置NGINX虚拟主机 前端 API 方法 前端 API 方法调用 测试 二、学习页面：获取视频播放地址 0x01 需求分析 0x02 课程发布：储存媒资信息 需求分析 数据模型 Dao Service 测试 0x03 Logstash：扫描课程计划媒资 创建索引 创建模板文件 配置 mysql.conf 启动 logstash.bat Logstash多实例运行 0x04 搜素服务：查询课程媒资接口 需求分析 Api接口定义 Service Controller 测试 三、在线学习：接口开发 0x01 需求分析 0x02 搭建开发环境 0x03 Api接口 0x04 服务端开发 需求分析 搜索服务注册Eureka 搜索服务客户端 自定义错误代码 Service Controller 测试 0x05 前端开发 需求分析 api方法 配置代理 视频播放页面 简单的测试 完整的测试 1、上传文件 一些问题 ~~方案1：删除本地分块文件重新尝试上传~~ 方案2：检查前端提交的MD5值是否正确 2、为课程计划选择媒资信息 3、前端门户测试 四、待完善的一些功能 😁 认识作者 一、学习页面：查询课程计划 0x01 需求分析 到目前为止，我们已可以编辑课程计划信息并上传课程视频，下一步我们要实现在线学习页面动态读取章节对应的视频并进行播放。在线学习页面所需要的信息有两类： 课程计划信息 课程学习信息（视频地址、学习进度等） 如下图： 在线学习集成媒资管理的需求如下： 1、在线学习页面显示课程计划 2、点击课程计划播放该课程计划对应的视频 本章节实现学习页面动态显示课程计划，进入不同课程的学习页面右侧动态显示当前课程的课程计划。 0x02 Api接口 课程计划信息从哪里获取？ 在课程发布完成后会自动发布到一个 course_pub 的表中，logstash 会自动将课程发布后的信息自动采集到 ES 索引库中，这些信息也包含课程计划信息。 所以考虑性能要求，课程发布后对课程的查询统一从 ES 索引库中查询。 前端通过请求 搜索服务 获取课程信息，需要单独在 搜索服务 中定义课程信息查询接口。 本接口接收课程id，查询课程所有信息返回给前端。 我们在搜素服务 API 下添加以下方法 @ApiOperation("根据id搜索课程发布信息")public Map<String,CoursePub> getdetail(String id); 返回的课程信息为 json 结构：key 为课程id，value 为课程内容。 0x03 服务端开发 在搜索服务中开发查询课程信息接口。 Controller 在搜素服务下添加以下方法 / 根据id搜索课程发布信息 @param id 课程id @return JSON数据/@Override@GetMapping("/getdetail/{id}")public Map<String, CoursePub> getdetail(@PathVariable("id")String id) {return esCourseService.getdetail(id);} Service / 根据id搜索课程发布信息 @param id 课程id @return JSON数据/public Map<String, CoursePub> getdetail(String id) {//设置索引SearchRequest searchRequest = new SearchRequest(es_index);//设置类型searchRequest.types(es_type);//创建搜索源对象SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();//设置查询条件,根据id进行查询searchSourceBuilder.query(QueryBuilders.termQuery("id",id));//这里不使用source的原字段过滤,查询所有字段// searchSourceBuilder.fetchSource(new String[]{"name", "grade", "charge","pic"}, newString[]{});//设置搜索源对象searchRequest.source(searchSourceBuilder);//执行搜索SearchResponse searchResponse = null;try {searchResponse = restHighLevelClient.search(searchRequest);} catch (IOException e) {e.printStackTrace();}//获取搜索结果SearchHits hits = searchResponse.getHits();SearchHit[] searchHits = hits.getHits(); //获取最优结果Map<String,CoursePub> map = new HashMap<>();for (SearchHit hit: searchHits) {//从搜索结果中取值并添加到coursePub对象Map<String, Object> sourceAsMap = hit.getSourceAsMap();String courseId = (String) sourceAsMap.get("id");String name = (String) sourceAsMap.get("name");String grade = (String) sourceAsMap.get("grade");String charge = (String) sourceAsMap.get("charge");String pic = (String) sourceAsMap.get("pic");String description = (String) sourceAsMap.get("description");String teachplan = (String) sourceAsMap.get("teachplan");CoursePub coursePub = new CoursePub();coursePub.setId(courseId);coursePub.setName(name);coursePub.setPic(pic);coursePub.setGrade(grade);coursePub.setTeachplan(teachplan);coursePub.setDescription(description);//设置map对象map.put(courseId,coursePub);}return map;} 测试 使用 swagger-ui 或 postman 测试查询课程信息接口。 0x04 前端开发 配置NGINX虚拟主机 学习中心的二级域名为 ucenter.xuecheng.com ，我们在 nginx 中配置 ucenter 虚拟主机。 学成网用户中心server {listen 80;server_name ucenter.xuecheng.com;个人中心location / {proxy_pass http://ucenter_server_pool;} } 前端ucenterupstream ucenter_server_pool{server 127.0.0.1:7081 weight=10;server 127.0.0.1:13000 weight=10;} 在学习中心要调用搜索的 API，使用 Nginx 解决代理，如下图： 在 ucenter 虚拟主机下配置搜索 Api 代理路径 后台搜索（公开api）upstream search_server_pool{server 127.0.0.1:40100 weight=10;} 学成网用户中心server {listen 80;server_name ucenter.xuecheng.com;个人中心location / {proxy_pass http://ucenter_server_pool;}后端搜索服务location /openapi/search/ {proxy_pass http://search_server_pool/search/;} } 前端 API 方法 在学习中心 xc-ui-pc-leanring 对课程信息的查询属于基础常用功能，所以我们将课程查询的 api 方法定义在base 模块下，如下图： 在system.js 中定义课程查询方法： import http from './public'export const course_view = id => {return http.requestGet('/openapi/search/course/getdetail/'+id);} 前端 API 方法调用 在 learning_video.vue 页面中调用课程信息查询接口得到课程计划，将课程计划json 串转成对象。 xc-ui-pc-leanring/src/module/course/page/learning_video.vue 1、定义视图 课程计划 <!--课程计划部分代码--><div class="navCont"><div class="course-weeklist"><div class="nav nav-stacked" v-for="(teachplan_first, index) in teachplanList"><div class="tit nav-justified text-center"><i class="pull-left glyphicon glyphicon-th-list"></i>{ {teachplan_first.pname} }<i class="pull-right"></i></div><li v-if="teachplan_first.children!=null" v-for="(teachplan_second, index) in teachplan_first.children"><i class="glyphicon glyphicon-check"></i><a :href="url" @click="study(teachplan_second.id)">{ {teachplan_second.pname} }</a></li><!-- <div class="tit nav-justified text-center"><i class="pull-left glyphicon glyphicon-th-list"></i>第一章<i class="pull-right"></i></div><li ><i class="glyphicon glyphicon-check"></i><a :href="url" >第一节</a></li>--><!--<li><i class="glyphicon glyphicon-unchecked"></i>为什么分为A、B、C部分</li>--></div></div></div> 课程名称 <div class="top text-center">{ {coursename} }</div> 定义数据对象 data() {return {url:'',//当前urlcourseId:'',//课程idchapter:'',//章节Idcoursename:'',//课程名称coursepic:'',//课程图片teachplanList:[],//课程计划playerOptions: {//播放参数autoplay: false,controls: true,sources: [{type: "application/x-mpegURL",src: ''}]},} } 在 created 钩子方法中获取课程信息 created(){//当前请求的urlthis.url = window.location//课程idthis.courseId = this.$route.params.courseId//章节idthis.chapter = this.$route.params.chapter//查询课程信息systemApi.course_view(this.courseId).then((view_course)=>{if(!view_course || !view_course[this.courseId]){this.$message.error("获取课程信息失败，请重新进入此页面！")return ;} let courseInfo = view_course[this.courseId]console.log(courseInfo)this.coursename = courseInfo.nameif(courseInfo.teachplan){let teachplan = JSON.parse(courseInfo.teachplan);this.teachplanList = teachplan.children;} })}, 测试 在浏览器请求：http://ucenter.xuecheng.com//learning/4028e581617f945f01617f9dabc40000/0 4028e581617f945f01617f9dabc40000：第一个参数为课程 id，测试时从 ES索引库找一个课程 id 0：第二个参数为课程计划 id，此参数用于点击课程计划播放视频。 如果出现跨域问题，但是确定已经配置了跨域，请尝试结束所以 nginx.exe 的进程 和 清空浏览器缓存。 如果还没有解决？重启电脑试试。 二、学习页面：获取视频播放地址 0x01 需求分析 用户进入在线学习页面，点击课程计划将播放该课程计划对应的教学视频。 业务流程如下： 业务流程说明： 1、用户进入在线学习页面，页面请求搜索服务获取课程信息（包括课程计划信息）并且在页面展示。 2、在线学习请求学习服务获取视频播放地址。 3、学习服务校验当前用户是否有权限学习，如果没有权限学习则提示用户。 4、学习服务校验通过，请求搜索服务获取课程媒资信息。 5、搜索服务请求ElasticSearch获取课程媒资信息。 为什么要请求 ElasticSearch 查询课程媒资信息？ 出于性能的考虑，公开查询课程信息从搜索服务查询，分摊 mysql 数据库的访问压力。 什么时候将课程媒资信息存储到 ElasticSearch 中？ 课程媒资信息是在课程发布的时候存入 ElasticSearch，因为课程发布后课程信息将基本不再修改。 0x02 课程发布：储存媒资信息 需求分析 课程媒资信息是在课程发布的时候存入 ElasticSearch 索引库，因为课程发布后课程信息将基本不再修改，具体的业务流程如下。 1、课程发布，向课程媒资信息表写入数据。 1）根据课程 id 删除 teachplanMediaPub 中的数据 2）根据课程 id 查询 teachplanMedia 数据 3）将查询到的 teachplanMedia 数据插入到 teachplanMediaPub 中 2、Logstash 定时扫描课程媒资信息表，并将课程媒资信息写入索引库。 数据模型 在 xc_course 数据库创建课程计划媒资发布表： CREATE TABLE teachplan_media_pub (teachplan_id varchar(32) NOT NULL COMMENT '课程计划id',media_id varchar(32) NOT NULL COMMENT '媒资文件id',media_fileoriginalname varchar(128) NOT NULL COMMENT '媒资文件的原始名称',media_url varchar(256) NOT NULL COMMENT '媒资文件访问地址',courseid varchar(32) NOT NULL COMMENT '课程Id',timestamp timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT'logstash使用',PRIMARY KEY (teachplan_id)) ENGINE=InnoDB DEFAULT CHARSET=utf8 数据模型类如下： package com.xuecheng.framework.domain.course;import lombok.Data;import lombok.ToString;import org.hibernate.annotations.GenericGenerator;import javax.persistence.;import java.io.Serializable;import java.util.Date;@Data@ToString@Entity@Table(name="teachplan_media_pub")@GenericGenerator(name = "jpa-assigned", strategy = "assigned")public class TeachplanMediaPub implements Serializable {private static final long serialVersionUID = -916357110051689485L;@Id@GeneratedValue(generator = "jpa-assigned")@Column(name="teachplan_id")private String teachplanId;@Column(name="media_id")private String mediaId;@Column(name="media_fileoriginalname")private String mediaFileOriginalName;@Column(name="media_url")private String mediaUrl;@Column(name="courseid")private String courseId;@Column(name="timestamp")private Date timestamp;//时间戳} Dao 创建 TeachplanMediaPub 表的 Dao，向 TeachplanMediaPub 存储信息采用先删除该课程的媒资信息，再添加该课程的媒资信息，所以这里定义根据课程 id 删除课程计划媒资方法： public interface TeachplanMediaPubRepository extends JpaRepository<TeachplanMediaPub, String> {//根据课程id删除课程计划媒资信息long deleteByCourseId(String courseId);} 从TeachplanMedia查询课程计划媒资信息 //从TeachplanMedia查询课程计划媒资信息public interface TeachplanMediaRepository extends JpaRepository<TeachplanMedia, String> {List<TeachplanMedia> findByCourseId(String courseId);} Service 编写保存课程计划媒资信息方法，并在课程发布时调用此方法。 1、保存课程计划媒资信息方法 本方法采用先删除该课程的媒资信息，再添加该课程的媒资信息，在 CourseService 下定义该方法 //保存课程计划媒资信息private void saveTeachplanMediaPub(String courseId){//查询课程媒资信息List<TeachplanMedia> byCourseId = teachplanMediaRepository.findByCourseId(courseId);if(byCourseId == null) return; //没有查询到媒资数据则直接结束该方法//将课程计划媒资信息储存到待索引表//删除原有的索引信息teachplanMediaPubRepository.deleteByCourseId(courseId);//一个课程可能会有多个媒资信息,遍历并使用list进行储存List<TeachplanMediaPub> teachplanMediaPubList = new ArrayList<>();for (TeachplanMedia teachplanMedia: byCourseId) {TeachplanMediaPub teachplanMediaPub = new TeachplanMediaPub();BeanUtils.copyProperties(teachplanMedia, teachplanMediaPub);teachplanMediaPubList.add(teachplanMediaPub);}//保存所有信息teachplanMediaPubRepository.saveAll(teachplanMediaPubList);} 2、课程发布时调用此方法 修改课程发布的 coursePublish 方法： ....//保存课程计划媒资信息到待索引表saveTeachplanMediaPub(courseId);//页面urlString pageUrl = cmsPostPageResult.getPageUrl();return new CoursePublishResult(CommonCode.SUCCESS,pageUrl);..... 测试 测试课程发布后是否成功将课程媒资信息存储到 teachplan_media_pub 中，测试流程如下： 1、指定一个课程 2、为课程计划添加课程媒资 3、执行课程发布 4、观察课程计划媒资信息是否存储至 teachplan_media_pub 中 注意：由于此测试仅用于测试发布课程计划媒资信息的功能，可暂时将 cms页面发布的功能暂时屏蔽，提高测试效率。 测试结果如下 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Vrzs5589-1595567273126)(https://qnoss.codeyee.com/20200704_15/image7)] 0x03 Logstash：扫描课程计划媒资 Logstash 定时扫描课程媒资信息表，并将课程媒资信息写入索引库。 创建索引 1、创建 xc_course_media 索引 2、并向此索引创建如下映射 POST: http://localhost:9200/xc_course_media/doc/_mapping {"properties" : {"courseid" : {"type" : "keyword"},"teachplan_id" : {"type" : "keyword"},"media_id" : {"type" : "keyword"},"media_url" : {"index" : false,"type" : "text"},"media_fileoriginalname" : {"index" : false,"type" : "text"} }} 索引创建成功 创建模板文件 在 logstach 的 config 目录文件 xc_course_media_template.json 文件路径为 %ES_ROOT_DIR%/logstash6.8.8/config/xc_course_media_template.json %ES_ROOT_DIR% 为 ElasticSearch 和 logstash 的安装目录 内容如下： {"mappings" : {"doc" : {"properties" : {"courseid" : {"type" : "keyword"},"teachplan_id" : {"type" : "keyword"},"media_id" : {"type" : "keyword"},"media_url" : {"index" : false,"type" : "text"},"media_fileoriginalname" : {"index" : false,"type" : "text"} }},"template" : "xc_course_media"} } 配置 mysql.conf 在logstash的 config 目录下配置 mysql_course_media.conf 文件供 logstash 使用，logstash 会根据 mysql_course_media.conf 文件的配置的地址从 MySQL 中读取数据向 ES 中写入索引。 参考https://www.elastic.co/guide/en/logstash/current/plugins-inputs-jdbc.html 配置输入数据源和输出数据源。 input {stdin {} jdbc {jdbc_connection_string => "jdbc:mysql://localhost:3306/xc_course?useUnicode=true&characterEncoding=utf-8&useSSL=true&serverTimezone=UTC" 数据库信息jdbc_user => "root"jdbc_password => "123123" MYSQL 驱动地址,修改为maven仓库对应的位置jdbc_driver_library => "D:/soft/apache-maven-3.5.4/repository/mysql/mysql-connector-java/5.1.40/mysql-connector-java-5.1.40.jar" the name of the driver class for mysqljdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"要执行的sql文件statement_filepath => "/conf/course.sql"statement => "select from teachplan_media_pub where timestamp > date_add(:sql_last_value,INTERVAL 8 HOUR)"定时配置schedule => " "record_last_run => truelast_run_metadata_path => "D:/soft/elasticsearch/logstash-6.8.8/config/xc_course_media_metadata"} } output {elasticsearch {ES的ip地址和端口hosts => "localhost:9200"hosts => ["localhost:9200","localhost:9202","localhost:9203"]ES索引库名称index => "xc_course_media"document_id => "%{teachplan_id}"document_type => "doc"template => "D:/soft/elasticsearch/logstash-6.8.8/config/xc_course_media_template.json"template_name =>"xc_course_media"template_overwrite =>"true"} stdout {日志输出codec => json_lines} } 启动 logstash.bat 启动 logstash.bat 采集 teachplan_media_pub 中的数据，向 ES 写入索引。 logstash.bat -f ../config/mysql_course_media.conf 课程发布成功后，Logstash 会自动参加 teachplan_media_pub 表中新增的数据，效果如下 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ILPBxfXi-1595567273134)(https://qnoss.codeyee.com/20200704_15/image10)] Logstash多实例运行 由于之前我们还启动了一个 Logstash 对课程的发布信息进行采集，所以如果想两个 logstash 实例同时运行，因为每个实例都有一个.lock文件，所以不能使用同一个目录来存放数据，所以我们需要使用 --path.data= 为每个实例指定单独的数据目录，具体的代码如下： 该配置是在windows下进行的 课程发布实例 logstash_start_course_pub.bat @title logstash in course_publogstash.bat -f ..\config\mysql.conf --path.data=../data/course_pub 课程计划媒体发布实例 logstash_start_teachplan_media.bat @title logstash i n teachplan_media_publogstash.bat -f ../config/mysql_course_media.conf --path.data=../data/teachplan_media/ 同时运行效果如下 0x04 搜素服务：查询课程媒资接口 需求分析 搜索服务 提供查询课程媒资接口，此接口供学习服务调用。 Api接口定义 @ApiOperation("根据课程计划查询媒资信息")public TeachplanMediaPub getmedia(String teachplanId); Service 1、配置课程计划媒资索引库等信息 在 application.yml 中配置 xuecheng:elasticsearch:hostlist: ${eshostlist:127.0.0.1:9200} 多个结点中间用逗号分隔course:index: xc_coursetype: docsource_field: id,name,grade,mt,st,charge,valid,pic,qq,price,price_old,status,studymodel,teachmode,expires,pub_time,start_time,end_timemedia:index: xc_course_mediatype: docsource_field: courseid,media_id,media_url,teachplan_id,media_fileoriginalname 2、service 方法开发 在 课程搜索服务 中定义课程媒资查询接口，为了适应后续需求，service 参数定义为数组，可一次查询多个课程计划的媒资信息。 / 根据一个或者多个课程计划id查询媒资信息 @param teachplanIds 课程id @return QueryResponseResult/public QueryResponseResult<TeachplanMediaPub> getmedia(String [] teachplanIds){//设置索引SearchRequest searchRequest = new SearchRequest(media_index);//设置类型searchRequest.types(media_type);//创建搜索源对象SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();//源字段过滤String[] media_index_arr = media_field.split(",");searchSourceBuilder.fetchSource(media_index_arr, new String[]{});//查询条件,根据课程计划id查询(可以传入多个课程计划id)searchSourceBuilder.query(QueryBuilders.termsQuery("teachplan_id", teachplanIds));searchRequest.source(searchSourceBuilder);SearchResponse searchResponse = null;try {searchResponse = restHighLevelClient.search(searchRequest);} catch (IOException e) {e.printStackTrace();}//获取结果SearchHits hits = searchResponse.getHits();long totalHits = hits.getTotalHits();SearchHit[] searchHits = hits.getHits();//数据列表List<TeachplanMediaPub> teachplanMediaPubList = new ArrayList<>();for(SearchHit hit:searchHits){TeachplanMediaPub teachplanMediaPub =new TeachplanMediaPub();Map<String, Object> sourceAsMap = hit.getSourceAsMap();//取出课程计划媒资信息String courseid = (String) sourceAsMap.get("courseid");String media_id = (String) sourceAsMap.get("media_id");String media_url = (String) sourceAsMap.get("media_url");String teachplan_id = (String) sourceAsMap.get("teachplan_id");String media_fileoriginalname = (String) sourceAsMap.get("media_fileoriginalname");teachplanMediaPub.setCourseId(courseid);teachplanMediaPub.setMediaUrl(media_url);teachplanMediaPub.setMediaFileOriginalName(media_fileoriginalname);teachplanMediaPub.setMediaId(media_id);teachplanMediaPub.setTeachplanId(teachplan_id);//将对象加入到列表中teachplanMediaPubList.add(teachplanMediaPub);}//构建返回课程媒资信息对象QueryResult<TeachplanMediaPub> queryResult = new QueryResult<>();queryResult.setList(teachplanMediaPubList);queryResult.setTotal(totalHits);return new QueryResponseResult<TeachplanMediaPub>(CommonCode.SUCCESS,queryResult);} Controller / 根据课程计划id搜索发布后的媒资信息 @param teachplanId @return/@GetMapping(value="/getmedia/{teachplanId}")@Overridepublic TeachplanMediaPub getmedia(@PathVariable("teachplanId") String teachplanId) {//为了service的拓展性,所以我们service接收的是数组作为参数,以便后续开发查询多个ID的接口String[] teachplanIds = new String[]{teachplanId};//通过service查询ES获取课程媒资信息QueryResponseResult<TeachplanMediaPub> mediaPubQueryResponseResult = esCourseService.getmedia(teachplanIds);QueryResult<TeachplanMediaPub> queryResult = mediaPubQueryResponseResult.getQueryResult();if(queryResult!=null&& queryResult.getList()!=null&& queryResult.getList().size()>0){//返回课程计划对应课程媒资return queryResult.getList().get(0);} return new TeachplanMediaPub();} 测试 使用 swagger-ui 和 postman 测试课程媒资查询接口。 三、在线学习：接口开发 0x01 需求分析 根据下边的业务流程，本章节完成前端学习页面请求学习服务获取课程视频地址，并自动播放视频。 0x02 搭建开发环境 1、创建数据库 创建 xc_learning 数据库，学习数据库将记录学生的选课信息、学习信息。 导入：资料/xc_learning.sql 2、创建学习服务工程 参考课程管理服务工程结构，创建学习服务工程： 导入：资料/xc-service-learning.zip 项目工程结构如下 0x03 Api接口 此 api 接口是课程学习页面请求学习服务获取课程学习地址。 定义返回值类型： package com.xuecheng.framework.domain.learning.response;import com.xuecheng.framework.model.response.ResponseResult;import com.xuecheng.framework.model.response.ResultCode;import lombok.Data;import lombok.NoArgsConstructor;import lombok.ToString;@Data@ToString@NoArgsConstructorpublic class GetMediaResult extends ResponseResult {public GetMediaResult(ResultCode resultCode, String fileUrl) {super(resultCode);this.fileUrl = fileUrl;}//媒资文件播放地址private String fileUrl;} 定义接口，学习服务根据传入课程 ID、章节 Id(课程计划 ID)来取学习地址。 @Api(value = "录播课程学习管理",description = "录播课程学习管理")public interface CourseLearningControllerApi {@ApiOperation("获取课程学习地址")public GetMediaResult getMediaPlayUrl(String courseId,String teachplanId);} 0x04 服务端开发 需求分析 学习服务根据传入课程ID、章节Id(课程计划ID)请求搜索服务获取学习地址。 搜索服务注册Eureka 学习服务要调用搜索服务查询课程媒资信息，所以需要将搜索服务注册到 eureka 中。 1、查看服务名称是否为 xc-service-search 注意修改application.xml中的服务名称：spring:application:name: xc‐service‐search 2、配置搜索服务的配置文件 application.yml，加入 Eureka 配置 如下： eureka:client:registerWithEureka: true 服务注册开关fetchRegistry: true 服务发现开关serviceUrl: Eureka客户端与Eureka服务端进行交互的地址，多个中间用逗号分隔defaultZone: ${EUREKA_SERVER:http://localhost:50101/eureka/,http://localhost:50102/eureka/}instance:prefer-ip-address: true 将自己的ip地址注册到Eureka服务中ip-address: ${IP_ADDRESS:127.0.0.1}instance-id: ${spring.application.name}:${server.port} 指定实例idribbon:MaxAutoRetries: 2 最大重试次数，当Eureka中可以找到服务，但是服务连不上时将会重试，如果eureka中找不到服务则直接走断路器MaxAutoRetriesNextServer: 3 切换实例的重试次数OkToRetryOnAllOperations: false 对所有操作请求都进行重试，如果是get则可以，如果是post，put等操作没有实现幂等的情况下是很危险的,所以设置为falseConnectTimeout: 5000 请求连接的超时时间ReadTimeout: 6000 请求处理的超时时间 3、添加 eureka 依赖 <dependency><groupId>org.springframework.cloud</groupId><artifactId>spring‐cloud‐starter‐netflix‐eureka‐client</artifactId></dependency> 4、修改启动类，在class上添加如下注解： @EnableDiscoveryClient 搜索服务客户端 在 学习服务 创建搜索服务的客户端接口，此接口会生成代理对象，调用搜索服务： package com.xuecheng.learning.client;import com.xuecheng.framework.domain.course.TeachplanMediaPub;import org.springframework.cloud.openfeign.FeignClient;import org.springframework.web.bind.annotation.GetMapping;import org.springframework.web.bind.annotation.PathVariable;@FeignClient(value = "xc‐service‐search")public interface CourseSearchClient {@GetMapping(value="/getmedia/{teachplanId}")public TeachplanMediaPub getmedia(@PathVariable("teachplanId") String teachplanId);} 自定义错误代码 我们在 com.xuecheng.framework.domain.learning.response 包下自定义一个错误消息模型 package com.xuecheng.framework.domain.learning.response;import com.xuecheng.framework.model.response.ResultCode;import lombok.ToString;@ToStringpublic enum LearningCode implements ResultCode {LEARNING_GET_MEDIA_ERROR(false,23001,"学习中心获取媒资信息错误！");//操作代码boolean success;//操作代码int code;//提示信息String message;private LearningCode(boolean success, int code, String message){this.success = success;this.code = code;this.message = message;}@Overridepublic boolean success() {return success;}@Overridepublic int code() {return code;}@Overridepublic String message() {return message;} } 该消息模型基于 ResultCode 来实现，代码如下 package com.xuecheng.framework.model.response;/ Created by mrt on 2018/3/5. 10000-- 通用错误代码 22000-- 媒资错误代码 23000-- 用户中心错误代码 24000-- cms错误代码 25000-- 文件系统/public interface ResultCode {//操作是否成功,true为成功，false操作失败boolean success();//操作代码int code();//提示信息String message(); 从 ResultCode 中我们可以看出，我们约定了用户中心的错误代码使用 23000，所以我们定义的一些错误信息的代码就从 23000 开始计数。 Service 在学习服务中定义 service 方法，此方法远程请求课程管理服务、媒资管理服务获取课程学习地址。 package com.xuecheng.learning.service.impl;import com.netflix.discovery.converters.Auto;import com.xuecheng.framework.domain.course.TeachplanMediaPub;import com.xuecheng.framework.domain.learning.response.GetMediaResult;import com.xuecheng.framework.exception.ExceptionCast;import com.xuecheng.framework.model.response.CommonCode;import com.xuecheng.learning.client.CourseSearchClient;import com.xuecheng.learning.service.LearningService;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.stereotype.Service;@Servicepublic class LearningServiceImpl implements LearningService {@AutowiredCourseSearchClient courseSearchClient;/ 远程调用搜索服务获取已发布媒体信息中的url @param courseId 课程id @param teachplanId 媒体信息id @return/@Overridepublic GetMediaResult getMediaPlayUrl(String courseId, String teachplanId) {//校验学生权限,是否已付费等//远程调用搜索服务进行查询媒体信息TeachplanMediaPub mediaPub = courseSearchClient.getmedia(teachplanId);if(mediaPub == null) ExceptionCast.cast(CommonCode.FAIL);return new GetMediaResult(CommonCode.SUCCESS, mediaPub.getMediaUrl());} } Controller 调用 service 根据课程计划 id 查询视频播放地址： @RestController@RequestMapping("/learning/course")public class CourseLearningController implements CourseLearningControllerApi {@AutowiredLearningService learningService;@Override@GetMapping("/getmedia/{courseId}/{teachplanId}")public GetMediaResult getMediaPlayUrl(@PathVariable String courseId, @PathVariable String teachplanId) {//获取课程学习地址return learningService.getMedia(courseId, teachplanId);} } 测试 使用 swagger-ui 或postman 测试学习服务查询课程视频地址接口。 0x05 前端开发 需求分析 需要在学习中心前端页面需要完成如下功能： 1、进入课程学习页面需要带上 课程 Id参数及课程计划Id的参数，其中 课程 Id 参数必带，课程计划 Id 可以为空。 2、进入页面根据 课程 Id 取出该课程的课程计划显示在右侧。 3、进入页面后判断如果请求参数中有课程计划 Id 则播放该章节的视频。 4、进入页面后判断如果 课程计划id 为0则需要取出本课程第一个 课程计划的Id，并播放第一个课程计划的视频。 进入到模块 xc-ui-pc-leanring/src/module/course api方法 let sysConfig = require('@/../config/sysConfig')let apiUrl = sysConfig.xcApiUrlPre;/获取播放地址/export const get_media = (courseId,chapter) => {return http.requestGet(apiUrl+'/api/learning/course/getmedia/'+courseId+'/'+chapter);} 配置代理 在 Nginx 中的 ucenter.xuecheng.com 虚拟主机中配置 /api/learning/ 的路径转发，此url 请转发到学习服务。 学习服务upstream learning_server_pool{server 127.0.0.1:40600 weight=10;}学成网用户中心server {listen 80;server_name ucenter.xuecheng.com;个人中心location / {proxy_pass http://ucenter_server_pool;}后端搜索服务location /openapi/search/ {proxy_pass http://search_server_pool/search/; }学习服务location ^~ /api/learning/ {proxy_pass http://learning_server_pool/learning/;} } 视频播放页面 1、如果传入的课程计划id为0则取出第一个课程计划id 在 created 钩子方法中完成 created(){//当前请求的urlthis.url = window.location//课程idthis.courseId = this.$route.params.courseId//章节idthis.chapter = this.$route.params.chapter//查询课程信息systemApi.course_view(this.courseId).then((view_course)=>{if(!view_course || !view_course[this.courseId]){this.$message.error("获取课程信息失败，请重新进入此页面！")return ;}let courseInfo = view_course[this.courseId]console.log(courseInfo)this.coursename = courseInfo.nameif(courseInfo.teachplan){console.log("准备开始播放视频")let teachplan = JSON.parse(courseInfo.teachplan);this.teachplanList = teachplan.children;//开始学习if(this.chapter == "0" || !this.chapter){//取出第一个教学计划this.chapter = this.getFirstTeachplan();console.log("第一个教学计划id为 ",this.chapter);this.study(this.chapter);}else{this.study(this.chapter);} }})}, 取出第一个章节 id，用户未输入课程计划 id 或者输入为 0 时，播放第一个。 //取出第一个章节getFirstTeachplan(){for(var i=0;i<this.teachplanList.length;i++){let firstTeachplan = this.teachplanList[i];//如果当前children存在，则取出第一个返回if(firstTeachplan.children && firstTeachplan.children.length>0){let secondTeachplan = firstTeachplan.children[0];return secondTeachplan.id;} }return ;}, 开始学习： //开始学习study(chapter){// 获取播放地址courseApi.get_media(this.courseId,chapter).then((res)=>{if(res.success){let fileUrl = sysConfig.videoUrl + res.fileUrl//播放视频this.playvideo(fileUrl)}else if(res.message){this.$message.error(res.message)}else{this.$message.error("播放视频失败，请刷新页面重试")} }).catch(res=>{this.$message.error("播放视频失败，请刷新页面重试")});}, 2、点击右侧课程章节切换播放 在原有代码基础上添加 click 事件，点击调用开始学习方法（study）。 <li v‐if="teachplan_first.children!=null" v‐for="(teachplan_second, index) inteachplan_first.children"><i class="glyphicon glyphicon‐check"></i><a :href="url" @click="study(teachplan_second.id)">{ {teachplan_second.pname} }</a></li> 3、地址栏路由url变更 这里需要注意一个问题，在用户点击课程章节切换播放时，地址栏的 url 也应该同步改变为当前所选择的课程计划 id 4、在线学习按钮 将 learnstatus 默认更改为 1，这样就能显示出马上学习的按钮，方便我们后续的集成测试。 文件路径为 xc-ui-pc-static-portal/include/course_detail_dynamic.html 部分代码块如下 <script>var body= new Vue({ //创建一个Vue的实例el: "body", //挂载点是id="app"的地方data: {editLoading: false,title:'测试',courseId:'',charge:'',//203001免费,203002收费learnstatus: 1 ,//课程状态，1：马上学习，2：立即报名、3：立即购买course:{},companyId:'template',company_stat:[],course_stat:{"s601001":"","s601002":"","s601003":""} }, 简单的测试 访问在线学习页面：http://ucenter.xuecheng.com//learning/课程id/课程计划id 通过 url 传入两个参数：课程id 和 课程计划id 如果没有课程计划则传入0 测试项目如下： 1、传入正确的课程id、课程计划id，自动播放本章节的视频 2、传入正确的课程id、课程计划id传入0，自动播放第一个视频 3、传入错误的课程id 或 课程计划id，提示错误信息。 4、通过右侧章节目录切换章节及播放视频。 访问： http://ucenter.xuecheng.com//learning/4028e58161bcf7f40161bcf8b77c0000/4028e58161bd18ea0161bd1f73190008 传入正确的课程id、课程计划id，自动播放本章节的视频 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Ef0xxym7-1595567273153)(https://qnoss.codeyee.com/20200704_15/image17)] 传入正确的课程id、课程计划id传入0，自动播放第一个视频 访问 http://ucenter.xuecheng.com//learning/4028e58161bcf7f40161bcf8b77c0000/0 识别出第一个课程计划的 id 需要注意的是这里的 chapter 参数是我自己在 study 函数里加上去的，可以忽略。 传入错误的课程id或课程计划id，提示错误信息。 通过右侧章节目录切换章节及播放视频。 点击章节即可播放，但是点击制定章节后 url 没有发生改变，这个问题暂时还没有解决，关注笔记后面的内容。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-TOGdxwb4-1595567273158)(https://qnoss.codeyee.com/20200704_15/image20)] 完整的测试 准备工作 启动 RabbitMQ，启动 Logstash、ElasticSearch 建议把所有后端服务都开起来 启动 前端静态门户、启动 nginx 、启动课程管理前端 我们整理一下测试的流程 上传两个媒资视频文件，用于测试 进入到课程管理，为课程计划选择媒资信息 发布课程，等待 logstash 将数据采集到 ElasticSearch 的索引库中 进入学成网主页，点击课程，进入到搜索门户页面 搜索课程，进入到课程详情页面 点击开始学习，进入到课程学习页面，选择课程计划中的一个章节进行学习。 1、上传文件 首先我们使用之前开发的媒资管理模块，上传两个视频文件用于测试。 第一个文件上传成功 一些问题 在上传第二个文件时，发生了错误，我们来检查一下问题出在了哪里 在媒体服务的控制台中可以看到，在 mergeChunks 方法在校验文件 md5 时候抛出了异常 我们在 MD5 校验这里打个断点，重新上传文件，分析一下问题所在。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-OpEMZGI8-1595567273166)(https://qnoss.codeyee.com/20200704_15/image23)] 单步调试后发现，合并文件后的MD5值与用户上传的源文件值不相等 方案1：删除本地分块文件重新尝试上传 考虑到可能是在用户上传完 视频的分块文件时发生了一些问题，导致合并文件后与源文件的大小不等，导致MD5也不相同，这里我们把这个视频上传到本地的文件全部删除，在媒资上传页面重新上传文件。 对比所有分块文件的字节大小和本地源文件的大小，完全是相等的 删除所有文件后重新上传，md5值还是不等，考虑从调试一下文件合并的代码。 方案2：检查前端提交的MD5值是否正确 在查阅是否有其他的MD5值获取方案时，发现了一个使用 windows 本地命令获取文件MD5值的方法 certutil -hashfile .\19-在线学习接口-集成测试.avi md5 惊奇的发现，TM的原来是前端那边转换的MD5值不正确，后端这边是没有问题的。 从前面的图可以看出，本地和后端转换的都是以一个 f6f0 开头的MD5值 那么问题就出现在前端了，还需要花一些时间去分析一下，这里暂时就先告一段落，因为上传了几个文件测试中只有这一个文件出现了问题。 2、为课程计划选择媒资信息 进入到一个课程的管理页面 http://localhost:12000//course/manage/baseinfo/4028e58161bcf7f40161bcf8b77c0000 将刚才我们上传的媒资文件的信息和课程计划绑定 选择效果如下 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-epKaqzCD-1595567273178)(https://qnoss.codeyee.com/20200704_15/image29)] 2、发布课程，等待 logstash 从 course_pub 以及 teachplan_media_pub 表中采集数据到 ElasticSearch 当中 发布成功后，我们可以从 teachplan_media_pub 表中看到刚才我们发布的媒资信息 再观察 Logstash 的控制台，发现两个 Logstash 的实例都对更新的课程发布信息进行了采集 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hTUve2ik-1595567273183)(https://qnoss.codeyee.com/20200704_15/image32)] 3、前端门户测试 打开我们的门户主站 http://www.xuecheng.com/ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-4wZe9R84-1595567273185)(https://qnoss.codeyee.com/20200704_15/image33)] 点击导航栏的课程，进入到我们的搜索门户页面 如果无法进入到搜索门户，请检查你的 xc-ui-pc-portal 前端工程是否已经启动 进入到搜索门户后，可以看到一些初始化时搜索的课程数据，默认是搜索第一页的数据，每页2个课程。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-BJ1AKoJb-1595567273187)(https://qnoss.codeyee.com/20200704_15/image34)] 我们可以测试搜索一下前面我们选择媒资信息时所用的课程 点击课程，进入到课程详情页面，然后再点击开始学习。 点击马上学习后，会进入到该课程的在线学习页面，默认自动播放我们第一个课程计划中的视频。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-tcuLWnf2-1595567273193)(https://qnoss.codeyee.com/20200704_15/image37)] 我们可以在右侧的目录中选择第二个课程计划，会自动播放所选的课程计划所对应的媒资视频播放地址，该 播放地址正是我们刚才通过 Logstash 自动采集到 ElasticSearch 的索引信息，效果图如下 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Cvi9Dr0Y-1595567273195)(https://qnoss.codeyee.com/20200704_15/image38)] 四、待完善的一些功能 课程发布前，校验课程计划里面是否包含二级课程计划 课程发布前，校验课程计划信息里面是否全部包含媒资信息 删除媒资信息，并且同步删除ES中的索引 在获取该课程的播放地址时校验用户的合法、 在线学习页面，点击右侧目录中的课程计划同时改变url中的课程计划地址 视频文件 19-在线学习接口-集成测试.avi 前端上传时提交的MD5值不正确 😁 认识作者 作者：👦 LCyee ，全干型代码🐕 自建博客：https://www.codeyee.com 记录学习以及项目开发过程中的笔记与心得，记录认知迭代的过程，分享想法与观点。 CSDN 博客：https://blog.csdn.net/codeyee 记录和分享一些开发过程中遇到的问题以及解决的思路。 欢迎加入微服务练习生的队伍，一起交流项目学习过程中的一些问题、分享学习心得等，不定期组织一起刷题、刷项目，共同见证成长。 本篇文章为转载内容。原文链接：https://blog.csdn.net/codeyee/article/details/107558901。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。