[聚合函数选择对数据列映射的影响]的搜索结果

一、引言 在数据科学的世界里，我们的主要目标是理解和解释数据。为了更好地做到这一点，我们通常需要将数据转化为可视化的形式。这就是为什么Superset——一个开源的数据探索平台，对我们来说如此重要。然而，有的时候我们在捣鼓可视化图表的时候，难免会遇到一些头疼的问题，比如数据列没对上号的情况。本文将深入探讨这个问题，并提供解决办法。 二、什么是数据列映射？ 在 Superset 中，数据列映射是指将数据库中的原始字段映射到我们想要在可视化中使用的字段。这也就是说，你可以挑选你想要展示的那些列，并且还可以自由选择怎么呈现这些列的数据，比如，可以是统计个数、算平均数、找出最大值等等，随你心意来定制。所以，假如数据列的对应关系搞错了，那我们做出来的图表啊，就可能会带出些错误的信息，或者干脆没法准确表达我们的观点啦。 三、数据列映射异常的原因 在实际操作中，我们会发现数据列映射异常的情况比我们想象的要常见。最常见的原因，就是我们在捣鼓查询的时候，不小心选错了要分析的字段，或者没把我们想要汇总的方式给整明白、搞清楚。另外，要是我们的数据集里头混进了些缺失的数据或者不按常理出牌的异常值，那很可能会影响到咱们把数据列对应映射的结果。 举个例子，假设我们有一个销售数据表，其中包含销售额和产品类型两列数据。如果咱只挑了销售额这一项来做图表，那这张图就只能展示销售额上下波动的走势，却没法告诉我们不同产品类型的销售额具体是个啥情况。这就意味着我们的数据列映射存在问题。 四、如何处理数据列映射异常？ 处理数据列映射异常的方法有很多。首先，咱们得瞧一瞧，是不是选对了查询的列，还有啊，聚合的方式给整准确了没。接着呢，咱们得保证咱的数据集是个实实在在的“完璧之身”，里头甭管是丢三落四的空缺值还是调皮捣蛋的异常值，一个都不能有哈。最后一步，咱们得根据自身的需求，来量身定制可视化设计，确保它能准确无误地传递出咱们想要表达的信息内容。 下面是一些具体的步骤： 步骤一：检查查询 我们首先需要检查我们的查询。在Superset里头，想看我们正在捣鼓的查询超级简单，就跟你平时点开视频网站的小播放键一样，你只需要轻轻一点查询编辑器右下角那个醒目的“预览”按钮，一切就尽在眼前啦！瞧瞧这个预览窗口，这里展示了咱们正在使用的所有列，还附带了我们对这些列的处理手法，也就是聚合方式，一目了然！ 例如，如果我们只想看到某一类产品的销售额，我们应该选择"product_type"和"sales_amount"这两列，并设置聚合方式为"SUM(sales_amount)"。 步骤二：处理缺失值和异常值 如果我们发现我们的数据集中存在缺失值或者异常值，我们需要先处理这些问题。在 Python 中，我们可以使用 Pandas 库来处理这些问题。例如，我们可以使用 dropna() 方法来删除含有缺失值的行，或者使用 fillna() 方法来填充缺失值。对于异常值，我们可以使用箱线图来识别并处理。 步骤三：设计可视化 最后，我们需要根据我们的需求来设计我们的可视化。在 Superset 中，我们可以很容易地改变我们可视化的类型、颜色、标签等属性。同时呢，咱们也得留心一下咱的标题和图例这些小细节，确保它们能明明白白地把我们的意思传达出去，让人一看就懂。 例如，如果我们想比较两种产品的销售额，我们应该选择柱状图作为我们的可视化类型，并给每种产品分配不同的颜色。同时，我们也应该在标题和图例中明确指出我们正在比较的是哪两种产品。 五、结论 总的来说，处理数据列映射异常是一项非常重要的任务。瞧，如果我们认真检查咱们的查询，把那些躲猫猫的缺失值和捣乱的异常值都妥妥地处理好，再巧妙地设计我们的可视化图表，那就能确保咱们的数据列映射绝对精准无误。这样一来，生成的可视化效果自然就棒棒哒，既有效又直观！希望这篇文章能帮助你解决你在 Superset 中遇到的问题。

...畅 5.网络响应慢，数据和画面展示慢、 6.过渡动画生硬。 7.界面不可交互，卡死，等等现象。 卡顿是如何发生的 卡顿产生的原因一般都比较复杂，如CPU内存大小，IO操作，锁操作，低效的算法等都会引起卡顿。 站在开发的角度看： 通常我们讲，屏幕刷新率是60fps，需要在16ms内完成所有的工作才不会造成卡顿。 为什么是16ms，不是17，18呢？ 下面我们先来理清在UI绘制中的几个概念： SurfaceFlinger： SurfaceFlinger作用是接受多个来源的图形显示数据Surface，合成后发送到显示设备,比如我们的主界面中：可能会有statusBar，侧滑菜单，主界面，这些View都是独立Surface渲染和更新，最后提交给SF后，SF根据Zorder，透明度，大小，位置等参数，合成为一个数据buffer，传递HWComposer或者OpenGL处理，最终给显示器。 在显示过程中使用到了bufferqueue，surfaceflinger作为consumer方，比如windowmanager管理的surface作为生产方产生页面，交由surfaceflinger进行合成。 VSYNC Android系统每隔16ms发出VSYNC信号，触发对UI进行渲染，VSYNC是一种在PC上很早就有应用，可以理解为一种定时中断技术。 tearing 问题： 早期的 Android 是没有 vsync 机制的，CPU 和 GPU 的配合也比较混乱，这也造成著名的 tearing 问题，即 CPU/GPU 直接更新正在显示的屏幕 buffer 造成画面撕裂。 后续 Android 引入了双缓冲机制，但是 buffer 的切换也需要一个比较合适的时机，也就是屏幕扫描完上一帧后的时机，这也就是引入 vsync 的原因。 早先一般的屏幕刷新率是 60fps，所以每个 vsync 信号的间隔也是 16ms，不过随着技术的更迭以及厂商对于流畅性的追求，越来越多 90fps 和 120fps 的手机面世，相对应的间隔也就变成了 11ms 和 8ms。 VSYNC信号种类： 1.屏幕产生的硬件VSYNC：硬件VSYNC是一种脉冲信号，起到开关和触发某种操作的作用。 2.由SurfaceFlinger将其转成的软件VSYNC信号，经由Binder传递给Choreographer Choreographer： 编舞者，用于注册VSYNC信号并接收VSYNC信号回调，当内部接收到这个信号时最终会调用到doFrame进行帧的绘制操作。 Choreographer在系统中流程： 如何通过Choreographer计算掉帧情况：原理就是: 通过给Choreographer设置FrameCallback，在每次绘制前后看时间差是16.6ms的多少倍，即为前后掉帧率。 使用方式如下： //Application.javapublic void onCreate() {super.onCreate();//在Application中使用postFrameCallbackChoreographer.getInstance().postFrameCallback(new FPSFrameCallback(System.nanoTime()));}public class FPSFrameCallback implements Choreographer.FrameCallback {private static final String TAG = "FPS_TEST";private long mLastFrameTimeNanos = 0;private long mFrameIntervalNanos;public FPSFrameCallback(long lastFrameTimeNanos) {mLastFrameTimeNanos = lastFrameTimeNanos;mFrameIntervalNanos = (long)(1000000000 / 60.0);}@Overridepublic void doFrame(long frameTimeNanos) {//初始化时间if (mLastFrameTimeNanos == 0) {mLastFrameTimeNanos = frameTimeNanos;}final long jitterNanos = frameTimeNanos - mLastFrameTimeNanos;if (jitterNanos >= mFrameIntervalNanos) {final long skippedFrames = jitterNanos / mFrameIntervalNanos;if(skippedFrames>30){//丢帧30以上打印日志Log.i(TAG, "Skipped " + skippedFrames + " frames! "+ "The application may be doing too much work on its main thread.");} }mLastFrameTimeNanos=frameTimeNanos;//注册下一帧回调Choreographer.getInstance().postFrameCallback(this);} } UI绘制全路径分析： 有了前面几个概念，这里我们让SurfaceFlinger结合View的绘制流程用一张图来表达整个绘制流程： 生产者：APP方构建Surface的过程。 消费者：SurfaceFlinger UI绘制全路径分析卡顿原因： 接下来，我们逐个分析，看看都会有哪些原因可能造成卡顿： 1.渲染流程 1.Vsync 调度：这个是起始点，但是调度的过程会经过线程切换以及一些委派的逻辑，有可能造成卡顿，但是一般可能性比较小，我们也基本无法介入； 2.消息调度：主要是 doframe Message 的调度，这就是一个普通的 Handler 调度，如果这个调度被其他的 Message 阻塞产生了时延，会直接导致后续的所有流程不会被触发 3.input 处理：input 是一次 Vsync 调度最先执行的逻辑，主要处理 input 事件。如果有大量的事件堆积或者在事件分发逻辑中加入大量耗时业务逻辑，会造成当前帧的时长被拉大，造成卡顿，可以尝试通过事件采样的方案，减少 event 的处理 4.动画处理：主要是 animator 动画的更新，同理，动画数量过多，或者动画的更新中有比较耗时的逻辑，也会造成当前帧的渲染卡顿。对动画的降帧和降复杂度其实解决的就是这个问题； 5.view 处理：主要是接下来的三大流程，过度绘制、频繁刷新、复杂的视图效果都是此处造成卡顿的主要原因。比如我们平时所说的降低页面层级，主要解决的就是这个问题； 6.measure/layout/draw：view 渲染的三大流程，因为涉及到遍历和高频执行，所以这里涉及到的耗时问题均会被放大，比如我们会降不能在 draw 里面调用耗时函数，不能 new 对象等等； 7.DisplayList 的更新：这里主要是 canvas 和 displaylist 的映射，一般不会存在卡顿问题，反而可能存在映射失败导致的显示问题； 8.OpenGL 指令转换：这里主要是将 canvas 的命令转换为 OpenGL 的指令，一般不存在问题 9.buffer 交换：这里主要指 OpenGL 指令集交换给 GPU，这个一般和指令的复杂度有关 10.GPU 处理：顾名思义，这里是 GPU 对数据的处理，耗时主要和任务量和纹理复杂度有关。这也就是我们降低 GPU 负载有助于降低卡顿的原因； 11.layer 合成：Android P 修改了 Layer 的计算方法 , 把这部分放到了 SurfaceFlinger 主线程去执行, 如果后台 Layer 过多, 就会导致 SurfaceFlinger 在执行 rebuildLayerStacks 的时候耗时 , 导致 SurfaceFlinger 主线程执行时间过长。 可以选择降低Surface层级来优化卡顿。 12.光栅化/Display：这里暂时忽略，底层系统行为； Buffer 切换：主要是屏幕的显示，这里 buffer 的数量也会影响帧的整体延迟，不过是系统行为，不能干预。 2.系统负载 内存：内存的吃紧会直接导致 GC 的增加甚至 ANR，是造成卡顿的一个不可忽视的因素； CPU：CPU 对卡顿的影响主要在于线程调度慢、任务执行的慢和资源竞争，比如 1.降频会直接导致应用卡顿； 2.后台活动进程太多导致系统繁忙，cpu \ io \ memory 等资源都会被占用, 这时候很容易出现卡顿问题 ，这种情况比较常见,可以使用dumpsys cpuinfo查看当前设备的cpu使用情况： 3.主线程调度不到 , 处于 Runnable 状态，这种情况比较少见 4.System 锁：system_server 的 AMS 锁和 WMS 锁 , 在系统异常的情况下 , 会变得非常严重 , 如下图所示 , 许多系统的关键任务都被阻塞 , 等待锁的释放 , 这时候如果有 App 发来的 Binder 请求带锁 , 那么也会进入等待状态 , 这时候 App 就会产生性能问题 ; 如果此时做 Window 动画 , 那么 system_server 的这些锁也会导致窗口动画卡顿 GPU：GPU 的影响见渲染流程，但是其实还会间接影响到功耗和发热； 功耗/发热：功耗和发热一般是不分家的，高功耗会引起高发热，进而会引起系统保护，比如降频、热缓解等，间接的导致卡顿。 如何监控卡顿 线下监控： 我们知道卡顿问题的原因错综复杂，但最终都可以反馈到CPU使用率上来 1.使用dumpsys cpuinfo命令 这个命令可以获取当时设备cpu使用情况，我们可以在线下通过重度使用应用来检测可能存在的卡顿点 A8S:/ $ dumpsys cpuinfoLoad: 1.12 / 1.12 / 1.09CPU usage from 484321ms to 184247ms ago (2022-11-02 14:48:30.793 to 2022-11-02 14:53:30.866):2% 1053/scanserver: 0.2% user + 1.7% kernel0.6% 934/system_server: 0.4% user + 0.1% kernel / faults: 563 minor0.4% 564/signserver: 0% user + 0.4% kernel0.2% 256/ueventd: 0.1% user + 0% kernel / faults: 320 minor0.2% 474/surfaceflinger: 0.1% user + 0.1% kernel0.1% 576/vendor.sprd.hardware.gnss@2.0-service: 0.1% user + 0% kernel / faults: 54 minor0.1% 286/logd: 0% user + 0% kernel / faults: 10 minor0.1% 2821/com.allinpay.appstore: 0.1% user + 0% kernel / faults: 1312 minor0.1% 447/android.hardware.health@2.0-service: 0% user + 0% kernel / faults: 1175 minor0% 1855/com.smartpos.dataacqservice: 0% user + 0% kernel / faults: 755 minor0% 2875/com.allinpay.appstore:pushcore: 0% user + 0% kernel / faults: 744 minor0% 1191/com.android.systemui: 0% user + 0% kernel / faults: 70 minor0% 1774/com.android.nfc: 0% user + 0% kernel0% 172/kworker/1:2: 0% user + 0% kernel0% 145/irq/24-70900000: 0% user + 0% kernel0% 575/thermald: 0% user + 0% kernel / faults: 300 minor... 2.CPU Profiler 这个工具是AS自带的CPU性能检测工具，可以在PC上实时查看我们CPU使用情况。 AS提供了四种Profiling Model配置： 1.Sample Java Methods：在应用程序基于Java的代码执行过程中，频繁捕获应用程序的调用堆栈 获取有关应用程序基于Java的代码执行的时间和资源使用情况信息。 2.Trace java methods：在运行时对应用程序进行检测，以在每个方法调用的开始和结束时记录时间戳。收集时间戳并进行比较以生成方法跟踪数据，包括时序信息和CPU使用率。 请注意与检测每种方法相关的开销会影响运行时性能，并可能影响性能分析数据。对于生命周期相对较短的方法，这一点甚至更为明显。此外，如果您的应用在短时间内执行大量方法，则探查器可能会很快超过其文件大小限制，并且可能无法记录任何进一步的跟踪数据。 3.Sample C/C++ Functions:捕获应用程序本机线程的示例跟踪。要使用此配置，您必须将应用程序部署到运行Android 8.0（API级别26）或更高版本的设备。 4.Trace System Calls:捕获细粒度的详细信息，使您可以检查应用程序与系统资源的交互方式 您可以检查线程状态的确切时间和持续时间，可视化CPU瓶颈在所有内核中的位置，并添加自定义跟踪事件进行分析。在对性能问题进行故障排除时，此类信息可能至关重要。要使用此配置，您必须将应用程序部署到运行Android 7.0（API级别24）或更高版本的设备。 使用方式： Debug.startMethodTracing("");// 需要检测的代码片段...Debug.stopMethodTracing(); 优点：有比较全面的调用栈以及图像化方法时间显示，包含所有线程的情况 缺点：本身也会带来一点的性能开销，可能会带偏优化方向 火焰图：可以显示当前应用的方法堆栈： 3.Systrace Systrace在前面一篇分析启动优化的文章讲解过 这里我们简单来复习下： Systrace用来记录当前应用的系统以及应用(使用Trace类打点)的各阶段耗时信息包括绘制信息以及CPU信息等。 使用方式： Trace.beginSection("MyApp.onCreate_1");alt(200);Trace.endSection(); 在命令行中： python systrace.py -t 5 sched gfx view wm am app webview -a "com.chinaebipay.thirdcall" -o D:\trac1.html 记录的方法以及CPU中的耗时情况： 优点： 1.轻量级，开销小，CPU使用率可以直观反映 2.右侧的Alerts能够根据我们应用的问题给出具体的建议，比如说，它会告诉我们App界面的绘制比较慢或者GC比较频繁。 4.StrictModel StrictModel是Android提供的一种运行时检测机制，用来帮助开发者自动检测代码中不规范的地方。 主要和两部分相关： 1.线程相关 2.虚拟机相关 基础代码： private void initStrictMode() {// 1、设置Debug标志位，仅仅在线下环境才使用StrictModeif (DEV_MODE) {// 2、设置线程策略StrictMode.setThreadPolicy(new StrictMode.ThreadPolicy.Builder().detectCustomSlowCalls() //API等级11，使用StrictMode.noteSlowCode.detectDiskReads().detectDiskWrites().detectNetwork() // or .detectAll() for all detectable problems.penaltyLog() //在Logcat 中打印违规异常信息// .penaltyDialog() //也可以直接跳出警报dialog// .penaltyDeath() //或者直接崩溃.build());// 3、设置虚拟机策略StrictMode.setVmPolicy(new StrictMode.VmPolicy.Builder().detectLeakedSqlLiteObjects()// 给NewsItem对象的实例数量限制为1.setClassInstanceLimit(NewsItem.class, 1).detectLeakedClosableObjects() //API等级11.penaltyLog().build());} } 线上监控： 线上需要自动化的卡顿检测方案来定位卡顿，它能记录卡顿发生时的场景。 自动化监控原理： 采用拦截消息调度流程，在消息执行前埋点计时，当耗时超过阈值时，则认为是一次卡顿，会进行堆栈抓取和上报工作 首先，我们看下Looper用于执行消息循环的loop()方法，关键代码如下所示： / Run the message queue in this thread. Be sure to call {@link quit()} to end the loop./public static void loop() {...for (;;) {Message msg = queue.next(); // might blockif (msg == null) {// No message indicates that the message queue is quitting.return;// This must be in a local variable, in case a UI event sets the loggerfinal Printer logging = me.mLogging;if (logging != null) {// 1logging.println(">>>>> Dispatching to " + msg.target + " " +msg.callback + ": " + msg.what);}...try {// 2 msg.target.dispatchMessage(msg);dispatchEnd = needEndTime ? SystemClock.uptimeMillis() : 0;} finally {if (traceTag != 0) {Trace.traceEnd(traceTag);} }...if (logging != null) {// 3logging.println("<<<<< Finished to " + msg.target + " " + msg.callback);} 在Looper的loop()方法中，在其执行每一个消息（注释2处）的前后都由logging进行了一次打印输出。可以看到，在执行消息前是输出的">>>>> Dispatching to “，在执行消息后是输出的”<<<<< Finished to ",它们打印的日志是不一样的，我们就可以由此来判断消息执行的前后时间点。 具体的实现可以归纳为如下步骤： 1、首先，我们需要使用Looper.getMainLooper().setMessageLogging()去设置我们自己的Printer实现类去打印输出logging。这样，在每个message执行的之前和之后都会调用我们设置的这个Printer实现类。 2、如果我们匹配到">>>>> Dispatching to "之后，我们就可以执行一行代码：也就是在指定的时间阈值之后，我们在子线程去执行一个任务，这个任务就是去获取当前主线程的堆栈信息以及当前的一些场景信息，比如：内存大小、电脑、网络状态等。 3、如果在指定的阈值之内匹配到了"<<<<< Finished to "，那么说明message就被执行完成了，则表明此时没有产生我们认为的卡顿效果，那我们就可以将这个子线程任务取消掉。 这里我们使用blockcanary来做测试: BlockCanary APM是一个非侵入式的性能监控组件，可以通过通知的形式弹出卡顿信息。它的原理就是我们刚刚讲述到的卡顿监控的实现原理。 使用方式： 1.导入依赖 implementation 'com.github.markzhai:blockcanary-android:1.5.0' Application的onCreate方法中开启卡顿监控 // 注意在主进程初始化调用BlockCanary.install(this, new AppBlockCanaryContext()).start(); 3.继承BlockCanaryContext类去实现自己的监控配置上下文类 public class AppBlockCanaryContext extends BlockCanaryContext {....../ 指定判定为卡顿的阈值threshold (in millis), 你可以根据不同设备的性能去指定不同的阈值 @return threshold in mills/public int provideBlockThreshold() {return 1000;}....} 4.在Activity的onCreate方法中执行一个耗时操作 try {Thread.sleep(4000);} catch (InterruptedException e) {e.printStackTrace();} 5.结果： 可以看到一个和LeakCanary一样效果的阻塞可视化堆栈图 那有了BlockCanary的方法耗时监控方式是不是就可以解百愁了呢，呵呵。有那么容易就好了 根据原理：我们拿到的是msg执行前后的时间和堆栈信息，如果msg中有几百上千个方法，就无法确认到底是哪个方法导致的耗时，也有可能是多个方法堆积导致。 这就导致我们无法准确定位哪个方法是最耗时的。如图中：堆栈信息是T2的，而发生耗时的方法可能是T1到T2中任何一个方法甚至是堆积导致。 那如何优化这块？ 这里我们采用字节跳动给我们提供的一个方案：基于 Sliver trace 的卡顿监控体系 Sliver trace 整体流程图： 主要包含两个方面: 检测方案： 在监控卡顿时，首先需要打开 Sliver 的 trace 记录能力，Sliver 采样记录 trace 执行信息，对抓取到的堆栈进行 diff 聚合和缓存。 同时基于我们的需要设置相应的卡顿阈值，以 Message 的执行耗时为衡量。对主线程消息调度流程进行拦截，在消息开始分发执行时埋点，在消息执行结束时计算消息执行耗时，当消息执行耗时超过阈值，则认为产生了一次卡顿。 堆栈聚合策略： 当卡顿发生时，我们需要为此次卡顿准备数据，这部分工作是在端上子线程中完成的，主要是 dump trace 到文件以及过滤聚合要上报的堆栈。分为以下几步： 1.拿到缓存的主线程 trace 信息并 dump 到文件中。 2.然后从文件中读取 trace 信息，按照数据格式，从最近的方法栈向上追溯，找到当前 Message 包含的全部 trace 信息，并将当前 Message 的完整 trace 写入到待上传的 trace 文件中，删除其余 trace 信息。 3.遍历当前 Message trace，按照（Method 执行耗时 > Method 耗时阈值 & Method 耗时为该层堆栈中最耗时）为条件过滤出每一层函数调用堆栈的最长耗时函数，构成最后要上报的堆栈链路，这样特征堆栈中的每一步都是最耗时的，且最底层 Method 为最后的耗时大于阈值的 Method。 之后，将 trace 文件和堆栈一同上报，这样的特征堆栈提取策略保证了堆栈聚合的可靠性和准确性，保证了上报到平台后堆栈的正确合理聚合，同时提供了进一步分析问题的 trace 文件。 可以看到字节给的是一整套监控方案，和前面BlockCanary不同之处就在于，其是定时存储堆栈，缓存，然后使用diff去重的方式，并上传到服务器，可以最大限度的监控到可能发生比较耗时的方法。 开发中哪些习惯会影响卡顿的发生 1.布局太乱，层级太深。 1.1：通过减少冗余或者嵌套布局来降低视图层次结构。比如使用约束布局代替线性布局和相对布局。 1.2：用 ViewStub 替代在启动过程中不需要显示的 UI 控件。 1.3：使用自定义 View 替代复杂的 View 叠加。 2.主线程耗时操作 2.1：主线程中不要直接操作数据库，数据库的操作应该放在数据库线程中完成。 2.2：sharepreference尽量使用apply，少使用commit，可以使用MMKV框架来代替sharepreference。 2.3：网络请求回来的数据解析尽量放在子线程中，不要在主线程中进行复制的数据解析操作。 2.4：不要在activity的onResume和onCreate中进行耗时操作，比如大量的计算等。 2.5：不要在 draw 里面调用耗时函数，不能 new 对象 3.过度绘制 过度绘制是同一个像素点上被多次绘制，减少过度绘制一般减少布局背景叠加等方式，如下图所示右边是过度绘制的图片。 4.列表 RecyclerView使用优化，使用DiffUtil和notifyItemDataSetChanged进行局部更新等。 5.对象分配和回收优化 自从Android引入 ART 并且在Android 5.0上成为默认的运行时之后，对象分配和垃圾回收（GC）造成的卡顿已经显著降低了，但是由于对象分配和GC有额外的开销，它依然又可能使线程负载过重。 在一个调用不频繁的地方（比如按钮点击）分配对象是没有问题的，但如果在在一个被频繁调用的紧密的循环里，就需要避免对象分配来降低GC的压力。 减少小对象的频繁分配和回收操作。 好了，关于卡顿优化的问题就讲到这里，下篇文章会对卡顿中的ANR情况的处理，这里做个铺垫。 如果喜欢我的文章，欢迎关注我的公众号。 点击这看原文链接： 参考 Android卡顿检测及优化 一文读懂直播卡顿优化那些事儿 “终于懂了” 系列：Android屏幕刷新机制—VSync、Choreographer 全面理解！ 深入探索Android卡顿优化（上） 西瓜卡顿 & ANR 优化治理及监控体系建设 5376)] 参考 Android卡顿检测及优化 一文读懂直播卡顿优化那些事儿 “终于懂了” 系列：Android屏幕刷新机制—VSync、Choreographer 全面理解！ 深入探索Android卡顿优化（上） 西瓜卡顿 & ANR 优化治理及监控体系建设 本篇文章为转载内容。原文链接：https://blog.csdn.net/yuhaibing111/article/details/127682399。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...系统中用于负载均衡和数据分片的算法。其基本思想是将服务节点与待分配的数据通过特定的哈希函数映射到一个虚拟的圆环上，当系统添加或删除节点时，只会影响到该节点在圆环上的位置附近的数据映射关系，而非全局重新分布，从而有效减小了数据迁移的成本，并使得系统的扩展性和容错性得到显著提高。 Go-Spring , Go-Spring是一个结合了Spring生态与Go语言特性的开发框架。它旨在为Go语言开发者提供类似Spring框架那样的便利工具和设计模式，简化分布式系统开发过程中的一致性哈希路由策略实现、依赖注入等功能，提升了开发效率和代码可维护性。 虚拟节点（Virtual Node） , 在一致性哈希算法的实际应用中，为了进一步优化数据在各个节点间的均匀分布，引入了虚拟节点的概念。虚拟节点是指在实际物理节点基础上，在一致性哈希环上人为创建的多个哈希位置，每个物理节点对应多个虚拟节点，这样在进行数据路由时，可以更细粒度地分散数据到不同节点上，从而减轻因节点数量变化导致的热点问题，提高系统的负载均衡效果。

...用于大型企业级系统的数据检索场景。而在大数据时代背景下，海量的数据使得传统的数据库查询已经无法满足需求，而使用Solr可以更加高效地进行数据处理和分析。这篇文章咱要唠唠如何巧用Solr这个神器，在大数据分析、机器学习还有人工智能领域大显身手，我会拿几个实际的例子，带你见识见识Solr到底有多牛掰！ 二、Solr的基础知识 在开始探索Solr的应用之前，我们需要先了解一些基础知识。首先，Solr是一个基于Java的全文搜索引擎，它支持实时索引和查询、分布式部署和扩展、丰富的API接口等特性。其次，Solr的核心部件包括IndexWriter、Analyzer和Searcher，它们分别负责数据的索引、分词和查询。此外，Solr还提供了许多插件，如Tokenizer、Filter和QueryParser等，用户可以根据自己的需求选择合适的插件。 三、Solr在大数据分析中的应用 1. 数据导入和索引构建 Solr提供了一个灵活的数据导入工具——SolrJ，它可以将各种数据源（如CSV、XML、JSON等）转换为Solr所需的格式，并批量导入到Solr中。另外，Solr有个很贴心的功能，那就是支持多种语言的分词器。无论是哪种语言的数据源，你都可以挑选手头最适合的那个分词器去构建索引，就像挑选工具箱中的合适工具来完成一项工作一样方便。例如，如果我们有一个英文文本文件需要导入到Solr中，我们可以使用如下的SolrJ代码： scss SolrInputDocument doc = new SolrInputDocument(); doc.addField("id", "1"); doc.addField("title", "Hello, world!"); doc.addField("content", "This is a test document."); solrClient.add(doc); 2. 数据查询和分析 Solr的查询语句非常强大，支持布尔运算、通配符匹配、范围查询等多种高级查询方式。同时，Solr还支持多种统计和聚合函数，可以帮助我们从大量的数据中提取有用的信息。例如，如果我们想要查询包含关键词“test”的所有文档，我们可以使用如下的Solr查询语句： ruby http://localhost:8983/solr/mycollection/select?q=test 四、Solr在机器学习和人工智能应用中的应用 1. 数据预处理 在机器学习和人工智能应用中，数据预处理是非常重要的一步。Solr为大家准备了一整套超实用的数据处理和清洗法宝，像是过滤器、解析器、处理器这些小能手，它们能够帮咱们把那些原始数据好好地洗洗澡、换换装，变得干净整齐又易于使用。例如，如果我们有一个包含HTML标记的网页文本需要清洗，我们可以使用如下的Solr处理器： javascript 2. 数据挖掘和模型训练 在机器学习和人工智能应用中，数据挖掘和模型训练也是非常关键的步骤。Solr提供了丰富的数据挖掘和机器学习工具，如向量化、聚类、分类和回归等，可以帮助我们从大量的数据中提取有用的特征并建立预测模型。例如，如果我们想要使用SVM算法对数据进行分类，我们可以使用如下的Solr脚本： python 五、结论 Solr作为一款强大的全文搜索引擎，在大数据分析、机器学习和人工智能应用中有着广泛的应用。通过上述的例子，我们可以看到Solr的强大功能和灵活性，无论是数据导入和索引构建，还是数据查询和分析，或者是数据预处理和模型训练，都可以使用Solr轻松实现。所以，在这个大数据横行霸道的时代，不论是公司还是个人，如果你们真心想要在这场竞争中脱颖而出，那么掌握Solr技术绝对是你们必须要跨出的关键一步。就像是拿到通往成功大门的秘密钥匙，可不能小觑！

...ySQL COUNT函数性能优化的过程中，我们了解到了针对大规模数据处理时可能遇到的挑战以及几种有效的解决方案。实际上，数据库性能优化是一个持续演进和深入研究的领域，不断有新的技术和策略涌现。 近日，MySQL 8.0版本中引入了名为“Optimizer Hints”的新特性（参考：MySQL官方文档），它允许开发者直接对特定查询提供优化建议，从而影响SQL查询优化器的行为。这意味着，在处理COUNT函数或其他复杂查询时，我们可以更精准地指导MySQL如何利用索引、执行计划等资源，进一步提升查询性能。 此外，针对大数据时代下的海量数据处理需求，许多企业开始采用分布式数据库架构，如Google Spanner、Amazon Aurora等，这些系统在设计之初就充分考虑了大规模数据统计查询的效率问题，通过分片、并行计算等技术手段显著提升了COUNT等聚合操作的响应速度。 同时，业界专家也强调了数据库设计阶段的重要性，提倡合理规划表结构与索引策略，例如避免NULL值过多、选择适合的数据类型以及适时进行数据归档清理等，这些都是提高MySQL COUNT函数性能不可或缺的基础工作。 综上所述，对于MySQL COUNT函数性能优化的探索不仅停留在函数本身的使用技巧层面，更需要结合最新的数据库技术发展动态、深入理解数据库底层原理，并在实践中灵活运用以应对日益增长的数据处理挑战。

...doop中实现高效的数据转换和处理过程 随着大数据时代的到来，Hadoop作为一个开源的分布式计算框架，以其卓越的大数据存储与处理能力赢得了广泛的认可。本文将深入探讨如何在Hadoop环境中实现高效的数据转换和处理过程，通过实例代码揭示其背后的奥秘。 1. Hadoop生态系统简介 Hadoop的核心组件主要包括HDFS（Hadoop Distributed File System）和MapReduce。HDFS负责海量数据的分布式存储，而MapReduce则提供了并行处理大规模数据集的强大能力。在此基础上，我们可以通过编写特定的Map和Reduce函数，实现对原始数据的转换和处理。 2. 数据转换 Map阶段 让我们首先通过一个简单的示例理解Hadoop MapReduce中的数据转换过程： java import java.io.IOException; import org.apache.hadoop.io.IntWritable; import org.apache.hadoop.io.LongWritable; import org.apache.hadoop.io.Text; import org.apache.hadoop.mapreduce.Mapper; public class WordCountMapper extends Mapper { private final static IntWritable one = new IntWritable(1); private Text word = new Text(); public void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException { String line = value.toString(); for (String eachWord : line.split("\\s+")) { word.set(eachWord); context.write(word, one); // 将单词作为key，计数值1作为value输出 } } } 这段代码是Hadoop实现词频统计任务的Mapper部分，它实现了数据从原始文本格式到键值对形式的转换。当Map阶段读取每行文本时，将其拆分为单个单词，并以单词为键、值为1的形式输出，实现了初步的数据转换。 3. 数据处理 Reduce阶段 接下来，我们看下Reduce阶段如何进一步处理这些键值对，完成最终的数据聚合： java import java.io.IOException; import org.apache.hadoop.io.IntWritable; import org.apache.hadoop.io.Text; import org.apache.hadoop.mapreduce.Reducer; public class WordCountReducer extends Reducer { public void reduce(Text key, Iterable values, Context context) throws IOException, InterruptedException { int sum = 0; for (IntWritable val : values) { sum += val.get(); // 对所有相同键的值进行累加 } context.write(key, new IntWritable(sum)); // 输出每个单词及其出现次数 } } 在上述Reducer类中，对于每一个输入的单词（键），我们将所有关联的计数值（值）相加，得到该单词在整个文本中的出现次数，从而完成了数据的聚合处理。 4. 思考与讨论 Hadoop的魅力在于，通过分解复杂的计算任务为一系列简单的Map和Reduce操作，我们可以轻松地应对海量数据的转换和处理。这种并行计算模型就像是给电脑装上了超级引擎，让数据处理速度嗖嗖地往上窜。而且更棒的是，它把数据分散存放在一整个集群的各个节点上，就像把鸡蛋放在不同的篮子里一样。这样一来，不仅能够轻松应对大规模运算，就算某个节点出个小差错，其他的节点也能稳稳接住，保证整个系统的稳定性和可扩展性杠杠的！ 然而，尽管Hadoop在数据处理方面表现出色，但并非所有场景都适用。比如，在那种需要迅速反馈或者频繁做大量计算的情况下，像Spark这类流处理框架或许会是个更棒的选择。这就意味着在咱们实际操作的项目里，面对不同的需求和技术特点时，咱们得像个精明的小侦探，灵活机智地挑出最对味、最适合的数据处理武器和战术方案。 总的来说，借助Hadoop，我们能够构建出高效的数据转换和处理流程，从容应对大数据挑战。不过呢，咱们也得时刻想着把它的原理摸得更透彻些，还有怎么跟其他的技术工具灵活搭配使用。这样一来，咱就能在那些乱七八糟、变来变去的业务环境里头，发挥出更大的作用，创造更大的价值啦！

...stance是预计算数据模型的具体实例，包含了构建Cube所需的详细信息，如Cube名称、维度定义、度量定义以及其元数据和状态等。它代表了一个已经创建并可以被查询的实际Cube对象。 维度（Dimension） , 在Kylin Cube设计中，维度是指分析数据时用于描述事实表中各个记录的属性或特征，例如时间、地区、产品类别等。维度决定了数据集中的观察角度，并影响着Cube的数据聚合级别和大小。通过选择合适的维度组合，用户可以在查询时快速定位到所需的数据子集。 度量（Measure） , 在Kylin Cube中，度量是指需要进行聚合运算的字段，通常对应业务指标，如销售额、访问量、用户数等。对于每个度量，可以根据实际需求配置相应的聚合函数，如SUM（求和）、AVG（平均值）、COUNT（计数）等，以实现对原始数据的高效统计分析。 切片设计（Slice Design） , 在Apache Kylin中，切片设计是指将Cube划分为多个较小的部分，即“切片”，以便于分布式并行处理和存储。切片的设计直接影响了Cube构建和查询的性能，合理的切片划分能够有效分散计算压力，提高处理效率。 分区策略（Partition Strategy） , 在大数据环境下，分区策略是一种物理数据组织方式，主要用于优化数据管理和查询性能。在Kylin Cube中，分区策略主要指按照某个维度（如时间维度）将Cube划分为不同的逻辑单元，这些单元可以在构建和查询时独立执行，从而加速Cube构建过程及提升查询响应速度。例如，根据日期字段，可按月或按日对Cube进行分区。

...在Kibana中实现数据的切片？ 1. 为什么我们需要数据切片？ 在处理大量数据时，我们常常需要对数据进行过滤和分析，以便能够更清晰地看到特定条件下的数据特征。这就是所谓的“数据切片”。在Kibana中，数据切片可以帮助我们更高效地探索和理解我们的数据集。想象一下，你面前有一座数据的山脉，而数据切片就像是你的登山工具，帮助你在其中找到那些隐藏的宝藏。 2. Kibana中的数据切片工具 Kibana提供了多种工具来帮助我们实现数据切片，包括但不限于搜索栏、时间过滤器、索引模式以及可视化工具。这些工具凑在一起，就成了个超棒的数据分析神器，让我们可以从各种角度来好好研究数据，简直不要太爽！ 2.1 使用搜索栏进行基本数据切片 搜索栏是Kibana中最直接的数据切片工具之一。通过输入关键词，你可以快速筛选出符合特定条件的数据。例如，如果你想查看所有状态为“已完成”的订单，只需在搜索栏中输入status:completed即可。 代码示例： json GET /orders/_search { "query": { "match": { "status": "completed" } } } 2.2 利用时间过滤器进行时间切片 时间过滤器允许我们根据时间范围来筛选数据。这对于分析特定时间段内的趋势非常有用。比如，如果你想要查看过去一周内所有的用户登录记录，你可以设置时间过滤器来限定这个范围。 代码示例： json GET /logs/_search { "query": { "range": { "@timestamp": { "gte": "now-7d/d", "lt": "now/d" } } } } 2.3 使用索引模式进行多角度数据切片 索引模式允许你根据不同的字段来创建视图，从而从不同角度观察数据。比如说，你有个用户信息的大台账，里面记录了各种用户的小秘密，比如他们的位置和年龄啥的。那你可以根据这些小秘密，弄出好几个不同的小窗口来看，这样就能更清楚地知道你的用户都分布在哪儿啦！ 代码示例： json PUT /users/_mapping { "properties": { "location": { "type": "geo_point" }, "age": { "type": "integer" } } } 2.4 利用可视化工具进行高级数据切片 Kibana的可视化工具（如图表、仪表板）提供了强大的数据可视化能力，使我们可以直观地看到数据之间的关系。比如说，你可以画个饼图来看看各种产品卖得咋样，比例多大；还可以画个时间序列图，看看每天的销售额是涨了还是跌了。 代码示例： 虽然直接通过API创建可视化对象不是最常见的方式，但你可以通过Kibana的界面来设计你的可视化，并将其导出为JSON格式。下面是一个简单的示例，展示了如何通过API创建一个简单的柱状图： json POST /api/saved_objects/visualization { "attributes": { "title": "Sales by Category", "visState": "{\"title\":\"Sales by Category\",\"type\":\"histogram\",\"params\":{\"addTimeMarker\":false,\"addTooltip\":true,\"addLegend\":true,\"addTimeAxis\":true,\"addDistributionBands\":false,\"scale\":\"linear\",\"mode\":\"stacked\",\"times\":[],\"yAxis\":{},\"xAxis\":{},\"grid\":{},\"waterfall\":{} },\"aggs\":[{\"id\":\"1\",\"enabled\":true,\"type\":\"count\",\"schema\":\"metric\",\"params\":{} },{\"id\":\"2\",\"enabled\":true,\"type\":\"terms\",\"schema\":\"segment\",\"params\":{\"field\":\"category\",\"size\":5,\"order\":\"desc\",\"orderBy\":\"1\"} }],\"listeners\":{} }", "uiStateJSON": "{}", "description": "", "version": 1, "kibanaSavedObjectMeta": { "searchSourceJSON": "{\"index\":\"sales\",\"filter\":[],\"highlight\":{},\"query\":{\"query_string\":{\"query\":\"\",\"analyze_wildcard\":true} }}" } }, "references": [], "migrationVersion": {}, "updated_at": "2023-09-28T00:00:00.000Z" } 3. 思考与实践 在实际操作中，数据切片并不仅仅是简单的过滤和查询，它还涉及到如何有效地组织和呈现数据。这就得咱们不停地试各种招儿，比如说用聚合函数搞更复杂的统计分析，或者搬出机器学习算法来预测未来的走向。每一次尝试都可能带来新的发现，让数据背后的故事更加生动有趣。 4. 结语 数据切片是数据分析中不可或缺的一部分，它帮助我们在海量数据中寻找有价值的信息。Kibana这家伙可真不赖，简直就是个数据分析神器，有了它，我们实现目标简直易如反掌！希望本文能为你提供一些灵感和思路，让你在数据分析的路上越走越远！ --- 以上就是本次关于如何在Kibana中实现数据切片的技术分享，希望能对你有所帮助。如果你有任何疑问或想了解更多内容，请随时留言讨论！

...发者喜爱。然而，在与数据库交互的过程中，SQL查询错误是难以避免的问题之一。本文将围绕“Go Iris中的SQL查询错误异常”这一主题，探讨其产生的原因、影响以及如何有效地进行捕获和处理，同时辅以丰富的代码示例，力求让您对这个问题有更深入的理解。 2. SQL查询错误概述 在使用Go Iris构建应用程序并集成数据库操作时，可能会遇到诸如SQL语法错误、数据不存在或权限问题等导致的SQL查询错误。这类异常情况如果不被好好处理，那可不只是会让程序罢工那么简单，它甚至可能泄露一些核心机密，搞得用户体验大打折扣，严重点还可能会对整个系统的安全构成威胁。 3. Go Iris中处理SQL查询错误的方法 让我们通过一段实际的Go Iris代码示例来观察和理解如何优雅地处理SQL查询错误： go package main import ( "github.com/kataras/iris/v12" "github.com/go-sql-driver/mysql" "fmt" ) func main() { app := iris.New() // 假设我们已经配置好了数据库连接 db, err := sql.Open("mysql", "user:password@tcp(127.0.0.1:3306)/testdb") if err != nil { panic(err.Error()) // 此处处理数据库连接错误 } defer db.Close() // 定义一个HTTP路由处理函数，其中包含SQL查询 app.Get("/users/{id}", func(ctx iris.Context) { id := ctx.Params().Get("id") var user User err = db.QueryRow("SELECT FROM users WHERE id=?", id).Scan(&user.ID, &user.Name, &user.Email) if err != nil { if errors.Is(err, sql.ErrNoRows) { // 处理查询结果为空的情况 ctx.StatusCode(iris.StatusNotFound) ctx.WriteString("User not found.") } else if mysqlErr, ok := err.(mysql.MySQLError); ok { // 对特定的MySQL错误进行判断和处理 ctx.StatusCode(iris.StatusInternalServerError) ctx.WriteString(fmt.Sprintf("MySQL Error: %d - %s", mysqlErr.Number, mysqlErr.Message)) } else { // 其他未知错误，记录日志并返回500状态码 log.Printf("Unexpected error: %v", err) ctx.StatusCode(iris.StatusInternalServerError) ctx.WriteString("Internal Server Error.") } return } // 查询成功，继续处理业务逻辑... // ... }) app.Listen(":8080") } 4. 深入思考与讨论 面对SQL查询错误，我们应该首先确保它被正确捕获并分类处理。就像刚刚提到的例子那样，面对各种不同的错误类型，我们完全能够灵活应对。比如说，可以选择扔出合适的HTTP状态码，让用户一眼就明白是哪里出了岔子；还可以提供一些既友好又贴心的错误提示信息，让人一看就懂；甚至可以细致地记录下每一次错误的详细日志，方便咱们后续顺藤摸瓜，找出问题所在。 在实际项目中，我们不仅要关注错误的处理方式，还要注重设计良好的错误处理策略，例如使用中间件统一处理数据库操作异常，或者在ORM层封装通用的错误处理逻辑等。这些方法不仅能提升代码的可读性和维护性，还能增强系统的稳定性和健壮性。 5. 结语 总之，理解和掌握Go Iris中SQL查询错误的处理方法至关重要。只有当咱们应用程序装上一个聪明的错误处理机制，才能保证在数据库查询出岔子的时候，程序还能稳稳当当地运行。这样一来，咱就能给用户带来更稳定、更靠谱的服务体验啦！在实际编程的过程中，咱们得不断摸爬滚打，积攒经验，像升级打怪一样，一步步完善我们的错误处理招数。这可是我们每一位开发者都该瞄准的方向，努力做到的事儿啊！

1. 引言 在大数据时代，数据库作为数据存储和查询的核心组件，其性能直接影响着业务效率。DorisDB，这款采用分布式、MPP架构设计的列式数据库，可以说是相当厉害了。它能像压缩饼干一样高效地“挤”数据，大大节省存储空间；查询速度更是快如闪电，让你无需漫长等待；而且它的实时分析功能强大到飞起，让用户们爱不释手。正是因为这些优点，DorisDB才赢得了众多用户的芳心和点赞呢！然而，在实际操作的时候，我们可能会遇到SQL查询速度卡壳的问题，这篇文呢，咱就来好好唠唠嗑，聊聊怎么通过各种小妙招优化DorisDB这个数据库系统的SQL查询效率，让它跑得溜溜的。 2. 理解与诊断查询性能 首先，我们需要对DorisDB的查询过程有一个基本理解，这包括查询计划的生成、数据分区的选择以及执行引擎的工作原理等。当你发现查询速度不尽如人意时，可以通过EXPLAIN命令来查看SQL语句的执行计划，如同医生检查病人的“体检报告”一样： sql -- 使用EXPLAIN获取查询计划 EXPLAIN SELECT FROM my_table WHERE key = 'some_value'; 通过分析这个执行计划，我们可以了解到查询涉及哪些分区、索引是否被有效利用等关键信息，从而为优化工作找准方向。 3. 优化策略一 合理设计表结构与分区策略 - 列选择性优化：由于DorisDB是列式存储，高选择性的列（即唯一或接近唯一的列）能更好地发挥其优势。例如，对于用户ID这样的列，将其设为主键或构建Bloom Filter索引，可以大幅提升查询性能。 sql -- 创建包含主键的表 CREATE TABLE my_table ( user_id INT PRIMARY KEY, ... ); - 分区设计：根据业务需求和数据分布特性，合理设计分区策略至关重要。比如，咱们可以按照时间段给数据分区，这样做的好处可多了。首先呢，能大大减少需要扫描的数据量，让查询过程不再那么费力；其次，还能巧妙地利用局部性原理，就像你找东西时先从最近的地方找起一样，这样就能显著提升查询的效率，让你的数据查找嗖嗖快！ sql -- 按天分区 CREATE TABLE my_table ( ... ) PARTITION BY RANGE (dt) ( PARTITION p20220101 VALUES LESS THAN ("2022-01-02"), PARTITION p20220102 VALUES LESS THAN ("2022-01-03"), ... ); 4. 优化策略二 SQL查询优化 - 避免全表扫描：尽量在WHERE子句中指定明确的过滤条件，利用索引加速查询。例如，假设我们已经为user_id字段创建了索引，那么以下查询会更高效： sql SELECT FROM my_table WHERE user_id = 123; - 减少数据传输量：只查询需要的列，避免使用SELECT 。同时，合理运用聚合函数和分组，避免不必要的计算和排序。 sql -- 只查询特定列，避免全表扫描 SELECT user_name, email FROM my_table WHERE user_id = 123; -- 合理运用GROUP BY和聚合函数 SELECT COUNT(), category FROM my_table GROUP BY category; 5. 优化策略三 系统配置调优 DorisDB提供了丰富的系统参数供用户调整以适应不同场景下的性能需求。比方说，你可以通过调节max_scan_range_length这个参数，来决定每次查询时最多能扫描多少数据范围，就像控制扫地机器人的清扫范围那样。再者，通过巧妙调整那些和内存相关的设置，就能让服务器资源得到充分且高效的利用，就像精心安排储物空间，让每个角落都物尽其用。 6. 结语 优化DorisDB的SQL查询性能是一个综合且持续的过程，需要结合业务特点和数据特征，从表结构设计、查询语句编写到系统配置调整等多个维度着手。每个环节都需细心打磨，才能使DorisDB在大数据洪流中游刃有余，提供更为出色的服务。每一次对DorisDB的优化，都是我们携手这位好伙伴，一起摸爬滚打、不断解锁新技能、共同进步的重要印记。这样一来，咱的数据分析之路也能走得更顺溜，效率嗖嗖往上涨，就像坐上了火箭一样快呢！

哎呀，你听说过数据的世界吗？在这个大数据满天飞的时代，Kibana就像是一位超级厉害的侦探，专门帮咱们搞清楚Elasticsearch这个庞然大物里面藏着的秘密！它用那双神奇的眼睛，把海量的数据变成了看得懂、摸得着的图形和故事，让咱们能轻松地理解那些复杂的数据，分析出有价值的信息。就像是在一堆乱七八糟的线索中，找到了关键的证据，让咱们的决策更有依据，工作更高效！今天，让我们一起探索如何在Kibana中实现自定义数据聚合函数，解锁数据洞察的新维度。 一、为何需要自定义数据聚合函数？ 在数据科学和业务分析领域，我们经常遇到需要对数据进行定制化的分析需求。比如说，咱们得算出一堆数据里头某个指标的具体数值，就像找出一堆水果中最大的那个苹果。或者，我们还能根据时间序列，也就是按照时间顺序排列的数据，来预测未来的走向，就像是看天气预报，预测明天会不会下雨。还有就是，分析用户的个性化行为，比如有的人喜欢早起刷微博，有的人则习惯晚上熬夜看剧，我们要找出这些不同模式，就像是理解朋友的性格差异，知道什么时候找他们聊天最有效。哎呀，你知道的，有时候我们手上的数据，它们就像一群不听话的小孩，现有的那些内置工具啊，就像妈妈的规则，根本管不住他们。这就逼得我们得自己发明一些新的小把戏，比如自定义的数据聚合函数，这样就能更灵活地把这些数据整理成我们需要的样子啦。就像是给每个小孩量身定制的玩具，既符合他们的特性，又能让他们乖乖听话，多好啊！ 二、Kibana自定义聚合函数的实现 在Kibana中，实现自定义聚合函数主要依赖于_scripted_metric聚合类型。这种类型的聚合允许用户编写JavaScript代码来定义自己的聚合逻辑。下面，我们将通过一个简单的示例来展示如何实现一个自定义聚合函数。 示例：计算数据的“活跃天数” 假设我们有一个日志数据集，每条记录代表一次用户操作，我们需要计算用户在某段时间内的活跃天数（即每天至少有一次操作）。 步骤1：定义聚合代码 首先，我们需要编写JavaScript代码来实现我们的逻辑。以下是一个示例： javascript { "aggs": { "active_days": { "scripted_metric": { "init_script": "total_days = 0", "map_script": "if (doc['timestamp'].value > 0) { total_days++; }", "combine_script": "return total_days", "reduce_script": "return sum" } } }, "script_fields": { "timestamp": { "script": { "source": "doc['timestamp'].value", "lang": "painless" } } } } 解释： - init_script：初始化变量total_days为0。 - map_script：当timestamp字段值大于0时，将total_days加1。 - combine_script：返回当前total_days的值。 - reduce_script：用于汇总多个聚合结果，这里使用sum函数将所有total_days值相加。 步骤2：执行聚合 在Kibana中创建一个新的搜索查询，选择_scripted_metric聚合类型，并粘贴上述代码片段。确保数据源正确，然后运行查询以查看结果。 三、实战应用与优化 在实际项目中，自定义聚合函数可以极大地增强数据分析的能力。例如，你可能需要根据业务需求调整map_script中的条件，或者优化init_script和combine_script以提高性能。 实践建议： - 测试与调试：在部署到生产环境前，务必充分测试自定义聚合函数，确保其逻辑正确且性能良好。 - 性能考虑：自定义聚合函数可能会增加查询的复杂度和执行时间，特别是在处理大量数据时。合理设计脚本，避免不必要的计算，以提升效率。 - 可读性：保持代码简洁、注释清晰，方便团队成员理解和维护。 四、结语 自定义数据聚合函数是Kibana强大的功能之一，它赋予了用户无限的创造空间，能够针对特定业务需求进行精细的数据分析。通过本文的探索，相信你已经掌握了基本的实现方法。嘿，兄弟！你得记住，实践就是那最棒的导师。别老是坐在那里空想，多动手做做看，不断试验，然后调整改进。这样啊，你的数据洞察力，那可是能突飞猛进的。就像种花一样，你得浇水、施肥、修剪，它才会开花结果。所以，赶紧去实践吧，让自己的技能开枝散叶！在数据的海洋中航行，自定义聚合函数就是你手中的指南针，引领你发现更多宝藏。

...le 表名(属性名 数据类型[约束条件],…); Paimary key 主键 auto_increment自增 foreign key 外键 references 另一表名(字段名).–>外键这个表连接着另外一个表的哪个键. 删除表: drop table 表名;–>表结构也删除了(也即是这个表没了) Truncate table 表名 --> 只删除表中数据,表结构不会删除. 2.In 与 not in 在或不在这个(1,3)里面,单个查询,只会查询(1或者3) 3.Between and 与 not … 和上面差不多,Between 1 and 3 但是这个是范围查询(1,3) 1-3 之间(包含1,3) 4.Like,模糊查询 “%” 代表任意字符,”_”代表单个字符. 5.Is Not null 与 is null 是否为空 6.And 与 or 一个是所有条件都要完成,or则是任何一个条件完成即可 7.Distinct 去重 8.Order by age asc 与 desc 排序,假如根据age排序,asc正序(升序默认),desc倒叙(降序) 9.Gruop by 分组查询,单独使用无意义,group_concat(字段),拼接,若是根据age group by 则会发现age一样的会出现在同一字段内 例如: : 最后要注意group by 后面的字段与所查字段的关系(一对一),当然还有having,having和where基本一样,只不过跟在group by后面. 10.Limit 分页查询 limit 0,5 .查询前5条数据,从0开始,5结束,但是5取不到,也即是取头不取尾. 11.聚合函数:count() 查询数据的总数据量 经常使用别名 例如:as total sum(字段)函数:求和…若字段为成绩,where条件或gruop by 为个人的id,那么查出的就是个人的成绩总分. AVG(字段),但是查的是平均分,min(字段)与max(字段) 查出最小或最大. 三者都类似sum(),当然max()与min()若是在最前面使用,就会当条件查询只会出来这一笔数据.例如: 12.Sql多表查询,内连接不只是inner join,平时写的from a表,b表 where 条件这也是内连接,意思就是两张表中数据都有才可以查询出来 13.而外连接分为左连接和右连接,意思是以左表或右表为主,假如两张表,左表数据多,右表数据少,且条件符合,则左连接的时候左表数据全部出来,右表没有的为null,反之也是一样. 14.Exist() 与 not exist() …()内的数据是否为空,若是为空则代表false,返回数据为空,若不为空,则代表true,正常查询. 15.Any 与 all 例如 age > any(age1,age2) 大于两者中的一个就可以,但是all的情况下则是全部大于.也就是相当于,any为大于最小的,all则是大于最大的就行了,当然若是小于号那就是另外一种情况了,另外分析. 16.Union,(也就是联合的意思,自带distinct,重复的去除)用法,例如两张表的id要全部查出来,则:select id from A union select id from B ,若Aid为1,2,3,Bid为1,2,4.则查出来的数据为1.2.3.4,若是union all,则不带distinct,用法一样,查出来以后为1.2.3.1.2.4. 17.给表取别名,表名 空格 别名 给字段取别名 字段名 as 别名. 18.Insert插入数据时若是使用insert into 表名 values();主键必须到写进去,当然与其他数据不相同即可,若是自增,可以写null.若是insert into 表名(字段)values(值),这时插入数据,字段不用写主键字段,写入其他数据字段名与值就可以完成数据的添加.(主键自己生成为前提,UUID,auto_increament都可以). 19.Insert into 插入多条数据时,其他与18一样,只不过由values()变成了values(),(),(); 20.索引是由数据库表中一列或多列组合而成,其作用提高对表数据的查询速度.像图书目录. 优缺点:优:提高了查询数据的效率.缺:创建和维护索引的时间增加了(内容改了,目录也要改). 21.索引分类:普通索引,唯一性索引UNIQUE(unique修饰,例如主键),全文索引FULLTEXT(创建在文本上,例如:char,varchar,varchar2等,mysql默认引擎不支持,),单列索引:单个字段建立索引,多列索引:多个字段创建一个索引,空间索引SPATIAL:不常用(mysql默认引擎不支持) 22.创建索引: index为关键字,或者key (1)可以index(字段名)–>普通索引 (2)Unique index(字段名)–>唯一索引 (3)Unique index 别名(字段名)–>取别名的唯一索引 (4)index 别名(字段名1,字段名2)–>取别名的多列索引 1.创建表的时候创建索引, 前三个为参数修饰,唯一性,全文,空间索引; 2.在已存在的表上创建索引,或者用ALTER TABLE 表名 ADD 索引,也就是用修改表的形式来创建索引 Create index 索引别名 on 表名(字段名) -->普通单列索引 Create index 索引别名 on 表名(字段名1,字段名2) -->多列索引 Create unique index 索引别名 on 表名(字段名) -->唯一单列索引 Alter table 表名 add +(1)|(2)|(3)|(4)即可. 23.删除索引: drop index 索引名 on 表名. 24.NOW(); mysql的函数,表示当前时间 25.视图:是一个虚拟的表,没有物理数据,是从其他表中导出的数据,当原表数据发生改变时,视图数据也会发生改变,反之也一样. (1)作用:操作简单化;增加数据安全性:不直接对表进行操作;提高表的逻辑性:原表修改字段对视图无影响. (2)创建视图:语法:create view 视图名 as 查询语句. 例如:create view vi as select id,name from user;–>这是把user中id,name字段的数据写入到vi视图中. 若是想自己定义字段名不用查出的字段名,可以如下面这样写. 例如:create view vi(vi_id,vi_name) as select id,name from user;–>这样的话id对应vi_id,name对应vi_name; 上面的都是单表的视图,多表的视图也是一样的,只不过后面的单表查询变成多表查询了. 建议创建视图后自己定义字段名,也即是定义别名. (3)查看视图: Describe(desc) 视图名–>查看视图基本信息 Show table status like ‘视图名’ --> 查看视图基本信息 Show create view 视图名 --> 视图详细信息,建表具体信息. 在view表中查看视图详细信息–>view 系统表 自带的. (4)修改视图:修改使徒的定义 Create or replace view 没有的话就创建,有的话就替换 例如:Create or replace view vi(id,name) as select语句. Alter view 只修改不能创建(也就是说视图必须存在的情况下才可修改) Alter view vi as select语句 (5)更新视图:视图是虚拟的,对视图进行的crud操作都会对原表的数据产生影响. 也就是说对视图的操作最后都会转换为对视图所连接那个表的操作. (6)删除视图:删除数据库中已存在的视图,视图为虚表,因此只会删除结构,不会删除数据. Drop view if exist 视图名. 26.触发器:由事件来触发某个操作,这些事件包括insert语句,update语句和delete语句.当数据库系统执行这些事件时,就会激活触发器执行相应的方法. 创建触发器:create trigger 触发器名 (before/after) 触发事件 on 表名 for each row sql语句. 这里的new是指代新插入的拿一条数据(更新的也算),若是old的话,指的是删除的那一条数据(更新之前的数据).(new和old属于过渡变量) 这条触发器的意思时:当t_book有插入数据时,就会根据新插入数据的id找到t_bookType的id,并试该条数据的bookNum加1. Begin与end写sql语句,中间可以写多条sql语句用分号;分隔开…也即是说语句要写完成,不能少分号. Delimiter | 设置分隔符,要不然好像只会执行begin与and之间的第一条sql语句. 查看触发器: 1.show triggers; 语句查看触发器信息.(查询所有的触发器) 2.在triggers表中查看触发器信息.(在数据库原始表triggers中可以查看) 删除触发器: Drop trigger 触发器名称 ; 27.函数: (1)日期函数: CURDATE()当前日期,CURTIME()当前时间,MONTH(d):返回日期d中的月份值,范围试1-12 (2)字符串函数:CHAR_LENGTH(s) 计算字段s值->字符串的长度.UPPER(s) 把该字段的值中所有英文都变成大写,LOWER(s) 和相面相反->把英文都变成小写. (3)数学函数:sum():求和,ABS(s) 求绝对值,SQRT(s):求平方根,mod(x,y),求余x/y (4)加密函数:PASSWORD(STR) 一般对密码加密 不可逆… MD5(STR) 普通加密 ,不可逆. ENCODE(str,pswd_str) 加密函数,结果是一个二进制文件,用blob类型的字段保存,pswd_str类似一个加密的钥匙,可以随便写. DECODE(被加密的值,pswd_str)–>对encode进行解密. 28.存储过程: (1)存储过程和函数:两者是在数据库中定义一些SQL语句的集合,然后直接调用这些存储过程和函数来执行已经定义好的SQL语句.存储过程和函数可以避免重复的写一些sql语句,而且存储过程是在mysql服务器中存储和执行的,减少客户端和服务器端的数据传输.(类似于java代码写的工具类.) (2)创建存储过程和函数: Create procedure 关键字 pro_book 存储过程名称, in 输入 bT 输入参数名称 int 输入参数类型 out 输出 count_num 输出参数名称 int 输入参数类型 Begin 过程开始 end过程结束 中间是sql语句, Delimiter 默认是分号,而他的作用就是若是遇见分号时就开始执行该过程(语句),但是一个存储过程可能有很多sql语句且以分号结束,若这样的情况下当第一条sql语句结束后就会开始执行该过程,产生的后果是创建过程时,执行到第一个分号就会开始创建,导致存储过程创建错误.(若是有多个参数,在多条sql中均有参数,第一条设置完执行了,而这时第二条的参数有可能还么有设置完成,导致sql执行失败.)因此,需要把默认执行过程的demiliter关键字的默认值改为其他的字符,例如上面的就是改为&&,(当然我认为上面就一条sql语句,改不改默认的demiliter的默认值都一样.) . 使用navicat的话不使用delimiter好像也是可以的. Reads sql data则是上面图片所提到的参数指定存储过程的特性.(这个是指读数据,当然还有写输入与读写数据专用的参数类型.)看下图 经常用contains sql (应该是可以读,) 这个是调用上面的存储过程,1为入参,@total相当于全局变量,为出参. 这是一个存储函数,create function 为关键字,fun_book为函数名称, 括号里面为传入的参数名(值)以及入参的类型.RETURNS 为返回的关键字,后面接返回的类型. BEGIN函数开始,END函数结束.中间是return 以及查询数据的sql语句, 这里是指把bookId 传进去,通过存储函数返回对应的书本名字, ---------存储函数的调用和调用系统函数一样 例如:select 存储函数名称(入参值) Select 为查询 func_book 为存储函数名 2为入参值. (3)变量的使用:declaer:声明变量的值 Delimiter && Create procedure user() Begin Declare a,b varchar2(20) ; — a,b有默认的值,为空 Insert into user values(a,b); End && Delimiter ; Set 可以用来赋值,例如: 可以从其他表中查询出对应的值插入到另一个表中.例如: 从t_user2中查询出username2与password2放入到变量a,b中,然后再插入到t_user表中.(当然这只是创建存储过程),创建完以后,需要用CALL 存储过程名(根据过程参数描写.)来调用存储过程.注意:这一种的写法只可以插入单笔数据,若是select查询出多笔数据,因为无循环故而会插入不进去语句,会导致倒致存储过程时出错.下面的游标也是如此. (4)游标的使用.查询语句可能查询出多条记录,在存储过程和函数中使用游标逐条读取查询结果集中的记录.游标的使用包括声明游标,打开游标,使用游标和关闭游标.游标必须声明到处理程序之前,并且声明在变量和条件之后. 声明:declare 游标名 curson for 查询sql语句. 打开:open 游标名 使用:fetch 游标名 into x, 关闭:close 游标名 ----- 游标只能保存单笔数据. 类似于这一个,意思就是先查询出来username2,与password2的值放入到cur_t_user2的游标中(声明,类似于赋值),然后开启->使用.使用的意思就是把游标中存储的值分别赋值到a,b中,然后执行sql语句插入到t_user表中.最后关闭游标. (5)流程控制的使用:mysql可以使用:IF 语句 CASE语句 LOOP语句 LEAVE语句 ITERATE 语句 REPEAT语句与WHILE语句. 这个过程的意思是,查询t_user表中是否存在id等于我们入参时所写的id,若有的情况下查出有几笔这样的数据并且把数值给到全局变量@num中,if判断是否这样的数据是否存在,若是存在执行THEN后面的语句,即使更新该id对应的username,若没有则插入一条新的数据,最后注意END IF. 相当于java中的switch case.例如: 这里想当然于,while(ture){ break; } 这里的意思是,参数一个int类型的参数,loop aaa循环,把参数当做主键id插入到t_user表中,每循环一次参入的参数值减一,直到参数值为0,跳出循环(if判断,leave实现.) 相当于java的continue. 比上面的多了一个当totalNum = 3时,结束本次循环,下面的语句不在执行,直接执行下一次循环,也即是说插入的数据没有主键为3的数据. 和上面的差不多,只不过当执行到UNTIL时满足条件时,就跳出循环.就如上面那一个意思就是当执行到totalNum = 1时,跳出循环,也就是说不会插入主键为0的那一笔数据 当while条件判断为true时,执行do后面的语句,否则就不再执行. (6)调用存储过程和函数 CALL 存储过程名字(参数值1,参数值2,…) 存储函数名称(参数值1,参数值2,…) (7)查看存储过程和函数. Show procedure status like ‘存储过程名’ --只能查看状态 Show create procedure ‘存储过程名’ – 查看定义(使用频率高). 存储函数查看也和上面的一样. 当然还可以从information_schema.Routines中(系统数据库表)查看存储过程与函数. (8)修改存储过程与函数: 修改存储过程comment属性的值 ALTER procedure 存储过程名 comment ‘新值’; (9)删除存储过程与函数: DROP PROCEDURE 存储过程名; DROP function 存储函数名; 29.数据备份与还原: (1)数据备份:数据备份可以保证数据库表的安全性,数据库管理员需要定期的进行数据库备份. 命令:使用mysqldump(下图),或者使用图形工具 Mysqldump在msql文件夹+bin+mysqldump.exe中,相当于一个小软件.执行的话是在dos命令窗操作的. 其实就是导出数据库数据,在navacat中可以如下图导出 (2)数据还原: 若是从navacat中就是把外部的.sql文件数据导入到数据库中去.如下图 本篇文章为转载内容。原文链接：https://blog.csdn.net/qq_42847571/article/details/102686087。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...到其他客户端的请求的影响。 Redis 的事务涉及到四个命令:multi(开启事务)，exec(执行事务)，discard (取消事务)，watch(监视) 2.2 事务的用法 案例场景:tom 和 mic 各有 1000 元，tom 需要向 mic 转账 100 元。tom 的账户余额减少 100 元，mic 的账户余额增加 100 元。 通过 multi 的命令开启事务。事务不能嵌套，多个 multi 命令效果一样。 multi 执行后，客户端可以继续向服务器发送任意多条命令，这些命令不会立即被执行，而是被放到一个队列中，当 exec 命令被调用时，所有队列中的命令才会被执行。 通过 exec 的命令执行事务。如果没有执行 exec，所有的命令都不会被执行。如果中途不想执行事务了，怎么办? 可以调用 discard 可以清空事务队列，放弃执行。 2.3 watch命令 在 Redis 中还提供了一个 watch 命令。 它可以为 Redis 事务提供 CAS 乐观锁行为(Check and Set / Compare and Swap)，也就是多个线程更新变量的时候，会跟原值做比较，只有它没有被其他线程修改的情况下，才更新成新的值。 我们可以用 watch 监视一个或者多个 key，如果开启事务之后，至少有一个被监视 key 键在 exec 执行之前被修改了，那么整个事务都会被取消(key 提前过期除外)。可以用 unwatch 取消。 2.4 事务可能遇到的问题 我们把事务执行遇到的问题分成两种，一种是在执行 exec 之前发生错误，一种是在执行 exec 之后发生错误。 2.4.1 在执行 exec 之前发生错误 比如：入队的命令存在语法错误，包括参数数量，参数名等等(编译器错误)。 在这种情况下事务会被拒绝执行，也就是队列中所有的命令都不会得到执行。 2.4.2 在执行 exec 之后发生错误 比如，类型错误，比如对 String 使用了 Hash 的命令，这是一种运行时错误。 最后我们发现 set k1 1 的命令是成功的，也就是在这种发生了运行时异常的情况下， 只有错误的命令没有被执行，但是其他命令没有受到影响。 这个显然不符合我们对原子性的定义，也就是我们没办法用 Redis 的这种事务机制来实现原子性，保证数据的一致。 3、Lua脚本 Lua/ˈluə/是一种轻量级脚本语言，它是用 C 语言编写的，跟数据的存储过程有点类似。 使用 Lua 脚本来执行 Redis 命令的好处: 1、一次发送多个命令，减少网络开销。 2、Redis 会将整个脚本作为一个整体执行，不会被其他请求打断，保持原子性。 3、对于复杂的组合命令，我们可以放在文件中，可以实现程序之间的命令集复用。 3.1 在Redis中调用Lua脚本 使用 eval /ɪ’væl/ 方法，语法格式: redis> eval lua-script key-num [key1 key2 key3 ....] [value1 value2 value3 ....] eval代表执行Lua语言的命令。 lua-script代表Lua语言脚本内容。 key-num表示参数中有多少个key，需要注意的是Redis中key是从1开始的，如果没有key的参数，那么写0。 [key1key2key3…]是key作为参数传递给Lua语言，也可以不填，但是需要和key-num的个数对应起来。 [value1 value2 value3 …]这些参数传递给 Lua 语言，它们是可填可不填的。 示例，返回一个字符串，0 个参数: redis> eval "return 'Hello World'" 0 3.2 在Lua脚本中调用Redis命令 使用 redis.call(command, key [param1, param2…])进行操作。语法格式: redis> eval "redis.call('set',KEYS[1],ARGV[1])" 1 lua-key lua-value command是命令，包括set、get、del等。 key是被操作的键。 param1,param2…代表给key的参数。 注意跟 Java 不一样，定义只有形参，调用只有实参。 Lua 是在调用时用 key 表示形参，argv 表示参数值(实参)。 3.2.1 设置键值对 在 Redis 中调用 Lua 脚本执行 Redis 命令 redis> eval "return redis.call('set',KEYS[1],ARGV[1])" 1 gupao 2673 redis> get gupao 以上命令等价于 set gupao 2673。 在 redis-cli 中直接写 Lua 脚本不够方便，也不能实现编辑和复用，通常我们会把脚本放在文件里面，然后执行这个文件。 3.2.2 在 Redis 中调用 Lua 脚本文件中的命令，操作 Redis 创建 Lua 脚本文件: cd /usr/local/soft/redis5.0.5/src vim gupao.lua Lua 脚本内容，先设置，再取值: cd /usr/local/soft/redis5.0.5/src redis-cli --eval gupao.lua 0 得到返回值: root@localhost src] redis-cli --eval gupao.lua 0 "lua666" 3.2.3 案例:对 IP 进行限流 需求：在 X 秒内只能访问 Y 次。 设计思路：用 key 记录 IP，用 value 记录访问次数。 拿到 IP 以后，对 IP+1。如果是第一次访问，对 key 设置过期时间(参数 1)。否则判断次数，超过限定的次数(参数 2)，返回 0。如果没有超过次数则返回 1。超过时间， key 过期之后，可以再次访问。 KEY[1]是 IP， ARGV[1]是过期时间 X，ARGV[2]是限制访问的次数 Y。 -- ip_limit.lua-- IP 限流，对某个 IP 频率进行限制 ，6 秒钟访问 10 次 local num=redis.call('incr',KEYS[1])if tonumber(num)==1 thenredis.call('expire',KEYS[1],ARGV[1])return 1elseif tonumber(num)>tonumber(ARGV[2]) thenreturn 0 elsereturn 1 end 6 秒钟内限制访问 10 次，调用测试(连续调用 10 次): ./redis-cli --eval "ip_limit.lua" app:ip:limit:192.168.8.111 , 6 10 app:ip:limit:192.168.8.111 是 key 值 ，后面是参数值，中间要加上一个空格和一个逗号，再加上一个空格 。 即:./redis-cli –eval [lua 脚本] [key…]空格,空格[args…] 多个参数之间用一个空格分割 。 代码:LuaTest.java 3.2.4 缓存 Lua 脚本 为什么要缓存 在脚本比较长的情况下，如果每次调用脚本都需要把整个脚本传给 Redis 服务端， 会产生比较大的网络开销。为了解决这个问题，Redis 提供了 EVALSHA 命令，允许开发者通过脚本内容的 SHA1 摘要来执行脚本。 如何缓存 Redis 在执行 script load 命令时会计算脚本的 SHA1 摘要并记录在脚本缓存中，执行 EVALSHA 命令时 Redis 会根据提供的摘要从脚本缓存中查找对应的脚本内容，如果找到了则执行脚本，否则会返回错误:“NOSCRIPT No matching script. Please use EVAL.” 127.0.0.1:6379> script load "return 'Hello World'" "470877a599ac74fbfda41caa908de682c5fc7d4b"127.0.0.1:6379> evalsha "470877a599ac74fbfda41caa908de682c5fc7d4b" 0 "Hello World" 3.2.5 自乘案例 Redis 有 incrby 这样的自增命令，但是没有自乘，比如乘以 3，乘以 5。我们可以写一个自乘的运算，让它乘以后面的参数： local curVal = redis.call("get", KEYS[1]) if curVal == false thencurVal = 0 elsecurVal = tonumber(curVal)endcurVal = curVal tonumber(ARGV[1]) redis.call("set", KEYS[1], curVal) return curVal 把这个脚本变成单行，语句之间使用分号隔开 local curVal = redis.call("get", KEYS[1]); if curVal == false then curVal = 0 else curVal = tonumber(curVal) end; curVal = curVal tonumber(ARGV[1]); redis.call("set", KEYS[1], curVal); return curVal script load ‘命令’ 127.0.0.1:6379> script load 'local curVal = redis.call("get", KEYS[1]); if curVal == false then curVal = 0 else curVal = tonumber(curVal) end; curVal = curVal tonumber(ARGV[1]); redis.call("set", KEYS[1], curVal); return curVal' "be4f93d8a5379e5e5b768a74e77c8a4eb0434441" 调用: 127.0.0.1:6379> set num 2OK127.0.0.1:6379> evalsha be4f93d8a5379e5e5b768a74e77c8a4eb0434441 1 num 6 (integer) 12 3.2.6 脚本超时 Redis 的指令执行本身是单线程的，这个线程还要执行客户端的 Lua 脚本，如果 Lua 脚本执行超时或者陷入了死循环，是不是没有办法为客户端提供服务了呢? eval 'while(true) do end' 0 为了防止某个脚本执行时间过长导致 Redis 无法提供服务，Redis 提供了 lua-time-limit 参数限制脚本的最长运行时间，默认为 5 秒钟。 lua-time-limit 5000(redis.conf 配置文件中) 当脚本运行时间超过这一限制后，Redis 将开始接受其他命令但不会执行(以确保脚本的原子性，因为此时脚本并没有被终止)，而是会返回“BUSY”错误。 Redis 提供了一个 script kill 的命令来中止脚本的执行。新开一个客户端: script kill 如果当前执行的 Lua 脚本对 Redis 的数据进行了修改(SET、DEL 等)，那么通过 script kill 命令是不能终止脚本运行的。 127.0.0.1:6379> eval "redis.call('set','gupao','666') while true do end" 0 因为要保证脚本运行的原子性，如果脚本执行了一部分终止，那就违背了脚本原子性的要求。最终要保证脚本要么都执行，要么都不执行。 127.0.0.1:6379> script kill(error) UNKILLABLE Sorry the script already executed write commands against the dataset. You can either wait the scripttermination or kill the server in a hard way using the SHUTDOWN NOSAVE command. 遇到这种情况，只能通过 shutdown nosave 命令来强行终止 redis。 shutdown nosave 和 shutdown 的区别在于 shutdown nosave 不会进行持久化操作，意味着发生在上一次快照后的数据库修改都会丢失。 4、Redis 为什么这么快? 4.1 Redis到底有多快？ 根据官方的数据，Redis 的 QPS 可以达到 10 万左右(每秒请求数)。 4.2 Redis为什么这么快? 总结:1)纯内存结构、2)单线程、3)多路复用 4.2.1 内存 KV 结构的内存数据库，时间复杂度 O(1)。 第二个，要实现这么高的并发性能，是不是要创建非常多的线程? 恰恰相反，Redis 是单线程的。 4.2.2 单线程 单线程有什么好处呢? 1、没有创建线程、销毁线程带来的消耗 2、避免了上线文切换导致的 CPU 消耗 3、避免了线程之间带来的竞争问题，例如加锁释放锁死锁等等 4.2.3 异步非阻塞 异步非阻塞 I/O，多路复用处理并发连接。 4.3 Redis为什么是单线程的? 不是白白浪费了 CPU 的资源吗? 因为单线程已经够用了，CPU 不是 redis 的瓶颈。Redis 的瓶颈最有可能是机器内存或者网络带宽。既然单线程容易实现，而且 CPU 不会成为瓶颈，那就顺理成章地采用单线程的方案了。 4.4 单线程为什么这么快? 因为 Redis 是基于内存的操作，我们先从内存开始说起。 4.4.1 虚拟存储器(虚拟内存 Vitual Memory) 名词解释:主存:内存;辅存:磁盘(硬盘) 计算机主存(内存)可看作一个由 M 个连续的字节大小的单元组成的数组，每个字节有一个唯一的地址，这个地址叫做物理地址(PA)。早期的计算机中，如果 CPU 需要内存，使用物理寻址，直接访问主存储器。 这种方式有几个弊端: 1、在多用户多任务操作系统中，所有的进程共享主存，如果每个进程都独占一块物理地址空间，主存很快就会被用完。我们希望在不同的时刻，不同的进程可以共用同一块物理地址空间。 2、如果所有进程都是直接访问物理内存，那么一个进程就可以修改其他进程的内存数据，导致物理地址空间被破坏，程序运行就会出现异常。 为了解决这些问题，我们就想了一个办法，在 CPU 和主存之间增加一个中间层。CPU 不再使用物理地址访问，而是访问一个虚拟地址，由这个中间层把地址转换成物理地址，最终获得数据。这个中间层就叫做虚拟存储器(Virtual Memory)。 具体的操作如下所示: 在每一个进程开始创建的时候，都会分配一段虚拟地址，然后通过虚拟地址和物理地址的映射来获取真实数据，这样进程就不会直接接触到物理地址，甚至不知道自己调用的哪块物理地址的数据。 目前，大多数操作系统都使用了虚拟内存，如 Windows 系统的虚拟内存、Linux 系统的交换空间等等。Windows 的虚拟内存(pagefile.sys)是磁盘空间的一部分。 在 32 位的系统上，虚拟地址空间大小是 2^32bit=4G。在 64 位系统上，最大虚拟地址空间大小是多少? 是不是 2^64bit=10241014TB=1024PB=16EB?实际上没有用到 64 位，因为用不到这么大的空间，而且会造成很大的系统开销。Linux 一般用低 48 位来表示虚拟地址空间，也就是 2^48bit=256T。 cat /proc/cpuinfo address sizes : 40 bits physical, 48 bits virtual 实际的物理内存可能远远小于虚拟内存的大小。 总结：引入虚拟内存，可以提供更大的地址空间，并且地址空间是连续的，使得程序编写、链接更加简单。并且可以对物理内存进行隔离，不同的进程操作互不影响。还可以通过把同一块物理内存映射到不同的虚拟地址空间实现内存共享。 4.4.2 用户空间和内核空间 为了避免用户进程直接操作内核，保证内核安全，操作系统将虚拟内存划分为两部分，一部分是内核空间(Kernel-space)/ˈkɜːnl /，一部分是用户空间(User-space)。 内核是操作系统的核心，独立于普通的应用程序，可以访问受保护的内存空间，也有访问底层硬件设备的权限。 内核空间中存放的是内核代码和数据，而进程的用户空间中存放的是用户程序的代码和数据。不管是内核空间还是用户空间，它们都处于虚拟空间中，都是对物理地址的映射。 在 Linux 系统中, 内核进程和用户进程所占的虚拟内存比例是 1:3。 当进程运行在内核空间时就处于内核态，而进程运行在用户空间时则处于用户态。 进程在内核空间以执行任意命令，调用系统的一切资源;在用户空间只能执行简单的运算，不能直接调用系统资源，必须通过系统接口(又称 system call)，才能向内核发出指令。 top 命令: us 代表 CPU 消耗在 User space 的时间百分比; sy 代表 CPU 消耗在 Kernel space 的时间百分比。 4.4.3 进程切换(上下文切换) 多任务操作系统是怎么实现运行远大于 CPU 数量的任务个数的? 当然，这些任务实际上并不是真的在同时运行，而是因为系统通过时间片分片算法，在很短的时间内，将 CPU 轮流分配给它们，造成多任务同时运行的错觉。 为了控制进程的执行，内核必须有能力挂起正在 CPU 上运行的进程，并恢复以前挂起的某个进程的执行。这种行为被称为进程切换。 什么叫上下文? 在每个任务运行前，CPU 都需要知道任务从哪里加载、又从哪里开始运行，也就是说，需要系统事先帮它设置好 CPU 寄存器和程序计数器(ProgramCounter)，这个叫做 CPU 的上下文。 而这些保存下来的上下文，会存储在系统内核中，并在任务重新调度执行时再次加载进来。这样就能保证任务原来的状态不受影响，让任务看起来还是连续运行。 在切换上下文的时候，需要完成一系列的工作，这是一个很消耗资源的操作。 4.4.4 进程的阻塞 正在运行的进程由于提出系统服务请求(如 I/O 操作)，但因为某种原因未得到操作系统的立即响应，该进程只能把自己变成阻塞状态，等待相应的事件出现后才被唤醒。 进程在阻塞状态不占用 CPU 资源。 4.4.5 文件描述符 FD Linux 系统将所有设备都当作文件来处理，而 Linux 用文件描述符来标识每个文件对象。 文件描述符(File Descriptor)是内核为了高效管理已被打开的文件所创建的索引，用于指向被打开的文件，所有执行 I/O 操作的系统调用都通过文件描述符;文件描述符是一个简单的非负整数，用以表明每个被进程打开的文件。 Linux 系统里面有三个标准文件描述符。 0:标准输入(键盘); 1:标准输出(显示器); 2:标准错误输出(显示器)。 4.4.6 传统 I/O 数据拷贝 以读操作为例: 当应用程序执行 read 系统调用读取文件描述符(FD)的时候，如果这块数据已经存在于用户进程的页内存中，就直接从内存中读取数据。如果数据不存在，则先将数据从磁盘加载数据到内核缓冲区中，再从内核缓冲区拷贝到用户进程的页内存中。(两次拷贝，两次 user 和 kernel 的上下文切换)。 I/O 的阻塞到底阻塞在哪里? 4.4.7 Blocking I/O 当使用 read 或 write 对某个文件描述符进行过读写时，如果当前 FD 不可读，系统就不会对其他的操作做出响应。从设备复制数据到内核缓冲区是阻塞的，从内核缓冲区拷贝到用户空间，也是阻塞的，直到 copy complete，内核返回结果，用户进程才解除 block 的状态。 为了解决阻塞的问题，我们有几个思路。 1、在服务端创建多个线程或者使用线程池，但是在高并发的情况下需要的线程会很多，系统无法承受，而且创建和释放线程都需要消耗资源。 2、由请求方定期轮询，在数据准备完毕后再从内核缓存缓冲区复制数据到用户空间 (非阻塞式 I/O)，这种方式会存在一定的延迟。 能不能用一个线程处理多个客户端请求? 4.4.8 I/O 多路复用(I/O Multiplexing) I/O 指的是网络 I/O。 多路指的是多个 TCP 连接(Socket 或 Channel)。 复用指的是复用一个或多个线程。它的基本原理就是不再由应用程序自己监视连接，而是由内核替应用程序监视文件描述符。 客户端在操作的时候，会产生具有不同事件类型的 socket。在服务端，I/O 多路复用程序(I/O Multiplexing Module)会把消息放入队列中，然后通过文件事件分派器(File event Dispatcher)，转发到不同的事件处理器中。 多路复用有很多的实现，以 select 为例，当用户进程调用了多路复用器，进程会被阻塞。内核会监视多路复用器负责的所有 socket，当任何一个 socket 的数据准备好了，多路复用器就会返回。这时候用户进程再调用 read 操作，把数据从内核缓冲区拷贝到用户空间。 所以，I/O 多路复用的特点是通过一种机制一个进程能同时等待多个文件描述符，而这些文件描述符(套接字描述符)其中的任意一个进入读就绪(readable)状态，select() 函数就可以返回。 Redis 的多路复用， 提供了 select, epoll, evport, kqueue 几种选择，在编译的时 候来选择一种。 evport 是 Solaris 系统内核提供支持的; epoll 是 LINUX 系统内核提供支持的; kqueue 是 Mac 系统提供支持的; select 是 POSIX 提供的，一般的操作系统都有支撑(保底方案); 源码 ae_epoll.c、ae_select.c、ae_kqueue.c、ae_evport.c 5、内存回收 Reids 所有的数据都是存储在内存中的，在某些情况下需要对占用的内存空间进行回 收。内存回收主要分为两类，一类是 key 过期，一类是内存使用达到上限(max_memory) 触发内存淘汰。 5.1 过期策略 要实现 key 过期，我们有几种思路。 5.1.1 定时过期(主动淘汰) 每个设置过期时间的 key 都需要创建一个定时器，到过期时间就会立即清除。该策略可以立即清除过期的数据，对内存很友好;但是会占用大量的 CPU 资源去处理过期的 数据，从而影响缓存的响应时间和吞吐量。 5.1.2 惰性过期(被动淘汰) 只有当访问一个 key 时，才会判断该 key 是否已过期，过期则清除。该策略可以最大化地节省 CPU 资源，却对内存非常不友好。极端情况可能出现大量的过期 key 没有再次被访问，从而不会被清除，占用大量内存。 例如 String，在 getCommand 里面会调用 expireIfNeeded server.c expireIfNeeded(redisDb db, robj key) 第二种情况，每次写入 key 时，发现内存不够，调用 activeExpireCycle 释放一部分内存。 expire.c activeExpireCycle(int type) 5.1.3 定期过期 源码:server.h typedef struct redisDb { dict dict; / 所有的键值对 /dict expires; / 设置了过期时间的键值对 /dict blocking_keys; dict ready_keys; dict watched_keys; int id;long long avg_ttl;list defrag_later; } redisDb; 每隔一定的时间，会扫描一定数量的数据库的 expires 字典中一定数量的 key，并清除其中已过期的 key。该策略是前两者的一个折中方案。通过调整定时扫描的时间间隔和每次扫描的限定耗时，可以在不同情况下使得 CPU 和内存资源达到最优的平衡效果。 Redis 中同时使用了惰性过期和定期过期两种过期策略。 5.2 淘汰策略 Redis 的内存淘汰策略，是指当内存使用达到最大内存极限时，需要使用淘汰算法来决定清理掉哪些数据，以保证新数据的存入。 5.2.1 最大内存设置 redis.conf 参数配置: maxmemory <bytes> 如果不设置 maxmemory 或者设置为 0，64 位系统不限制内存，32 位系统最多使用 3GB 内存。 动态修改: redis> config set maxmemory 2GB 到达最大内存以后怎么办? 5.2.2 淘汰策略 https://redis.io/topics/lru-cache redis.conf maxmemory-policy noeviction 先从算法来看: LRU，Least Recently Used:最近最少使用。判断最近被使用的时间，目前最远的数据优先被淘汰。 LFU，Least Frequently Used，最不常用，4.0 版本新增。 random，随机删除。 如果没有符合前提条件的 key 被淘汰，那么 volatile-lru、volatile-random、 volatile-ttl 相当于 noeviction(不做内存回收)。 动态修改淘汰策略: redis> config set maxmemory-policy volatile-lru 建议使用 volatile-lru，在保证正常服务的情况下，优先删除最近最少使用的 key。 5.2.3 LRU 淘汰原理 问题：如果基于传统 LRU 算法实现 Redis LRU 会有什么问题? 需要额外的数据结构存储，消耗内存。 Redis LRU 对传统的 LRU 算法进行了改良，通过随机采样来调整算法的精度。如果淘汰策略是 LRU，则根据配置的采样值 maxmemory_samples(默认是 5 个), 随机从数据库中选择 m 个 key, 淘汰其中热度最低的 key 对应的缓存数据。所以采样参数m配置的数值越大, 就越能精确的查找到待淘汰的缓存数据,但是也消耗更多的CPU计算,执行效率降低。 问题：如何找出热度最低的数据? Redis 中所有对象结构都有一个 lru 字段, 且使用了 unsigned 的低 24 位，这个字段用来记录对象的热度。对象被创建时会记录 lru 值。在被访问的时候也会更新 lru 的值。 但是不是获取系统当前的时间戳，而是设置为全局变量 server.lruclock 的值。 源码：server.h typedef struct redisObject {unsigned type:4;unsigned encoding:4;unsigned lru:LRU_BITS;int refcount;void ptr; } robj; server.lruclock 的值怎么来的? Redis 中有个定时处理的函数 serverCron，默认每 100 毫秒调用函数 updateCachedTime 更新一次全局变量的 server.lruclock 的值，它记录的是当前 unix 时间戳。 源码:server.c void updateCachedTime(void) { time_t unixtime = time(NULL); atomicSet(server.unixtime,unixtime); server.mstime = mstime();​struct tm tm; localtime_r(&server.unixtime,&tm);server.daylight_active = tm.tm_isdst; } 问题:为什么不获取精确的时间而是放在全局变量中?不会有延迟的问题吗? 这样函数 lookupKey 中更新数据的 lru 热度值时,就不用每次调用系统函数 time，可以提高执行效率。 OK，当对象里面已经有了 LRU 字段的值，就可以评估对象的热度了。 函数 estimateObjectIdleTime 评估指定对象的 lru 热度，思想就是对象的 lru 值和全局的 server.lruclock 的差值越大(越久没有得到更新)，该对象热度越低。 源码 evict.c / Given an object returns the min number of milliseconds the object was never requested, using an approximated LRU algorithm. /unsigned long long estimateObjectIdleTime(robj o) {unsigned long long lruclock = LRU_CLOCK(); if (lruclock >= o->lru) {return (lruclock - o->lru) LRU_CLOCK_RESOLUTION; } else {return (lruclock + (LRU_CLOCK_MAX - o->lru)) LRU_CLOCK_RESOLUTION;} } server.lruclock 只有 24 位，按秒为单位来表示才能存储 194 天。当超过 24bit 能表 示的最大时间的时候，它会从头开始计算。 server.h define LRU_CLOCK_MAX ((1<<LRU_BITS)-1) / Max value of obj->lru / 在这种情况下，可能会出现对象的 lru 大于 server.lruclock 的情况，如果这种情况 出现那么就两个相加而不是相减来求最久的 key。 为什么不用常规的哈希表+双向链表的方式实现?需要额外的数据结构，消耗资源。而 Redis LRU 算法在 sample 为 10 的情况下，已经能接近传统 LRU 算法了。 问题:除了消耗资源之外，传统 LRU 还有什么问题? 如图，假设 A 在 10 秒内被访问了 5 次，而 B 在 10 秒内被访问了 3 次。因为 B 最后一次被访问的时间比 A 要晚，在同等的情况下，A 反而先被回收。 问题:要实现基于访问频率的淘汰机制，怎么做? 5.2.4 LFU server.h typedef struct redisObject {unsigned type:4;unsigned encoding:4;unsigned lru:LRU_BITS;int refcount;void ptr; } robj; 当这 24 bits 用作 LFU 时，其被分为两部分: 高 16 位用来记录访问时间(单位为分钟，ldt，last decrement time) 低 8 位用来记录访问频率，简称 counter(logc，logistic counter) counter 是用基于概率的对数计数器实现的，8 位可以表示百万次的访问频率。 对象被读写的时候，lfu 的值会被更新。 db.c——lookupKey void updateLFU(robj val) {unsigned long counter = LFUDecrAndReturn(val); counter = LFULogIncr(counter);val->lru = (LFUGetTimeInMinutes()<<8) | counter;} 增长的速率由，lfu-log-factor 越大，counter 增长的越慢 redis.conf 配置文件。 lfu-log-factor 10 如果计数器只会递增不会递减，也不能体现对象的热度。没有被访问的时候，计数器怎么递减呢? 减少的值由衰减因子 lfu-decay-time(分钟)来控制，如果值是 1 的话，N 分钟没有访问就要减少 N。 redis.conf 配置文件 lfu-decay-time 1 6、持久化机制 https://redis.io/topics/persistence Redis 速度快，很大一部分原因是因为它所有的数据都存储在内存中。如果断电或者宕机，都会导致内存中的数据丢失。为了实现重启后数据不丢失，Redis 提供了两种持久化的方案，一种是 RDB 快照(Redis DataBase)，一种是 AOF(Append Only File)。 6.1 RDB RDB 是 Redis 默认的持久化方案。当满足一定条件的时候，会把当前内存中的数据写入磁盘，生成一个快照文件 dump.rdb。Redis 重启会通过加载 dump.rdb 文件恢复数据。 什么时候写入 rdb 文件? 6.1.1 RDB 触发 1、自动触发 a)配置规则触发。 redis.conf， SNAPSHOTTING，其中定义了触发把数据保存到磁盘的触发频率。 如果不需要 RDB 方案，注释 save 或者配置成空字符串""。 save 900 1 900 秒内至少有一个 key 被修改(包括添加) save 300 10 400 秒内至少有 10 个 key 被修改save 60 10000 60 秒内至少有 10000 个 key 被修改 注意上面的配置是不冲突的，只要满足任意一个都会触发。 RDB 文件位置和目录: 文件路径，dir ./ 文件名称dbfilename dump.rdb 是否是LZF压缩rdb文件 rdbcompression yes 开启数据校验 rdbchecksum yes 问题：为什么停止 Redis 服务的时候没有 save，重启数据还在? RDB 还有两种触发方式: b)shutdown 触发，保证服务器正常关闭。 c)flushall，RDB 文件是空的，没什么意义(删掉 dump.rdb 演示一下)。 2、手动触发 如果我们需要重启服务或者迁移数据，这个时候就需要手动触 RDB 快照保存。Redis 提供了两条命令: a)save save 在生成快照的时候会阻塞当前 Redis 服务器， Redis 不能处理其他命令。如果内存中的数据比较多，会造成 Redis 长时间的阻塞。生产环境不建议使用这个命令。 为了解决这个问题，Redis 提供了第二种方式。 执行 bgsave 时，Redis 会在后台异步进行快照操作，快照同时还可以响应客户端请求。 具体操作是 Redis 进程执行 fork 操作创建子进程(copy-on-write)，RDB 持久化过程由子进程负责，完成后自动结束。它不会记录 fork 之后后续的命令。阻塞只发生在 fork 阶段，一般时间很短。 用 lastsave 命令可以查看最近一次成功生成快照的时间。 6.1.2 RDB 数据的恢复(演示) 1、shutdown 持久化添加键值 添加键值 redis> set k1 1 redis> set k2 2 redis> set k3 3 redis> set k4 4 redis> set k5 5 停服务器，触发 save redis> shutdown 备份 dump.rdb 文件 cp dump.rdb dump.rdb.bak 启动服务器 /usr/local/soft/redis-5.0.5/src/redis-server /usr/local/soft/redis-5.0.5/redis.conf 啥都没有: redis> keys 3、通过备份文件恢复数据停服务器 redis> shutdown 重命名备份文件 mv dump.rdb.bak dump.rdb 启动服务器 /usr/local/soft/redis-5.0.5/src/redis-server /usr/local/soft/redis-5.0.5/redis.conf 查看数据 redis> keys 6.1.3 RDB 文件的优势和劣势 一、优势 1.RDB 是一个非常紧凑(compact)的文件，它保存了 redis 在某个时间点上的数据集。这种文件非常适合用于进行备份和灾难恢复。 2.生成 RDB 文件的时候，redis 主进程会 fork()一个子进程来处理所有保存工作，主进程不需要进行任何磁盘 IO 操作。 3.RDB 在恢复大数据集时的速度比 AOF 的恢复速度要快。 二、劣势 1、RDB 方式数据没办法做到实时持久化/秒级持久化。因为 bgsave 每次运行都要执行 fork 操作创建子进程，频繁执行成本过高。 2、在一定间隔时间做一次备份，所以如果 redis 意外 down 掉的话，就会丢失最后一次快照之后的所有修改(数据有丢失)。 如果数据相对来说比较重要，希望将损失降到最小，则可以使用 AOF 方式进行持久化。 6.2 AOF Append Only File AOF:Redis 默认不开启。AOF 采用日志的形式来记录每个写操作，并追加到文件中。开启后，执行更改 Redis 数据的命令时，就会把命令写入到 AOF 文件中。 Redis 重启时会根据日志文件的内容把写指令从前到后执行一次以完成数据的恢复工作。 6.2.1 AOF 配置 配置文件 redis.conf 开关appendonly no 文件名appendfilename "appendonly.aof" AOF 文件的内容(vim 查看): 问题：数据都是实时持久化到磁盘吗? 由于操作系统的缓存机制，AOF 数据并没有真正地写入硬盘，而是进入了系统的硬盘缓存。什么时候把缓冲区的内容写入到 AOF 文件? 问题:文件越来越大，怎么办? 由于 AOF 持久化是 Redis 不断将写命令记录到 AOF 文件中，随着 Redis 不断的进行，AOF 的文件会越来越大，文件越大，占用服务器内存越大以及 AOF 恢复要求时间越长。 例如 set xxx 666，执行 1000 次，结果都是 xxx=666。 为了解决这个问题，Redis 新增了重写机制，当 AOF 文件的大小超过所设定的阈值时，Redis 就会启动 AOF 文件的内容压缩，只保留可以恢复数据的最小指令集。 可以使用命令 bgrewriteaof 来重写。 AOF 文件重写并不是对原文件进行重新整理，而是直接读取服务器现有的键值对，然后用一条命令去代替之前记录这个键值对的多条命令，生成一个新的文件后去替换原来的 AOF 文件。 重写触发机制 auto-aof-rewrite-percentage 100 auto-aof-rewrite-min-size 64mb 问题:重写过程中，AOF 文件被更改了怎么办? 另外有两个与 AOF 相关的参数: 6.2.2 AOF 数据恢复 重启 Redis 之后就会进行 AOF 文件的恢复。 6.2.3 AOF 优势与劣势 优点: 1、AOF 持久化的方法提供了多种的同步频率，即使使用默认的同步频率每秒同步一次，Redis 最多也就丢失 1 秒的数据而已。 缺点: 1、对于具有相同数据的的 Redis，AOF 文件通常会比 RDB 文件体积更大(RDB 存的是数据快照)。 2、虽然 AOF 提供了多种同步的频率，默认情况下，每秒同步一次的频率也具有较高的性能。在高并发的情况下，RDB 比 AOF 具好更好的性能保证。 6.3 两种方案比较 那么对于 AOF 和 RDB 两种持久化方式，我们应该如何选择呢? 如果可以忍受一小段时间内数据的丢失，毫无疑问使用 RDB 是最好的，定时生成 RDB 快照(snapshot)非常便于进行数据库备份， 并且 RDB 恢复数据集的速度也要比 AOF 恢复的速度要快。 否则就使用 AOF 重写。但是一般情况下建议不要单独使用某一种持久化机制，而是应该两种一起用，在这种情况下,当 redis 重启的时候会优先载入 AOF 文件来恢复原始的数据，因为在通常情况下 AOF 文件保存的数据集要比 RDB 文件保存的数据集要完整。 本篇文章为转载内容。原文链接：https://blog.csdn.net/zhoutaochun/article/details/120075092。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...et是两个常用至极的数据组织方式。它们都是依赖于散列表的达成，通过哈希函数将键对应到散列表中的一个槽位，从而达成快速的元素检索、添加和移除操作。 HashMap是一种键值组合容纳的数据组织方式，它可以容纳任意类型的键和值。HashMap中的键和值都允许为空，但是一个HashMap中仅限一个键为null的键值组合。HashMap的检索、添加和移除操作的运行效率都是O(1)。下面是一个HashMap的基本实例： HashMap<String, String> map = new HashMap<>(); map.put("key1", "value1"); map.put("key2", "value2"); String value1 = map.get("key1"); map.remove("key2"); int size = map.size(); HashSet是一种集合数据组织方式，它容纳一组唯一的元素，其中每个元素都可以为任意类型。HashSet中的元素允许为空，但是一个HashSet中仅限一个null元素。HashSet的检索、添加和移除操作的运行效率也是O(1)。下面是一个HashSet的基本实例： HashSet<String> set = new HashSet<>(); set.add("element1"); set.add("element2"); set.add("element3"); boolean contains1 = set.contains("element1"); set.remove("element2"); int size = set.size(); 需要注意的是，HashMap和HashSet的哈希函数的质量和槽位的数量对性能有很大的影响。如果哈希函数不好，会导致槽位中的元素数量过多，从而降低性能。因此，在使用HashMap和HashSet时，应该尽可能保证键或元素的哈希函数是高质量的。

...L是一款开源的关系型数据库管理系统，广泛应用于Web应用开发中，支持SQL标准语句进行数据查询、更新、管理等操作。在本文的上下文中，MySQL提供了COUNT函数用于统计一列数据的个数，是实现数据库统计需求的基础工具。 COUNT函数 , 在MySQL以及其它支持SQL标准的关系型数据库中，COUNT函数是一个聚合函数，用于计算指定列或行的数量。结合文章内容，COUNT(column_name)可以用来计算特定列（如username）非NULL值的数量，而COUNT()则会统计表中的所有行数，包括NULL值。 GROUP BY和HAVING , 这两个关键词在SQL查询语句中起到对数据分组和条件筛选的作用。GROUP BY用于将数据按照一个或多个列进行分类汇总，每个不同的组会产生一条结果记录；HAVING则是对GROUP BY后的结果集进一步设置过滤条件，它与WHERE子句类似，但HAVING可以在分组后对汇总统计量（如COUNT的结果）进行筛选。例如，在电商场景下，可能需要按商品类别使用GROUP BY统计各品类商品的销售数量，并通过HAVING筛选出销售额超过一定阈值的类别。

...得在Vue项目中操作数据库更加灵活高效。与此同时，MySQL 8.0版本也引入了窗口函数、JSON字段支持增强等特性，进一步提升了数据处理能力。 实际上，在实际开发场景中，越来越多的开发者选择使用中间层如Node.js的Express框架或GraphQL来处理前后端数据交互，以实现更为安全、可控的数据流管理。例如，通过RESTful API设计，Vue前端可以发起HTTP请求获取MySQL后端处理过的数据，避免直接数据库查询带来的潜在安全风险。 此外，为了更好地优化Vue应用与MySQL数据库的协作效率，社区涌现出诸多优秀实践与工具，如TypeORM、Sequelize等ORM解决方案，使得开发者能够以面向对象的方式来操作MySQL数据库，大大简化了数据库操作代码，并增强了类型安全性。 综上所述，掌握Vue.js与MySQL的实际应用不仅限于基础的连接与查询，还需关注最新技术动态，合理运用中间层架构以及先进的开发工具，才能更好地满足现代Web应用开发的需求。同时，深入理解并遵循最佳实践对于提升系统整体性能和安全性同样至关重要。

...字化时代，MySQL数据库的重要性不言而喻。近日（请根据实际日期填充），Oracle公司发布了MySQL 8.0的最新版本，引入了诸多性能优化和新特性，如窗口函数、原子DDL操作以及改进的安全模块等，进一步提升了MySQL在大规模数据处理与安全防护上的能力。 针对日益严峻的数据安全问题，InfoWorld网站近期发布了一篇深度分析文章，探讨了如何通过实施严格的访问控制策略、加密敏感数据及定期审计来强化MySQL数据库的安全性。此外，文中还介绍了业界最新的数据保护法规GDPR对数据库管理的影响，提醒用户在使用MySQL时需遵循合规要求。 同时，鉴于云服务的普及，Amazon RDS for MySQL作为一种托管型数据库服务备受关注。AWS官方博客分享了关于如何高效迁移本地MySQL数据库至RDS，并实现无缝备份与恢复的实战经验，为众多寻求上云解决方案的企业提供了宝贵参考。 不仅如此，对于希望深入理解MySQL内部机制的开发者，Stack Overflow上有资深专家撰写了系列教程，详尽解析了InnoDB存储引擎的工作原理，以及SQL查询优化技巧，帮助读者提升数据库设计与运维水平。 总之，在掌握MySQL基本使用的基础上，持续跟进技术发展动态，深入了解并实践高级功能与安全管理措施，是确保MySQL数据库在各类型应用程序中稳定高效运行的关键。

...各种方法极大地提升了数据处理效率。然而，随着Web应用和API交互的复杂性日益增加，如何更高效、更智能地在大型甚至嵌套结构的JSON数据中进行检索成为开发者关注的重点。 近期，一项名为“JSONPath”的技术引起了广泛讨论。JSONPath是一种信息抽取工具，类似于XPath在XML文档中的作用，它提供了一种简洁明了的方式来定位JSON对象中的特定部分。通过使用路径表达式，开发人员可以轻松定位到JSON数据结构的深层属性或元素，这对于大数据分析、实时API响应过滤等场景具有极高的价值。 另外，现代前端框架如React、Vue等对JSON数据的操作也进行了深度优化。例如，在Vue3中引入的Composition API允许开发者以函数式编程的方式操作JSON数据，结合reactive系统实现对数组变化的实时响应与查找功能的无缝集成。 此外，诸如Lodash这样的JavaScript实用库也提供了丰富的方法来简化JSON数据处理，包括但不限于查找、筛选、映射等操作。这些库不断更新升级，针对新的JavaScript特性和性能优化进行调整，持续为JSON数据处理提供强大支持。 总之，在实际项目开发中，掌握并灵活运用文中提到的基础查找技巧及适时跟进最新的数据处理技术动态，将有助于提升代码质量，优化应用程序性能，满足更高层次的数据处理需求。

..., 批流一体是一种大数据处理范式，指的是在同一个计算引擎中同时支持批量数据处理和实时流数据处理的能力。在Flink中，这种能力表现为可以使用相同的API、操作符和执行模型来处理历史的批量数据以及实时流入的数据流，从而简化开发流程，提高资源利用率，并满足不同场景下对数据处理时效性的要求。 时间窗口 , 在流处理系统（如Apache Flink）中，时间窗口是一种将无限持续的数据流划分为有限时间段进行处理的机制。它允许系统按照固定的时间间隔（如每分钟或每5秒）对数据进行聚合、统计或其他计算操作，这对于实时推荐系统来说至关重要，因为可以通过分析用户在特定时间窗口内的行为数据来实时更新其兴趣偏好特征。 用户Embedding , 用户Embedding是机器学习领域特别是推荐系统中用于表示用户的一种低维向量形式。它通过深度学习等方法将用户的复杂属性和行为信息映射到一个连续的数值向量空间中，使得相似用户在该空间中的Embedding向量距离相近。在实时推荐系统的实践中，借助Flink实现实时更新用户Embedding意味着当用户产生新的行为数据时，能够立刻反映到Embedding向量上，进而快速调整推荐策略，提升推荐结果的相关性和实时性。

...的功能——MySQL数据库的排序功能。在我们每天的日常工作中，甭管是做数据分析还是捣鼓系统设计，都免不了要和大量的数据打交道，尤其是排序这一步必不可少。这时候，MySQL就是咱们的一大神器，它能帮我们飞快又准确地搞定这个难题，让数据乖乖听话，排好队列。接下来，我们就一起学习一下怎么根据MySQL数据库进行排序吧。 二、MySQL基本排序语法 首先，我们要了解的是MySQL的基本排序语法。在MySQL中，我们可以使用ORDER BY语句来对查询结果进行排序。其基本语法如下： sql SELECT column1, column2, ... FROM table_name ORDER BY column1 [ASC|DESC], column2 [ASC|DESC], ...; 其中，column1, column2等是我们想要排序的列名，table_name是我们想要查询的数据表名。而ASC表示升序排列，DESC则表示降序排列。 让我们通过一个简单的例子来看看这个语法是如何使用的。假设我们有一个用户表，其中包含用户的ID、姓名和年龄三列。现在我们想要按照年龄从小到大对用户进行排序，应该如何操作呢？ sql SELECT ID, NAME, AGE FROM USER ORDER BY AGE ASC; 这样，我们就可以得到一个按照年龄从小到大排序的用户列表了。 三、多列排序 如果我们想要对多列进行排序，只需要在ORDER BY子句中加入更多的列名即可。例如，如果我们还想再按照姓名进行排序，那么我们的SQL语句就会变成这样： sql SELECT ID, NAME, AGE FROM USER ORDER BY AGE ASC, NAME ASC; 这样，我们就可以先按照年龄进行排序，然后再在同一年龄的用户中按照姓名进行排序了。 四、特殊字符排序 在实际应用中，我们常常需要对字符串进行排序。这个时候，咱们得留心了，如果不特意去处理一下，MySQL这家伙可会按照字母表顺序对字符串进行排序，而这很可能并不是咱们期望的结果。为了克服这个问题，我们可以使用函数来对字符串进行特殊处理。例如，我们可以使用UCASE函数将所有字符串转换为大写，然后再进行排序： sql SELECT ID, NAME, AGE FROM USER ORDER BY UCASE(NAME) ASC, AGE ASC; 这样，我们就可以保证所有的姓名都是按照字母表顺序进行排序的了。 五、NULL值排序 在实际应用中，我们还常常需要对包含NULL值的数据进行排序。这时候，千万要注意了哈，MySQL这家伙有个默认习惯，就是会把NULL值当作小尾巴，统统放在非NULL值的后面。如果你想让NULL值率先出场，那你就得在ORDER BY这个排序句子里头加个特殊的小条件。例如，我们可以使用IS NULL函数来判断是否为空，然后将其放在列名的前面： sql SELECT ID, NAME, AGE FROM USER ORDER BY AGE ASC, (CASE WHEN NAME IS NULL THEN 1 ELSE 0 END) ASC; 这样，我们就可以保证NULL值总是被排在最前面了。 六、总结 总的来说，MySQL提供了丰富的排序功能，可以帮助我们快速有效地对大量数据进行排序。在实际操作中，咱们得瞅准具体需求，灵活选择最合适的排序方法。同时呢，千万记得要避开那些时常冒泡的常见错误陷阱。只要掌握了这些基础知识，我们就能够在MySQL的世界里游刃有余了。

...一种广泛使用的关系型数据库管理系统，由Oracle公司开发并维护。在本文中，MySQL用于存储和管理结构化数据，通过SQL（Structured Query Language）语句进行数据的增删改查等操作。用户可以创建多个数据库并在其中定义不同的表结构，以满足不同应用场景的需求。 关系型数据库 , 关系型数据库是基于关系模型理论设计的数据库，其数据以表格的形式存储，并通过预定义的数据关系进行组织和关联。在MySQL中，每张表都有特定的列（字段），用来描述记录（行）的属性；同时，表与表之间可以通过键（如主键和外键）建立联系，实现数据的一致性和完整性。 mysqli_connect函数 , 在PHP编程语言中，mysqli_connect是一个内置函数，用于连接到MySQL服务器并打开一个数据库连接。该函数接收四个参数，分别是MySQL服务器的地址、数据库用户名、密码以及要连接的数据库名。成功连接后返回一个连接标识符，后续的SQL查询和数据操作都将通过这个连接标识符进行，如在文章中提到的执行查询、插入数据等任务。 INSERT INTO语句 , INSERT INTO是SQL语言中的命令，用于向指定的数据库表中插入新的数据行。在文中，INSERT INTO customers (name, email, phone) VALUES ( John Doe , johndoe@example.com , 555-555-5555 ) 这条语句将一条包含姓名、电子邮箱和电话号码的新客户记录添加到了名为“customers”的表中。每个括号内的字段名对应值后面的变量，确保数据被正确地插入到相应字段内。 mysqli_query函数 , 在PHP的MySQLi扩展中，mysqli_query函数用于执行一个SQL查询或命令。它可以处理SELECT、INSERT、UPDATE、DELETE等多种类型的SQL语句，并根据查询类型返回结果集或影响行数。在本文上下文中，mysqli_query函数不仅用于从“customers”表中选择所有记录，还用于执行INSERT INTO语句以插入新数据，并在插入后再次查询渲染新添加的数据。

...深入理解C++的友元函数与友元类之后，我们进一步探讨这一特性在实际编程场景中的应用和对其设计原则的影响。近期，一篇由知名软件工程师在博客平台Medium上发表的文章《友元：一把双刃剑在现代C++设计中的权衡》引起了广泛关注。作者通过实例分析了友元机制如何在特定场合下提升代码效率和灵活性，例如在实现高效的序列化/反序列化功能、进行单元测试时访问私有成员，以及优化内联函数性能等方面。 然而，文章同时也强调了过度或不当使用友元所带来的潜在风险。随着C++11及后续版本引入诸如访问指示符（access specifier）细化、基于范围的枚举等更多封装工具，软件开发者有了更多的选择去平衡封装性和功能性需求。文章援引了“Effective C++”一书作者Scott Meyers的观点，指出应谨慎对待友元关系，尽量遵循最小权限原则，避免破坏封装导致的代码维护困难和安全隐患。 此外，现代C++设计趋势倾向于依赖接口而非具体实现，提倡通过组合和继承来实现类之间的交互，而非直接打破封装。诸如接口类和委托模式等设计策略可以提供更为安全且易于维护的替代方案。因此，在实际项目开发中，虽然理解并掌握友元这一特性至关重要，但合理运用面向对象设计原则，寻求更符合现代C++理念的解决方案同样值得广大开发者深思和实践。