[并行构建 Parallel Build ]的搜索结果

...的次数。默认值: 1parallelism: 1 指定job在任一时刻应该并发运行Pods的数量。默认值: 1activeDeadlineSeconds: 30 指定job可运行的时间期限，超过时间还未结束，系统将会尝试进行终止。backoffLimit: 6 指定job失败后进行重试的次数。默认是6manualSelector: true 是否可以使用selector选择器选择pod，默认是falseselector: 选择器，通过它指定该控制器管理哪些podmatchLabels: Labels匹配规则app: counter-podmatchExpressions: Expressions匹配规则- {key: app, operator: In, values: [counter-pod]}template: 模板，当副本数量不足时，会根据下面的模板创建pod副本metadata:labels:app: counter-podspec:restartPolicy: Never 重启策略只能设置为Never或者OnFailurecontainers:- name: counterimage: busybox:1.30command: ["bin/sh","-c","for i in 9 8 7 6 5 4 3 2 1; do echo $i;sleep 2;done"] 关于重启策略设置的说明：（这里只能设置为Never或者OnFailure） 如果指定为OnFailure，则job会在pod出现故障时重启容器，而不是创建pod，failed次数不变 如果指定为Never，则job会在pod出现故障时创建新的pod，并且故障pod不会消失，也不会重启，failed次数加1 如果指定为Always的话，就意味着一直重启，意味着job任务会重复去执行了，当然不对，所以不能设置为Always 1、创建一个job 创建pc-job.yaml，内容如下： apiVersion: batch/v1kind: Job metadata:name: pc-jobnamespace: devspec:manualSelector: trueselector:matchLabels:app: counter-podtemplate:metadata:labels:app: counter-podspec:restartPolicy: Nevercontainers:- name: counterimage: busybox:1.30command: ["bin/sh","-c","for i in 9 8 7 6 5 4 3 2 1; do echo $i;sleep 3;done"] 创建 创建job[root@k8s-master01 ~] kubectl create -f pc-job.yamljob.batch/pc-job created 查看job[root@k8s-master01 ~] kubectl get job -n dev -o wide -wNAME COMPLETIONS DURATION AGE CONTAINERS IMAGES SELECTORpc-job 0/1 21s 21s counter busybox:1.30 app=counter-podpc-job 1/1 31s 79s counter busybox:1.30 app=counter-pod 通过观察pod状态可以看到，pod在运行完毕任务后，就会变成Completed状态[root@k8s-master01 ~] kubectl get pods -n dev -wNAME READY STATUS RESTARTS AGEpc-job-rxg96 1/1 Running 0 29spc-job-rxg96 0/1 Completed 0 33s 接下来，调整下pod运行的总数量和并行数量 即：在spec下设置下面两个选项 completions: 6 指定job需要成功运行Pods的次数为6 parallelism: 3 指定job并发运行Pods的数量为3 然后重新运行job，观察效果，此时会发现，job会每次运行3个pod，总共执行了6个pod[root@k8s-master01 ~] kubectl get pods -n dev -wNAME READY STATUS RESTARTS AGEpc-job-684ft 1/1 Running 0 5spc-job-jhj49 1/1 Running 0 5spc-job-pfcvh 1/1 Running 0 5spc-job-684ft 0/1 Completed 0 11spc-job-v7rhr 0/1 Pending 0 0spc-job-v7rhr 0/1 Pending 0 0spc-job-v7rhr 0/1 ContainerCreating 0 0spc-job-jhj49 0/1 Completed 0 11spc-job-fhwf7 0/1 Pending 0 0spc-job-fhwf7 0/1 Pending 0 0spc-job-pfcvh 0/1 Completed 0 11spc-job-5vg2j 0/1 Pending 0 0spc-job-fhwf7 0/1 ContainerCreating 0 0spc-job-5vg2j 0/1 Pending 0 0spc-job-5vg2j 0/1 ContainerCreating 0 0spc-job-fhwf7 1/1 Running 0 2spc-job-v7rhr 1/1 Running 0 2spc-job-5vg2j 1/1 Running 0 3spc-job-fhwf7 0/1 Completed 0 12spc-job-v7rhr 0/1 Completed 0 12spc-job-5vg2j 0/1 Completed 0 12s 2、删除 删除jobkubectl delete -f pc-job.yaml CronJob 简称为CJ，CronJob控制器以 Job控制器资源为其管控对象，并借助它管理pod资源对象，Job控制器定义的作业任务在其控制器资源创建之后便会立即执行，但CronJob可以以类似于Linux操作系统的周期性任务作业计划的方式控制其运行时间点及重复运行的方式。也就是说，CronJob可以在特定的时间点(反复的)去运行job任务。可以理解为定时任务 配置模板 apiVersion: batch/v1beta1 版本号kind: CronJob 类型 metadata: 元数据name: rs名称 namespace: 所属命名空间 labels: 标签controller: cronjobspec: 详情描述schedule: cron格式的作业调度运行时间点,用于控制任务在什么时间执行concurrencyPolicy: 并发执行策略，用于定义前一次作业运行尚未完成时是否以及如何运行后一次的作业failedJobHistoryLimit: 为失败的任务执行保留的历史记录数，默认为1successfulJobHistoryLimit: 为成功的任务执行保留的历史记录数，默认为3startingDeadlineSeconds: 启动作业错误的超时时长jobTemplate: job控制器模板，用于为cronjob控制器生成job对象;下面其实就是job的定义metadata:spec:completions: 1parallelism: 1activeDeadlineSeconds: 30backoffLimit: 6manualSelector: trueselector:matchLabels:app: counter-podmatchExpressions: 规则- {key: app, operator: In, values: [counter-pod]}template:metadata:labels:app: counter-podspec:restartPolicy: Never containers:- name: counterimage: busybox:1.30command: ["bin/sh","-c","for i in 9 8 7 6 5 4 3 2 1; do echo $i;sleep 20;done"] cron表达式写法 需要重点解释的几个选项：schedule: cron表达式，用于指定任务的执行时间/1 <分钟> <小时> <日> <月份> <星期>分钟 值从 0 到 59.小时 值从 0 到 23.日 值从 1 到 31.月 值从 1 到 12.星期 值从 0 到 6, 0 代表星期日多个时间可以用逗号隔开； 范围可以用连字符给出；可以作为通配符； /表示每... 例如1 // 每个小时的第一分钟执行/1 // 每分钟都执行concurrencyPolicy:Allow: 允许Jobs并发运行(默认)Forbid: 禁止并发运行，如果上一次运行尚未完成，则跳过下一次运行Replace: 替换，取消当前正在运行的作业并用新作业替换它 1、创建cronJob 创建pc-cronjob.yaml，内容如下： apiVersion: batch/v1beta1kind: CronJobmetadata:name: pc-cronjobnamespace: devlabels:controller: cronjobspec:schedule: "/1 " 每分钟执行一次jobTemplate:metadata:spec:template:spec:restartPolicy: Nevercontainers:- name: counterimage: busybox:1.30command: ["bin/sh","-c","for i in 9 8 7 6 5 4 3 2 1; do echo $i;sleep 3;done"] 运行 创建cronjob[root@k8s-master01 ~] kubectl create -f pc-cronjob.yamlcronjob.batch/pc-cronjob created 查看cronjob[root@k8s-master01 ~] kubectl get cronjobs -n devNAME SCHEDULE SUSPEND ACTIVE LAST SCHEDULE AGEpc-cronjob /1 False 0 <none> 6s 查看job[root@k8s-master01 ~] kubectl get jobs -n devNAME COMPLETIONS DURATION AGEpc-cronjob-1592587800 1/1 28s 3m26spc-cronjob-1592587860 1/1 28s 2m26spc-cronjob-1592587920 1/1 28s 86s 查看pod[root@k8s-master01 ~] kubectl get pods -n devpc-cronjob-1592587800-x4tsm 0/1 Completed 0 2m24spc-cronjob-1592587860-r5gv4 0/1 Completed 0 84spc-cronjob-1592587920-9dxxq 1/1 Running 0 24s 2、删除cronjob kubectl delete -f pc-cronjob.yaml pod调度 什么是调度 默认情况下，一个pod在哪个node节点上运行，是通过scheduler组件采用相应的算法计算出来的，这个过程是不受人工控制的； 调度规则 但是在实际使用中，我们想控制某些pod定向到达某个节点上，应该怎么做呢？其实k8s提供了四类调度规则 调度方式 描述 自动调度 通过scheduler组件采用相应的算法计算得出运行在哪个节点上 定向调度 运行到指定的node节点上，通过NodeName、NodeSelector实现 亲和性调度 跟谁关系好就调度到哪个节点上 1、nodeAffinity ：节点亲和性，调度到关系好的节点上 2、podAffinity：pod亲和性，调度到关系好的pod所在的节点上 3、PodAntAffinity：pod反清河行，调度到关系差的那个pod所在的节点上 污点（容忍）调度 污点是站在node的角度上的，比如果nodeA有一个污点，大家都别来，此时nodeA会拒绝master调度过来的pod 定向调度 指的是利用在pod上声明nodeName或nodeSelector的方式将pod调度到指定的pod节点上，因为这种定向调度是强制性的，所以如果node节点不存在的话，也会向上面进行调度，只不过pod会运行失败； 1、定向调度-> nodeName nodeName 是将pod强制调度到指定名称的node节点上，这种方式跳过了scheduler的调度逻辑，直接将pod调度到指定名称的节点上，配置文件内容如下 apiVersion: v1 版本号kind: Pod 资源类型metadata: name: pod-namenamespace: devspec: containers: - image: nginx:1.17.1name: nginx-containernodeName: node1 调度到node1节点上 2、定向调度 -> NodeSelector NodeSelector是将pod调度到添加了指定label标签的node节点上，它是通过k8s的label-selector机制实现的，也就是说，在创建pod之前，会由scheduler用matchNodeSelecto调度策略进行label标签的匹配，找出目标node，然后在将pod调度到目标node； 要实验NodeSelector，首先得给node节点加上label标签 kubectl label nodes node1 nodetag=node1 配置文件内容如下 apiVersion: v1 版本号kind: Pod 资源类型metadata: name: pod-namenamespace: devspec: containers: - image: nginx:1.17.1name: nginx-containernodeSelector: nodetag: node1 调度到具有nodetag=node1标签的节点上 本篇文章为转载内容。原文链接：https://blog.csdn.net/qq_27184497/article/details/121765387。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...Num = 4;//并行执行ExecutorService service = Executors.newFixedThreadPool(cpuCoreNum);MyTask t1 = new MyTask(1, 80000); //1-5 5-10 10-15 15-20MyTask t2 = new MyTask(80001, 130000);MyTask t3 = new MyTask(130001, 170000);MyTask t4 = new MyTask(170001, 200000);Future<List<Integer>> f1 = service.submit(t1);Future<List<Integer>> f2 = service.submit(t2);Future<List<Integer>> f3 = service.submit(t3);Future<List<Integer>> f4 = service.submit(t4);start = System.currentTimeMillis();f1.get();f2.get();f3.get();f4.get();end = System.currentTimeMillis();System.out.println(end - start);//输出并行耗费时间}static class MyTask implements Callable<List<Integer>> {int startPos, endPos;MyTask(int s, int e) {this.startPos = s;this.endPos = e;}@Overridepublic List<Integer> call() throws Exception {List<Integer> r = getPrime(startPos, endPos);return r;} }static boolean isPrime(int num) {for(int i=2; i<=num/2; i++) {if(num % i == 0) return false;}return true;}static List<Integer> getPrime(int start, int end) {List<Integer> results = new ArrayList<>();for(int i=start; i<=end; i++) {if(isPrime(i)) results.add(i);}return results;} } 8、TPE型线程池5：ScheduledPool 预定，延时线程池 根据延时时间（隔多长时间后运行），排序，哪个线程先执行,用户只需要指定核心线程数量 此线程池返回的池对象，和提交任务方法都不一样，比较涉及到时间 import java.util.Random;import java.util.concurrent.Executors;import java.util.concurrent.ScheduledExecutorService;import java.util.concurrent.TimeUnit;public class T10_ScheduledPool {public static void main(String[] args) {ScheduledExecutorService service = Executors.newScheduledThreadPool(4);service.scheduleAtFixedRate(()->{//提交延时任务try {TimeUnit.MILLISECONDS.sleep(new Random().nextInt(1000));} catch (InterruptedException e) {e.printStackTrace();}System.out.println(Thread.currentThread().getName());}, 0, 500, TimeUnit.MILLISECONDS);//指定延时时间和单位，第一个任务延时0毫秒，之后的任务，延时500毫秒} } 9、手写拒绝策略小例子 import java.util.concurrent.;public class T14_MyRejectedHandler {public static void main(String[] args) {ExecutorService service = new ThreadPoolExecutor(4, 4,0, TimeUnit.SECONDS, new ArrayBlockingQueue<>(6),Executors.defaultThreadFactory(),new MyHandler());//将手写拒绝策略传入}static class MyHandler implements RejectedExecutionHandler {//1、继承RejectedExecutionHandler@Overridepublic void rejectedExecution(Runnable r, ThreadPoolExecutor executor) {//2、重写方法//log("r rejected")//伪代码，表示通过log4j.log()报一下日志，拒绝的时间，线程名//save r kafka mysql redis//可以尝试保存队列//try 3 times //可以尝试几次，比如3次，重新去抢队列，3次还不行就丢弃if(executor.getQueue().size() < 10000) {//尝试条件，如果size>10000了,就执行拒绝策略//try put again();//如果小于10000，尝试将其放到队列中} }} } 10、ForkJoinPool线程池1：ForkJoinPool 前面我们讲过线程分为两大类，TPE和FJP ForkJoinPool（分解汇总任务(将任务细化，最后汇总结果)，少量线程执行多个任务（子任务，TPE做不到先执行子任务），CPU密集型） 适合将大任务切分成多个小任务运行 两个方法，fork()：分子任务，将子任务分配到线程池中 join()：当前任务的计算结果，如果有子任务，等子任务结果返回后再汇总 下面实例实现，一百万个随机数求和，由两种方法实现，一种ForkJoinPool分任务并行，一种使用单线程做 import java.io.IOException;import java.util.Arrays;import java.util.Random;import java.util.concurrent.ForkJoinPool;import java.util.concurrent.RecursiveAction;import java.util.concurrent.RecursiveTask;public class T12_ForkJoinPool {//1000000个随机数求和static int[] nums = new int[1000000];//一堆数static final int MAX_NUM = 50000;//分任务时，每个任务的操作量不能多于50000个，否则就继续细分static Random r = new Random();//使用随机数将数组初始化static {for(int i=0; i<nums.length; i++) {nums[i] = r.nextInt(100);}System.out.println("---" + Arrays.stream(nums).sum()); //stream api 单线程就这么做，一个一个加}//分任务，需要继承，可以继承RecursiveAction(不需要返回值，一般用在不需要返回值的场景)或//RecursiveTask(需要返回值，我们用这个，因为我们需要最后获取求和结果)两个更好实现的类，//他俩继承与ForkJoinTaskstatic class AddTaskRet extends RecursiveTask<Long> {private static final long serialVersionUID = 1L;int start, end;AddTaskRet(int s, int e) {start = s;end = e;}@Overrideprotected Long compute() {if(end-start <= MAX_NUM) {//如果任务操作数小于规定的最大操作数，就进行运算，long sum = 0L;for(int i=start; i<end; i++) sum += nums[i];return sum;//返回结果} //如果分配的操作数大于规定，就继续细分（简单的重中点分，两半）int middle = start + (end-start)/2;//获取中间值AddTaskRet subTask1 = new AddTaskRet(start, middle);//传入起始值和中间值，表示一个子任务AddTaskRet subTask2 = new AddTaskRet(middle, end);//中间值和结尾值，表示一个子任务subTask1.fork();//分任务subTask2.fork();//分任务return subTask1.join() + subTask2.join();//最后返回结果汇总} }public static void main(String[] args) throws IOException {/ForkJoinPool fjp = new ForkJoinPool();AddTask task = new AddTask(0, nums.length);fjp.execute(task);/ForkJoinPool fjp = new ForkJoinPool();//创建线程池AddTaskRet task = new AddTaskRet(0, nums.length);//创建任务fjp.execute(task);//传入任务long result = task.join();//返回汇总结果System.out.println(result);//System.in.read();} } 11、ForkJoinPool线程池2：WorkStealingPool 任务偷取线程池 原来的线程池，都是有一个任务队列，而这个不同，它给每个线程都分配了一个任务队列 当某一个线程的任务队列没有任务，并且自己空闲，它就去其它线程的任务队列中偷任务，所以叫任务偷取线程池 细节：当线程自己从自己的任务队列拿任务时，不需要加锁，但是偷任务时，因为有两个线程，可能发生同步问题，需要加锁 此线程继承FJP 实例 import java.io.IOException;import java.util.concurrent.ExecutorService;import java.util.concurrent.Executors;import java.util.concurrent.TimeUnit;public class T11_WorkStealingPool {public static void main(String[] args) throws IOException {ExecutorService service = Executors.newWorkStealingPool();System.out.println(Runtime.getRuntime().availableProcessors());service.execute(new R(1000));service.execute(new R(2000));service.execute(new R(2000));service.execute(new R(2000)); //daemonservice.execute(new R(2000));//由于产生的是精灵线程（守护线程、后台线程），主线程不阻塞的话，看不到输出System.in.read(); }static class R implements Runnable {int time;R(int t) {this.time = t;}@Overridepublic void run() {try {TimeUnit.MILLISECONDS.sleep(time);} catch (InterruptedException e) {e.printStackTrace();}System.out.println(time + " " + Thread.currentThread().getName());} }} 12、流式API：ParallelStreamAPI 不懂的请参考：https://blog.csdn.net/grd_java/article/details/110265219 实例 import java.util.ArrayList;import java.util.List;import java.util.Random;public class T13_ParallelStreamAPI {public static void main(String[] args) {List<Integer> nums = new ArrayList<>();Random r = new Random();for(int i=0; i<10000; i++) nums.add(1000000 + r.nextInt(1000000));//System.out.println(nums);long start = System.currentTimeMillis();nums.forEach(v->isPrime(v));long end = System.currentTimeMillis();System.out.println(end - start);//使用parallel stream apistart = System.currentTimeMillis();nums.parallelStream().forEach(T13_ParallelStreamAPI::isPrime);//并行流，将任务切分成子任务执行end = System.currentTimeMillis();System.out.println(end - start);}static boolean isPrime(int num) {for(int i=2; i<=num/2; i++) {if(num % i == 0) return false;}return true;} } 13、总结 总结 Callable相当于一Runnable但是它有返回值 Future：存储执行完产生的结果 FutureTask 相当于Future+Runnable，既可以执行任务，又能获取任务执行的Future结果 CompletableFuture 可以多任务异步，并对多任务控制，整合任务结果，细化完美，比如可以一个任务完成就可以整合结果，也可以所有任务完成才整合结果 4、ThreadPoolExecutor源码解析 依然只讲重点，实际还需要大家按照上篇博客中看源码的方式来看 1、常用变量的解释 // 1. ctl，可以看做一个int类型的数字，高3位表示线程池状态，低29位表示worker数量private final AtomicInteger ctl = new AtomicInteger(ctlOf(RUNNING, 0));// 2. COUNT_BITS，Integer.SIZE为32，所以COUNT_BITS为29private static final int COUNT_BITS = Integer.SIZE - 3;// 3. CAPACITY，线程池允许的最大线程数。1左移29位，然后减1，即为 2^29 - 1private static final int CAPACITY = (1 << COUNT_BITS) - 1;// runState is stored in the high-order bits// 4. 线程池有5种状态，按大小排序如下：RUNNING < SHUTDOWN < STOP < TIDYING < TERMINATEDprivate static final int RUNNING = -1 << COUNT_BITS;private static final int SHUTDOWN = 0 << COUNT_BITS;private static final int STOP = 1 << COUNT_BITS;private static final int TIDYING = 2 << COUNT_BITS;private static final int TERMINATED = 3 << COUNT_BITS;// Packing and unpacking ctl// 5. runStateOf()，获取线程池状态，通过按位与操作，低29位将全部变成0private static int runStateOf(int c) { return c & ~CAPACITY; }// 6. workerCountOf()，获取线程池worker数量，通过按位与操作，高3位将全部变成0private static int workerCountOf(int c) { return c & CAPACITY; }// 7. ctlOf()，根据线程池状态和线程池worker数量，生成ctl值private static int ctlOf(int rs, int wc) { return rs | wc; }/ Bit field accessors that don't require unpacking ctl. These depend on the bit layout and on workerCount being never negative./// 8. runStateLessThan()，线程池状态小于xxprivate static boolean runStateLessThan(int c, int s) {return c < s;}// 9. runStateAtLeast()，线程池状态大于等于xxprivate static boolean runStateAtLeast(int c, int s) {return c >= s;} 2、构造方法 public ThreadPoolExecutor(int corePoolSize,int maximumPoolSize,long keepAliveTime,TimeUnit unit,BlockingQueue<Runnable> workQueue,ThreadFactory threadFactory,RejectedExecutionHandler handler) {// 基本类型参数校验if (corePoolSize < 0 ||maximumPoolSize <= 0 ||maximumPoolSize < corePoolSize ||keepAliveTime < 0)throw new IllegalArgumentException();// 空指针校验if (workQueue == null || threadFactory == null || handler == null)throw new NullPointerException();this.corePoolSize = corePoolSize;this.maximumPoolSize = maximumPoolSize;this.workQueue = workQueue;// 根据传入参数unit和keepAliveTime，将存活时间转换为纳秒存到变量keepAliveTime 中this.keepAliveTime = unit.toNanos(keepAliveTime);this.threadFactory = threadFactory;this.handler = handler;} 3、提交执行task的过程 public void execute(Runnable command) {if (command == null)throw new NullPointerException();/ Proceed in 3 steps: 1. If fewer than corePoolSize threads are running, try to start a new thread with the given command as its first task. The call to addWorker atomically checks runState and workerCount, and so prevents false alarms that would add threads when it shouldn't, by returning false. 2. If a task can be successfully queued, then we still need to double-check whether we should have added a thread (because existing ones died since last checking) or that the pool shut down since entry into this method. So we recheck state and if necessary roll back the enqueuing if stopped, or start a new thread if there are none. 3. If we cannot queue task, then we try to add a new thread. If it fails, we know we are shut down or saturated and so reject the task./int c = ctl.get();// worker数量比核心线程数小，直接创建worker执行任务if (workerCountOf(c) < corePoolSize) {if (addWorker(command, true))return;c = ctl.get();}// worker数量超过核心线程数，任务直接进入队列if (isRunning(c) && workQueue.offer(command)) {int recheck = ctl.get();// 线程池状态不是RUNNING状态，说明执行过shutdown命令，需要对新加入的任务执行reject()操作。// 这儿为什么需要recheck，是因为任务入队列前后，线程池的状态可能会发生变化。if (! isRunning(recheck) && remove(command))reject(command);// 这儿为什么需要判断0值，主要是在线程池构造方法中，核心线程数允许为0else if (workerCountOf(recheck) == 0)addWorker(null, false);}// 如果线程池不是运行状态，或者任务进入队列失败，则尝试创建worker执行任务。// 这儿有3点需要注意：// 1. 线程池不是运行状态时，addWorker内部会判断线程池状态// 2. addWorker第2个参数表示是否创建核心线程// 3. addWorker返回false，则说明任务执行失败，需要执行reject操作else if (!addWorker(command, false))reject(command);} 4、addworker源码解析 private boolean addWorker(Runnable firstTask, boolean core) {retry:// 外层自旋for (;;) {int c = ctl.get();int rs = runStateOf(c);// 这个条件写得比较难懂，我对其进行了调整，和下面的条件等价// (rs > SHUTDOWN) || // (rs == SHUTDOWN && firstTask != null) || // (rs == SHUTDOWN && workQueue.isEmpty())// 1. 线程池状态大于SHUTDOWN时，直接返回false// 2. 线程池状态等于SHUTDOWN，且firstTask不为null，直接返回false// 3. 线程池状态等于SHUTDOWN，且队列为空，直接返回false// Check if queue empty only if necessary.if (rs >= SHUTDOWN &&! (rs == SHUTDOWN &&firstTask == null &&! workQueue.isEmpty()))return false;// 内层自旋for (;;) {int wc = workerCountOf(c);// worker数量超过容量，直接返回falseif (wc >= CAPACITY ||wc >= (core ? corePoolSize : maximumPoolSize))return false;// 使用CAS的方式增加worker数量。// 若增加成功，则直接跳出外层循环进入到第二部分if (compareAndIncrementWorkerCount(c))break retry;c = ctl.get(); // Re-read ctl// 线程池状态发生变化，对外层循环进行自旋if (runStateOf(c) != rs)continue retry;// 其他情况，直接内层循环进行自旋即可// else CAS failed due to workerCount change; retry inner loop} }boolean workerStarted = false;boolean workerAdded = false;Worker w = null;try {w = new Worker(firstTask);final Thread t = w.thread;if (t != null) {final ReentrantLock mainLock = this.mainLock;// worker的添加必须是串行的，因此需要加锁mainLock.lock();try {// Recheck while holding lock.// Back out on ThreadFactory failure or if// shut down before lock acquired.// 这儿需要重新检查线程池状态int rs = runStateOf(ctl.get());if (rs < SHUTDOWN ||(rs == SHUTDOWN && firstTask == null)) {// worker已经调用过了start()方法，则不再创建workerif (t.isAlive()) // precheck that t is startablethrow new IllegalThreadStateException();// worker创建并添加到workers成功workers.add(w);// 更新largestPoolSize变量int s = workers.size();if (s > largestPoolSize)largestPoolSize = s;workerAdded = true;} } finally {mainLock.unlock();}// 启动worker线程if (workerAdded) {t.start();workerStarted = true;} }} finally {// worker线程启动失败，说明线程池状态发生了变化（关闭操作被执行），需要进行shutdown相关操作if (! workerStarted)addWorkerFailed(w);}return workerStarted;} 5、线程池worker任务单元 private final class Workerextends AbstractQueuedSynchronizerimplements Runnable{/ This class will never be serialized, but we provide a serialVersionUID to suppress a javac warning./private static final long serialVersionUID = 6138294804551838833L;/ Thread this worker is running in. Null if factory fails. /final Thread thread;/ Initial task to run. Possibly null. /Runnable firstTask;/ Per-thread task counter /volatile long completedTasks;/ Creates with given first task and thread from ThreadFactory. @param firstTask the first task (null if none)/Worker(Runnable firstTask) {setState(-1); // inhibit interrupts until runWorkerthis.firstTask = firstTask;// 这儿是Worker的关键所在，使用了线程工厂创建了一个线程。传入的参数为当前workerthis.thread = getThreadFactory().newThread(this);}/ Delegates main run loop to outer runWorker /public void run() {runWorker(this);}// 省略代码...} 6、核心线程执行逻辑-runworker final void runWorker(Worker w) {Thread wt = Thread.currentThread();Runnable task = w.firstTask;w.firstTask = null;// 调用unlock()是为了让外部可以中断w.unlock(); // allow interrupts// 这个变量用于判断是否进入过自旋（while循环）boolean completedAbruptly = true;try {// 这儿是自旋// 1. 如果firstTask不为null，则执行firstTask；// 2. 如果firstTask为null，则调用getTask()从队列获取任务。// 3. 阻塞队列的特性就是：当队列为空时，当前线程会被阻塞等待while (task != null || (task = getTask()) != null) {// 这儿对worker进行加锁，是为了达到下面的目的// 1. 降低锁范围，提升性能// 2. 保证每个worker执行的任务是串行的w.lock();// If pool is stopping, ensure thread is interrupted;// if not, ensure thread is not interrupted. This// requires a recheck in second case to deal with// shutdownNow race while clearing interrupt// 如果线程池正在停止，则对当前线程进行中断操作if ((runStateAtLeast(ctl.get(), STOP) ||(Thread.interrupted() &&runStateAtLeast(ctl.get(), STOP))) &&!wt.isInterrupted())wt.interrupt();// 执行任务，且在执行前后通过beforeExecute()和afterExecute()来扩展其功能。// 这两个方法在当前类里面为空实现。try {beforeExecute(wt, task);Throwable thrown = null;try {task.run();} catch (RuntimeException x) {thrown = x; throw x;} catch (Error x) {thrown = x; throw x;} catch (Throwable x) {thrown = x; throw new Error(x);} finally {afterExecute(task, thrown);} } finally {// 帮助gctask = null;// 已完成任务数加一 w.completedTasks++;w.unlock();} }completedAbruptly = false;} finally {// 自旋操作被退出，说明线程池正在结束processWorkerExit(w, completedAbruptly);} } 本篇文章为转载内容。原文链接：https://blog.csdn.net/grd_java/article/details/113116244。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...目录下的conda/build-environment.yaml文件： conda/build-environment.yaml Build environment that can be used to build tvm.name: tvmenv The conda channels to lookup the dependencieschannels:- anaconda- conda-forge 将name的值改为刚刚创建的虚拟环境名tvmenv   执行下面的指令，将构建tvm所需的环境依赖更新到当前虚拟环境中： conda env update -f conda/build-environment.yaml conda env update -n tvmenv -f conda/build-environment.yaml 设置完之后需要重新deactivate/activate对环境进行激活 如果上述命令执行较慢，可以将conda换成国内源（建议使用北京外国语大学的开源镜像站）：参考连接 然后修改conda/build-environment.yaml文件： channels:- defaults - anaconda - conda-forge   安装python依赖库： pip install decorator tornado psutil 'xgboost<1.6.0' cloudpickle -i https://pypi.tuna.tsinghua.edu.cn/simple 如果使用onnx或者pytorch作为原始模型，则还需要安装相应的依赖库pip install onnx onnxruntime -i https://pypi.tuna.tsinghua.edu.cn/simplepip install torch==1.7.1 torchvision==0.8.2 torchaudio==0.7.2 -i https://pypi.tuna.tsinghua.edu.cn/simple   在当前虚拟环境中添加用于tvm debug的环境变量： conda env config vars set TVM_LOG_DEBUG="ir/transform.cc=1,relay/ir/transform.cc=1" conda env config vars set TVM_LOG_DEBUG="ir/transform.cc=1,relay/ir/transform.cc=1" -n tvmenv 设置完之后需要重新deactivate/activate对环境进行激活是环境变量生效   使用这种方式设置环境变量的好处是：只有当前环境被激活(conda activate)时，自定义设置的环境变量才起作用，当conda deactivate后自定义的环境变量会自动清除。   当然，也可以更简单粗暴一些： export TVM_LOG_DEBUG="ir/transform.cc=1,relay/ir/transform.cc=1"   在当前虚拟环境中添加用于tvm python的环境变量： export TVM_HOME=your tvm pathexport PYTHONPATH=$TVM_HOME/python:${PYTHONPATH} 1.3 编译TVM源码   如果linux上没有安装C/C++的编译环境，需要进行安装： 更新软件apt-get update 安装apt-get install build-essential 安装cmakeapt-get install cmake   在tvm目录下创建build文件夹，并将cmake/config.cmake文件复制到此文件夹中： mkdir buildcp cmake/config.cmake build/   编辑build/config.cmake进行相关配置： 本次是在cpu上进行测试，因此没有配置cudaset(USE_LLVM ON) line 136set(USE_RELAY_DEBUG ON) line 285(建议先 OFF) 在末尾添加一个cmake的编译宏，确保编译出来的是debug版本set(CMAKE_BUILD_TYPE Debug)   编译tvm，这里开启了16个线程： cd buildcmake ..make -j 16 建议开多个线程，否则编译速度很慢哦   大约5分钟，即可生成我们需要的两个共享链接库：libtvm.so 和 libtvm_runtime.so 1.4 验证安装是否成功   tvm版本验证： import tvmprint(tvm.__version__)   pytorch模型验证： from_pytorch.py https://tvm.apache.org/docs/how_to/compile_models/from_pytorch.html ps: TVM supports PyTorch 1.7 and 1.4. Other versions may be unstable.import tvmfrom tvm import relayfrom tvm.contrib.download import download_testdataimport numpy as np PyTorch importsimport torchimport torchvision Load a pretrained PyTorch model -------------------------------model_name = "resnet18"model = getattr(torchvision.models, model_name)(pretrained=True) or model = torchvision.models.resnet18(pretrained=True) or pth_file = 'resnet18-f37072fd.pth' model = torchvision.models.resnet18() ckpt = torch.load(pth_file) model.load_state_dict(ckpt)model = model.eval() We grab the TorchScripted model via tracinginput_shape = [1, 3, 224, 224]input_data = torch.randn(input_shape)scripted_model = torch.jit.trace(model, input_data).eval() Load a test image ----------------- Classic cat example!from PIL import Image img_url = "https://github.com/dmlc/mxnet.js/blob/main/data/cat.png?raw=true" img_path = download_testdata(img_url, "cat.png", module="data")img_path = 'cat.png'img = Image.open(img_path).resize((224, 224)) Preprocess the image and convert to tensorfrom torchvision import transformsmy_preprocess = transforms.Compose([transforms.Resize(256),transforms.CenterCrop(224),transforms.ToTensor(),transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),])img = my_preprocess(img)img = np.expand_dims(img, 0) Import the graph to Relay ------------------------- Convert PyTorch graph to Relay graph. The input name can be arbitrary.input_name = "input0"shape_list = [(input_name, img.shape)]mod, params = relay.frontend.from_pytorch(scripted_model, shape_list) Relay Build ----------- Compile the graph to llvm target with given input specification.target = tvm.target.Target("llvm", host="llvm")dev = tvm.cpu(0)with tvm.transform.PassContext(opt_level=3):lib = relay.build(mod, target=target, params=params) Execute the portable graph on TVM --------------------------------- Now we can try deploying the compiled model on target.from tvm.contrib import graph_executordtype = "float32"m = graph_executor.GraphModule(lib["default"](dev)) Set inputsm.set_input(input_name, tvm.nd.array(img.astype(dtype))) Executem.run() Get outputstvm_output = m.get_output(0) Look up synset name ------------------- Look up prediction top 1 index in 1000 class synset. synset_url = "".join( [ "https://raw.githubusercontent.com/Cadene/", "pretrained-models.pytorch/master/data/", "imagenet_synsets.txt", ] ) synset_name = "imagenet_synsets.txt" synset_path = download_testdata(synset_url, synset_name, module="data") https://raw.githubusercontent.com/Cadene/pretrained-models.pytorch/master/data/imagenet_synsets.txtsynset_path = 'imagenet_synsets.txt'with open(synset_path) as f:synsets = f.readlines()synsets = [x.strip() for x in synsets]splits = [line.split(" ") for line in synsets]key_to_classname = {spl[0]: " ".join(spl[1:]) for spl in splits} class_url = "".join( [ "https://raw.githubusercontent.com/Cadene/", "pretrained-models.pytorch/master/data/", "imagenet_classes.txt", ] ) class_name = "imagenet_classes.txt" class_path = download_testdata(class_url, class_name, module="data") https://raw.githubusercontent.com/Cadene/pretrained-models.pytorch/master/data/imagenet_classes.txtclass_path = 'imagenet_classes.txt'with open(class_path) as f:class_id_to_key = f.readlines()class_id_to_key = [x.strip() for x in class_id_to_key] Get top-1 result for TVMtop1_tvm = np.argmax(tvm_output.numpy()[0])tvm_class_key = class_id_to_key[top1_tvm] Convert input to PyTorch variable and get PyTorch result for comparisonwith torch.no_grad():torch_img = torch.from_numpy(img)output = model(torch_img) Get top-1 result for PyTorchtop1_torch = np.argmax(output.numpy())torch_class_key = class_id_to_key[top1_torch]print("Relay top-1 id: {}, class name: {}".format(top1_tvm, key_to_classname[tvm_class_key]))print("Torch top-1 id: {}, class name: {}".format(top1_torch, key_to_classname[torch_class_key])) 2. 配置vscode   安装两个vscode远程连接所需的两个插件，具体如下图所示：   安装完成之后，在左侧工具栏会出现一个图标，点击图标进行ssh配置： ssh yourname@yourip -A   然后右键选择在当前窗口进行连接：   除此之外，还可以设置免费登录，具体可参考这篇文章。   当然，也可以使用windows本地的WSL2，vscode连接WSL还需要安装WSL和Dev Containers这两个插件。   在服务器端执行code .会自动安装vscode server，安装位置在用户的根目录下： 3. 安装FFI Navigator   由于TVM是由Python和C++混合开发，且大多数的IDE仅支持在同一种语言中查找函数定义，因此对于跨语言的FFI 调用，即Python跳转到C++或者C++跳转到Python，vscode是做不到的。虽然解决这个问题在技术上可能非常具有挑战性，但我们可以通过构建一个与FFI注册码模式匹配并恢复必要信息的项目特定分析器来解决这个问题，FFI Navigator就这样诞生了，作者仍然是陈天奇博士。   安装方式如下： 建议使用源码安装git clone https://github.com/tqchen/ffi-navigator.git 安装python依赖cd ffi-navigator/pythonpython setyp.py install   vscode需要安装FFI Navigator插件，直接搜索安装即可(安装到服务器端)。   最后需要在.vscode/setting.json进行配置，内容如下： {"python.analysis.extraPaths": ["${workspaceFolder}/python"], // 添加额外导入路径, 告诉pylance自定义的python库在哪里"ffi_navigator.pythonpath": "/home/liyanpeng/anaconda3/envs/tvmenv/bin/python", // 配置FFI Navigator"python.defaultInterpreterPath": "/home/liyanpeng/anaconda3/envs/tvmenv/bin/python","files.associations": {"type_traits": "cpp","fstream": "cpp","thread": "cpp",".tcc": "cpp"} }   更详细内容可以参考项目链接。 结束语   对于vscode的使用技巧及C/C++相关的配置，这里不再详细的介绍了，感兴趣的小伙伴们可以了解下。 本篇文章为转载内容。原文链接：https://blog.csdn.net/qq_42730750/article/details/126723224。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...adle，这个强大的构建工具，在Java和Android开发领域中占据了核心地位。它以其灵活、高效的依赖管理机制深受开发者喜爱。不过呢，对于刚开始接触的新手朋友，或者在某些特定场合下，要想确保打包时把所有依赖项都准确无误地塞进去，确实可能是个挺让人头疼的小挑战。本文将带你手把手地探索Gradle这个神奇工具的依赖管理秘籍，咱们会通过实实在在的例子，一起揭秘在打包过程中如何聪明又巧妙地搞定这些依赖关系，让你彻底告别纠结和困惑。 1. 理解Gradle依赖声明 在Gradle的世界里，依赖是项目构建的基石。在build.gradle文件中，我们使用dependencies块来声明项目所需的各种依赖。例如： groovy dependencies { implementation 'com.google.guava:guava:29.0-jre' // 声明对Guava库的依赖 testImplementation 'junit:junit:4.13' // 在测试代码中使用的JUnit依赖 } 这里的implementation和testImplementation是配置名称，它们分别表示主源码编译依赖与测试源码编译依赖。后面的字符串则是依赖的具体描述，遵循“groupId:artifactId:version”的格式。 2. 依赖传递性理解与控制 Gradle支持依赖的传递性，这意味着如果你直接依赖的库又依赖了其他库，那么那些间接依赖也会自动被包含进来。不过，在某些情况下，你可能需要控制或排除某些传递性依赖，可以使用exclude关键字实现： groovy dependencies { implementation('org.springframework.boot:spring-boot-starter-data-jpa') { exclude group: 'org.hibernate', module: 'hibernate-entitymanager' } } 上述代码表示我们在引入Spring Boot Data JPA starter时，明确排除了Hibernate Entity Manager。 3. 打包时确保依赖包含无遗漏 当执行Gradle的jar任务（或Android的assemble任务）打包项目时，Gradle会自动处理所有已声明的依赖关系。一般来说，如果没啥特殊设定，那些直接用到的依赖关系会自动被塞进类路径里。而那些间接、传递过来的依赖关系，是否会被纳入其中，就得看具体的配置策略怎么安排了。 但是请注意，Gradle并不会将依赖库的.jar文件物理地打包进你的主.jar文件中，而是会在生成的.jar文件的META-INF/MANIFEST.MF文件中记录依赖信息，以供运行时解析。如果你想创建一个包含所有依赖的“fat jar”（或称为"uber jar"），可以使用如shadow插件或原生的bootJar任务（针对Spring Boot项目）： groovy plugins { id 'com.github.johnrengelman.shadow' version '6.1.0' } jar { manifest { attributes 'Main-Class': 'com.example.Main' } } task shadowJar(type: ShadowJar) { archiveBaseName = 'my-app' archiveClassifier = 'all' mergeServiceFiles() } 以上代码片段展示了如何应用Shadow插件并创建一个包含所有依赖的自包含.jar文件。 总结起来，要确保Gradle打包时正确包含依赖包，关键在于合理地在build.gradle中声明和管理依赖，并根据实际需求选择合适的打包策略。Gradle这个家伙的设计理念啊，就是让构建项目这件事儿变得瞅一眼就明白，摸一下就能灵活运用，甭管多复杂的依赖关系网，都能轻松玩转。这样一来，咱们就能麻溜地把项目打包工作给搞定了，高效又省心！在你亲自上手捣鼓和尝试Gradle的过程中，你会发现这玩意儿的强大程度绝对超乎你的想象，它会像个给力的小助手一样，陪你一起砍断开发道路上的各种难题荆棘，勇往直前地一路狂奔。

...下，它们能够轻松实现并行处理，让你的程序速度嗖嗖地提升，性能简直不要太赞！这篇东西会手把手带你，通过实实在在的探讨和鲜活的例子，让你彻底领悟并熟练掌握如何准确、巧妙地把这些并发集合用起来。 2. Scala并发集合简介 2.1 ParSeq（并行序列） ParSeq是Scala标准库scala.collection.parallel.immutable.ParSeq的一部分，它是一个不可变且能够进行并行操作的序列。你知道吗，传统Seq就像是个单手拿大勺炒菜的厨师，一勺一勺慢慢来。而ParSeq呢，更像是拥有无数双手的超级大厨，可以同时在多个灶台上翻炒。这样一来，对于那种海量数据处理的大工程，ParSeq就显得特别游刃有余，效率倍增，妥妥的大数据处理神器啊！ 2.2 ParMap（并行映射） 同样地，ParMap是scala.collection.parallel.immutable.ParMap的一个组件，它提供了一种并行化的、不可变的键值对集合。ParMap支持高效的并行查找、更新和聚合操作，尤其适合于大规模键值查找和更新场景。 3. 并发集合实战示例 3.1 使用ParSeq进行并行化求和 scala import scala.collection.parallel.immutable.ParSeq val seq = (1 to 100000).toList.to(ParSeq) // 创建一个ParSeq val sum: Int = seq.par.sum // 使用并行计算求和 println(s"The sum of the sequence is $sum") 在这个例子中，我们首先创建了一个包含1到100000的ParSeq，并通过.par.sum方法进行了并行求和。这个过程会自动利用所有可用的CPU核心，显著提高大序列求和的速度。 3.2 使用ParMap进行并行化累加 scala import scala.collection.parallel.immutable.ParMap val mapData: Map[Int, Int] = (1 to 10000).map(i => (i, i)).toMap val parMap: ParMap[Int, Int] = ParMap(mapData.toSeq: _) // 将普通Map转换为ParMap val incrementedMap: ParMap[Int, Int] = parMap.mapValues(_ + 1) // 对每个值进行并行累加 val result: Map[Int, Int] = incrementedMap.seq // 转换回普通Map以查看结果 println("The incremented map is:") result.foreach(println) 上述代码展示了如何将普通Map转换为ParMap，然后对其内部的每个值进行并行累加操作。虽然这里只是抛砖引玉般举了一个简简单单的操作例子，但在真实世界的应用场景里，ParMap这个家伙可是能够轻轻松松处理那些让人头疼的复杂并行任务。 4. 思考与理解 使用并发集合时，我们需要充分理解其背后的并发模型和机制。虽然ParSeq和ParMap可以大幅提升性能，但并非所有的操作都适合并行化。比如，当你手头的数据量不大，或者你的操作特别依赖先后顺序时，一股脑儿地追求并行处理，可能会适得其反，反而给你带来更多的额外成本。 此外，还需注意的是，虽然ParSeq和ParMap能自动利用多核资源，但我们仍需根据实际情况调整并行度，以达到最优性能。就像在生活中，“人多好办事”这句话并不总是那么灵验，只有大家合理分工、默契合作，才能真正让团队的效率飙到最高点。 总结来说，Scala的ParSeq和ParMap为我们打开了并发编程的大门，让我们能在保证代码简洁的同时，充分发挥硬件潜力，提升程序性能。但就像任何强大的工具一样，合理、明智地使用才是关键所在。所以呢，想要真正玩转并发集合这玩意儿，就得不断动手实践、动脑思考、一步步优化，这就是咱们必须走的“修行”之路啦！

...e作为Android构建工具，它的重要性不言而喻。今天我们就来聊聊，为什么会出现这种情况，以及如何解决它。 --- 2. 深入分析 Gradle的幕后黑手 2.1 Gradle到底是什么？ 首先，让我们简单回顾一下Gradle是什么。Gradle是一个强大的构建工具，专门用来管理依赖关系、编译代码和生成最终的应用程序。在React Native的项目里，Gradle就像是个神奇的“翻译官”和“包工头”。它先把咱们写的JavaScript代码变成能被手机理解的原生语言，然后又像叠积木一样，把所有东西组装好，最后给你整出一个安卓的APK文件或者iOS的IPA文件，方便你直接装到手机上用。如果你的Gradle配置有问题，那么App就无法成功安装到模拟器上。 2.2 问题可能在哪里？ 现在，让我们回到那个让你抓狂的问题——为什么App装不上？以下是一些常见的原因： 2.2.1 Gradle版本不匹配 有时候，你的React Native版本和Gradle版本可能不兼容。比如说啊，React Native从0.60版本开始搞了个自动链接的功能，挺方便的。但你要注意啦，如果你用的Gradle版本太老了，那可能就会出问题，一些依赖项就装不全或者装不好，最后各种报错啥的，真是让人头大。嘿，之前我也碰上过这么个事儿！那时候我的 React Native 版本已经升到 0.63 了，结果 Gradle 还是老版本，就跟手机升级了系统，但壳子还是原来的那个一样，看着就别扭啊！解决方法很简单，只需要升级Gradle到最新版本即可。 代码示例： gradle // build.gradle 文件中的配置 buildscript { repositories { google() jcenter() } dependencies { classpath 'com.android.tools.build:gradle:4.2.0' // 升级到最新版本 } } 2.2.2 环境变量未配置 另一个常见的问题是环境变量没有正确配置。Gradle需要知道一些关键路径，比如Android SDK的位置。要是你忘了配这些路径，Gradle 就像没找到钥匙一样，干着急也使不上劲，最后只能眼睁睁看着构建任务挂掉。 代码示例： bash 设置环境变量 export ANDROID_HOME=/path/to/your/android/sdk export PATH=$PATH:$ANDROID_HOME/tools:$ANDROID_HOME/platform-tools 2.2.3 缓存问题 Gradle有一个缓存机制，有时候这个缓存可能会出问题。比如说啊，有个依赖包老是下不下来，Gradle就一直在那儿较真儿，不停地重试，就跟个倔强的小孩似的，怎么劝都不停，最后还是没搞掂。这时，你可以尝试清理缓存并重新构建项目。 代码示例： bash 清理Gradle缓存 cd android ./gradlew clean --- 3. 解决方案 动手实践的快乐 3.1 第一步：检查Gradle版本 既然Gradle版本可能是罪魁祸首，我们首先要检查一下它的版本是否符合要求。打开android/build.gradle文件，找到classpath部分，确保它指向的是最新的Gradle版本。 代码示例： gradle dependencies { classpath 'com.android.tools.build:gradle:7.0.2' // 使用最新版本 } 如果版本过低，可以直接升级到最新版本。升级后，记得同步项目并重新构建。 3.2 第二步：配置环境变量 接下来，检查你的环境变量是否配置正确。尤其是Android SDK的路径，必须指向真实的SDK目录。如果你不确定路径，可以去Android Studio中查看。 代码示例： bash 配置环境变量 export ANDROID_HOME=/Users/username/Library/Android/sdk export PATH=$PATH:$ANDROID_HOME/tools:$ANDROID_HOME/platform-tools 配置完成后，重启终端并运行项目，看看问题是否解决了。 3.3 第三步：清理缓存 如果前面两步都没有解决问题，可能是Gradle缓存出了问题。这时候，我们需要手动清理缓存。 代码示例： bash 进入Android目录并清理缓存 cd android ./gradlew clean 清理完成后，重新运行项目，看看是否能正常安装App。 --- 4. 总结与反思 成长的足迹 通过这次经历，我深刻体会到，React Native开发不仅仅是写代码那么简单，还需要对Gradle有深入的理解。Gradle虽然强大，但也非常复杂，稍有不慎就会出问题。不过，只要我们保持耐心，一步步排查问题，总能找到解决方案。 最后，我想说的是，开发过程中遇到问题并不可怕，可怕的是失去信心。每一次解决问题的过程，都是我们成长的机会。希望能帮到你，让你在碰到这些问题的时候，别再绕那么多弯子了，赶紧找到症结，把事情搞定！ 如果你还有其他疑问，欢迎随时交流！让我们一起在React Native的世界里探索更多可能性吧！

...的Java项目管理与构建工具，它遵循约定优于配置的原则，提供了一套标准化的构建生命周期模型以及依赖管理和项目信息管理机制。在文章中，Maven用于帮助开发者自动化地处理项目的构建、依赖管理和打包等任务。 pom.xml , pom.xml是Maven项目的核心配置文件，全称为Project Object Model（项目对象模型）。在这个XML文件中，开发者定义了项目的基本信息（如groupId、artifactId和version）、构建过程中的依赖项、插件配置以及其他构建相关设置。文中提到需要在pom.xml中配置maven-dependency-plugin和maven-assembly-plugin以实现特定的构建目标。 maven-dependency-plugin , maven-dependency-plugin是Maven的一个官方插件，主要用于处理项目的依赖关系。在本文上下文中，通过配置该插件的copy-dependencies目标，可以在项目构建过程中将所有依赖复制到指定目录（例如$ project.build.directory /lib），便于项目运行时查找和加载这些依赖库。 maven-assembly-plugin , maven-assembly-plugin是另一个Maven官方插件，它的主要功能是创建包含项目主程序类及所有依赖项的归档文件，如jar包或zip包。在文章场景下，通过此插件可以生成一个包含所有依赖的“fat jar”（也称作uber jar或jar-with-dependencies），确保在没有外部依赖环境的情况下也能直接运行项目。同时，需在插件配置中指定应用的主类路径，以便于执行时定位启动类。

...款现代化、高度灵活的构建工具，在Java开发中扮演着至关重要的角色。它以其强大的依赖管理机制深受开发者喜爱。然而，在实际项目中，尤其对于刚入门的小白来说，如何在用Gradle打包时把依赖包给整明白、放对地方，绝对是个需要你去深入探索、亲手实践一番的挑战。这篇东西咱们要来好好唠唠这个话题，咱会结合实际的代码案例，掰开了、揉碎了详细讲讲，让你能更扎实地掌握Gradle依赖管理这块知识。 1. 理解Gradle依赖声明 在Gradle的世界里，依赖包的引入和管理主要在build.gradle文件中的dependencies块进行。想象一下，当你像拼乐高积木一样搭建你的项目结构时，Gradle就是那个帮你找到并装配好每个“积木”（依赖包）的智能助手。 例如，如果你想在项目中添加对Junit单元测试框架的依赖，只需如下声明： groovy dependencies { testImplementation 'junit:junit:4.13' } 上述代码中，testImplementation是配置名称，用于指定依赖的作用范围（这里是只在测试编译阶段使用）。'junit:junit:4.13'则是标准的Maven坐标格式，由groupId、artifactId和version三部分组成，分别代表组织名、模块名和版本号。 2. 不同依赖范围的选择 Gradle提供了多种依赖范围，以适应不同的应用场景： - implementation：这是最常用的配置，表示编译和运行时都依赖这个库，但不会传递给依赖该项目的其他模块。 - api：类似于implementation，但它的接口会暴露给依赖此项目的模块。 - compileOnly：仅在编译时需要此依赖，运行时不需要。 - runtimeOnly：仅在运行时需要此依赖，编译时不需要。 - testImplementation：只在测试编译和执行阶段需要此依赖。 根据实际需求选择合适的依赖范围，有助于提高构建效率和避免不必要的依赖冲突。 3. 多项目依赖与子项目引用 在大型多模块项目中，各个子项目间可能存在相互依赖关系。在Gradle中，可以这样声明子项目依赖： groovy dependencies { implementation project(':moduleA') } 这里的:moduleA代表项目中的子模块，Gradle会自动处理这些内部模块间的依赖关系。 4. 版本控制与动态版本 为了保持依赖库的更新，Gradle允许使用动态版本号，如1.+或latest.release等。不过，这种方法可能导致构建结果不一致，建议在生产环境中锁定具体版本。 groovy dependencies { implementation 'com.google.guava:guava:29.0-jre' // 或者使用动态版本 implementation 'com.squareup.retrofit2:retrofit:2.+' } 5. 总结与思考 理解并熟练掌握Gradle的依赖管理，就像掌握了项目构建过程中的关键钥匙。每一个正确的依赖声明，都是项目稳健运行的重要基石。在实际操作的时候，咱们不仅要瞅瞅怎么把依赖引入进来，更得留意如何给这些依赖设定合适的“地盘”，把握好更新和固定版本的时机，还有就是要妥善处理各个模块之间的“你离不开我、我离不开你”的依赖关系。这是一个不断探索和优化的过程，让我们共同在这个过程中享受Gradle带来的高效与便捷吧！

...基于Groovy语言构建的开源自动化构建工具，广泛应用于各种规模的Java开发项目中。尤其是对那些超大型的项目，Gradle就像个大力士加上变形金刚，它用自己无比强大的功能和随心所欲的配置方式，帮开发者们轻松搭建出高效又稳定的构建环境，真可谓是一把开发神器啊！ 二、Gradle的基本概念与优势 1. Gradle是什么？ Gradle是一个高度可定制的构建系统，它可以帮助你管理项目的构建流程，并且可以在不同的环境和平台上运行。它的主要特点是模块化、依赖管理和多平台支持。 2. Gradle的优势 a) 灵活性高：Gradle允许开发者根据自己的需求来定义构建任务，这使得构建过程更加自由。 b) 支持多种编程语言：除了Java，Gradle还支持Scala、Kotlin等多种编程语言。 c) 丰富的插件库：Gradle拥有丰富的插件库，可以满足各种复杂的构建需求。 d) 强大的依赖管理能力：Gradle可以有效地处理项目中的依赖关系，避免了重复的编译和部署。 三、Gradle在大型项目中的实践应用 1. 建立构建脚本 首先，我们需要建立一个Gradle构建脚本（build.gradle），在这个脚本中，我们可以定义构建任务，指定构建步骤，以及配置项目的相关信息。以下是一个简单的Gradle构建脚本的例子： groovy plugins { id 'java' } group = 'com.example' version = '1.0-SNAPSHOT' sourceCompatibility = 1.8 repositories { mavenCentral() } dependencies { implementation 'org.springframework.boot:spring-boot-starter-web' } 2. 定义构建任务 在构建脚本中，我们可以通过apply方法来添加Gradle插件，然后通过tasks方法来定义构建任务。例如，我们可以通过下面的代码来定义一个名为"clean"的任务，用于清理构建目录： groovy task clean(type: Delete) { delete buildDir } 3. 使用Gradle进行版本控制 Gradle可以与Git等版本控制系统集成，这样就可以方便地跟踪项目的更改历史。以下是如何使用Gradle将本地仓库与远程仓库关联起来的例子： groovy allprojects { repositories { maven { url "https://repo.spring.io/libs-milestone" } mavenLocal() jcenter() google() mavenCentral() if (project.hasProperty('sonatypeSnapshots')) { maven { url "https://oss.sonatype.org/content/repositories/snapshots/" } } maven { url "file://${projectDir}/../libs" } } } 四、结论 总的来说，Gradle作为一个强大的构建工具，已经成为了大型项目不可或缺的一部分。用Gradle，咱们就能像变魔术一样，让项目的构建流程管理变得更溜、更稳当。这样一来，开发速度嗖嗖提升，产品质量也是妥妥的往上蹭，可带劲儿了！此外，随着Gradle社区的日益壮大和活跃，它的功能会越来越强大，实用性也会越来越高，这无疑让咱们在未来做项目时有了更多可以挖掘和利用的价值，绝对值得咱们进一步去探索和尝试。

...java CubeBuilder cubeBuilder = CubeBuilder.create("sales_cube"); cubeBuilder.addMeasure("revenue", MeasureType.DECIMAL); cubeBuilder.addDimension("product", Product.class); cubeBuilder.addDimension("date", Date.class); cubeBuilder.build(); 三、面向业务场景的设计 需求驱动 2. 需求分析 在开始设计前，我们需要深入了解业务需求。例如，销售部门可能关心季度销售额，而市场部门可能更关注产品线的表现。这决定了我们构建的数据立方体应该如何划分维度。 3. 设计数据模型 基于需求，我们可以设计如下的数据模型： java // 创建季度维度 cubeBuilder.addRollup("quarter", "year", "month"); // 创建产品线维度 cubeBuilder.addDimension("product_family", new ProductFamilyMapper(Product.class)); 四、优化与扩展 灵活性与性能 4. 索引与聚合 Kylin允许我们为重要的维度和事实表创建索引，提升查询性能。例如，对于频繁过滤的日期维度： java cubeBuilder.addIndex("date_idx", "date"); 5. 动态加载与缓存 为了适应业务变化，我们可以选择动态加载部分数据，或者利用缓存加速查询。例如，新产品上线初期，只加载最近一年的数据： java cubeBuilder.setSnapshotDate(Date.now().minusYears(1)); 五、结论与展望 5.1 业务场景的重要性 数据模型设计并非孤立的过程，而是需要紧密贴合业务场景。只有深入了解业务，才能设计出真正有价值的数据模型，帮助企业在数据海洋中精准导航。 5.2 Kylin的未来 随着大数据和人工智能的发展，Kylin也在不断进化，提供更智能的数据分析能力。未来，我们期待看到更多创新的数据模型设计，助力企业实现数据驱动的决策。 通过以上对Kylin数据模型设计的探讨，我们可以看到，无论是从基础的立方体构建，还是到高级的索引优化，都是为了更好地服务于实际的业务场景。设计数据模型就像玩个永不停歇的拼图游戏，关键是要时刻保持对业务那敏锐的直觉和深入的洞见，每一步都得精准对接。

...rkContext.parallelize(data).partitionBy(2, new HashPartitioner(2)) 在这个例子中，我们将数据集划分为2个分区，HashPartitioner(2)表示我们将利用一个取模为2的哈希函数来确定键值对应被分配到哪个分区。 三、自定义Partitioner实现 然而，当我们需要更精细地控制数据分布或者基于某种特定逻辑进行分区时，就需要实现自定义Partitioner。以下是一个简单的自定义Partitioner示例，该Partitioner将根据整数值将其对应的键值对均匀地分布在3个分区中： scala class CustomPartitioner extends Partitioner { override def numPartitions: Int = 3 override def getPartition(key: Any): Int = { key match { case _: Int => (key.toInt % numPartitions) // 假设key是个整数，取余操作确保均匀分布 case _ => throw new IllegalArgumentException(s"Key must be an integer for CustomPartitioner") } } override def isGlobalPartition(index: Int): Boolean = false } val customData = Array((1, "value1"), (2, "value2"), (3, "value3"), (4, "value4")) val customRdd = spark.sparkContext.parallelize(customData).partitionBy(3, new CustomPartitioner) 四、应用与优化 自定义Partitioner的应用场景非常广泛。比如，当我们做关联查询这事儿的时候，就像两个大表格要相互配对找信息一样，如果找到这两表格在某一列上有紧密的联系，那咱们就可以利用这个“共同点”来定制分区方案。这样一来，关联查询就像分成了很多小任务，在特定的机器上并行处理，大大加快了配对的速度，提升整体性能。 此外，还可以根据业务需求动态调整分区数量。当数据量蹭蹭往上涨的时候，咱们可以灵活调整Partitioner这个家伙的numPartitions属性，让它帮忙重新分配一下数据，确保所有任务都能“雨露均沾”，避免出现谁干得多、谁干得少的情况，保持大家的工作量均衡。 五、结论 总之，理解和掌握Spark中的Partitioner设计模式是高效利用Spark的重要环节。自定义Partitioner这个功能，那可是超级灵活的家伙，它让我们能够根据实际场景的需要，亲手安排数据分布，确保每个数据都落脚到最合适的位置。这样一来，不仅能让处理速度嗖嗖提升，还能让任务表现得更加出色，就像给机器装上了智能导航，让数据处理的旅程更加高效顺畅。希望通过这篇接地气的文章，您能像老司机一样熟练掌握Spark的Partitioner功能，从而更上一层楼，把Spark在大数据处理领域的威力发挥得淋漓尽致。

...在软件开发的世界里，构建工具就像是我们的瑞士军刀，Gradle就是其中的一款神器。它以其强大的灵活性和模块化特性，深受开发者们的喜爱。你知道的，就像所有厉害的家伙一样，Gradle这家伙其实也有点让人头大的时候，特别是第一次打交道或者遇到麻烦的时候。嘿，今天咱们来开个话题，就是那个烦人的Gradle构建出错问题，就像找宝藏一样，咱们一起探索解谜，看看怎么把它搞定！ 二、Gradle简介 Gradle是一个基于Apache Ant和Ivy的构建工具，它使用Groovy语言编写，支持Java、Kotlin等多种编程语言的项目构建。它超级棒，就像积木一样灵活，你可以随心所欲地拼装自己的想法。而且这家伙特别聪明，内置的插件库多到让你眼花缭乱，不管你的项目再怎么复杂，都能轻松应对，就像是为它量身打造的解决方案。 groovy // 一个简单的Gradle配置文件（build.gradle） plugins { id 'java' } dependencies { implementation 'org.springframework.boot:spring-boot-starter-web' } 三、常见报错及原因分析 1. 找不到依赖 groovy Error:Failed to resolve: com.example:library:1.0.0 这通常是因为你的项目依赖的库版本不存在，或者网络问题导致的。哥们儿，看看你的build.gradle里引用的那些库对不对头，就像淘宝搜商品一样，得确保那些库都能在网上畅通无阻地找到！ 2. Gradle版本冲突 groovy A problem occurred evaluating project ':app'. All com.android.support dependencies must use the Android Plugin for Gradle v7.0.0 or higher. 这表示你的项目中还存在com.android.support库，需要更新为Android Gradle插件的最新版本。 3. 编译错误 groovy Error:(1, 13) Gradle DSL method not found: 'implementation' 这是因为你使用的Gradle版本不支持implementation关键字，你需要升级到至少2.0及以上版本。 四、解决策略 1. 查阅文档 当遇到问题时，首先查阅官方文档（https://gradle.org/docs/）或StackOverflow等社区，可能会找到现成的答案。 2. 逐步调试 分析错误信息，一步步排查，如查看构建脚本、查找依赖、确认环境变量等。 3. 使用Gradle Wrapper 如果是网络问题，尝试创建Gradle Wrapper，这样你的开发环境就包含了Gradle，避免了因网络不稳定带来的问题。 4. 更新插件 对于插件版本过旧导致的问题，及时更新相关插件，确保与项目的兼容性。 五、结语 Gradle构建报错并不意味着绝望，反而是一次学习和成长的机会。你知道吗，要想真正摸清Gradle这家伙的脾气，就得先跟那些小错误打打交道，这样咱们的功力就能越来越深厚！记住，每一个挑战都是通往更强大开发者的阶梯。愿你在Gradle的世界里越走越远，构建出更加出色的项目！

...使用Gradle作为构建工具时，一个至关重要的环节就是处理项目中的依赖关系。在本文里，咱们要来好好唠唠，在Gradle打包这事儿上，怎么才能又准又溜地把依赖包塞进来，让你的项目能顺顺利利编译运行，一点儿都不带卡壳的。 1. 理解Gradle依赖管理 首先，Gradle的依赖管理机制非常强大，它允许我们以声明式的方式定义项目所需的各种库（或称依赖）。这些依赖项，你可以从本地的文件夹、Maven那个大仓库、Ivy的存储地，甚至其他远在天边的远程仓库里通通把它们捞出来。理解这一点是正确配置和打包依赖的关键。 1.1 在build.gradle文件中声明依赖 每个Gradle项目都有一个或多个build.gradle文件，这是配置项目构建过程的地方。在这里，我们可以用groovy或者kotlin DSL来声明依赖。例如： groovy dependencies { // 声明一个Java项目的编译期依赖 implementation 'com.google.guava:guava:30.1-jre' // 声明测试相关的依赖 testImplementation 'junit:junit:4.13.2' // 声明运行时需要但编译时不需要的依赖 runtimeOnly 'mysql:mysql-connector-java:8.0.26' } 上述代码中，我们在dependencies块内通过implementation、testImplementation和runtimeOnly等方式分别指定了不同类型的依赖。 2. 控制依赖范围与传递性 2.1 依赖范围 Gradle为依赖提供了多种范围，如implementation、api、compileOnly等，用于控制依赖在编译、测试及运行阶段的作用域。比方说，implementation这个家伙的作用，就好比你有一个小秘密，只告诉自己模块内部的成员，不会跑去跟依赖它的其他模块小伙伴瞎嚷嚷。但是，当你用上api的时候，那就相当于你不仅告诉了自家模块的成员，还大方地把这个接口分享给了所有下游模块的朋友。 2.2 依赖传递性 默认情况下，Gradle具有依赖传递性，即如果A模块依赖B模块，而B模块又依赖C模块，那么A模块间接依赖了C模块。有时我们需要控制这种传递性，可以通过transitive属性进行设置： groovy dependencies { implementation('org.hibernate:hibernate-core:5.6.9.Final') { transitive = false // 禁止传递依赖 } } 3. 使用定制化仓库 除了标准的Maven中央仓库，我们还可以添加自定义的仓库地址来下载依赖包： groovy repositories { mavenCentral() // 默认的Maven中央仓库 maven { url 'https://maven.example.com/repo' } // 自定义仓库 } 4. 打包时包含依赖 当执行gradle build命令时，Gradle会自动处理并包含所有已声明的依赖。对于Java应用，使用jar任务打包时，默认并不会将依赖打进生成的jar文件中。若需将依赖包含进去，可采用如下方式： groovy task fatJar(type: Jar) { archiveBaseName = 'my-fat-app' from { configurations.runtimeClasspath.collect { it.isDirectory() ? it : zipTree(it) } } with jar } 这段代码创建了一个名为fatJar的任务，它将运行时依赖一并打包进同一个jar文件中，便于部署和运行。 总结来说，掌握Gradle依赖管理的核心在于理解其声明式依赖配置以及对依赖范围、传递性的掌控。同时，咱们在打包的时候，得瞅准实际情况，灵活选择最合适的策略把依赖项一并打包进去，这样才能保证咱们的项目构建既一步到位，又快马加鞭，准确高效没商量。在整个开发过程中，Gradle就像个超级灵活、无比顺手的工具箱，让开发者能够轻轻松松解决各种乱七八糟、错综复杂的依赖关系难题，真可谓是个得力小助手。

...活运用一款超级给力的构建工具——Gradle啦！ 一、什么是Gradle Gradle是一个基于Groovy语言的开源构建工具，它提供了一种简单的方式来管理和构建复杂的项目。它可以处理各种类型的项目，包括Java、Android、Kotlin等。别的构建工具跟Gradle比起来，就像是固定套餐和自助餐的区别。Gradle就像那个自助餐厅，超级灵活、超能“扩容”。你想怎么配流程就怎么配，完全根据你项目的独特需求来定制“菜单”，是不是特给力？ 二、Gradle的基本使用 在开始学习如何在Gradle中正确包含依赖包之前，我们需要先了解一些基本的Gradle知识。首先，咱们得来新建一个叫做build.gradle的文件，这个文件可是Gradle的大管家，专门用来规划和指挥整个项目的结构布局以及构建过程的。在这份文件里，我们可以亲自设定项目所需的编译环境细节，把依赖的各个部分都罗列出来，还能规划好构建任务的具体安排，就像是给项目搭建一个从无到有的成长蓝图。 例如，以下是一个简单的build.gradle文件： groovy apply plugin: 'java' sourceCompatibility = 1.8 targetCompatibility = 1.8 dependencies { implementation 'org.springframework.boot:spring-boot-starter-web' } 在这个文件中，我们使用了Spring Boot的web starter作为项目的依赖。这个依赖在构建时，咱们不用手动下载，它会自己悄悄地蹦到项目里，并且自动加入到classpath的大部队中。 三、Gradle中的依赖管理 Gradle提供了强大的依赖管理功能，可以方便地处理各种依赖关系。在Gradle中，我们可以使用dependencies块来声明项目的依赖项。在dependencies块中，我们可以使用多种方式来声明依赖，如implementation、api、compileOnly、runtimeOnly等。 例如，如果我们需要在项目中使用MyLib这个库，我们可以这样做： groovy dependencies { implementation 'com.example:mylib:1.0.0' } 在这个例子中，我们使用了implementation关键字来声明对MyLib的依赖。这就意味着，MyLib会妥妥地被塞进项目的class路径里头，不论是编译的时候还是运行的时候，随时都能派上用场。 四、Gradle中的依赖分组 除了直接引用特定版本的依赖外，我们还可以通过依赖分组来管理依赖。依赖分组可以帮助我们将相关的依赖放在一起，使项目结构更加清晰。 例如，我们可以通过以下方式为所有Spring Boot的依赖设置一个名为'spring-boot'的依赖分组： groovy dependencies { implementation group: 'org.springframework.boot', name: 'spring-boot-starter-web' } 然后，我们就可以通过以下方式引用这个分组中的其他依赖： groovy dependencies { implementation 'org.springframework.boot:spring-boot-starter-data-jpa' } 这样，我们就不用每次都手动输入完整的依赖名称了，只需要记住依赖分组的名字即可。 五、结论 总的来说，Gradle是一个非常强大和灵活的构建工具，它为我们提供了许多方便的方式来管理和构建项目。对于每一个真心想在软件开发领域混出一片天的码农来说，掌握Gradle这个家伙可是你工具箱里不可或缺的一项大招！想要真正捣鼓出高质量的软件产品，那就必须得对Gradle有深刻的认识，并且能够像玩转积木那样灵活运用它，这样才能在开发过程中游刃有余，打造出让人心服口服的好软件。 希望大家能够通过这篇文章，对Gradle有一个更深入的理解。如果你有任何问题或者想要进一步了解Gradle，欢迎随时向我提问！

...性使得它成为现代项目构建流程中的核心工具。实际上，随着 Webpack5 的发布，其 watch 模式下的性能和稳定性得到了进一步优化。Webpack5 引入了新的文件系统追踪机制，能够更精确地检测文件变化，并且在 watch 模式下减少了 CPU 占用，提升了开发者体验。 此外，Webpack 插件体系的深度定制能力不仅限于本文提到的文件拷贝操作。例如，最新版本的 CopyWebpackPlugin（注意：这里的 CopyWebpackPlugin 并非文中自定义插件，而是社区广泛使用的成熟插件）支持 glob 模式匹配、目录递归复制等多种高级特性，对于复杂项目的资源管理提供了更强大的支持。 不仅如此，Webpack 还能与持续集成/持续部署（CI/CD）工具如 Jenkins、GitHub Actions 等紧密结合，实现自动化构建、测试及部署全流程。通过编写特定的 post-build 脚本或利用 CI/CD 工具提供的钩子函数，可以在编译完成后执行诸如文件上传、环境部署等更多后处理任务，从而提升开发团队的工作效率和协作水平。 总的来说，Webpack 作为构建工具的角色已经超越了单纯的模块打包，而是在工程化实践与 DevOps 流程中发挥着愈发关键的作用。深入理解和熟练运用其各项功能，包括但不限于 watch 模式下的回调机制与插件扩展性，将有助于我们更好地应对各种实际开发场景，打造高效、稳定且灵活的前端工作流。

...疑是一款强大且灵活的构建工具，它通过简洁明了的Groovy或Kotlin DSL语法，帮助开发者高效地管理和自动化项目构建流程。在这篇文章里，我们要好好唠一唠在用Gradle打包项目时，如何稳稳地把依赖包给正确塞进去这个核心环节。咱不仅会摆出一堆实用的代码实例，还会带着大家伙儿一起脑洞大开，进行一番深度探索和思考。 1. 理解Gradle依赖管理 首先，我们需要理解Gradle依赖管理的基本原理。Gradle依赖可以分为两种类型：本地依赖和远程依赖。本地依赖这个概念，就像是你项目里的“自给自足小菜园”，通常是指那些项目内部或者在你电脑本地文件系统中的jar包，它们就在你触手可及的地方，随用随取。而远程依赖呢，就好比是“远方的超市”，你需要从Maven仓库、Ivy仓库或者其他类似的远程仓库中把这些依赖项下载下来才能使用。这就像是你开车去超市采购食材一样，虽然不是家门口就有，但种类丰富，能满足更多样的需求。在实际项目中，我们更多时候是处理远程依赖。 例如，在Gradle脚本（build.gradle）中声明一个远程依赖，如添加对spring-boot-starter-web的依赖： groovy dependencies { implementation 'org.springframework.boot:spring-boot-starter-web:2.5.0' } 上述代码中，implementation是配置作用域，用于指定该依赖在编译和运行时的行为；'org.springframework.boot:spring-boot-starter-web:2.5.0'则遵循“group:module:version”的格式，分别表示组织名、模块名和版本号。 2. 配置依赖源与仓库 为了能够成功下载远程依赖，需要在Gradle脚本中配置依赖源（Repository）。一般来说，Gradle这家伙默认会先去Maven Central这个大仓库里找你需要的依赖项。但如果它发现你要的东西在这个仓库里找不到的话，你就得告诉它其他可以淘宝的地方，也就是添加其他的仓库地址啦。以下是如何添加JCenter仓库的例子： groovy repositories { mavenCentral() jcenter() // 或者maven { url 'https://jcenter.bintray.com/' } } 3. 特殊依赖处理 传递依赖与排除依赖 - 传递依赖：当你直接依赖某个库时，Gradle也会自动引入该库的所有依赖项（即传递依赖）。这虽然方便，但也可能带来版本冲突的问题。此时，Gradle允许你查看并管理这些传递依赖： groovy configurations.compileClasspath.resolvedConfiguration.resolvedArtifacts.each { artifact -> println "Dependency: ${artifact.name} - ${artifact.moduleVersion.id}" } - 排除依赖：对于不希望引入的传递依赖，可以通过exclude关键字来排除： groovy dependencies { implementation('com.example.library:A') { exclude group: 'com.example', module: 'B' } } 这段代码表示在引入A库的同时，明确排除掉来自同一组织的B模块。 4. 打包时包含依赖 当使用Gradle打包项目（如创建可执行的jar/war文件）时，确保所有依赖都被正确包含至关重要。Gradle提供了多种插件支持这种需求，比如在Spring Boot项目中，我们可以使用bootJar或bootWar任务： groovy plugins { id 'org.springframework.boot' version '2.5.0' } jar { archiveBaseName = 'my-project' archiveVersion = '1.0.0' } task bootJar(type: BootJar) { classifier = 'boot' } 在这个例子中，BootJar任务会自动将所有必需的依赖项打入到生成的jar文件中，使得应用具备自包含、独立运行的能力。 总结来说，Gradle打包时正确包含依赖包是一个涉及依赖声明、仓库配置以及特殊依赖处理的过程。经过对Gradle依赖管理机制的深入理解和亲手实践，我们不仅能够轻而易举地搞定那些恼人的依赖问题，更能进一步把项目构建过程玩转得溜溜的，从而大大提升开发效率，让工作效率飞起来。同时，在不断摸爬滚打、亲自上手实践的过程中，我们越发能感受到Gradle设计的超级灵活性和满满的人性化关怀，这也是为啥众多开发者对它爱得深沉，情有独钟的原因所在。

... rdd = sc.parallelize(1 to 1000000) val result = rdd.map { i => // 创建大量临时对象 val temp = List.fill(100000)(i.toString 100) // ... 进行其他计算 i 2 } 这段代码中，我们在map算子内部创建了大量的临时对象，如果这样的操作频繁且数据量巨大，Execution Memory很快就会耗尽，从而触发OOM。 4. 解决与优化策略 针对上述情况，我们可以从以下几个方面入手，避免或缓解Executor内存溢出的问题： - 合理配置内存分配：根据任务特性调整spark.executor.memory、spark.shuffle.memoryFraction等相关参数，确保各内存区域大小适中。 bash spark-submit --executor-memory 8g --conf "spark.shuffle.memoryFraction=0.3" - 减少shuffle数据量：尽量避免不必要的shuffle，或者通过repartition或coalesce合理调整分区数量，减轻单个Executor的压力。 - 优化数据结构和算法：尽量减少在用户代码中创建的大对象数量，如例2所示，可以考虑更高效的数据结构或算法来替代。 - 监控与调优：借助Spark UI等工具实时监控Executor内存使用情况，根据实际情况动态调整资源配置。 5. 结语 理解并掌握Spark Executor内存管理机制，以及面对OOM问题时的应对策略，是每个Spark开发者必备的能力。只有这样，我们才能真正地把这台强大的大数据处理引擎玩得溜起来，让它在我们的业务实战中火力全开，释放出最大的价值。记住了啊，每次跟OOM这个家伙过招，其实都是我们在Spark世界里探索和进步的一次大冒险，更是我们锻炼自己、提升数据处理本领的一次实战演练。

...Gradle进行项目构建时，依赖管理是一项至关重要的任务。在我们日常开发过程中，经常会干这么一件事：为了给项目添砖加瓦，或者让开发速度嗖嗖提升，我们会引入各种第三方库来帮忙。这些库就像是我们的得力助手，让项目功能更强大，开发过程更省时省力。好嘞，那么问题来了，我们到底该怎样在打包这一步就把这些依赖包一个不落地给捎上呢？接下来，咱就一起手拉手，深入Gradle的世界，摸清楚怎么妥善管理这些依赖，确保打包全程顺顺利利的吧！ 1. 添加依赖到build.gradle文件 首先，你需要在你的项目模块下的build.gradle文件中声明和配置所需的依赖项。例如，如果你正在创建一个Java项目，并需要添加Apache Commons Lang库作为依赖，你可以这样做： groovy // 在你的module级别的build.gradle文件中 dependencies { implementation 'org.apache.commons:commons-lang3:3.12.0' // 这是一个示例依赖，版本号请根据实际情况调整 } 这里的implementation是Gradle的一种依赖范围，表示该依赖对于当前模块内部是可见的，但在编译生成的库或应用中将不会暴露给其他依赖此模块的项目。当然，还有其他的依赖范围，如api、compileOnly等，具体选择哪种取决于你的项目需求。 2. 使用Gradle命令同步依赖 添加了依赖后，我们需要让Gradle下载并同步这些依赖到本地仓库。这可以通过运行以下命令实现： bash $ gradle build --refresh-dependencies --refresh-dependencies标志会强制Gradle重新下载所有依赖，即使它们已经在本地缓存中存在。当首次添加依赖或更新依赖版本时，这个步骤至关重要。 3. 配置打包插件以包含依赖 为了确保依赖包能够被打包进最终的产品（如jar或war），你需要配置对应的打包插件。例如，对于Java项目，我们通常会用到java或application插件，而对于Web应用，可能会用到war插件。 groovy // 应用application插件以创建可执行的JAR，其中包含了所有依赖 apply plugin: 'application' // 或者，对于web应用，应用war插件 apply plugin: 'war' // 配置mainClass（仅对application插件有效） mainClassName = 'com.example.Main' // 确保构建过程包含所有依赖 jar { from { configurations.runtimeClasspath.collect { it.isDirectory() ? it : zipTree(it) } } } // 对于war插件，无需特殊配置，它会自动包含所有依赖 这段代码的作用是确保在构建JAR或WAR文件时，不仅包含你自己的源码编译结果，还包含所有runtimeClasspath上的依赖。 4. 深入理解依赖管理和打包机制 当你完成上述步骤后，Gradle将会在打包过程中自动处理依赖关系，并将必要的依赖包含在内。不过，在实际动手操作的时候，免不了会碰到些复杂状况。就好比在多个模块的项目间，它们之间的依赖关系错综复杂，像传球一样互相传递；又或者有时候你得像个侦探，专门找出并排除那些特定的、不需要的依赖项，这些情况都是有可能出现的。 这里有一个思考点：Gradle的强大之处在于其智能的依赖解析和冲突解决机制。当你在为各个模块设定依赖关系时，Gradle这个小帮手会超级聪明地根据每个依赖的“身份证”（也就是group、name和version）以及它们的依赖范围，精心挑选出最合适、最匹配的版本，然后妥妥地将它打包进构建出来的最终产物里。所以呢，摸清楚Gradle里面的依赖管理和生命周期这俩玩意儿，就等于在打包的时候给咱装上了一双慧眼，能更溜地驾驭这些依赖项的行为，让它们乖乖听话。 总结来说，通过在build.gradle文件中明确声明依赖、适时刷新依赖、以及合理配置打包插件，我们可以确保Gradle在打包阶段能准确无误地包含所有必要的依赖包。在实际动手捣鼓和不断尝试的过程中，你会发现Gradle这个超级灵活、威力强大的构建神器，不知不觉间已经给我们的工作带来了很多意想不到的便利，让事情变得更加轻松简单。

构建脚本中使用了不支持的边缘计算库 1. 开场白 为什么我要说这个？ 嘿，各位开发者朋友们，大家好！今天我们要聊一个让很多开发者头疼的问题——在Gradle构建脚本中使用了不支持的边缘计算库。这个问题不仅影响项目的构建效率，还可能导致一些不可预见的错误。我最近碰到了这么个事儿，想跟大家聊聊我的经历还有我是怎么解决的。 2. 问题背景 我遇到的麻烦 事情是这样的，我在开发一个项目时，需要用到一个最新的边缘计算库来提升数据处理能力。当时觉得这个库非常棒，因为它能显著提高边缘设备的数据处理速度。所以我兴奋地把库加到了项目的依赖里，然后满怀期待地敲下了gradle build命令。然而，结果却让我大跌眼镜——项目构建失败了！ groovy // 我在build.gradle文件中的依赖部分添加了这个边缘计算库 dependencies { implementation 'com.edge:edge-computing-lib:1.0.0' } 3. 初步调查 发现问题所在 开始我以为是库本身有问题，于是花了大半天时间查阅官方文档和GitHub上的Issue。但最终发现，问题出在我自己的Gradle配置上。原来，这个边缘计算库版本太新，还不被当前的Gradle版本所支持。这下子我明白了，问题的关键在于版本兼容性。 groovy // 查看Gradle版本 task showGradleVersion << { println "Gradle version is ${gradle.gradleVersion}" } 4. 探索解决方法 寻找替代方案 既然问题已经定位，接下来就是想办法解决它了。我想先升级Gradle版本，不过转念一想，其他依赖的库也可能有版本冲突的问题。所以，我还是先去找个更稳当的边缘计算库试试吧。 经过一番搜索，我发现了一个较为成熟的边缘计算库，它不仅功能强大，而且已经被广泛使用。于是我把原来的依赖替换成了新的库，并更新了Gradle的版本。 groovy // 在build.gradle文件中修改依赖 dependencies { implementation 'com.stable:stable-edge-computing-lib:1.2.3' } // 更新Gradle版本到最新稳定版 plugins { id 'org.gradle.java' version '7.5' } 5. 实践验证 看看效果如何 修改完之后，我重新运行了gradle build命令。这次，项目终于成功构建了！我兴奋地打开了IDE，查看了运行日志，一切正常。虽说新库的功能跟原来计划的有点出入，但它的表现真心不错，又快又稳。这次经历让我深刻认识到，选择合适的工具和库是多么重要。 groovy // 检查构建是否成功 task checkBuildSuccess << { if (new File('build/reports').exists()) { println "Build was successful!" } else { println "Build failed, check the logs." } } 6. 总结与反思 这次经历给我的启示 通过这次经历，我学到了几个重要的教训。首先，你得注意版本兼容性这个问题。在你添新的依赖前，记得看看它的版本，还得确认它跟你的现有环境合不合得来。其次，面对问题时，保持冷静和乐观的态度非常重要。最后，多花时间研究和测试不同的解决方案，往往能找到更好的办法。 希望我的分享对你有所帮助，如果你也有类似的经历或者有更好的解决方案，欢迎留言交流。让我们一起努力，成为更好的开发者吧！ --- 好了，以上就是我关于“构建脚本中使用了不支持的边缘计算库”的全部分享。希望你能从中获得一些启发和帮助。如果你有任何疑问或者建议，随时欢迎与我交流。

...，例如在进行Cube构建时，出现了内存溢出的错误。这不仅会影响我们的工作效率，还会对数据分析的结果产生影响。那么，如何解决这个问题呢？下面我们就来一起探讨一下。 二、理解内存溢出错误的原因 首先，我们需要明白内存溢出是什么意思。说白了，就是程序运行的时候太“贪心”，想要的内存超过了系统的“肚量”，让系统没法满足它的需求，这样一来，程序就闹脾气不干了，可能直接罢工出异常，或者干脆整个“撂挑子”崩溃掉。对于Kylin来说，如果在构建Cube的过程中出现内存溢出，可能是由于以下几个原因： 1. 数据量过大 如果要处理的数据量非常大，那么在构建Cube的时候需要占用大量的内存。特别是当数据存在大量的维度和度量时，这种问题会更加明显。 2. 代码效率低下 如果我们在构建Cube的过程中使用的算法或者数据结构不合理，也可能导致内存溢出的问题。比如说，如果我们选错了用来做计算的数据结构，或者在玩循环操作的时候对内存管理不上心，这些都有可能引发这个问题。 3. 系统配置不足 最后，还有一种可能就是系统的硬件资源不足。比如说，如果你的服务器内存不够大，像个小肚鸡肠的家伙，而你又想让它消化处理一大堆数据的话，那它很可能就要“撑吐了”，也就是出现内存溢出的问题。 三、解决内存溢出错误的方法 了解了内存溢出的原因后，我们就可以采取相应的措施来解决了。一般来说，我们可以从以下几个方面入手： 1. 调整数据处理策略 如果是因为数据量过大而导致的内存溢出，我们可以考虑调整数据处理的策略。比如说，咱们可以尝试把那个超大的数据集，像切蛋糕那样切成几个小块儿，分批处理；或者索性找一个更溜的数据处理方式，这样一来，就能更好地“喂饱”内存，减少它的压力。 2. 优化代码 如果是由于代码效率低下的原因导致的内存溢出，我们可以通过优化代码来解决问题。比如，你可以在做计算时，聪明地选用合适的数据结构，就像选对工具干活才顺手；在进行循环操作时，得当管理内存，就像是个精打细算的家庭主妇，尽量避免那些不必要的内存分配和释放，让程序运行更流畅、更高效。 3. 增加系统资源 最后，如果以上两种方法都无法解决问题，我们可以考虑增加系统的硬件资源，例如增大服务器的内存等。 四、具体案例 接下来，我们将通过一个具体的例子来演示如何在Kylin中解决内存溢出的问题。假设我们要构建一个包含1亿条记录的Cube，每条记录有10个维度和5个度量。我们先来看看如果不做任何优化，直接进行构建会出现什么情况： python 假设我们有一个DataFrame df，其中包含了所有的数据 df = ... 创建一个新的Cube cube = Kylin.create_cube('my_cube', 'table') 开始构建Cube cube.build() 运行这段代码后，我们可能会发现程序出现了内存溢出的错误。这是因为数据量实在太大了，我们在搭建Cube的时候没把内存管理这块整明白，所以才冒出了这个问题来。 为了解决这个问题，我们可以尝试以下几种方法： 1. 将数据分割成多个小的数据集进行处理 python 将数据分割成10个小的数据集 partitions = np.array_split(df, 10) 对每个数据集进行构建 for i in range(10): 构建Cube cube = Kylin.create_cube(f'my_cube_{i}', f'table_{i}') cube.build() 这样，我们就可以将大的数据集分

...据集，可以让你轻松地并行处理任务。Spark还提供了多种高级API，包括DataFrame和Dataset，它们可以简化数据处理流程。 2.2 为什么选择Spark？ 简单来说，Spark之所以能成为我们的首选，是因为它具备以下优势： - 速度快：Spark利用内存计算来加速数据处理。 - 易于使用：提供了多种高级API，让开发变得更加直观。 - 灵活：支持批处理、流处理、机器学习等多种数据处理模式。 2.3 实战代码示例 假设我们有一个简单的数据集，存储在HDFS上，我们想用Spark读取并处理这些数据。下面是一个简单的Scala代码示例： scala // 导入Spark相关包 import org.apache.spark.sql.SparkSession // 创建SparkSession val spark = SparkSession.builder() .appName("IoT Data Sync") .getOrCreate() // 读取数据 val dataDF = spark.read.format("csv").option("header", "true").load("hdfs://path/to/iot_data.csv") // 显示前5行数据 dataDF.show(5) // 关闭SparkSession spark.stop() 3. 物联网设备数据同步与协调挑战 3.1 数据量大 物联网设备产生的数据量通常是海量的，而且这些数据往往需要实时处理。你可以想象一下，如果有成千上万的传感器在不停地吐数据，那得有多少数字在那儿疯跑啊！简直像海里的沙子一样多。 3.2 实时性要求高 物联网设备的数据往往需要实时处理。比如，在一个智能工厂里，如果传感器没能及时把数据传给中央系统做分析，那可能就会出大事儿，比如生产线罢工或者隐藏的安全隐患突然冒出来。 3.3 设备多样性 物联网设备种类繁多，不同设备可能采用不同的通信协议。这就意味着我们需要一个统一的方式来处理这些异构的数据源。 3.4 网络条件不稳定 物联网设备通常部署在各种环境中，网络条件往往不稳定。这就意味着我们需要的方案得有点抗压能力，在网络不给力的时候还能稳稳地干活。 4. 如何用Spark解决这些问题 4.1 使用Spark Streaming Spark Streaming 是Spark的一个扩展模块，专门用于处理实时数据流。它支持多种数据源，包括Kafka、Flume、TCP sockets等。下面是一个使用Spark Streaming从Kafka接收数据的例子： scala // 创建SparkStreamingContext val ssc = new StreamingContext(spark.sparkContext, Seconds(5)) // 创建Kafka流 val kafkaStream = KafkaUtils.createDirectStream[String, String]( ssc, PreferConsistent, Subscribe[String, String](topicsSet, kafkaParams) ) // 处理接收到的数据 kafkaStream.foreachRDD { rdd => val df = spark.read.json(rdd.map(_.value())) // 进一步处理数据... } // 开始处理流数据 ssc.start() ssc.awaitTermination() 4.2 利用DataFrame API简化数据处理 Spark的DataFrame API提供了一种结构化的方式来处理数据，使得我们可以更容易地编写复杂的查询。下面是一个使用DataFrame API处理数据的例子： scala // 假设我们已经有了一个DataFrame df import spark.implicits._ // 添加一个新的列 val enrichedDF = df.withColumn("timestamp", current_timestamp()) // 保存处理后的数据 enrichedDF.write.mode("append").json("hdfs://path/to/enriched_data") 4.3 弹性分布式数据集（RDD）的优势 Spark的核心概念之一就是RDD。RDD是一种不可变的、分区的数据集合，支持并行操作。这对于处理物联网设备产生的数据特别有用。下面是一个使用RDD的例子： scala // 创建一个简单的RDD val dataRDD = spark.sparkContext.parallelize(Seq(1, 2, 3, 4, 5)) // 对RDD进行映射操作 val mappedRDD = dataRDD.map(x => x 2) // 收集结果 val result = mappedRDD.collect() println(result.mkString(", ")) 4.4 容错机制 Spark的容错机制是其一大亮点。它通过RDD的血统信息（即RDD的操作历史）来重新计算丢失的数据。这就让Spark在处理像物联网设备这样的网络环境不稳定的情况时特别给力。 5. 结论 通过上述讨论，我们可以看到Spark确实是一个强大的工具，可以帮助我们有效地处理物联网设备产生的海量数据。虽说在实际操作中可能会碰到些难题，但只要我们好好设计和优化一下，Spark绝对能搞定这个活儿。希望这篇文章对你有所帮助，也欢迎你在实践中继续探索和分享你的经验！

...rter文件夹下创建build.gradle的文件，然后添加如下的代码。 apply plugin: 'java' repositories { mavenCentral() maven { url "https://repo.spring.io/snapshot" } maven { url "https://repo.spring.io/milestone" } } d ependencies { compile("org.springframework.boot:spring-boot:1.2.3.RELEASE") compile("org.springframework.data:spring-data-commons:1.9.2.RELEASE") } 4.接着，我们在fb-count-starter下创建这个目录结构src/main/java/org/test/bookpubstarter/dbcount 5.在新创建的文件下面，让我们添加实现接口CommandLineRunner文件，名称叫做DbCountRunner.java. public class DbCountRunner implements CommandLineRunner { protected final Log logger = LogFactory.getLog(getClass()); private Collection<CrudRepository> repositories; public DbCountRunner(Collection<CrudRepository> repositories) { this.repositories = repositories; } @Override public void run(String... args) throws Exception { repositories.forEach(crudRepository -> logger.info(String.format( "%s has %s entries", getRepositoryName(crudRepository.getClass()), crudRepository.count()))); } private static String getRepositoryName(Class crudRepositoryClass) { for (Class repositoryInterface : crudRepositoryClass.getInterfaces()) { if (repositoryInterface.getName().startsWith( "org.test.bookpub.repository")) { return repositoryInterface.getSimpleName(); } } return "UnknownRepository"; } } 6.我们创建一个DbCountAutoConfiguration.java来实现DbCountRunner。 @Configuration public class DbCountAutoConfiguration { @Bean public DbCountRunner dbCountRunner(Collection<CrudRepository> repositories) { return new DbCountRunner(repositories); } } 7.我们需要告诉Spring Boot我们新创建的JAR包含自动装配的类。我们需要在db-count-starter/src/main下创建resources/META-INF文件夹。 8.在resources/META-INF下创建spring.factories文件，添加如下内容。 org.springframework.boot.autoconfigure.EnableAutoConfiguration=org.test .bookpubstarter.dbcount.DbCountAutoConfiguration 9.在主项目的build.gradle下添加如下代码 compile project(':db-count-starter') 10.启动项目，你将会看到控制台的信息下： 2020-04-05 INFO org.test.bookpub.StartupRunner : Welcome to the Book Catalog System! 2020-04-05 INFO o.t.b.dbcount.DbCountRunner : AuthorRepository has 1 entries 2020-04-05 INFO o.t.b.dbcount.DbCountRunner : PublisherRepository has 1 entries 2020-04-05 INFO o.t.b.dbcount.DbCountRunner : BookRepository has 1 entries 2020-04-05 INFO o.t.b.dbcount.DbCountRunner :ReviewerRepository has 0 entries 2020-04-05 INFO org.test.bookpub.BookPubApplication : Started BookPubApplication in 8.528 seconds (JVM running for 9.002) 2020-04-05 INFO org.test.bookpub.StartupRunner : Number of books: 1 4.2.2代码说明 因为Spring Boot的starter是分隔的，独立的包，仅仅是添加更多的类到我们已经存在的项目资源中，而不会控制更多。为了独立技术，我们的选择很少，创建分开的配置在我们项目中或创建完全分开的项目。更好的方法是通过创建项目文件夹去转换们的项目到Gradel Multi-Project Build和子项目依赖于根目录到build.gradle。Gradle实际是创建JAR的包，但是我们不需要放入到任何地方，仅仅通过compile project(‘:db-count-starter’)来包含。 Spring Boot Auto-Configuration Starter并没有做什么，而是Spring Java Configuration类注释了@Configuration和代表性的spring.factories文件在META-INF的文件夹下。 当应用启动时，Spring Boot使用SpringFactoriesLoader，这个类是Spring Core中的，目的是为了获得Spring Java Configuration，这些配置给了org.springframework.boot.autoconfigure.EnableAutoConfiguration。这样之下，这些调用会收集spring.factories文件下的所有jar包或其它调用的路径和成分到应用的上下文的配置中。除此之了EnableAutoConfiguration，我们可以定义其它的关键接口使用，这些可以自动初始化在启动期间与如下的调用相似： org.springframework.context.ApplicationContextInitializer org.springframework.context.ApplicationListener org.springframework.boot.SpringApplicationRunListener org.springframework.boot.env.PropertySourceLoader org.springframework.boot.autoconfigure.template.TemplateAvailabilityProvider org.springframework.test.contex.TestExecutionListener 具有讽刺的是，Spring Boot Starter并不需要依赖Spring Boot的包，因为它编译时间上的依赖。如果我们看DbCountAutoConfiguation类，我们不会看到任何来自org.springframework.book的包。这仅仅的原因是我们的DbCountRunner实现了接口org.sprigframework.boot.CommandLineRunner. 本篇文章为转载内容。原文链接：https://blog.csdn.net/owen_william/article/details/107867328。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。