前端技术
HTML
CSS
Javascript
前端框架和UI库
VUE
ReactJS
AngularJS
JQuery
NodeJS
JSON
Element-UI
Bootstrap
Material UI
服务端和客户端
Java
Python
PHP
Golang
Scala
Kotlin
Groovy
Ruby
Lua
.net
c#
c++
后端WEB和工程框架
SpringBoot
SpringCloud
Struts2
MyBatis
Hibernate
Tornado
Beego
Go-Spring
Go Gin
Go Iris
Dubbo
HessianRPC
Maven
Gradle
数据库
MySQL
Oracle
Mongo
中间件与web容器
Redis
MemCache
Etcd
Cassandra
Kafka
RabbitMQ
RocketMQ
ActiveMQ
Nacos
Consul
Tomcat
Nginx
Netty
大数据技术
Hive
Impala
ClickHouse
DorisDB
Greenplum
PostgreSQL
HBase
Kylin
Hadoop
Apache Pig
ZooKeeper
SeaTunnel
Sqoop
Datax
Flink
Spark
Mahout
数据搜索与日志
ElasticSearch
Apache Lucene
Apache Solr
Kibana
Logstash
数据可视化与OLAP
Apache Atlas
Superset
Saiku
Tesseract
系统与容器
Linux
Shell
Docker
Kubernetes
[基于Nodejs的API接口跨域处理方法]的搜索结果
这里是文章列表。热门标签的颜色随机变换,标签颜色没有特殊含义。
点击某个标签可搜索标签相关的文章。
点击某个标签可搜索标签相关的文章。
Superset
... Superset中API调用返回HTTP错误的全面解析与解决方案 1. 引言 Superset,Apache软件基金会旗下的强大数据可视化和商业智能平台,以其丰富的图表类型、强大的SQL查询能力和便捷的API接口广受开发者喜爱。在实际编程干活的时候,咱们可能经常会碰到这么个情况:调用API接口,结果它返回了个HTTP错误,这就跟半路杀出个程咬金似的,妥妥地把我们的开发进度给绊住了。这篇文章的目标呢,就是想把这个问题掰开揉碎了讲明白,咱们会借助一些实实在在的代码例子,一块儿琢磨出问题出在哪儿,然后再对症下药,拿出解决的好法子来。 2. API调用中的HTTP错误概览 在与Superset的API进行交互时,HTTP错误是常见的反馈形式,它代表了请求处理过程中的异常情况。常见的HTTP错误状态码包括400(Bad Request)、401(Unauthorized)、403(Forbidden)、404(Not Found)等,每一种错误都对应着特定的问题场景。 - 例如:尝试访问一个不存在的资源可能会返回404错误: python import requests url = "http://your-superset-server/api/v1/fake-resource" response = requests.get(url) if response.status_code == 404: print("Resource not found!") 3. 分析并处理常见HTTP错误 3.1 400 Bad Request 这个错误通常意味着客户端发送的请求存在语法错误或参数缺失。比如在Superset里捣鼓创建仪表板的时候,如果你忘了给它提供必须的JSON格式数据,服务器就可能会蹦出个错误提示给你。 python 错误示例:缺少必要参数 payload = {} 应该包含dashboard信息的json对象 response = requests.post("http://your-superset-server/api/v1/dashboard", json=payload) if response.status_code == 400: print("Invalid request, missing required parameters.") 解决方法是确保你的请求包含了所有必需的参数并且它们的数据类型和格式正确。 3.2 401 Unauthorized 当客户端尝试访问需要认证的资源而未提供有效凭据时,会出现此错误。在Superset中,这意味着我们需要带上有效的API密钥或其他认证信息。 python 正确示例:添加认证头 headers = {'Authorization': 'Bearer your-api-key'} response = requests.get("http://your-superset-server/api/v1/datasets", headers=headers) 3.3 403 Forbidden 即使你提供了认证信息,也可能由于权限不足导致403错误。这表示用户没有执行当前操作的权限。检查用户角色和权限设置,确保其有权执行所需操作。 3.4 404 Not Found 如上所述,当请求的资源在服务器上不存在时,将返回404错误。请确认你的API路径是否准确无误。 4. 总结与思考 在使用Superset API的过程中遭遇HTTP错误是常态而非例外。每一个错误码,其实都在悄悄告诉我们一个具体的小秘密,就是某个环节出了点小差错。这就需要我们在碰到问题时化身福尔摩斯,耐心细致地拨开层层迷雾,把问题的来龙去脉摸个一清二楚。每一个“啊哈!”时刻,就像是我们对技术的一次热情拥抱和深刻领悟,它不仅让咱们对编程的理解更上一层楼,更是我们在编程旅途中的宝贵财富和实实在在的成长印记。所以呢,甭管是捣鼓API调用出岔子了,还是在日常开发工作中摸爬滚打,咱们都得瞪大眼睛,保持一颗明察秋毫的心,还得有股子耐心去解决问题。让每一次失败的HTTP请求,都变成咱通往成功的垫脚石,一步一个脚印地向前走。
2023-06-03 18:22:41
67
百转千回
Gradle
...插件中定义自定义错误处理逻辑? 引言 当我们深入到Gradle的世界,你会发现它不仅仅是一个构建工具,更是一个强大的可扩展平台。在捣鼓Gradle插件开发的时候,咱们免不了会碰到各种预料不到的幺蛾子,这时候就需要我们亲自出手,给这些异常情况定制错误处理方案,这样一来,才能让用户体验更加舒坦、贴心,仿佛是跟老朋友打交道一样。本文将探讨如何在Gradle插件中实现自定义错误处理逻辑,通过实例代码让你“身临其境”地理解和掌握这一技巧。 1. Gradle插件基础理解 首先,让我们回顾一下Gradle插件的基本概念。Gradle插件其实就像是给Gradle这位大厨添加一套新的烹饪秘籍,这些秘籍可以用Groovy或Kotlin这两种语言编写。它们就像魔法一样,能给原本的构建流程增添全新的任务菜单、个性化的调料配置,甚至是前所未有的操作手法,让构建过程变得更加丰富多彩,功能更加强大。在创建自定义插件时,我们通常会继承org.gradle.api.Plugin接口并实现其apply方法。 groovy class CustomPlugin implements Plugin { @Override void apply(Project project) { // 在这里定义你的插件逻辑 } } 2. 自定义错误处理的重要性 在构建过程中,可能会出现各种预期外的情况,比如网络请求失败、资源文件找不到、编译错误等。这些异常情况,如果我们没做妥善处理的话,Gradle这家伙通常会耍小脾气,直接撂挑子不干了,还把一串长长的堆栈跟踪信息给打印出来,这搁谁看了都可能会觉得有点闹心。所以呢,我们得在插件里头自己整一套错误处理机制,就是逮住特定的异常情况,给它掰扯清楚,然后估摸着是不是该继续下一步的操作。 3. 实现自定义错误处理逻辑 下面我们将通过一段示例代码来演示如何在Gradle插件中实现自定义错误处理: groovy class CustomPlugin implements Plugin { @Override void apply(Project project) { // 定义一个自定义任务 project.task('customTask') { doLast { try { // 模拟可能发生异常的操作 def resource = new URL("http://nonexistent-resource.com").openStream() // ...其他操作... } catch (IOException e) { // 自定义错误处理逻辑 println "发生了一个预料之外的问题: ${e.message}" // 可选择记录错误日志、发送通知或者根据条件决定是否继续执行 if (project.hasProperty('continueOnError')) { println "由于设置了'continueOnError'属性,我们将继续执行剩余任务..." } else { throw new GradleException("无法完成任务,因为遇到IO异常", e) } } } } } } 上述代码中,我们在自定义的任务customTask的doLast闭包内尝试执行可能抛出IOException的操作。当捕获到异常时,我们先输出一条易于理解的错误信息,然后检查项目是否有continueOnError属性设置。如果有,就打印一条提示并继续执行;否则,我们会抛出一个GradleException,这会导致构建停止并显示我们提供的错误消息。 4. 进一步探索与思考 尽管上面的示例展示了基本的自定义错误处理逻辑,但在实际场景中,你可能需要处理更复杂的情况,如根据不同类型的异常采取不同的策略,或者在全局范围内定义统一的错误处理器。为了让大家更自由地施展拳脚,Gradle提供了一系列超级实用的API工具箱。比如说,你可以想象一下,在你的整个项目评估完成之后,就像烘焙蛋糕出炉后撒糖霜一样,我们可以利用afterEvaluate这个神奇的生命周期回调函数,给项目挂上一个全局的异常处理器,确保任何小差错都逃不过它的“法眼”。 总的来说,在Gradle插件中定义自定义错误处理逻辑是一项重要的实践,它能帮助我们提升构建过程中的健壮性和用户体验。希望本文举的例子和讨论能实实在在帮到你,让你对这项技术有更接地气的理解和应用。这样一来,任何可能出现的异常情况,咱们都能把它变成一个展示咱优雅应对、积极改进的好机会,让问题不再是问题,而是进步的阶梯。
2023-05-21 19:08:26
427
半夏微凉
Tornado
...b框架,其核心特性是基于事件驱动的异步编程模型,能够高效处理大量并发连接,特别适合构建实时Web服务。AsyncIO这个家伙,其实是Python标准库里藏着的一个超级实用的异步I/O工具箱。它就像是个厉害的角色,拥有着强大的异步任务协调本领,让咱们平时用的Python能够轻松玩转异步编程,不再受限于同步模式,变得更加灵活高效。 两者虽各有特色,但并非竞争关系,而是可以紧密结合,取长补短,共同服务于对性能有极高要求的应用场景。 2. AsyncIO在Tornado中的运用 示例1:在Tornado中直接使用AsyncIO的async/await语法编写异步处理逻辑: python import asyncio import tornado.ioloop import tornado.web class AsyncHandler(tornado.web.RequestHandler): async def get(self): 使用AsyncIO执行耗时操作 await asyncio.sleep(1) self.write("Hello, Async Tornado!") def make_app(): return tornado.web.Application([ (r"/", AsyncHandler), ]) if __name__ == "__main__": app = make_app() app.listen(8888) tornado.ioloop.IOLoop.current().start() 在这段代码中,我们创建了一个异步处理器AsyncHandler,其中的get方法使用了AsyncIO的asyncio.sleep函数模拟耗时操作。虽然Tornado自身本来就有异步功能,但是在最新版的Tornado 6.0及以上版本里,咱们能够超级顺滑地把AsyncIO的异步编程语法融入进去,这样一来,不仅让代码读起来更加通俗易懂,而且极大地简化了程序结构,变得更加清爽利落。 3. 利用AsyncIO优化Tornado网络I/O 虽然Tornado内置了异步HTTP客户端,但在某些复杂场景下,利用AsyncIO的aiohttp库或其他第三方异步库可能会带来额外的性能提升。 示例2:使用aiohttp替代Tornado HTTPClient实现异步HTTP请求: python import aiohttp import tornado.web import asyncio class AsyncHttpHandler(tornado.web.RequestHandler): async def get(self): async with aiohttp.ClientSession() as session: async with session.get('https://api.example.com/data') as response: data = await response.json() self.write(data) def make_app(): return tornado.web.Application([ (r"/fetch_data", AsyncHttpHandler), ]) if __name__ == "__main__": app = make_app() app.listen(8888) loop = asyncio.get_event_loop() tornado.platform.asyncio.AsyncIOMainLoop().install() tornado.ioloop.IOLoop.current().start() 这里我们在Tornado中引入了aiohttp库来发起异步HTTP请求。注意,为了整合AsyncIO到Tornado事件循环,我们需要安装并启动tornado.platform.asyncio.AsyncIOMainLoop。 4. 思考与讨论 结合AsyncIO优化Tornado性能的过程中,我们不仅获得了更丰富、更灵活的异步编程工具箱,而且能更好地利用操作系统级别的异步I/O机制,从而提高资源利用率和系统吞吐量。当然,具体采用何种方式优化取决于实际应用场景和需求。 总的来说,Tornado与AsyncIO的联姻,无疑为Python高性能Web服务的开发注入了新的活力。在未来的发展旅程上,我们热切期盼能看到更多新鲜、酷炫的创新和突破,让Python异步编程变得更加给力,用起来更顺手,实力也更强大。就像是给它插上翅膀,飞得更高更快,让编程小伙伴们都能轻松愉快地驾驭这门技术,享受前所未有的高效与便捷。
2023-10-30 22:07:28
139
烟雨江南
JQuery插件下载
...交互设计的高效插件,基于jQuery库开发,旨在简化开发者在网页中创建和管理各种类型的对话框组件的过程。该插件具有广泛的适用性,能够轻松实现提示框、确认对话框以及自定义对话窗口等常见功能,并确保对包括IE8在内的多种浏览器环境的良好兼容性。其特色在于提供了一键式调用接口,只需简单配置即可实现对话框的展示与控制,比如设置标题、内容、按钮等元素。更重要的是,它支持点击按钮后的回调函数,这意味着开发者可以方便地处理用户交互行为,如根据用户的确认或取消操作执行相应的后续逻辑,大大提升了代码的可维护性和用户体验。总之,这款插件凭借其便捷的API、灵活的定制能力和良好的浏览器兼容性,成为了众多前端开发者在构建复杂Web应用时,进行消息提示和用户交互的理想选择。 点我下载 文件大小:6.28 MB 您将下载一个JQuery插件资源包,该资源包内部文件的目录结构如下: 本网站提供JQuery插件下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2023-10-30 22:00:11
87
本站
JQuery插件下载
...lock.js是一款基于jQuery开发的高性能、高度定制化的3D翻页式电子时钟特效插件。它不仅提供基础的时间显示功能,如实时展示小时、分钟和秒数,并支持12小时制与24小时制切换,还具备强大的计时器和倒计时功能,广泛适用于活动倒计时、任务截止时间提醒等多种场景。该插件的核心亮点在于其独特的翻页动画效果,通过模拟传统机械翻页时钟的工作原理,为网页增添了一抹复古而现代的科技感。FlipClock.js允许开发者轻松配置并实现各种计数器样式,如复古风格、电子时钟样式、辉光管效果、fliqlo字体翻页以及炫彩和彩虹等丰富的主题选择。此外,这款插件拥有完善的API接口,提供了启动、停止、获取当前时间、设置指定时间等方法,并且支持自定义回调函数,极大地满足了开发者对时钟组件个性化需求和交互体验的要求。总而言之,FlipClock.js是一个功能强大、设计精美的jQuery插件,以其创新的3D翻页动画和灵活多样的定制选项,在提升用户体验的同时,也为网页设计师和前端开发者带来了更多创造性的可能。 点我下载 文件大小:108.21 KB 您将下载一个JQuery插件资源包,该资源包内部文件的目录结构如下: 本网站提供JQuery插件下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2024-01-28 15:50:12
276
本站
JQuery插件下载
...ery插件介绍 这款基于TwitterBootstrap的jQuery用户向导插件是一个强大的工具,旨在简化复杂的操作流程,使用户体验更加流畅和直观。通过简洁而直观的设计,它将引导用户逐步完成任务或流程,每个步骤都有明确的指示,确保用户不会迷失方向。此插件的核心功能在于其灵活的操作机制,它允许开发者轻松地添加、删除或修改步骤,以适应不同的应用场景。此外,通过简单的API调用,可以实现按钮控制,让用户可以在不同步骤间自由跳转,增强了交互性。对于需要对特定步骤进行定制化处理的情况,插件也提供了丰富的事件处理接口,使得开发者能够轻松添加验证逻辑、加载数据等高级功能。最重要的是,由于它是基于Bootstrap构建的,因此能够无缝融入现有的网站设计中,保持界面的一致性和美观性。无论是在电子商务网站的结账流程,还是企业内部系统的多步骤表单填写,这款用户向导插件都能提供强大而灵活的支持,显著提升用户的操作体验。总之,这是一款集易用性、灵活性与美观性于一身的优秀插件,无论是初学者还是经验丰富的开发者,都能从中受益,快速创建出高效、友好的用户交互流程。 点我下载 文件大小:380.85 KB 您将下载一个JQuery插件资源包,该资源包内部文件的目录结构如下: 本网站提供JQuery插件下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2024-12-26 20:44:00
47
本站
转载文章
...据,在这里我们是要做基于SparkStreaming做实时在线统计。那么数据就需要放进消息系统(Kafka)中,我们的Spark Streaming应用程序就会去Kafka中Pull数据过来进行计算和消费,并把计算后的数据放入到持久化系统中(MySQL) 广告点击系统实时分析的意义:因为可以在线实时的看见广告的投放效果,就为广告的更大规模的投入和调整打下了坚实的基础,从而为公司带来最大化的经济回报。 核心需求: 1、实时黑名单动态过滤出有效的用户广告点击行为:因为黑名单用户可能随时出现,所以需要动态更新; 2、在线计算广告点击流量; 3、Top3热门广告; 4、每个广告流量趋势; 5、广告点击用户的区域分布分析 6、最近一分钟的广告点击量; 7、整个广告点击Spark Streaming处理程序724小时运行; 数据格式: 时间、用户、广告、城市等 技术细节: 在线计算用户点击的次数分析,屏蔽IP等; 使用updateStateByKey或者mapWithState进行不同地区广告点击排名的计算; Spark Streaming+Spark SQL+Spark Core等综合分析数据; 使用Window类型的操作; 高可用和性能调优等等; 流量趋势,一般会结合DB等; Spark Core / /package com.tom.spark.SparkApps.sparkstreaming;import java.util.Date;import java.util.HashMap;import java.util.Map;import java.util.Properties;import java.util.Random;import kafka.javaapi.producer.Producer;import kafka.producer.KeyedMessage;import kafka.producer.ProducerConfig;/ 数据生成代码,Kafka Producer产生数据/public class MockAdClickedStat {/ @param args/public static void main(String[] args) {final Random random = new Random();final String[] provinces = new String[]{"Guangdong", "Zhejiang", "Jiangsu", "Fujian"};final Map<String, String[]> cities = new HashMap<String, String[]>();cities.put("Guangdong", new String[]{"Guangzhou", "Shenzhen", "Dongguan"});cities.put("Zhejiang", new String[]{"Hangzhou", "Wenzhou", "Ningbo"});cities.put("Jiangsu", new String[]{"Nanjing", "Suzhou", "Wuxi"});cities.put("Fujian", new String[]{"Fuzhou", "Xiamen", "Sanming"});final String[] ips = new String[] {"192.168.112.240","192.168.112.239","192.168.112.245","192.168.112.246","192.168.112.247","192.168.112.248","192.168.112.249","192.168.112.250","192.168.112.251","192.168.112.252","192.168.112.253","192.168.112.254",};/ Kafka相关的基本配置信息/Properties kafkaConf = new Properties();kafkaConf.put("serializer.class", "kafka.serializer.StringEncoder");kafkaConf.put("metadeta.broker.list", "Master:9092,Worker1:9092,Worker2:9092");ProducerConfig producerConfig = new ProducerConfig(kafkaConf);final Producer<Integer, String> producer = new Producer<Integer, String>(producerConfig);new Thread(new Runnable() {public void run() {while(true) {//在线处理广告点击流的基本数据格式:timestamp、ip、userID、adID、province、cityLong timestamp = new Date().getTime();String ip = ips[random.nextInt(12)]; //可以采用网络上免费提供的ip库int userID = random.nextInt(10000);int adID = random.nextInt(100);String province = provinces[random.nextInt(4)];String city = cities.get(province)[random.nextInt(3)];String clickedAd = timestamp + "\t" + ip + "\t" + userID + "\t" + adID + "\t" + province + "\t" + city;producer.send(new KeyedMessage<Integer, String>("AdClicked", clickedAd));try {Thread.sleep(50);} catch (InterruptedException e) {// TODO Auto-generated catch blocke.printStackTrace();} }} }).start();} } package com.tom.spark.SparkApps.sparkstreaming;import java.sql.Connection;import java.sql.DriverManager;import java.sql.PreparedStatement;import java.sql.ResultSet;import java.sql.SQLException;import java.util.ArrayList;import java.util.Arrays;import java.util.HashMap;import java.util.HashSet;import java.util.Iterator;import java.util.List;import java.util.Map;import java.util.Set;import java.util.concurrent.LinkedBlockingQueue;import kafka.serializer.StringDecoder;import org.apache.spark.SparkConf;import org.apache.spark.api.java.JavaPairRDD;import org.apache.spark.api.java.JavaRDD;import org.apache.spark.api.java.JavaSparkContext;import org.apache.spark.api.java.function.Function;import org.apache.spark.api.java.function.Function2;import org.apache.spark.api.java.function.PairFunction;import org.apache.spark.api.java.function.VoidFunction;import org.apache.spark.sql.DataFrame;import org.apache.spark.sql.Row;import org.apache.spark.sql.RowFactory;import org.apache.spark.sql.hive.HiveContext;import org.apache.spark.sql.types.DataTypes;import org.apache.spark.sql.types.StructType;import org.apache.spark.streaming.Durations;import org.apache.spark.streaming.api.java.JavaDStream;import org.apache.spark.streaming.api.java.JavaPairDStream;import org.apache.spark.streaming.api.java.JavaPairInputDStream;import org.apache.spark.streaming.api.java.JavaStreamingContext;import org.apache.spark.streaming.api.java.JavaStreamingContextFactory;import org.apache.spark.streaming.kafka.KafkaUtils;import com.google.common.base.Optional;import scala.Tuple2;/ 数据处理,Kafka消费者/public class AdClickedStreamingStats {/ @param args/public static void main(String[] args) {// TODO Auto-generated method stub//好处:1、checkpoint 2、工厂final SparkConf conf = new SparkConf().setAppName("SparkStreamingOnKafkaDirect").setMaster("hdfs://Master:7077/");final String checkpointDirectory = "hdfs://Master:9000/library/SparkStreaming/CheckPoint_Data";JavaStreamingContextFactory factory = new JavaStreamingContextFactory() {public JavaStreamingContext create() {// TODO Auto-generated method stubreturn createContext(checkpointDirectory, conf);} };/ 可以从失败中恢复Driver,不过还需要指定Driver这个进程运行在Cluster,并且在提交应用程序的时候制定--supervise;/JavaStreamingContext javassc = JavaStreamingContext.getOrCreate(checkpointDirectory, factory);/ 第三步:创建Spark Streaming输入数据来源input Stream: 1、数据输入来源可以基于File、HDFS、Flume、Kafka、Socket等 2、在这里我们指定数据来源于网络Socket端口,Spark Streaming连接上该端口并在运行的时候一直监听该端口的数据 (当然该端口服务首先必须存在),并且在后续会根据业务需要不断有数据产生(当然对于Spark Streaming 应用程序的运行而言,有无数据其处理流程都是一样的) 3、如果经常在每间隔5秒钟没有数据的话不断启动空的Job其实会造成调度资源的浪费,因为并没有数据需要发生计算;所以 实际的企业级生成环境的代码在具体提交Job前会判断是否有数据,如果没有的话就不再提交Job;///创建Kafka元数据来让Spark Streaming这个Kafka Consumer利用Map<String, String> kafkaParameters = new HashMap<String, String>();kafkaParameters.put("metadata.broker.list", "Master:9092,Worker1:9092,Worker2:9092");Set<String> topics = new HashSet<String>();topics.add("SparkStreamingDirected");JavaPairInputDStream<String, String> adClickedStreaming = KafkaUtils.createDirectStream(javassc, String.class, String.class, StringDecoder.class, StringDecoder.class,kafkaParameters, topics);/因为要对黑名单进行过滤,而数据是在RDD中的,所以必然使用transform这个函数; 但是在这里我们必须使用transformToPair,原因是读取进来的Kafka的数据是Pair<String,String>类型, 另一个原因是过滤后的数据要进行进一步处理,所以必须是读进的Kafka数据的原始类型 在此再次说明,每个Batch Duration中实际上讲输入的数据就是被一个且仅被一个RDD封装的,你可以有多个 InputDStream,但其实在产生job的时候,这些不同的InputDStream在Batch Duration中就相当于Spark基于HDFS 数据操作的不同文件来源而已罢了。/JavaPairDStream<String, String> filteredadClickedStreaming = adClickedStreaming.transformToPair(new Function<JavaPairRDD<String,String>, JavaPairRDD<String,String>>() {public JavaPairRDD<String, String> call(JavaPairRDD<String, String> rdd) throws Exception {/ 在线黑名单过滤思路步骤: 1、从数据库中获取黑名单转换成RDD,即新的RDD实例封装黑名单数据; 2、然后把代表黑名单的RDD的实例和Batch Duration产生的RDD进行Join操作, 准确的说是进行leftOuterJoin操作,也就是说使用Batch Duration产生的RDD和代表黑名单的RDD实例进行 leftOuterJoin操作,如果两者都有内容的话,就会是true,否则的话就是false 我们要留下的是leftOuterJoin结果为false; /final List<String> blackListNames = new ArrayList<String>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();jdbcWrapper.doQuery("SELECT FROM blacklisttable", null, new ExecuteCallBack() {public void resultCallBack(ResultSet result) throws Exception {while(result.next()){blackListNames.add(result.getString(1));} }});List<Tuple2<String, Boolean>> blackListTuple = new ArrayList<Tuple2<String,Boolean>>();for(String name : blackListNames) {blackListTuple.add(new Tuple2<String, Boolean>(name, true));}List<Tuple2<String, Boolean>> blacklistFromListDB = blackListTuple; //数据来自于查询的黑名单表并且映射成为<String, Boolean>JavaSparkContext jsc = new JavaSparkContext(rdd.context());/ 黑名单的表中只有userID,但是如果要进行join操作的话就必须是Key-Value,所以在这里我们需要 基于数据表中的数据产生Key-Value类型的数据集合/JavaPairRDD<String, Boolean> blackListRDD = jsc.parallelizePairs(blacklistFromListDB);/ 进行操作的时候肯定是基于userID进行join,所以必须把传入的rdd进行mapToPair操作转化成为符合格式的RDD/JavaPairRDD<String, Tuple2<String, String>> rdd2Pair = rdd.mapToPair(new PairFunction<Tuple2<String,String>, String, Tuple2<String, String>>() {public Tuple2<String, Tuple2<String, String>> call(Tuple2<String, String> t) throws Exception {// TODO Auto-generated method stubString userID = t._2.split("\t")[2];return new Tuple2<String, Tuple2<String,String>>(userID, t);} });JavaPairRDD<String, Tuple2<Tuple2<String, String>, Optional<Boolean>>> joined = rdd2Pair.leftOuterJoin(blackListRDD);JavaPairRDD<String, String> result = joined.filter(new Function<Tuple2<String,Tuple2<Tuple2<String,String>,Optional<Boolean>>>, Boolean>() {public Boolean call(Tuple2<String, Tuple2<Tuple2<String, String>, Optional<Boolean>>> tuple)throws Exception {// TODO Auto-generated method stubOptional<Boolean> optional = tuple._2._2;if(optional.isPresent() && optional.get()){return false;} else {return true;} }}).mapToPair(new PairFunction<Tuple2<String,Tuple2<Tuple2<String,String>,Optional<Boolean>>>, String, String>() {public Tuple2<String, String> call(Tuple2<String, Tuple2<Tuple2<String, String>, Optional<Boolean>>> t)throws Exception {// TODO Auto-generated method stubreturn t._2._1;} });return result;} });//广告点击的基本数据格式:timestamp、ip、userID、adID、province、cityJavaPairDStream<String, Long> pairs = filteredadClickedStreaming.mapToPair(new PairFunction<Tuple2<String,String>, String, Long>() {public Tuple2<String, Long> call(Tuple2<String, String> t) throws Exception {String[] splited=t._2.split("\t");String timestamp = splited[0]; //YYYY-MM-DDString ip = splited[1];String userID = splited[2];String adID = splited[3];String province = splited[4];String city = splited[5]; String clickedRecord = timestamp + "_" +ip + "_"+userID+"_"+adID+"_"+province +"_"+city;return new Tuple2<String, Long>(clickedRecord, 1L);} });/ 第4.3步:在单词实例计数为1基础上,统计每个单词在文件中出现的总次数/JavaPairDStream<String, Long> adClickedUsers= pairs.reduceByKey(new Function2<Long, Long, Long>() {public Long call(Long i1, Long i2) throws Exception{return i1 + i2;} });/判断有效的点击,复杂化的采用机器学习训练模型进行在线过滤 简单的根据ip判断1天不超过100次;也可以通过一个batch duration的点击次数判断是否非法广告点击,通过一个batch来判断是不完整的,还需要一天的数据也可以每一个小时来判断。/JavaPairDStream<String, Long> filterClickedBatch = adClickedUsers.filter(new Function<Tuple2<String,Long>, Boolean>() {public Boolean call(Tuple2<String, Long> v1) throws Exception {if (1 < v1._2){//更新一些黑名单的数据库表return false;} else { return true;} }});//filterClickedBatch.print();//写入数据库filterClickedBatch.foreachRDD(new Function<JavaPairRDD<String,Long>, Void>() {public Void call(JavaPairRDD<String, Long> rdd) throws Exception {rdd.foreachPartition(new VoidFunction<Iterator<Tuple2<String,Long>>>() {public void call(Iterator<Tuple2<String, Long>> partition) throws Exception {//使用数据库连接池的高效读写数据库的方式将数据写入数据库mysql//例如一次插入 1000条 records,使用insertBatch 或 updateBatch//插入的用户数据信息:userID,adID,clickedCount,time//这里面有一个问题,可能出现两条记录的key是一样的,此时需要更新累加操作List<UserAdClicked> userAdClickedList = new ArrayList<UserAdClicked>();while(partition.hasNext()) {Tuple2<String, Long> record = partition.next();String[] splited = record._1.split("\t");UserAdClicked userClicked = new UserAdClicked();userClicked.setTimestamp(splited[0]);userClicked.setIp(splited[1]);userClicked.setUserID(splited[2]);userClicked.setAdID(splited[3]);userClicked.setProvince(splited[4]);userClicked.setCity(splited[5]);userAdClickedList.add(userClicked);}final List<UserAdClicked> inserting = new ArrayList<UserAdClicked>();final List<UserAdClicked> updating = new ArrayList<UserAdClicked>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();//表的字段timestamp、ip、userID、adID、province、city、clickedCountfor(final UserAdClicked clicked : userAdClickedList) {jdbcWrapper.doQuery("SELECT clickedCount FROM adclicked WHERE"+ " timestamp =? AND userID = ? AND adID = ?",new Object[]{clicked.getTimestamp(), clicked.getUserID(),clicked.getAdID()}, new ExecuteCallBack() {public void resultCallBack(ResultSet result) throws Exception {// TODO Auto-generated method stubif(result.next()) {long count = result.getLong(1);clicked.setClickedCount(count);updating.add(clicked);} else {inserting.add(clicked);clicked.setClickedCount(1L);} }});}//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> insertParametersList = new ArrayList<Object[]>();for(UserAdClicked insertRecord : inserting) {insertParametersList.add(new Object[] {insertRecord.getTimestamp(),insertRecord.getIp(),insertRecord.getUserID(),insertRecord.getAdID(),insertRecord.getProvince(),insertRecord.getCity(),insertRecord.getClickedCount()});}jdbcWrapper.doBatch("INSERT INTO adclicked VALUES(?, ?, ?, ?, ?, ?, ?)", insertParametersList);//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> updateParametersList = new ArrayList<Object[]>();for(UserAdClicked updateRecord : updating) {updateParametersList.add(new Object[] {updateRecord.getTimestamp(),updateRecord.getIp(),updateRecord.getUserID(),updateRecord.getAdID(),updateRecord.getProvince(),updateRecord.getCity(),updateRecord.getClickedCount() + 1});}jdbcWrapper.doBatch("UPDATE adclicked SET clickedCount = ? WHERE"+ " timestamp =? AND ip = ? AND userID = ? AND adID = ? "+ "AND province = ? AND city = ?", updateParametersList);} });return null;} });//再次过滤,从数据库中读取数据过滤黑名单JavaPairDStream<String, Long> blackListBasedOnHistory = filterClickedBatch.filter(new Function<Tuple2<String,Long>, Boolean>() {public Boolean call(Tuple2<String, Long> v1) throws Exception {//广告点击的基本数据格式:timestamp,ip,userID,adID,province,cityString[] splited = v1._1.split("\t"); //提取key值String date =splited[0];String userID =splited[2];String adID =splited[3];//查询一下数据库同一个用户同一个广告id点击量超过50次列入黑名单//接下来 根据date、userID、adID条件去查询用户点击广告的数据表,获得总的点击次数//这个时候基于点击次数判断是否属于黑名单点击int clickedCountTotalToday = 81 ;if (clickedCountTotalToday > 50) {return true;}else {return false ;} }});//map操作,找出用户的idJavaDStream<String> blackListuserIDBasedInBatchOnhistroy =blackListBasedOnHistory.map(new Function<Tuple2<String,Long>, String>() {public String call(Tuple2<String, Long> v1) throws Exception {// TODO Auto-generated method stubreturn v1._1.split("\t")[2];} });//有一个问题,数据可能重复,在一个partition里面重复,这个好办;//但多个partition不能保证一个用户重复,需要对黑名单的整个rdd进行去重操作。//rdd去重了,partition也就去重了,一石二鸟,一箭双雕// 找出了黑名单,下一步就写入黑名单数据库表中JavaDStream<String> blackListUniqueuserBasedInBatchOnhistroy = blackListuserIDBasedInBatchOnhistroy.transform(new Function<JavaRDD<String>, JavaRDD<String>>() {public JavaRDD<String> call(JavaRDD<String> rdd) throws Exception {// TODO Auto-generated method stubreturn rdd.distinct();} });// 下一步写入到数据表中blackListUniqueuserBasedInBatchOnhistroy.foreachRDD(new Function<JavaRDD<String>, Void>() {public Void call(JavaRDD<String> rdd) throws Exception {rdd.foreachPartition(new VoidFunction<Iterator<String>>() {public void call(Iterator<String> t) throws Exception {// TODO Auto-generated method stub//插入的用户信息可以只包含:useID//此时直接插入黑名单数据表即可。//写入数据库List<Object[]> blackList = new ArrayList<Object[]>();while(t.hasNext()) {blackList.add(new Object[]{t.next()});}JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();jdbcWrapper.doBatch("INSERT INTO blacklisttable values (?)", blackList);} });return null;} });/广告点击累计动态更新,每个updateStateByKey都会在Batch Duration的时间间隔的基础上进行广告点击次数的更新, 更新之后我们一般都会持久化到外部存储设备上,在这里我们存储到MySQL数据库中/JavaPairDStream<String, Long> updateStateByKeyDSteam = filteredadClickedStreaming.mapToPair(new PairFunction<Tuple2<String,String>, String, Long>() {public Tuple2<String, Long> call(Tuple2<String, String> t)throws Exception {String[] splited=t._2.split("\t");String timestamp = splited[0]; //YYYY-MM-DDString ip = splited[1];String userID = splited[2];String adID = splited[3];String province = splited[4];String city = splited[5]; String clickedRecord = timestamp + "_" +ip + "_"+userID+"_"+adID+"_"+province +"_"+city;return new Tuple2<String, Long>(clickedRecord, 1L);} }).updateStateByKey(new Function2<List<Long>, Optional<Long>, Optional<Long>>() {public Optional<Long> call(List<Long> v1, Optional<Long> v2)throws Exception {// v1:当前的Key在当前的Batch Duration中出现的次数的集合,例如{1,1,1,。。。,1}// v2:当前的Key在以前的Batch Duration中积累下来的结果;Long clickedTotalHistory = 0L; if(v2.isPresent()){clickedTotalHistory = v2.get();}for(Long one : v1) {clickedTotalHistory += one;}return Optional.of(clickedTotalHistory);} });updateStateByKeyDSteam.foreachRDD(new Function<JavaPairRDD<String,Long>, Void>() {public Void call(JavaPairRDD<String, Long> rdd) throws Exception {rdd.foreachPartition(new VoidFunction<Iterator<Tuple2<String,Long>>>() {public void call(Iterator<Tuple2<String, Long>> partition) throws Exception {//使用数据库连接池的高效读写数据库的方式将数据写入数据库mysql//例如一次插入 1000条 records,使用insertBatch 或 updateBatch//插入的用户数据信息:timestamp、adID、province、city//这里面有一个问题,可能出现两条记录的key是一样的,此时需要更新累加操作List<AdClicked> AdClickedList = new ArrayList<AdClicked>();while(partition.hasNext()) {Tuple2<String, Long> record = partition.next();String[] splited = record._1.split("\t");AdClicked adClicked = new AdClicked();adClicked.setTimestamp(splited[0]);adClicked.setAdID(splited[1]);adClicked.setProvince(splited[2]);adClicked.setCity(splited[3]);adClicked.setClickedCount(record._2);AdClickedList.add(adClicked);}final List<AdClicked> inserting = new ArrayList<AdClicked>();final List<AdClicked> updating = new ArrayList<AdClicked>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();//表的字段timestamp、ip、userID、adID、province、city、clickedCountfor(final AdClicked clicked : AdClickedList) {jdbcWrapper.doQuery("SELECT clickedCount FROM adclickedcount WHERE"+ " timestamp = ? AND adID = ? AND province = ? AND city = ?",new Object[]{clicked.getTimestamp(), clicked.getAdID(),clicked.getProvince(), clicked.getCity()}, new ExecuteCallBack() {public void resultCallBack(ResultSet result) throws Exception {// TODO Auto-generated method stubif(result.next()) {long count = result.getLong(1);clicked.setClickedCount(count);updating.add(clicked);} else {inserting.add(clicked);clicked.setClickedCount(1L);} }});}//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> insertParametersList = new ArrayList<Object[]>();for(AdClicked insertRecord : inserting) {insertParametersList.add(new Object[] {insertRecord.getTimestamp(),insertRecord.getAdID(),insertRecord.getProvince(),insertRecord.getCity(),insertRecord.getClickedCount()});}jdbcWrapper.doBatch("INSERT INTO adclickedcount VALUES(?, ?, ?, ?, ?)", insertParametersList);//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> updateParametersList = new ArrayList<Object[]>();for(AdClicked updateRecord : updating) {updateParametersList.add(new Object[] {updateRecord.getClickedCount(),updateRecord.getTimestamp(),updateRecord.getAdID(),updateRecord.getProvince(),updateRecord.getCity()});}jdbcWrapper.doBatch("UPDATE adclickedcount SET clickedCount = ? WHERE"+ " timestamp =? AND adID = ? AND province = ? AND city = ?", updateParametersList);} });return null;} });/ 对广告点击进行TopN计算,计算出每天每个省份Top5排名的广告 因为我们直接对RDD进行操作,所以使用了transfomr算子;/updateStateByKeyDSteam.transform(new Function<JavaPairRDD<String,Long>, JavaRDD<Row>>() {public JavaRDD<Row> call(JavaPairRDD<String, Long> rdd) throws Exception {JavaRDD<Row> rowRDD = rdd.mapToPair(new PairFunction<Tuple2<String,Long>, String, Long>() {public Tuple2<String, Long> call(Tuple2<String, Long> t)throws Exception {// TODO Auto-generated method stubString[] splited=t._1.split("_");String timestamp = splited[0]; //YYYY-MM-DDString adID = splited[3];String province = splited[4];String clickedRecord = timestamp + "_" + adID + "_" + province;return new Tuple2<String, Long>(clickedRecord, t._2);} }).reduceByKey(new Function2<Long, Long, Long>() {public Long call(Long v1, Long v2) throws Exception {// TODO Auto-generated method stubreturn v1 + v2;} }).map(new Function<Tuple2<String,Long>, Row>() {public Row call(Tuple2<String, Long> v1) throws Exception {// TODO Auto-generated method stubString[] splited=v1._1.split("_");String timestamp = splited[0]; //YYYY-MM-DDString adID = splited[3];String province = splited[4];return RowFactory.create(timestamp, adID, province, v1._2);} });StructType structType = DataTypes.createStructType(Arrays.asList(DataTypes.createStructField("timestamp", DataTypes.StringType, true),DataTypes.createStructField("adID", DataTypes.StringType, true),DataTypes.createStructField("province", DataTypes.StringType, true),DataTypes.createStructField("clickedCount", DataTypes.LongType, true)));HiveContext hiveContext = new HiveContext(rdd.context());DataFrame df = hiveContext.createDataFrame(rowRDD, structType);df.registerTempTable("topNTableSource");DataFrame result = hiveContext.sql("SELECT timestamp, adID, province, clickedCount, FROM"+ " (SELECT timestamp, adID, province,clickedCount, "+ "ROW_NUMBER() OVER(PARTITION BY province ORDER BY clickeCount DESC) rank "+ "FROM topNTableSource) subquery "+ "WHERE rank <= 5");return result.toJavaRDD();} }).foreachRDD(new Function<JavaRDD<Row>, Void>() {public Void call(JavaRDD<Row> rdd) throws Exception {// TODO Auto-generated method stubrdd.foreachPartition(new VoidFunction<Iterator<Row>>() {public void call(Iterator<Row> t) throws Exception {// TODO Auto-generated method stubList<AdProvinceTopN> adProvinceTopN = new ArrayList<AdProvinceTopN>();while(t.hasNext()) {Row row = t.next();AdProvinceTopN item = new AdProvinceTopN();item.setTimestamp(row.getString(0));item.setAdID(row.getString(1));item.setProvince(row.getString(2));item.setClickedCount(row.getLong(3));adProvinceTopN.add(item);}// final List<AdProvinceTopN> inserting = new ArrayList<AdProvinceTopN>();// final List<AdProvinceTopN> updating = new ArrayList<AdProvinceTopN>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();Set<String> set = new HashSet<String>();for(AdProvinceTopN item: adProvinceTopN){set.add(item.getTimestamp() + "_" + item.getProvince());}//表的字段timestamp、adID、province、clickedCountArrayList<Object[]> deleteParametersList = new ArrayList<Object[]>();for(String deleteRecord : set) {String[] splited = deleteRecord.split("_");deleteParametersList.add(new Object[]{splited[0],splited[1]});}jdbcWrapper.doBatch("DELETE FROM adprovincetopn WHERE timestamp = ? AND province = ?", deleteParametersList);//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> insertParametersList = new ArrayList<Object[]>();for(AdProvinceTopN insertRecord : adProvinceTopN) {insertParametersList.add(new Object[] {insertRecord.getClickedCount(),insertRecord.getTimestamp(),insertRecord.getAdID(),insertRecord.getProvince()});}jdbcWrapper.doBatch("INSERT INTO adprovincetopn VALUES (?, ?, ?, ?)", insertParametersList);} });return null;} });/ 计算过去半个小时内广告点击的趋势 广告点击的基本数据格式:timestamp、ip、userID、adID、province、city/filteredadClickedStreaming.mapToPair(new PairFunction<Tuple2<String,String>, String, Long>() {public Tuple2<String, Long> call(Tuple2<String, String> t)throws Exception {String splited[] = t._2.split("\t");String adID = splited[3];String time = splited[0]; //Todo:后续需要重构代码实现时间戳和分钟的转换提取。此处需要提取出该广告的点击分钟单位return new Tuple2<String, Long>(time + "_" + adID, 1L);} }).reduceByKeyAndWindow(new Function2<Long, Long, Long>() {public Long call(Long v1, Long v2) throws Exception {// TODO Auto-generated method stubreturn v1 + v2;} }, new Function2<Long, Long, Long>() {public Long call(Long v1, Long v2) throws Exception {// TODO Auto-generated method stubreturn v1 - v2;} }, Durations.minutes(30), Durations.milliseconds(5)).foreachRDD(new Function<JavaPairRDD<String,Long>, Void>() {public Void call(JavaPairRDD<String, Long> rdd) throws Exception {// TODO Auto-generated method stubrdd.foreachPartition(new VoidFunction<Iterator<Tuple2<String,Long>>>() {public void call(Iterator<Tuple2<String, Long>> partition)throws Exception {List<AdTrendStat> adTrend = new ArrayList<AdTrendStat>();// TODO Auto-generated method stubwhile(partition.hasNext()) {Tuple2<String, Long> record = partition.next();String[] splited = record._1.split("_");String time = splited[0];String adID = splited[1];Long clickedCount = record._2;/ 在插入数据到数据库的时候具体需要哪些字段?time、adID、clickedCount; 而我们通过J2EE技术进行趋势绘图的时候肯定是需要年、月、日、时、分这个维度的,所以我们在这里需要 年月日、小时、分钟这些时间维度;/AdTrendStat adTrendStat = new AdTrendStat();adTrendStat.setAdID(adID);adTrendStat.setClickedCount(clickedCount);adTrendStat.set_date(time); //Todo:获取年月日adTrendStat.set_hour(time); //Todo:获取小时adTrendStat.set_minute(time);//Todo:获取分钟adTrend.add(adTrendStat);}final List<AdTrendStat> inserting = new ArrayList<AdTrendStat>();final List<AdTrendStat> updating = new ArrayList<AdTrendStat>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();//表的字段timestamp、ip、userID、adID、province、city、clickedCountfor(final AdTrendStat trend : adTrend) {final AdTrendCountHistory adTrendhistory = new AdTrendCountHistory();jdbcWrapper.doQuery("SELECT clickedCount FROM adclickedtrend WHERE"+ " date =? AND hour = ? AND minute = ? AND AdID = ?",new Object[]{trend.get_date(), trend.get_hour(), trend.get_minute(),trend.getAdID()}, new ExecuteCallBack() {public void resultCallBack(ResultSet result) throws Exception {// TODO Auto-generated method stubif(result.next()) {long count = result.getLong(1);adTrendhistory.setClickedCountHistoryLong(count);updating.add(trend);} else { inserting.add(trend);} }});}//表的字段date、hour、minute、adID、clickedCountList<Object[]> insertParametersList = new ArrayList<Object[]>();for(AdTrendStat insertRecord : inserting) {insertParametersList.add(new Object[] {insertRecord.get_date(),insertRecord.get_hour(),insertRecord.get_minute(),insertRecord.getAdID(),insertRecord.getClickedCount()});}jdbcWrapper.doBatch("INSERT INTO adclickedtrend VALUES(?, ?, ?, ?, ?)", insertParametersList);//表的字段date、hour、minute、adID、clickedCountList<Object[]> updateParametersList = new ArrayList<Object[]>();for(AdTrendStat updateRecord : updating) {updateParametersList.add(new Object[] {updateRecord.getClickedCount(),updateRecord.get_date(),updateRecord.get_hour(),updateRecord.get_minute(),updateRecord.getAdID()});}jdbcWrapper.doBatch("UPDATE adclickedtrend SET clickedCount = ? WHERE"+ " date =? AND hour = ? AND minute = ? AND AdID = ?", updateParametersList);} });return null;} });;/ Spark Streaming 执行引擎也就是Driver开始运行,Driver启动的时候是位于一条新的线程中的,当然其内部有消息循环体,用于 接收应用程序本身或者Executor中的消息,/javassc.start();javassc.awaitTermination();javassc.close();}private static JavaStreamingContext createContext(String checkpointDirectory, SparkConf conf) {// If you do not see this printed, that means the StreamingContext has been loaded// from the new checkpointSystem.out.println("Creating new context");// Create the context with a 5 second batch sizeJavaStreamingContext ssc = new JavaStreamingContext(conf, Durations.seconds(10));ssc.checkpoint(checkpointDirectory);return ssc;} }class JDBCWrapper {private static JDBCWrapper jdbcInstance = null;private static LinkedBlockingQueue<Connection> dbConnectionPool = new LinkedBlockingQueue<Connection>();static {try {Class.forName("com.mysql.jdbc.Driver");} catch (ClassNotFoundException e) {// TODO Auto-generated catch blocke.printStackTrace();} }public static JDBCWrapper getJDBCInstance() {if(jdbcInstance == null) {synchronized (JDBCWrapper.class) {if(jdbcInstance == null) {jdbcInstance = new JDBCWrapper();} }}return jdbcInstance; }private JDBCWrapper() {for(int i = 0; i < 10; i++){try {Connection conn = DriverManager.getConnection("jdbc:mysql://Master:3306/sparkstreaming","root", "root");dbConnectionPool.put(conn);} catch (Exception e) {// TODO Auto-generated catch blocke.printStackTrace();} } }public synchronized Connection getConnection() {while(0 == dbConnectionPool.size()){try {Thread.sleep(20);} catch (InterruptedException e) {// TODO Auto-generated catch blocke.printStackTrace();} }return dbConnectionPool.poll();}public int[] doBatch(String sqlText, List<Object[]> paramsList){Connection conn = getConnection();PreparedStatement preparedStatement = null;int[] result = null;try {conn.setAutoCommit(false);preparedStatement = conn.prepareStatement(sqlText);for(Object[] parameters: paramsList) {for(int i = 0; i < parameters.length; i++){preparedStatement.setObject(i + 1, parameters[i]);} preparedStatement.addBatch();}result = preparedStatement.executeBatch();conn.commit();} catch (SQLException e) {// TODO Auto-generated catch blocke.printStackTrace();} finally {if(preparedStatement != null) {try {preparedStatement.close();} catch (SQLException e) {// TODO Auto-generated catch blocke.printStackTrace();} }if(conn != null) {try {dbConnectionPool.put(conn);} catch (InterruptedException e) {// TODO Auto-generated catch blocke.printStackTrace();} }}return result; }public void doQuery(String sqlText, Object[] paramsList, ExecuteCallBack callback){Connection conn = getConnection();PreparedStatement preparedStatement = null;ResultSet result = null;try {preparedStatement = conn.prepareStatement(sqlText);for(int i = 0; i < paramsList.length; i++){preparedStatement.setObject(i + 1, paramsList[i]);} result = preparedStatement.executeQuery();try {callback.resultCallBack(result);} catch (Exception e) {// TODO Auto-generated catch blocke.printStackTrace();} } catch (SQLException e) {// TODO Auto-generated catch blocke.printStackTrace();} finally {if(preparedStatement != null) {try {preparedStatement.close();} catch (SQLException e) {// TODO Auto-generated catch blocke.printStackTrace();} }if(conn != null) {try {dbConnectionPool.put(conn);} catch (InterruptedException e) {// TODO Auto-generated catch blocke.printStackTrace();} }} }}interface ExecuteCallBack {void resultCallBack(ResultSet result) throws Exception;}class UserAdClicked {private String timestamp;private String ip;private String userID;private String adID;private String province;private String city;private Long clickedCount;public String getTimestamp() {return timestamp;}public void setTimestamp(String timestamp) {this.timestamp = timestamp;}public String getIp() {return ip;}public void setIp(String ip) {this.ip = ip;}public String getUserID() {return userID;}public void setUserID(String userID) {this.userID = userID;}public String getAdID() {return adID;}public void setAdID(String adID) {this.adID = adID;}public String getProvince() {return province;}public void setProvince(String province) {this.province = province;}public String getCity() {return city;}public void setCity(String city) {this.city = city;}public Long getClickedCount() {return clickedCount;}public void setClickedCount(Long clickedCount) {this.clickedCount = clickedCount;} }class AdClicked {private String timestamp;private String adID;private String province;private String city;private Long clickedCount;public String getTimestamp() {return timestamp;}public void setTimestamp(String timestamp) {this.timestamp = timestamp;}public String getAdID() {return adID;}public void setAdID(String adID) {this.adID = adID;}public String getProvince() {return province;}public void setProvince(String province) {this.province = province;}public String getCity() {return city;}public void setCity(String city) {this.city = city;}public Long getClickedCount() {return clickedCount;}public void setClickedCount(Long clickedCount) {this.clickedCount = clickedCount;} }class AdProvinceTopN {private String timestamp;private String adID;private String province;private Long clickedCount;public String getTimestamp() {return timestamp;}public void setTimestamp(String timestamp) {this.timestamp = timestamp;}public String getAdID() {return adID;}public void setAdID(String adID) {this.adID = adID;}public String getProvince() {return province;}public void setProvince(String province) {this.province = province;}public Long getClickedCount() {return clickedCount;}public void setClickedCount(Long clickedCount) {this.clickedCount = clickedCount;} }class AdTrendStat {private String _date;private String _hour;private String _minute;private String adID;private Long clickedCount;public String get_date() {return _date;}public void set_date(String _date) {this._date = _date;}public String get_hour() {return _hour;}public void set_hour(String _hour) {this._hour = _hour;}public String get_minute() {return _minute;}public void set_minute(String _minute) {this._minute = _minute;}public String getAdID() {return adID;}public void setAdID(String adID) {this.adID = adID;}public Long getClickedCount() {return clickedCount;}public void setClickedCount(Long clickedCount) {this.clickedCount = clickedCount;} }class AdTrendCountHistory{private Long clickedCountHistoryLong;public Long getClickedCountHistoryLong() {return clickedCountHistoryLong;}public void setClickedCountHistoryLong(Long clickedCountHistoryLong) {this.clickedCountHistoryLong = clickedCountHistoryLong;} } 本篇文章为转载内容。原文链接:https://blog.csdn.net/tom_8899_li/article/details/71194434。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-02-14 19:16:35
297
转载
JQuery插件下载
....易于集成:作为一款基于jQuery的插件,GalMenu.js提供了简洁的API接口,开发者可以轻松地将其集成到现有的项目中。只需要几行代码,就可以享受到其带来的丰富功能和视觉效果。5.音效增强:除了视觉上的创新,插件还内置了丰富的音效,包括点击、打开、关闭等操作的音效,这些细节的处理极大地提升了用户的沉浸感和互动体验。应用场景GalMenu.js适合于各种需要增强用户界面交互性和视觉吸引力的应用场景,无论是游戏、社交媒体平台、在线教育网站,还是任何希望提供独特用户体验的网站或应用,都能从中获益。通过引入这种创新的菜单设计,不仅可以提升产品的整体形象,还能显著增加用户的使用满意度和粘性。总之,GalMenu.js是一款不可多得的jQuery插件,它将功能性和美学完美结合,为现代Web开发提供了全新的视角和解决方案。无论是对于追求创新的设计者还是对用户体验有严格要求的开发者来说,它都是一份不容错过的礼物。 点我下载 文件大小:116.35 KB 您将下载一个JQuery插件资源包,该资源包内部文件的目录结构如下: 本网站提供JQuery插件下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2024-09-23 21:24:20
21
本站
VUE
...、计算属性以及组合式API(Composition API)等Vue高级特性的应用场景,帮助开发者提升组件化开发效率。 另外,InfoQ的一篇报道《Vue.js在大型项目中的CSS类管理策略》也值得一看,文中不仅回顾了v-bind:class的基本用法,还分享了一些实际项目中如何结合模块化、CSS预处理器等工具进行复杂场景下的class动态管理,这对于面临大规模应用架构挑战的前端开发者具有很高的参考价值。 最后,Vue社区的一些教程如"Vue Conditional Classes: The Complete Guide",提供了大量实战案例,引导读者逐步掌握条件class的各种绑定技巧,包括但不限于基于状态切换、事件驱动、以及与其他Vue指令如v-if、v-for等协同工作的方法,为读者深化Vue技能树提供有力支撑。
2023-07-15 17:19:02
197
键盘勇士
JQuery
...y极大地简化了开发者处理DOM、事件和数组等任务的过程。然而,随着原生JavaScript能力的不断提升,以及诸如Vue、React等现代前端框架的普及,许多开发者开始更多地直接使用原生API或者框架内建方法来实现类似功能。例如,在ECMAScript 6(ES6)中引入了Array.prototype.includes()方法,可以更直观地判断一个数组中是否存在指定元素。 javascript let myArray = ['apple', 'banana', 'orange', 'grape']; if (myArray.includes('banana')) { // 存在 } else { // 不存在 } 此外,对于大型项目或对性能有较高要求的应用场景,还可以考虑使用lodash等工具库中的_.includes()函数,其具有良好的兼容性和优化的内部实现。 而在jQuery插件设计方面,尽管本文展示了如何基于jQuery扩展数组功能以提高代码复用性,但现代前端开发趋势更倾向于采用模块化和组件化的思维方式。因此,开发者可能会选择将此类逻辑封装成独立的、可复用的函数或类,并通过npm等包管理器进行版本管理和共享。 同时,值得注意的是,虽然jQuery为早期前端开发带来了极大便利,但在追求轻量化、高性能的今天,理解并掌握原生JavaScript API以及现代框架的核心概念与最佳实践,已成为每一位前端工程师必备的能力之一。这不仅可以帮助我们编写出更为简洁高效且易于维护的代码,更能紧跟技术潮流,适应不断变化的前端开发环境。
2023-06-16 18:33:25
110
软件工程师
JSON
...级的数据交换格式。它基于纯文本,采用完全独立于语言的文本格式来存储和传输数据,易于人阅读和编写,同时也易于机器解析和生成。在本文中,JSON被用于PHP程序中进行前后端数据交互,通过json_decode函数可以将JSON字符串转换为PHP对象或数组,反之,通过json_encode函数可将PHP数组转换为JSON格式的字符串。 PHP对象 , 在PHP编程语言中,对象是一种复杂的数据类型,它是类的实例化结果,包含了数据(属性)和方法(功能)。在处理JSON时,通过json_decode函数将JSON数据转换为PHP对象后,可以通过“->”运算符访问其内部的属性,例如在文章示例中的 $data->name、$data->age 和 $data->city 就分别代表了从JSON数据转换得到的PHP对象的属性值。 前后端数据交互 , 在Web应用程序开发中,前后端数据交互是指客户端(前端,如浏览器中的JavaScript代码)与服务器端(后端,如PHP脚本)之间传递、接收和处理数据的过程。在这个过程中,JSON扮演着重要的角色,因为它的易读性和跨语言兼容性使得它可以作为不同环境间通用的数据交换格式。例如,在PHP环境中,通过将PHP数组编码成JSON格式发送给前端,或者将前端发送过来的JSON数据解码为PHP数组,实现数据的有效传递和共享。
2023-01-18 13:53:09
461
算法侠
JQuery
...ery因其简单易学的API设计和对旧版浏览器的良好兼容性,在许多项目中依然不可或缺。 例如,在Bootstrap 5这一流行CSS框架中,尽管其自身组件已支持原生JavaScript交互,但仍推荐开发者结合jQuery以实现更复杂的功能。jQuery对class属性值的操作不仅限于查找,还包括动态添加、删除以及切换,这在响应式布局或状态管理时显得尤为重要。 另外值得注意的是,虽然JavaScript原生API(如querySelectorAll和classList)现在也能够实现类似jQuery的功能,但在跨浏览器兼容性、简化语法及链式调用等方面,jQuery仍有其独特优势。近期,jQuery团队持续更新维护,进一步优化性能并保持与现代Web标准的同步。 此外,对于初学者而言,通过学习jQuery对class属性值的操作,不仅能理解DOM操作的基本原理,还能为今后掌握其他前端框架打下坚实基础。深入研究jQuery的选择器机制和事件处理方法,将有助于提升开发者对整个Web应用架构的理解与实践能力。 总之,在实际项目开发中,根据具体需求选择合适的工具和技术栈至关重要。无论是坚持使用jQuery,还是转向现代前端框架,理解并熟练运用对class属性值的操作始终是前端工程师必备的核心技能之一。
2023-08-05 19:20:47
84
算法侠
VUE
...) , GIS是一种处理、分析和展示地理空间数据的技术系统。它利用计算机硬件、软件和地理数据来获取、管理、分析和可视化地球表面的特征以及与其相关的各种信息。在文中,GIS技术与Vue框架相结合,以实现Web端的地图功能,如加载瓦片图层、添加标记点,并支持弹出窗口显示详细信息等功能,从而提升Web GIS应用的交互性和可重用性。 Leaflet , Leaflet是一个开源的JavaScript库,专门用于创建交互式移动友好地图。Leaflet提供了丰富的地图操作API和简单易用的接口,使得开发者能够在Web页面上轻松嵌入地图、添加图层、绘制几何图形等。在文章提供的Vue组件实例中,Leaflet被引入并集成到Vue项目中,实现了地图初始化、瓦片图层加载以及地图标记点的添加和交互功能。
2023-01-25 15:08:59
48
键盘勇士
JQuery
...,包含了大量的函数和方法,旨在简化和增强开发人员编写JavaScript程序的过程。在本文中,jQuery被定义为一种常用的JavaScript库,它提供了丰富的API接口来处理HTML文档对象模型(DOM)操作和CSS样式控制等功能,使得开发者能够更加高效地进行Web前端开发。 CSS样式 , CSS(Cascading Style Sheets)样式是一种样式表语言,用于描述HTML或XML(包括如SVG、MathML等各种XML方言)文档的呈现。在网页设计中,CSS样式负责定义HTML元素的布局、颜色、字体和其他视觉表现形式。文章提到,jQuery的“css”函数可以用来动态修改HTML元素的CSS样式属性,比如文本框的字体大小和颜色。 选择器 , 在jQuery和CSS中,选择器是用来查找和定位HTML文档中特定元素的一种机制。通过字符串表达式,开发者可以根据元素的标签名、类名、ID以及其他属性值等特征精确或模糊地选取目标元素。在给出的文章示例中,使用的选择器是input type= text ,这表示选取所有类型为\ text\ 的input元素。通过这种方式,jQuery能获取到需要修改样式的文本框元素,并进一步应用css函数设置其样式属性。
2023-12-10 16:36:43
417
程序媛
VUE
...式发布,带来了全新的API设计与优化过的性能表现,支持Vue 3的同时保持对Vue 2的良好兼容性。开发者现在可以利用新的组合式API进行更灵活的路由控制,并享受到基于Fragment模式带来的更快页面渲染速度。 同时,在实际项目开发中,如何合理设计和优化路由结构是提升用户体验的关键环节。例如,通过实现惰性加载(Lazy Loading)来提高应用首屏加载速度,或者借助动态路由匹配机制处理带有参数的路由,实现在不同场景下展示不同内容的需求。此外,利用Vue Router的导航守卫功能,开发者可以在路由切换前后执行自定义逻辑,如权限验证、数据预取等,确保数据的一致性和安全性。 再者,对于大型单页应用来说,Vue Router结合Vuex状态管理库,能够更好地管理和同步跨组件间的数据传输,使得复杂的应用状态变化变得有序且易于维护。参考官方文档及社区分享的实战经验,可以帮助我们更好地将Vue Router融入到实际项目开发中,打造更为流畅高效的前端应用体验。
2023-05-14 15:02:10
109
程序媛
Python
...点执行预定义的函数或方法。在本文上下文中,通过导入并使用schedule库,开发者可以轻松地创建每日定时任务,只需设定任务执行的时间规则以及要执行的任务函数即可。 cron表达式 , 虽然文章中未直接提到cron表达式,但在定时任务领域,cron表达式是一种用于配置周期性任务执行时间的标准格式。通常在Unix/Linux系统中,cron服务会根据用户的cron配置文件来定期执行相应的命令或脚本。尽管Python的schedule库并未直接采用cron表达式,但其提供的API(如every().day.at())具有类似功能,可设置任务按日、时、分等粒度进行重复执行。 time模块 , 在Python编程语言中,time模块是一个内置的标准库,提供了处理时间和日期相关操作的功能。在本文中,time模块主要用来配合schedule库实现定时任务的执行,通过time.sleep(1)函数使程序暂停一秒,然后检查是否有计划的任务需要执行,以此形成一个循环机制,确保定时任务能在指定时间准确无误地运行。
2023-01-01 19:28:30
351
软件工程师
JQuery
...TML文档遍历、事件处理、动画和Ajax交互等功能的编写,让开发者能够更高效、便捷地处理网页动态效果和用户交互行为。在本文中,jQuery是实现网页打印功能的基础工具,通过调用其插件方法可以轻松完成复杂的DOM操作和事件绑定。 打印机插件 , 打印机插件是一种基于jQuery库开发的扩展组件,主要用于方便快捷地实现网页内容的打印功能。文中提到的打印机插件具有简单易用的特点,开发者只需引入该插件的js文件,并调用特定的方法如printThis(),就能实现在浏览器环境下选择性或整体地打印指定的网页区域,同时支持自定义打印标题、页眉、页脚等细节设置,以满足不同应用场景下的打印需求。 DOM元素 , DOM(Document Object Model)元素是指网页中的各种结构化组成部分,如HTML标签、文本节点等。在JavaScript和jQuery中,DOM元素是可以被程序识别并进行操作的对象。在本文所描述的打印功能实现过程中,“DOM元素”指的是需要被打印的目标区域,例如id为 printArea 的div或其他容器,通过jQuery的选择器选中这些DOM元素后,可以利用打印机插件将其内容输出到打印预览或实际打印出来。
2023-06-02 08:55:50
409
算法侠
VUE
...步提升了性能并优化了API设计,随之而来的是针对Vue 3的一系列新组件库,如Quasar Framework和Ant Design Vue等,它们均已经或正在积极适配Vue 3,并提供包括日期选择器在内的大量现代化UI组件。 此外,对于追求更轻量级解决方案的开发者,Vue生态内还有一些专注于单一功能但体验极佳的独立组件,如vue-datepicker-lite,它以简洁高效的代码实现灵活易用的日期选择功能。 值得注意的是,随着Web技术的发展,原生Web API对日期和时间处理的支持也在不断加强,结合Vue的响应式系统,开发者可以直接利用JavaScript的新特性构建高性能且符合现代Web标准的日期选择器组件。 总之,在Vue.js的世界里,不论是采用成熟的组件库还是利用原生API自建组件,都有多种途径来实现日期选择功能,开发者可以根据项目需求、团队技能以及未来维护成本等因素,灵活选取最适合自己的解决方案。
2023-09-16 11:24:41
59
代码侠
JSON
...级的数据交换格式。它基于JavaScript的一个子集,采用完全独立于语言的文本格式来存储和表示数据,易于人阅读和编写,同时也易于机器解析和生成。在文中提到,由于JSON的简洁、易读易写性,使得其在开发中被广泛应用于数据传输与交换场景,通过JSON Util等工具能更方便地处理这类数据。 JSONObject , 在JSON语法结构中,JSONObject代表一个无序集合,由一系列键值对组成,键是字符串类型,值可以是各种数据类型,包括数字(整数或浮点数)、字符串、Boolean值、数组、另一个JSONObject,甚至是null。在Java JSON Util库中,JSONObject是一个用于表示JSON对象的核心类,可以通过构造方法将JSON字符串转换为JSONObject实例,并提供了一系列方法用于获取、设置、检查其中的属性值。 Java Bean , 在Java编程领域,Java Bean是一种特殊的Java类,通常指符合特定规范的对象。这些规范主要包括。
2023-01-02 22:55:10
560
逻辑鬼才
JQuery
...TML文档遍历、事件处理、动画和Ajax交互等功能的编写。在本文中,jQuery被用于音乐网站开发,通过其便捷的方法和强大的选择器功能,开发者能够更容易地操控网页元素(如音乐播放器),实现音乐播放、暂停以及音量控制等动态效果,从而提升用户体验。 JavaScript库 , JavaScript库是一系列预先编写的JavaScript代码集合,为开发者提供了一系列可重用的功能函数和工具类,以便更高效地进行Web应用开发。在文章中提到的jQuery就是一个JavaScript库,它封装了许多复杂的功能,并提供了简洁易懂的API接口,使得开发者无需关注底层浏览器兼容性问题,可以专注于业务逻辑实现。 HTML5 Audio , HTML5 Audio是HTML5标准引入的一种内置于网页中的音频播放功能,通过<audio>标签可以在网页上嵌入并控制音频文件播放。在本文场景下,开发者使用HTML5 Audio标签定义了一个音乐播放器元素,然后结合jQuery库对其进行控制,实现音乐的播放、暂停以及音量调整等操作,增强了网页的多媒体互动能力。
2023-09-30 11:47:52
298
数据库专家
JQuery
...拟DOM和高效的事件处理机制,在Web开发领域崭露头角。 例如,React通过JSX语法让开发者能够更直观地构建和更新UI,其组件化的特性使得动态生成HTML内容变得更为简洁且易于维护;同时,React合成事件系统确保了无论是静态还是动态渲染的元素,都能高效响应用户交互。 另外,Vue.js也提供了类似的便利性,它采用模板语法结合v-for指令可以方便地遍历数据并生成列表项,同时利用v-on或@指令进行事件绑定,即使面对动态生成的元素,也能借助于依赖追踪和异步更新队列实现事件委托的效果。 值得注意的是,尽管这些新兴框架带来了许多优势,但JQuery仍因其广泛兼容性和易用性,在不少项目尤其是对旧版浏览器支持有要求的场景下继续发挥着重要作用。因此,深入理解和掌握JQuery及其它JavaScript库和框架在DOM操作和事件处理方面的差异与共通之处,对于提升Web开发效率和代码质量至关重要。 此外,随着Web Components标准的推进和发展,未来可能会出现更多基于原生API实现的解决方案,这也将改变我们对动态生成元素和事件绑定的传统认知。对此,持续关注相关技术动态,适时调整和优化开发策略,无疑有助于保持技术水平与时俱进。
2023-12-04 09:15:37
395
逻辑鬼才
转载文章
...mposition API的重大更新,它为开发者提供了更灵活的方式组织和复用代码逻辑。在这一新特性下,可以更精细地控制数据流和方法的作用域,同时也能更好地封装并暴露给全局或外部环境使用。例如,通过setup函数,我们可以定义作用于全局状态管理的reactive对象,并利用expose功能将其导出至window,使得外部JS文件或原生App能够安全、高效地访问这些数据和方法。 另一方面,随着PWA(Progressive Web App)和Hybrid App开发模式的普及,Vue.js与原生App之间的通信成为重要议题。Vue Native框架作为Vue.js生态下的产物,允许开发者使用Vue.js语法编写原生移动应用,实现了JavaScript与原生API的无缝对接。此外,借助WebView与JSBridge技术,Vue.js项目中的methods也可以直接与移动端原生SDK进行交互,极大地提升了跨平台开发效率和用户体验。 总之,在实际项目开发过程中,不仅需要掌握将Vue页面methods映射到window的基本技巧,更要关注Vue.js社区及周边生态的发展,学习如何运用新的工具和技术优化组件间、甚至跨平台的通信方式,从而打造出更为强大且适应性强的应用程序。
2023-03-31 11:24:02
43
转载
站内搜索
用于搜索本网站内部文章,支持栏目切换。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
sort file.txt
- 对文本文件内容按默认顺序排序。
推荐内容
推荐本栏目内的其它文章,看看还有哪些文章让你感兴趣。
2023-04-28
2023-08-09
2023-06-18
2023-04-14
2023-02-18
2023-04-17
2024-01-11
2023-10-03
2023-09-09
2023-06-13
2023-08-07
2023-03-11
历史内容
快速导航到对应月份的历史文章列表。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"