[RESTful API跨域配置]的搜索结果

...Origin注解实现跨域资源共享后，我们可以进一步关注现代Web应用开发中CORS策略的安全性和最佳实践。随着API经济的发展和前后端分离架构的普及，跨域问题愈发常见且重要。近期，OWASP（开放网络应用安全项目）发布了最新的API安全指南，其中强调了CORS配置的安全风险，并提供了如何合理设置@CrossOrigin注解属性以防止恶意来源访问的建议。 例如，在实际生产环境中，应避免使用“”通配符允许所有源进行跨域请求，而是明确指定可信任的域名列表。同时，对于敏感操作，应通过allowCredentials属性控制是否允许浏览器发送凭据信息，确保用户身份验证与授权机制的有效性。此外，还可以结合Spring Security等安全框架，实施更细粒度的CORS策略控制。 另外，随着HTTP/2、Service Workers等现代Web技术的演进，跨域请求的处理方式也在不断发展。例如，可以利用预加载（Preflight Requests）优化性能，通过maxAge属性设定合理的缓存时间，减少不必要的预检请求，提升用户体验。 综上所述，深入理解并正确运用@CrossOrigin注解仅仅是解决跨域问题的第一步，开发者还需关注行业最新动态，紧跟安全规范，才能在保证功能需求的同时有效防范潜在的安全威胁，提供高效、安全的RESTful API服务。

...headers设置跨域头失败：深度剖析与解决方案 在AngularJS的世界中，我们常常会遇到与服务器进行异步交互的场景，而$http服务作为AngularJS的核心组件之一，承担着数据获取和提交的重要任务。然而，在我们处理那些跨域请求的时候，有时候会碰到这么个头疼的问题：尝试通过 $httpProvider.defaults.headers 设置跨域头，结果却不灵了。这无疑给咱们的开发工作添了不少堵，让人挺抓狂的。这篇文章咱们要一探这个问题的究竟，我不仅会跟你唠唠嗑理论，还会手把手地带你瞧瞧实例代码，一步步揭开事情背后的原因，顺便找出解决它的锦囊妙计。 1. $httpProvider.defaults.headers简介 在AngularJS中，$httpProvider 是一个提供全局配置$http服务的对象。喏，你知道吗，defaults.headers这个小特性可厉害了，它能让我们在所有$http请求里头预先设置默认的HTTP头信息。想象一下，如果你的应用经常需要给每一条请求都加上特定的HTTP头部信息，那有了这个功能，就简直太省事儿、太方便啦！例如，为了实现跨域资源共享（CORS），我们可能需要设置'Access-Control-Allow-Origin'等头部信息。 javascript angular.module('myApp', []).config(['$httpProvider', function($httpProvider) { $httpProvider.defaults.headers.common['Access-Control-Allow-Origin'] = ''; }]); 2. 跨域头设置为何失败？ 尽管上面的代码看似合情合理，但实际应用中你会发现，通过$httpProvider.defaults.headers来设置Access-Control-Allow-Origin这样的跨域响应头是无效的。这是因为涉及到跨域的那些个“Access-Control-Allow-Origin”、“Access-Control-Allow-Methods”这些头信息呐，它们都是服务器端的大佬掌控着，然后发送给咱们客户端浏览器的。可不是咱们前端写JavaScript（包括AngularJS）的小哥能直接设置滴。 浏览器遵循同源策略，对于跨域请求，只有接收到服务器明确允许的相应头部信息后才会放行。因此，前端试图通过$httpProvider.defaults.headers设置这些跨域响应头的行为无法产生预期效果。 3. 解决方案 服务器端配置 既然前端无法直接设置跨域响应头，那正确的做法就是去服务器端进行相应的配置。以Node.js + Express为例： javascript const express = require('express'); const app = express(); // 允许来自任何域名的跨域请求 app.use((req, res, next) => { res.header('Access-Control-Allow-Origin', ''); res.header('Access-Control-Allow-Methods', 'GET, POST, OPTIONS, PUT, DELETE'); res.header('Access-Control-Allow-Headers', 'Content-Type, Authorization, X-Requested-With'); if (req.method === 'OPTIONS') { res.send(200); } else { next(); } }); // 这里是你的路由配置... 4. 客户端注意事项 虽然前端不能设置跨域响应头，但在发起带自定义请求头的跨域请求时，仍需在$httpProvider.defaults.headers中声明这些请求头，以便让服务器知道客户端希望携带哪些头部信息： javascript angular.module('myApp').config(['$httpProvider', function ($httpProvider) { $httpProvider.defaults.headers.common['X-Custom-Header'] = 'some-value'; }]); // 在$http请求中使用 $http({ method: 'POST', url: 'https://api.example.com/data', headers: {'Content-Type': 'application/json'}, data: { / ... / } }); 总结起来，虽然我们不能通过 $httpProvider.defaults.headers 来直接解决跨域问题，但它仍然是我们定制请求头部信息不可或缺的工具。要真正搞定跨域问题，关键得先摸清楚跨域策略的来龙去脉，然后在服务器那边儿把配置给整对了才行。在我们做前端开发这事儿的时候，千万要记牢这个小秘诀，这样一来，当咱们的AngularJS应用碰到跨域问题这块绊脚石时，就能轻松应对、游刃有余啦！

...允许开发者高效地管理API，每个服务使用Gin处理特定的路由，提高了系统的可扩展性和故障隔离性。 RESTful API , Representational State Transfer（REST）风格的API设计，遵循一组原则，如统一接口、无状态、资源导向等。在Go Gin中，开发者通过定义路由来创建RESTful API，使客户端和服务端之间的数据交换更加清晰和易于理解。 JWT身份验证 , JSON Web Token（JWT）是一种轻量级的身份验证协议，用于在各方之间安全地传输信息。在Go Gin应用中，JWT常用于在API请求中验证用户身份，通过中间件处理，确保只有授权的用户才能访问特定资源。 高并发请求 , 指在短时间内有大量的客户端同时向服务器发送请求的情况。Go Gin因其高性能和并发处理能力，使得它在处理高并发场景下表现出色，能够有效地响应大量请求，保证服务的稳定和响应速度。 API速率限制器 , 一种机制，用来控制特定时间段内对API的调用频率，防止滥用或恶意攻击。在Go Gin中，通过中间件实现API速率限制，有助于保护API资源，维持服务的正常运行。 自动路由发现 , 在微服务架构中，通过注册与发现服务的方式，使得客户端能够自动找到并连接到正确的服务实例。Go Gin结合服务发现工具（如Consul、Eureka等），实现了服务间的路由自动管理。 Gin Swagger , 一种用于生成Go Gin API文档的工具，通过注解和配置，自动生成清晰、格式化的API文档，有助于开发者理解和使用API，提高开发效率。 Kubernetes , 一个开源的容器编排平台，用于自动化部署、扩展和管理容器化应用。与Go Gin结合，Kubernetes能够帮助管理微服务的生命周期和负载均衡，确保服务的高可用性。

...2.5版本引入了自动配置的改进，使得数据类型转换变得更加智能，减少了类型冲突的可能性。 此外，跨域资源共享(CORS)和API版本管理也是当前热点话题。CORS的合理配置可以有效防止数据在不同域间的意外转换，而API版本控制则能确保前后端数据结构的一致性，降低误解和错误。 对于那些已经面临“0”问题的开发者，参考Google Cloud的《RESTful API设计最佳实践》和GitHub上的相关开源项目，学习如何在设计和实现上避免这类问题，不失为明智之举。同时，定期更新技术和知识，紧跟行业动态，才能在实践中游刃有余。

...等基本功能，同时支持RESTful风格的API开发。在本文中，Beego框架被用来搭建Web服务，实现JWT的生成、验证和管理等功能，展示了如何在Go语言环境中集成和管理JWT令牌的生命周期。 名词 , 中间件。 解释 , 在软件架构中，中间件是指位于应用程序与操作系统、网络协议栈之间的一层软件组件，用于协调不同的系统、服务或协议。在本文中，中间件被用来作为验证JWT的有效性的手段，通过定义一个名为authMiddleware的函数，该函数作为HTTP请求处理流程的一部分，负责解析和验证传入的JWT，确保只有合法的请求才能访问受保护的资源。这种方式提高了系统的安全性，同时简化了验证逻辑的实现。

...b服务器，提供了自动配置功能，允许开发者快速创建独立运行、生产级别的基于Spring框架的应用程序，无需繁琐的XML配置。 HttpMessageConverter , 在SpringMVC中，HttpMessageConverter是用于转换HTTP请求和响应消息体内容的数据转换接口。当处理请求时，Spring会根据Content-Type选择合适的HttpMessageConverter实现类，将请求体中的JSON、XML或其他格式数据转换为Java对象；而在生成响应时，则将Java对象转换为指定格式的数据输出。 RESTful API , REST（Representational State Transfer）风格的API设计原则，强调资源的表述性状态转移。RESTful API是一种符合REST设计风格的Web服务接口，通过HTTP方法（如GET、POST、PUT、DELETE等）对应CRUD操作，以统一的URI路径标识资源，并使用标准的HTTP状态码指示操作结果，使得接口简洁、易于理解和使用。在本文中，@RequestBody注解即应用于创建RESTful API的过程中，用于接收并解析客户端发送的JSON格式请求体数据。

...。Beego默认使用RESTful风格的路由，例如，对于一个User资源，其增删改查操作对应的路由可能是这样的： go beego.Router("/users", &controllers.UserController{}) 这个简单的语句告诉Beego，所有以"/users"开头的HTTP请求都将被转发给UserController进行处理。不过，在面对那些乱七八糟的业务场景时，我们或许更需要能够“绣花”般精细化、像橡皮筋一样灵活的路由控制方式。 3. 自定义路由规则实践 (3.1) 定义静态路由 假设我们需要为用户个人主页创建一个特定的路由规则，如 /user/:username，其中:username是一个变量参数，代表具体的用户名。我们可以这样实现： go beego.Router("/user/:username", &controllers.UserProfileController{}, "get:GetUserProfile") 上述代码中，:username就是一个动态参数，Beego会自动将其捕获并注入到UserProfileController的GetUserProfile方法的输入参数中。 (3.2) 定义多格式路由 如果我们希望同时支持JSON和XML两种格式的数据请求，可以通过添加正则匹配来进行区分： go beego.Router("/api/v1/data.:format", &controllers.DataController{}, "get:GetData") 在这里，:format可以是json或xml，然后在GetData方法内部可以根据这个参数返回不同格式的数据。 (3.3) 自定义路由处理器 对于更为复杂的需求，比如基于URL的不同部分执行不同的逻辑，可以通过自定义路由处理器实现： go beego.InsertFilter("/", beego.BeforeRouter, func(ctx context.Context) { // 解析URL，进行自定义路由处理 urlParts := strings.Split(ctx.Request.URL.Path, "/") if len(urlParts) > 2 && urlParts[1] == "custom" { switch urlParts[2] { case "action1": ctx.Output.Body([]byte("Executing Action 1")) return case "action2": ctx.Output.Body([]byte("Executing Action 2")) return } } // 若未命中自定义路由，则继续向下执行默认路由逻辑 }) 在这个例子中，我们在进入默认路由之前插入了一个过滤器，对请求路径进行解析，并针对特定路径执行相应动作。 4. 总结与思考 自定义路由规则为我们的应用带来了无比的灵活性，让我们能够更好地适配各种复杂的业务场景。在我们真正动手开发的时候，得把Beego的路由功能玩得溜起来，不断捣鼓和微调路由设置，让它们既能搞定各种功能需求，又能保持干净利落、易于维护和扩展性棒棒哒。记住，路由设计并非一蹴而就，而是伴随着项目迭代演进而逐步完善的。所以，别怕尝试，大胆创新，让每个API都找到它的“归宿”，这就是我们在Beego中实现自定义路由的乐趣所在！

...REST-like API接口与应用程序交互，支持XML、JSON等多种格式的数据交换，并以其高性能、可扩展性和高度灵活性在全文检索领域广受好评。 Near Real-Time (NRT) 搜索机制 , Near Real-Time（近实时）搜索机制是一种允许搜索引擎在接收到新数据后几乎立即进行查询的技术。在Apache Solr中，当文档被索引后，虽然不会立即写入硬盘存储，但会立即将更新反映到内存中的索引结构中，从而实现近乎实时的搜索效果。这意味着用户可以在数据更新后的极短时间内通过搜索获取最新内容。 UpdateLog , 在Apache Solr中，UpdateLog是一个用于记录未提交更新日志的内部组件。每当有新的文档添加或修改时，Solr会将这些更改记录在UpdateLog中，直到它们被提交并最终写入索引。通过配置UpdateLog的相关参数，如日志大小和滚动规则，可以优化近实时搜索性能，适应不同的实时性需求以及考虑到系统资源的实际限制。例如，在solrconfig.xml配置文件中调整updateLog参数设置，有助于提升系统的稳定性和响应速度。

...进程中，服务之间通过API进行通信。在本文的上下文中，微服务架构被广泛采用，因为它可以提高系统的可扩展性、可维护性和容错性，SpringCloud作为一款流行的微服务框架，帮助开发者更高效地构建和管理这些服务。 SpringCloud , SpringCloud是一个基于Spring Boot实现的云应用开发工具集，为开发者提供了在分布式系统（如微服务架构）中快速构建一些常见模式的能力，如服务发现、配置管理、负载均衡、熔断器等。在本文中，SpringCloud是用于简化微服务开发并实现服务治理的核心框架，其组件OpenFeign则充当了便捷的REST客户端工具。 OpenFeign , OpenFeign是SpringCloud的一个子项目，它提供了一种声明式的HTTP客户端编程模型，使得开发者能够以接口注解的方式定义远程服务调用，从而简化了微服务之间的交互过程。在实际使用中，通过在接口上添加@FeignClient注解，并结合path参数等属性设置，开发者可以像调用本地方法一样调用远程服务接口，大大降低了RESTful API调用的复杂性。

...议（比如HTTP啊、RESTful API之类的）或者更基础的网络编程工具包在背后自动处理的，不是我们直接能写的。 但是，我可以帮助你构建一篇以“在面对网络不稳定时，Apache Atlas使用者如何优化系统设计和使用策略”为主题的文章，虽然不包含具体的Apache Atlas客户端连接代码，但会尽量满足你的其他要求。 1. 引言 在大数据时代，Apache Atlas作为一款强大的元数据管理系统，在企业级数据湖架构中扮演着至关重要的角色。不过，在实际动手部署和运维的过程中，我们免不了会碰到这样那样的小插曲，就比如说客户端和服务器之间的网络连接时好时坏，甚至有时候还会突然玩个“消失”。这不仅可能导致数据同步延迟，还可能引发一系列的数据一致性问题。在这篇文章里，咱们要实实在在地掰扯一下，在这个特定场景下，咱们该如何正确理解和有效应对，并且在使用Apache Atlas时，有哪些妙招能用上，让整个系统的健壮性和稳定性噌噌噌往上涨。 2. Apache Atlas的服务端与客户端通信机制 Apache Atlas主要通过RESTful API进行服务端与客户端的通信，这意味着任何与Atlas服务器的交互都将以HTTP请求的形式发生。当网络出现波动时，这些请求可能会超时、重试甚至失败。例如，当你尝试执行以下Atlas客户端调用操作（尽管这不是真正的代码，但在真实环境中，它会表现为一个HTTP请求）： python 假设的Atlas客户端API调用示例（非真实代码） from atlas_client import AtlasClient client = AtlasClient(base_url="http://atlas-server:21000") entity_result = client.get_entity(guid='your-entity-guid') 3. 应对网络不稳定 策略与实践 (a) 重试机制 在面对网络不稳定时，首要的策略就是实施合理的重试机制。对于HTTP客户端库（如Python的requests库），我们可以设定自动重试策略： python import requests from requests.adapters import HTTPAdapter from urllib3.util.retry import Retry session = requests.Session() retries = Retry(total=5, backoff_factor=0.1, status_forcelist=[ 500, 502, 503, 504 ]) session.mount('http://', HTTPAdapter(max_retries=retries)) session.mount('https://', HTTPAdapter(max_retries=retries)) response = session.get('http://atlas-server:21000/api/atlas/v2/entity/guid/your-entity-guid') 这段伪代码展示了如何配置一个具有重试机制的HTTP客户端，以便在网络状况不佳时仍能尽力获取所需数据。 (b) 缓存策略 在短暂的网络中断期间，可以利用本地缓存存储近期获取的元数据信息，以此降低对实时连接的依赖。一旦网络恢复，再进行必要的数据同步更新。 (c) 心跳检测与故障转移 针对集群环境，可以通过定期心跳检测判断与Atlas服务器的连接状态，及时切换至备份服务器，确保服务的连续性。 4. 结论与思考 面对Apache Atlas客户端与服务器间网络连接不稳定或中断的情况，我们需要从系统设计层面出发，采用合适的容错策略和技术手段提高系统的鲁棒性。同时呢，咱们得摸清楚底层通信机制那些个特性，再结合实际的使用场景，不断打磨、优化咱们的解决方案。这样一来，才能真正让基于Apache Atlas搭建的大数据平台坚如磐石，稳定运行起来。 以上讨论并未给出Apache Atlas本身的代码实现，而是围绕其使用场景和策略给出了建议。实际上，每个项目都有其独特性，具体策略需要根据实际情况灵活调整和实施。

...kafka.javaapi.producer.Producer;import kafka.producer.KeyedMessage;import kafka.producer.ProducerConfig;/ 数据生成代码，Kafka Producer产生数据/public class MockAdClickedStat {/ @param args/public static void main(String[] args) {final Random random = new Random();final String[] provinces = new String[]{"Guangdong", "Zhejiang", "Jiangsu", "Fujian"};final Map<String, String[]> cities = new HashMap<String, String[]>();cities.put("Guangdong", new String[]{"Guangzhou", "Shenzhen", "Dongguan"});cities.put("Zhejiang", new String[]{"Hangzhou", "Wenzhou", "Ningbo"});cities.put("Jiangsu", new String[]{"Nanjing", "Suzhou", "Wuxi"});cities.put("Fujian", new String[]{"Fuzhou", "Xiamen", "Sanming"});final String[] ips = new String[] {"192.168.112.240","192.168.112.239","192.168.112.245","192.168.112.246","192.168.112.247","192.168.112.248","192.168.112.249","192.168.112.250","192.168.112.251","192.168.112.252","192.168.112.253","192.168.112.254",};/ Kafka相关的基本配置信息/Properties kafkaConf = new Properties();kafkaConf.put("serializer.class", "kafka.serializer.StringEncoder");kafkaConf.put("metadeta.broker.list", "Master:9092,Worker1:9092,Worker2:9092");ProducerConfig producerConfig = new ProducerConfig(kafkaConf);final Producer<Integer, String> producer = new Producer<Integer, String>(producerConfig);new Thread(new Runnable() {public void run() {while(true) {//在线处理广告点击流的基本数据格式：timestamp、ip、userID、adID、province、cityLong timestamp = new Date().getTime();String ip = ips[random.nextInt(12)]; //可以采用网络上免费提供的ip库int userID = random.nextInt(10000);int adID = random.nextInt(100);String province = provinces[random.nextInt(4)];String city = cities.get(province)[random.nextInt(3)];String clickedAd = timestamp + "\t" + ip + "\t" + userID + "\t" + adID + "\t" + province + "\t" + city;producer.send(new KeyedMessage<Integer, String>("AdClicked", clickedAd));try {Thread.sleep(50);} catch (InterruptedException e) {// TODO Auto-generated catch blocke.printStackTrace();} }} }).start();} } package com.tom.spark.SparkApps.sparkstreaming;import java.sql.Connection;import java.sql.DriverManager;import java.sql.PreparedStatement;import java.sql.ResultSet;import java.sql.SQLException;import java.util.ArrayList;import java.util.Arrays;import java.util.HashMap;import java.util.HashSet;import java.util.Iterator;import java.util.List;import java.util.Map;import java.util.Set;import java.util.concurrent.LinkedBlockingQueue;import kafka.serializer.StringDecoder;import org.apache.spark.SparkConf;import org.apache.spark.api.java.JavaPairRDD;import org.apache.spark.api.java.JavaRDD;import org.apache.spark.api.java.JavaSparkContext;import org.apache.spark.api.java.function.Function;import org.apache.spark.api.java.function.Function2;import org.apache.spark.api.java.function.PairFunction;import org.apache.spark.api.java.function.VoidFunction;import org.apache.spark.sql.DataFrame;import org.apache.spark.sql.Row;import org.apache.spark.sql.RowFactory;import org.apache.spark.sql.hive.HiveContext;import org.apache.spark.sql.types.DataTypes;import org.apache.spark.sql.types.StructType;import org.apache.spark.streaming.Durations;import org.apache.spark.streaming.api.java.JavaDStream;import org.apache.spark.streaming.api.java.JavaPairDStream;import org.apache.spark.streaming.api.java.JavaPairInputDStream;import org.apache.spark.streaming.api.java.JavaStreamingContext;import org.apache.spark.streaming.api.java.JavaStreamingContextFactory;import org.apache.spark.streaming.kafka.KafkaUtils;import com.google.common.base.Optional;import scala.Tuple2;/ 数据处理，Kafka消费者/public class AdClickedStreamingStats {/ @param args/public static void main(String[] args) {// TODO Auto-generated method stub//好处：1、checkpoint 2、工厂final SparkConf conf = new SparkConf().setAppName("SparkStreamingOnKafkaDirect").setMaster("hdfs://Master:7077/");final String checkpointDirectory = "hdfs://Master:9000/library/SparkStreaming/CheckPoint_Data";JavaStreamingContextFactory factory = new JavaStreamingContextFactory() {public JavaStreamingContext create() {// TODO Auto-generated method stubreturn createContext(checkpointDirectory, conf);} };/ 可以从失败中恢复Driver，不过还需要指定Driver这个进程运行在Cluster，并且在提交应用程序的时候制定--supervise;/JavaStreamingContext javassc = JavaStreamingContext.getOrCreate(checkpointDirectory, factory);/ 第三步：创建Spark Streaming输入数据来源input Stream: 1、数据输入来源可以基于File、HDFS、Flume、Kafka、Socket等 2、在这里我们指定数据来源于网络Socket端口，Spark Streaming连接上该端口并在运行的时候一直监听该端口的数据 (当然该端口服务首先必须存在），并且在后续会根据业务需要不断有数据产生（当然对于Spark Streaming 应用程序的运行而言，有无数据其处理流程都是一样的） 3、如果经常在每间隔5秒钟没有数据的话不断启动空的Job其实会造成调度资源的浪费，因为并没有数据需要发生计算；所以 实际的企业级生成环境的代码在具体提交Job前会判断是否有数据，如果没有的话就不再提交Job；///创建Kafka元数据来让Spark Streaming这个Kafka Consumer利用Map<String, String> kafkaParameters = new HashMap<String, String>();kafkaParameters.put("metadata.broker.list", "Master:9092,Worker1:9092,Worker2:9092");Set<String> topics = new HashSet<String>();topics.add("SparkStreamingDirected");JavaPairInputDStream<String, String> adClickedStreaming = KafkaUtils.createDirectStream(javassc, String.class, String.class, StringDecoder.class, StringDecoder.class,kafkaParameters, topics);/因为要对黑名单进行过滤，而数据是在RDD中的，所以必然使用transform这个函数； 但是在这里我们必须使用transformToPair，原因是读取进来的Kafka的数据是Pair<String,String>类型, 另一个原因是过滤后的数据要进行进一步处理，所以必须是读进的Kafka数据的原始类型 在此再次说明，每个Batch Duration中实际上讲输入的数据就是被一个且仅被一个RDD封装的，你可以有多个 InputDStream，但其实在产生job的时候，这些不同的InputDStream在Batch Duration中就相当于Spark基于HDFS 数据操作的不同文件来源而已罢了。/JavaPairDStream<String, String> filteredadClickedStreaming = adClickedStreaming.transformToPair(new Function<JavaPairRDD<String,String>, JavaPairRDD<String,String>>() {public JavaPairRDD<String, String> call(JavaPairRDD<String, String> rdd) throws Exception {/ 在线黑名单过滤思路步骤： 1、从数据库中获取黑名单转换成RDD，即新的RDD实例封装黑名单数据； 2、然后把代表黑名单的RDD的实例和Batch Duration产生的RDD进行Join操作， 准确的说是进行leftOuterJoin操作，也就是说使用Batch Duration产生的RDD和代表黑名单的RDD实例进行 leftOuterJoin操作，如果两者都有内容的话，就会是true，否则的话就是false 我们要留下的是leftOuterJoin结果为false； /final List<String> blackListNames = new ArrayList<String>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();jdbcWrapper.doQuery("SELECT FROM blacklisttable", null, new ExecuteCallBack() {public void resultCallBack(ResultSet result) throws Exception {while(result.next()){blackListNames.add(result.getString(1));} }});List<Tuple2<String, Boolean>> blackListTuple = new ArrayList<Tuple2<String,Boolean>>();for(String name : blackListNames) {blackListTuple.add(new Tuple2<String, Boolean>(name, true));}List<Tuple2<String, Boolean>> blacklistFromListDB = blackListTuple; //数据来自于查询的黑名单表并且映射成为<String, Boolean>JavaSparkContext jsc = new JavaSparkContext(rdd.context());/ 黑名单的表中只有userID，但是如果要进行join操作的话就必须是Key-Value，所以在这里我们需要 基于数据表中的数据产生Key-Value类型的数据集合/JavaPairRDD<String, Boolean> blackListRDD = jsc.parallelizePairs(blacklistFromListDB);/ 进行操作的时候肯定是基于userID进行join，所以必须把传入的rdd进行mapToPair操作转化成为符合格式的RDD/JavaPairRDD<String, Tuple2<String, String>> rdd2Pair = rdd.mapToPair(new PairFunction<Tuple2<String,String>, String, Tuple2<String, String>>() {public Tuple2<String, Tuple2<String, String>> call(Tuple2<String, String> t) throws Exception {// TODO Auto-generated method stubString userID = t._2.split("\t")[2];return new Tuple2<String, Tuple2<String,String>>(userID, t);} });JavaPairRDD<String, Tuple2<Tuple2<String, String>, Optional<Boolean>>> joined = rdd2Pair.leftOuterJoin(blackListRDD);JavaPairRDD<String, String> result = joined.filter(new Function<Tuple2<String,Tuple2<Tuple2<String,String>,Optional<Boolean>>>, Boolean>() {public Boolean call(Tuple2<String, Tuple2<Tuple2<String, String>, Optional<Boolean>>> tuple)throws Exception {// TODO Auto-generated method stubOptional<Boolean> optional = tuple._2._2;if(optional.isPresent() && optional.get()){return false;} else {return true;} }}).mapToPair(new PairFunction<Tuple2<String,Tuple2<Tuple2<String,String>,Optional<Boolean>>>, String, String>() {public Tuple2<String, String> call(Tuple2<String, Tuple2<Tuple2<String, String>, Optional<Boolean>>> t)throws Exception {// TODO Auto-generated method stubreturn t._2._1;} });return result;} });//广告点击的基本数据格式：timestamp、ip、userID、adID、province、cityJavaPairDStream<String, Long> pairs = filteredadClickedStreaming.mapToPair(new PairFunction<Tuple2<String,String>, String, Long>() {public Tuple2<String, Long> call(Tuple2<String, String> t) throws Exception {String[] splited=t._2.split("\t");String timestamp = splited[0]; //YYYY-MM-DDString ip = splited[1];String userID = splited[2];String adID = splited[3];String province = splited[4];String city = splited[5]; String clickedRecord = timestamp + "_" +ip + "_"+userID+"_"+adID+"_"+province +"_"+city;return new Tuple2<String, Long>(clickedRecord, 1L);} });/ 第4.3步：在单词实例计数为1基础上，统计每个单词在文件中出现的总次数/JavaPairDStream<String, Long> adClickedUsers= pairs.reduceByKey(new Function2<Long, Long, Long>() {public Long call(Long i1, Long i2) throws Exception{return i1 + i2;} });/判断有效的点击，复杂化的采用机器学习训练模型进行在线过滤 简单的根据ip判断1天不超过100次；也可以通过一个batch duration的点击次数判断是否非法广告点击，通过一个batch来判断是不完整的，还需要一天的数据也可以每一个小时来判断。/JavaPairDStream<String, Long> filterClickedBatch = adClickedUsers.filter(new Function<Tuple2<String,Long>, Boolean>() {public Boolean call(Tuple2<String, Long> v1) throws Exception {if (1 < v1._2){//更新一些黑名单的数据库表return false;} else { return true;} }});//filterClickedBatch.print();//写入数据库filterClickedBatch.foreachRDD(new Function<JavaPairRDD<String,Long>, Void>() {public Void call(JavaPairRDD<String, Long> rdd) throws Exception {rdd.foreachPartition(new VoidFunction<Iterator<Tuple2<String,Long>>>() {public void call(Iterator<Tuple2<String, Long>> partition) throws Exception {//使用数据库连接池的高效读写数据库的方式将数据写入数据库mysql//例如一次插入 1000条 records，使用insertBatch 或 updateBatch//插入的用户数据信息：userID,adID,clickedCount,time//这里面有一个问题，可能出现两条记录的key是一样的，此时需要更新累加操作List<UserAdClicked> userAdClickedList = new ArrayList<UserAdClicked>();while(partition.hasNext()) {Tuple2<String, Long> record = partition.next();String[] splited = record._1.split("\t");UserAdClicked userClicked = new UserAdClicked();userClicked.setTimestamp(splited[0]);userClicked.setIp(splited[1]);userClicked.setUserID(splited[2]);userClicked.setAdID(splited[3]);userClicked.setProvince(splited[4]);userClicked.setCity(splited[5]);userAdClickedList.add(userClicked);}final List<UserAdClicked> inserting = new ArrayList<UserAdClicked>();final List<UserAdClicked> updating = new ArrayList<UserAdClicked>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();//表的字段timestamp、ip、userID、adID、province、city、clickedCountfor(final UserAdClicked clicked : userAdClickedList) {jdbcWrapper.doQuery("SELECT clickedCount FROM adclicked WHERE"+ " timestamp =? AND userID = ? AND adID = ?",new Object[]{clicked.getTimestamp(), clicked.getUserID(),clicked.getAdID()}, new ExecuteCallBack() {public void resultCallBack(ResultSet result) throws Exception {// TODO Auto-generated method stubif(result.next()) {long count = result.getLong(1);clicked.setClickedCount(count);updating.add(clicked);} else {inserting.add(clicked);clicked.setClickedCount(1L);} }});}//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> insertParametersList = new ArrayList<Object[]>();for(UserAdClicked insertRecord : inserting) {insertParametersList.add(new Object[] {insertRecord.getTimestamp(),insertRecord.getIp(),insertRecord.getUserID(),insertRecord.getAdID(),insertRecord.getProvince(),insertRecord.getCity(),insertRecord.getClickedCount()});}jdbcWrapper.doBatch("INSERT INTO adclicked VALUES(?, ?, ?, ?, ?, ?, ?)", insertParametersList);//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> updateParametersList = new ArrayList<Object[]>();for(UserAdClicked updateRecord : updating) {updateParametersList.add(new Object[] {updateRecord.getTimestamp(),updateRecord.getIp(),updateRecord.getUserID(),updateRecord.getAdID(),updateRecord.getProvince(),updateRecord.getCity(),updateRecord.getClickedCount() + 1});}jdbcWrapper.doBatch("UPDATE adclicked SET clickedCount = ? WHERE"+ " timestamp =? AND ip = ? AND userID = ? AND adID = ? "+ "AND province = ? AND city = ?", updateParametersList);} });return null;} });//再次过滤，从数据库中读取数据过滤黑名单JavaPairDStream<String, Long> blackListBasedOnHistory = filterClickedBatch.filter(new Function<Tuple2<String,Long>, Boolean>() {public Boolean call(Tuple2<String, Long> v1) throws Exception {//广告点击的基本数据格式：timestamp,ip,userID,adID,province,cityString[] splited = v1._1.split("\t"); //提取key值String date =splited[0];String userID =splited[2];String adID =splited[3];//查询一下数据库同一个用户同一个广告id点击量超过50次列入黑名单//接下来 根据date、userID、adID条件去查询用户点击广告的数据表，获得总的点击次数//这个时候基于点击次数判断是否属于黑名单点击int clickedCountTotalToday = 81 ;if (clickedCountTotalToday > 50) {return true;}else {return false ;} }});//map操作，找出用户的idJavaDStream<String> blackListuserIDBasedInBatchOnhistroy =blackListBasedOnHistory.map(new Function<Tuple2<String,Long>, String>() {public String call(Tuple2<String, Long> v1) throws Exception {// TODO Auto-generated method stubreturn v1._1.split("\t")[2];} });//有一个问题，数据可能重复，在一个partition里面重复，这个好办；//但多个partition不能保证一个用户重复，需要对黑名单的整个rdd进行去重操作。//rdd去重了，partition也就去重了，一石二鸟，一箭双雕// 找出了黑名单，下一步就写入黑名单数据库表中JavaDStream<String> blackListUniqueuserBasedInBatchOnhistroy = blackListuserIDBasedInBatchOnhistroy.transform(new Function<JavaRDD<String>, JavaRDD<String>>() {public JavaRDD<String> call(JavaRDD<String> rdd) throws Exception {// TODO Auto-generated method stubreturn rdd.distinct();} });// 下一步写入到数据表中blackListUniqueuserBasedInBatchOnhistroy.foreachRDD(new Function<JavaRDD<String>, Void>() {public Void call(JavaRDD<String> rdd) throws Exception {rdd.foreachPartition(new VoidFunction<Iterator<String>>() {public void call(Iterator<String> t) throws Exception {// TODO Auto-generated method stub//插入的用户信息可以只包含：useID//此时直接插入黑名单数据表即可。//写入数据库List<Object[]> blackList = new ArrayList<Object[]>();while(t.hasNext()) {blackList.add(new Object[]{t.next()});}JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();jdbcWrapper.doBatch("INSERT INTO blacklisttable values (?)", blackList);} });return null;} });/广告点击累计动态更新,每个updateStateByKey都会在Batch Duration的时间间隔的基础上进行广告点击次数的更新， 更新之后我们一般都会持久化到外部存储设备上，在这里我们存储到MySQL数据库中/JavaPairDStream<String, Long> updateStateByKeyDSteam = filteredadClickedStreaming.mapToPair(new PairFunction<Tuple2<String,String>, String, Long>() {public Tuple2<String, Long> call(Tuple2<String, String> t)throws Exception {String[] splited=t._2.split("\t");String timestamp = splited[0]; //YYYY-MM-DDString ip = splited[1];String userID = splited[2];String adID = splited[3];String province = splited[4];String city = splited[5]; String clickedRecord = timestamp + "_" +ip + "_"+userID+"_"+adID+"_"+province +"_"+city;return new Tuple2<String, Long>(clickedRecord, 1L);} }).updateStateByKey(new Function2<List<Long>, Optional<Long>, Optional<Long>>() {public Optional<Long> call(List<Long> v1, Optional<Long> v2)throws Exception {// v1:当前的Key在当前的Batch Duration中出现的次数的集合，例如{1，1，1，。。。，1}// v2:当前的Key在以前的Batch Duration中积累下来的结果；Long clickedTotalHistory = 0L; if(v2.isPresent()){clickedTotalHistory = v2.get();}for(Long one : v1) {clickedTotalHistory += one;}return Optional.of(clickedTotalHistory);} });updateStateByKeyDSteam.foreachRDD(new Function<JavaPairRDD<String,Long>, Void>() {public Void call(JavaPairRDD<String, Long> rdd) throws Exception {rdd.foreachPartition(new VoidFunction<Iterator<Tuple2<String,Long>>>() {public void call(Iterator<Tuple2<String, Long>> partition) throws Exception {//使用数据库连接池的高效读写数据库的方式将数据写入数据库mysql//例如一次插入 1000条 records，使用insertBatch 或 updateBatch//插入的用户数据信息：timestamp、adID、province、city//这里面有一个问题，可能出现两条记录的key是一样的，此时需要更新累加操作List<AdClicked> AdClickedList = new ArrayList<AdClicked>();while(partition.hasNext()) {Tuple2<String, Long> record = partition.next();String[] splited = record._1.split("\t");AdClicked adClicked = new AdClicked();adClicked.setTimestamp(splited[0]);adClicked.setAdID(splited[1]);adClicked.setProvince(splited[2]);adClicked.setCity(splited[3]);adClicked.setClickedCount(record._2);AdClickedList.add(adClicked);}final List<AdClicked> inserting = new ArrayList<AdClicked>();final List<AdClicked> updating = new ArrayList<AdClicked>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();//表的字段timestamp、ip、userID、adID、province、city、clickedCountfor(final AdClicked clicked : AdClickedList) {jdbcWrapper.doQuery("SELECT clickedCount FROM adclickedcount WHERE"+ " timestamp = ? AND adID = ? AND province = ? AND city = ?",new Object[]{clicked.getTimestamp(), clicked.getAdID(),clicked.getProvince(), clicked.getCity()}, new ExecuteCallBack() {public void resultCallBack(ResultSet result) throws Exception {// TODO Auto-generated method stubif(result.next()) {long count = result.getLong(1);clicked.setClickedCount(count);updating.add(clicked);} else {inserting.add(clicked);clicked.setClickedCount(1L);} }});}//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> insertParametersList = new ArrayList<Object[]>();for(AdClicked insertRecord : inserting) {insertParametersList.add(new Object[] {insertRecord.getTimestamp(),insertRecord.getAdID(),insertRecord.getProvince(),insertRecord.getCity(),insertRecord.getClickedCount()});}jdbcWrapper.doBatch("INSERT INTO adclickedcount VALUES(?, ?, ?, ?, ?)", insertParametersList);//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> updateParametersList = new ArrayList<Object[]>();for(AdClicked updateRecord : updating) {updateParametersList.add(new Object[] {updateRecord.getClickedCount(),updateRecord.getTimestamp(),updateRecord.getAdID(),updateRecord.getProvince(),updateRecord.getCity()});}jdbcWrapper.doBatch("UPDATE adclickedcount SET clickedCount = ? WHERE"+ " timestamp =? AND adID = ? AND province = ? AND city = ?", updateParametersList);} });return null;} });/ 对广告点击进行TopN计算，计算出每天每个省份Top5排名的广告 因为我们直接对RDD进行操作，所以使用了transfomr算子；/updateStateByKeyDSteam.transform(new Function<JavaPairRDD<String,Long>, JavaRDD<Row>>() {public JavaRDD<Row> call(JavaPairRDD<String, Long> rdd) throws Exception {JavaRDD<Row> rowRDD = rdd.mapToPair(new PairFunction<Tuple2<String,Long>, String, Long>() {public Tuple2<String, Long> call(Tuple2<String, Long> t)throws Exception {// TODO Auto-generated method stubString[] splited=t._1.split("_");String timestamp = splited[0]; //YYYY-MM-DDString adID = splited[3];String province = splited[4];String clickedRecord = timestamp + "_" + adID + "_" + province;return new Tuple2<String, Long>(clickedRecord, t._2);} }).reduceByKey(new Function2<Long, Long, Long>() {public Long call(Long v1, Long v2) throws Exception {// TODO Auto-generated method stubreturn v1 + v2;} }).map(new Function<Tuple2<String,Long>, Row>() {public Row call(Tuple2<String, Long> v1) throws Exception {// TODO Auto-generated method stubString[] splited=v1._1.split("_");String timestamp = splited[0]; //YYYY-MM-DDString adID = splited[3];String province = splited[4];return RowFactory.create(timestamp, adID, province, v1._2);} });StructType structType = DataTypes.createStructType(Arrays.asList(DataTypes.createStructField("timestamp", DataTypes.StringType, true),DataTypes.createStructField("adID", DataTypes.StringType, true),DataTypes.createStructField("province", DataTypes.StringType, true),DataTypes.createStructField("clickedCount", DataTypes.LongType, true)));HiveContext hiveContext = new HiveContext(rdd.context());DataFrame df = hiveContext.createDataFrame(rowRDD, structType);df.registerTempTable("topNTableSource");DataFrame result = hiveContext.sql("SELECT timestamp, adID, province, clickedCount, FROM"+ " (SELECT timestamp, adID, province,clickedCount, "+ "ROW_NUMBER() OVER(PARTITION BY province ORDER BY clickeCount DESC) rank "+ "FROM topNTableSource) subquery "+ "WHERE rank <= 5");return result.toJavaRDD();} }).foreachRDD(new Function<JavaRDD<Row>, Void>() {public Void call(JavaRDD<Row> rdd) throws Exception {// TODO Auto-generated method stubrdd.foreachPartition(new VoidFunction<Iterator<Row>>() {public void call(Iterator<Row> t) throws Exception {// TODO Auto-generated method stubList<AdProvinceTopN> adProvinceTopN = new ArrayList<AdProvinceTopN>();while(t.hasNext()) {Row row = t.next();AdProvinceTopN item = new AdProvinceTopN();item.setTimestamp(row.getString(0));item.setAdID(row.getString(1));item.setProvince(row.getString(2));item.setClickedCount(row.getLong(3));adProvinceTopN.add(item);}// final List<AdProvinceTopN> inserting = new ArrayList<AdProvinceTopN>();// final List<AdProvinceTopN> updating = new ArrayList<AdProvinceTopN>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();Set<String> set = new HashSet<String>();for(AdProvinceTopN item: adProvinceTopN){set.add(item.getTimestamp() + "_" + item.getProvince());}//表的字段timestamp、adID、province、clickedCountArrayList<Object[]> deleteParametersList = new ArrayList<Object[]>();for(String deleteRecord : set) {String[] splited = deleteRecord.split("_");deleteParametersList.add(new Object[]{splited[0],splited[1]});}jdbcWrapper.doBatch("DELETE FROM adprovincetopn WHERE timestamp = ? AND province = ?", deleteParametersList);//表的字段timestamp、ip、userID、adID、province、city、clickedCountList<Object[]> insertParametersList = new ArrayList<Object[]>();for(AdProvinceTopN insertRecord : adProvinceTopN) {insertParametersList.add(new Object[] {insertRecord.getClickedCount(),insertRecord.getTimestamp(),insertRecord.getAdID(),insertRecord.getProvince()});}jdbcWrapper.doBatch("INSERT INTO adprovincetopn VALUES (?, ?, ?, ?)", insertParametersList);} });return null;} });/ 计算过去半个小时内广告点击的趋势 广告点击的基本数据格式：timestamp、ip、userID、adID、province、city/filteredadClickedStreaming.mapToPair(new PairFunction<Tuple2<String,String>, String, Long>() {public Tuple2<String, Long> call(Tuple2<String, String> t)throws Exception {String splited[] = t._2.split("\t");String adID = splited[3];String time = splited[0]; //Todo:后续需要重构代码实现时间戳和分钟的转换提取。此处需要提取出该广告的点击分钟单位return new Tuple2<String, Long>(time + "_" + adID, 1L);} }).reduceByKeyAndWindow(new Function2<Long, Long, Long>() {public Long call(Long v1, Long v2) throws Exception {// TODO Auto-generated method stubreturn v1 + v2;} }, new Function2<Long, Long, Long>() {public Long call(Long v1, Long v2) throws Exception {// TODO Auto-generated method stubreturn v1 - v2;} }, Durations.minutes(30), Durations.milliseconds(5)).foreachRDD(new Function<JavaPairRDD<String,Long>, Void>() {public Void call(JavaPairRDD<String, Long> rdd) throws Exception {// TODO Auto-generated method stubrdd.foreachPartition(new VoidFunction<Iterator<Tuple2<String,Long>>>() {public void call(Iterator<Tuple2<String, Long>> partition)throws Exception {List<AdTrendStat> adTrend = new ArrayList<AdTrendStat>();// TODO Auto-generated method stubwhile(partition.hasNext()) {Tuple2<String, Long> record = partition.next();String[] splited = record._1.split("_");String time = splited[0];String adID = splited[1];Long clickedCount = record._2;/ 在插入数据到数据库的时候具体需要哪些字段？time、adID、clickedCount; 而我们通过J2EE技术进行趋势绘图的时候肯定是需要年、月、日、时、分这个维度的，所以我们在这里需要 年月日、小时、分钟这些时间维度；/AdTrendStat adTrendStat = new AdTrendStat();adTrendStat.setAdID(adID);adTrendStat.setClickedCount(clickedCount);adTrendStat.set_date(time); //Todo:获取年月日adTrendStat.set_hour(time); //Todo:获取小时adTrendStat.set_minute(time);//Todo:获取分钟adTrend.add(adTrendStat);}final List<AdTrendStat> inserting = new ArrayList<AdTrendStat>();final List<AdTrendStat> updating = new ArrayList<AdTrendStat>();JDBCWrapper jdbcWrapper = JDBCWrapper.getJDBCInstance();//表的字段timestamp、ip、userID、adID、province、city、clickedCountfor(final AdTrendStat trend : adTrend) {final AdTrendCountHistory adTrendhistory = new AdTrendCountHistory();jdbcWrapper.doQuery("SELECT clickedCount FROM adclickedtrend WHERE"+ " date =? AND hour = ? AND minute = ? AND AdID = ?",new Object[]{trend.get_date(), trend.get_hour(), trend.get_minute(),trend.getAdID()}, new ExecuteCallBack() {public void resultCallBack(ResultSet result) throws Exception {// TODO Auto-generated method stubif(result.next()) {long count = result.getLong(1);adTrendhistory.setClickedCountHistoryLong(count);updating.add(trend);} else { inserting.add(trend);} }});}//表的字段date、hour、minute、adID、clickedCountList<Object[]> insertParametersList = new ArrayList<Object[]>();for(AdTrendStat insertRecord : inserting) {insertParametersList.add(new Object[] {insertRecord.get_date(),insertRecord.get_hour(),insertRecord.get_minute(),insertRecord.getAdID(),insertRecord.getClickedCount()});}jdbcWrapper.doBatch("INSERT INTO adclickedtrend VALUES(?, ?, ?, ?, ?)", insertParametersList);//表的字段date、hour、minute、adID、clickedCountList<Object[]> updateParametersList = new ArrayList<Object[]>();for(AdTrendStat updateRecord : updating) {updateParametersList.add(new Object[] {updateRecord.getClickedCount(),updateRecord.get_date(),updateRecord.get_hour(),updateRecord.get_minute(),updateRecord.getAdID()});}jdbcWrapper.doBatch("UPDATE adclickedtrend SET clickedCount = ? WHERE"+ " date =? AND hour = ? AND minute = ? AND AdID = ?", updateParametersList);} });return null;} });;/ Spark Streaming 执行引擎也就是Driver开始运行，Driver启动的时候是位于一条新的线程中的，当然其内部有消息循环体，用于 接收应用程序本身或者Executor中的消息，/javassc.start();javassc.awaitTermination();javassc.close();}private static JavaStreamingContext createContext(String checkpointDirectory, SparkConf conf) {// If you do not see this printed, that means the StreamingContext has been loaded// from the new checkpointSystem.out.println("Creating new context");// Create the context with a 5 second batch sizeJavaStreamingContext ssc = new JavaStreamingContext(conf, Durations.seconds(10));ssc.checkpoint(checkpointDirectory);return ssc;} }class JDBCWrapper {private static JDBCWrapper jdbcInstance = null;private static LinkedBlockingQueue<Connection> dbConnectionPool = new LinkedBlockingQueue<Connection>();static {try {Class.forName("com.mysql.jdbc.Driver");} catch (ClassNotFoundException e) {// TODO Auto-generated catch blocke.printStackTrace();} }public static JDBCWrapper getJDBCInstance() {if(jdbcInstance == null) {synchronized (JDBCWrapper.class) {if(jdbcInstance == null) {jdbcInstance = new JDBCWrapper();} }}return jdbcInstance; }private JDBCWrapper() {for(int i = 0; i < 10; i++){try {Connection conn = DriverManager.getConnection("jdbc:mysql://Master:3306/sparkstreaming","root", "root");dbConnectionPool.put(conn);} catch (Exception e) {// TODO Auto-generated catch blocke.printStackTrace();} } }public synchronized Connection getConnection() {while(0 == dbConnectionPool.size()){try {Thread.sleep(20);} catch (InterruptedException e) {// TODO Auto-generated catch blocke.printStackTrace();} }return dbConnectionPool.poll();}public int[] doBatch(String sqlText, List<Object[]> paramsList){Connection conn = getConnection();PreparedStatement preparedStatement = null;int[] result = null;try {conn.setAutoCommit(false);preparedStatement = conn.prepareStatement(sqlText);for(Object[] parameters: paramsList) {for(int i = 0; i < parameters.length; i++){preparedStatement.setObject(i + 1, parameters[i]);} preparedStatement.addBatch();}result = preparedStatement.executeBatch();conn.commit();} catch (SQLException e) {// TODO Auto-generated catch blocke.printStackTrace();} finally {if(preparedStatement != null) {try {preparedStatement.close();} catch (SQLException e) {// TODO Auto-generated catch blocke.printStackTrace();} }if(conn != null) {try {dbConnectionPool.put(conn);} catch (InterruptedException e) {// TODO Auto-generated catch blocke.printStackTrace();} }}return result; }public void doQuery(String sqlText, Object[] paramsList, ExecuteCallBack callback){Connection conn = getConnection();PreparedStatement preparedStatement = null;ResultSet result = null;try {preparedStatement = conn.prepareStatement(sqlText);for(int i = 0; i < paramsList.length; i++){preparedStatement.setObject(i + 1, paramsList[i]);} result = preparedStatement.executeQuery();try {callback.resultCallBack(result);} catch (Exception e) {// TODO Auto-generated catch blocke.printStackTrace();} } catch (SQLException e) {// TODO Auto-generated catch blocke.printStackTrace();} finally {if(preparedStatement != null) {try {preparedStatement.close();} catch (SQLException e) {// TODO Auto-generated catch blocke.printStackTrace();} }if(conn != null) {try {dbConnectionPool.put(conn);} catch (InterruptedException e) {// TODO Auto-generated catch blocke.printStackTrace();} }} }}interface ExecuteCallBack {void resultCallBack(ResultSet result) throws Exception;}class UserAdClicked {private String timestamp;private String ip;private String userID;private String adID;private String province;private String city;private Long clickedCount;public String getTimestamp() {return timestamp;}public void setTimestamp(String timestamp) {this.timestamp = timestamp;}public String getIp() {return ip;}public void setIp(String ip) {this.ip = ip;}public String getUserID() {return userID;}public void setUserID(String userID) {this.userID = userID;}public String getAdID() {return adID;}public void setAdID(String adID) {this.adID = adID;}public String getProvince() {return province;}public void setProvince(String province) {this.province = province;}public String getCity() {return city;}public void setCity(String city) {this.city = city;}public Long getClickedCount() {return clickedCount;}public void setClickedCount(Long clickedCount) {this.clickedCount = clickedCount;} }class AdClicked {private String timestamp;private String adID;private String province;private String city;private Long clickedCount;public String getTimestamp() {return timestamp;}public void setTimestamp(String timestamp) {this.timestamp = timestamp;}public String getAdID() {return adID;}public void setAdID(String adID) {this.adID = adID;}public String getProvince() {return province;}public void setProvince(String province) {this.province = province;}public String getCity() {return city;}public void setCity(String city) {this.city = city;}public Long getClickedCount() {return clickedCount;}public void setClickedCount(Long clickedCount) {this.clickedCount = clickedCount;} }class AdProvinceTopN {private String timestamp;private String adID;private String province;private Long clickedCount;public String getTimestamp() {return timestamp;}public void setTimestamp(String timestamp) {this.timestamp = timestamp;}public String getAdID() {return adID;}public void setAdID(String adID) {this.adID = adID;}public String getProvince() {return province;}public void setProvince(String province) {this.province = province;}public Long getClickedCount() {return clickedCount;}public void setClickedCount(Long clickedCount) {this.clickedCount = clickedCount;} }class AdTrendStat {private String _date;private String _hour;private String _minute;private String adID;private Long clickedCount;public String get_date() {return _date;}public void set_date(String _date) {this._date = _date;}public String get_hour() {return _hour;}public void set_hour(String _hour) {this._hour = _hour;}public String get_minute() {return _minute;}public void set_minute(String _minute) {this._minute = _minute;}public String getAdID() {return adID;}public void setAdID(String adID) {this.adID = adID;}public Long getClickedCount() {return clickedCount;}public void setClickedCount(Long clickedCount) {this.clickedCount = clickedCount;} }class AdTrendCountHistory{private Long clickedCountHistoryLong;public Long getClickedCountHistoryLong() {return clickedCountHistoryLong;}public void setClickedCountHistoryLong(Long clickedCountHistoryLong) {this.clickedCountHistoryLong = clickedCountHistoryLong;} } 本篇文章为转载内容。原文链接：https://blog.csdn.net/tom_8899_li/article/details/71194434。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...场景与重要性。 随着API驱动架构的普及和跨域资源共享（CORS）需求的增长，正确设置请求头成为了开发者必备技能。例如，在OAuth 2.0授权机制中，客户端需携带access_token等信息在请求头Authorization字段中以验证用户身份。如同文章示例中的sso_token，它是实现单点登录（SSO）的关键环节，确保了服务端能够识别并信任发起请求的客户端。 此外，随着JSON Web Tokens (JWT) 的广泛应用，请求头中的Authorization常用于传递经过签名的JSON令牌，实现无状态、安全的身份验证。而Accept头部则用来指示服务器返回数据的格式，如本文所展示的"application/json; charset=utf-8"，确保客户端能正确解析响应内容。 最近，Fetch API逐渐替代传统的XMLHttpRequest成为前端异步通信的新标准。在使用Fetch时，设置请求头的方式略有不同，但原理相似，例如： javascript fetch(base_path + 'aa/getList', { method: 'GET', headers: new Headers({ 'Accept': 'application/json; charset=utf-8', 'Authorization': 'Bearer ' + jwtToken }) }) .then(response => response.json()) .catch(error => console.error('Error:', error)); 因此，无论是jQuery的$.ajax还是原生Fetch API，对请求头的精准控制都是提升应用性能、保证数据安全、优化用户体验的重要手段。随着HTTP/2和HTTP/3协议的推广，未来可能还会出现更多针对请求头的优化策略和技术实践，值得广大开发者关注和学习。

在当今的Web服务和API开发领域中，数据交换格式JSON扮演着至关重要的角色。随着微服务、RESTful API等架构的普及，如何高效、准确地处理JSON与Java对象间的转换成为开发者关注的重点。Jackson库作为Java世界中最常用的JSON处理工具之一，提供了丰富的功能以满足不同场景下的需求。 除了上述文章介绍的基础用法外，Jackson库还支持将JSON转换为自定义的Java Bean对象，并能处理复杂嵌套结构的数据。例如，通过注解的方式，可以指定JSON字段与Java类属性之间的映射关系，使得转换过程更加智能且灵活。此外，对于可能存在的空值或异常情况，Jackson也提供了多种配置选项供开发者进行容错处理。 另一方面，Gson、Fastjson等其他开源库也是处理JSON与Java对象互转的有效工具，各有优劣，开发者可以根据项目需求和性能指标选择合适的库。同时，最新的Java版本（如Java 11及以上）已经原生支持JSON操作，例如使用JsonParser解析JSON，或者通过内置的JSON-B实现进行序列化和反序列化。 值得注意的是，在处理大量数据或高并发场景时，对JSON转换性能的优化至关重要。这包括但不限于选择高效的JSON库、合理设计数据模型以减少转换开销、利用缓冲技术提高IO效率等手段。因此，深入理解并掌握这些技术点，不仅能够提升程序性能，也能更好地应对实际开发中的各种挑战。

...新进展。近年来，随着RESTful API接口设计的普及，JSON作为主流的数据交换格式，在前后端交互中扮演着至关重要的角色。 例如，2021年，GitHub宣布对其API v4进行全面升级，其中就包括了对GraphQL的支持，这是一种基于JSON的强大查询语言，能够更灵活地获取和操作JSON数据结构。开发者可以利用GraphQL构建高度定制化的请求，只获取他们需要的数据，大大提升了效率并减少了网络带宽消耗。 此外，JSON Schema作为一种用于描述JSON数据结构的标准模式语言，也正在逐步获得广泛接纳。通过定义JSON数据结构的模式，可以实现对JSON数据的有效验证和约束，从而提升数据质量，并为自动化工具提供支持，如自动生成表单、文档或者代码模型。 最近，一些前沿的JavaScript框架，如React、Vue.js等，都在强化对JSON数据处理的支持，提供了便捷的方法将JSON数据映射到组件状态或视图层，简化了开发流程，提高了开发效率。 总的来说，JSON数组不仅在基础层面服务于数据交换，还在不断演进和发展中，适应了现代web服务日益复杂和高效的需求。无论是新的数据查询语言的出现，还是数据校验和前端框架层面的支持，都展现了JSON数组在未来web开发领域广阔的应用前景。

...用于前后端数据交互、配置文件存储、API接口设计等多个领域。 RESTful API , Representational State Transfer（表述性状态转移）风格的Web服务应用程序编程接口。RESTful API遵循HTTP协议规范，通过定义一套资源标识符以及与之对应的HTTP方法（GET、POST、PUT、DELETE等），实现对资源的操作和管理。在文章语境中，JSON作为主流的数据交换格式，在RESTful API设计中扮演重要角色，使得数据传输简洁高效，接口易用性增强。 NoSQL数据库 , Not Only SQL，泛指非关系型数据库，相较于传统的关系型数据库，NoSQL数据库更适合处理大规模分布式环境下的海量数据存储与查询问题。文中提到MongoDB就是一种NoSQL数据库，它可以原生支持JSON格式数据的存储和查询，利用JSON文档模型的优势，简化了数据操作流程，提高了开发效率。

...供了高效且功能丰富的API进行对象与JSON之间的转换。 近年来，随着API经济的发展，JSON作为HTTP请求和响应的标准格式，其重要性进一步提升。例如，GraphQL这一现代API查询语言就以JSON格式传递查询和结果，提供了一种更灵活、高效的客户端与服务器间数据交互方式。 此外，在数据存储领域，MongoDB等NoSQL数据库更是直接以内置支持JSON的BSON格式存储文档型数据，极大地简化了数据模型设计和查询过程。 值得注意的是，随着JSON Web Tokens（JWT）的普及，JSON还在安全认证方面发挥着关键作用。JWT利用JSON格式封装用户信息，通过加密算法保证数据传输的安全性，被广泛应用于无状态、跨域的身份验证场景。 总之，从数据交换、API设计到数据存储和安全认证，JSON已成为现代软件开发不可或缺的一部分。深入理解和掌握JSON及其相关工具和技术，对于提升开发者工作效率和应用性能具有重要意义。未来，随着技术演进及新应用场景的拓展，JSON的作用和影响力预计将进一步增强。

...重要代表，在解决诸如跨域问题等现代Web开发挑战中发挥着关键作用。实际上，Docker不仅可以用于部署Nginx以实现跨域解决方案，还可以与其他服务如API网关、负载均衡器等结合使用，构建更为复杂且灵活的网络架构。 近期，Docker发布了一系列更新，强化了对安全性和网络功能的支持。例如，通过改进的Docker Compose V2版本，开发者可以更便捷地管理多容器应用和服务间的网络配置，进一步简化CORS设置过程，确保不同服务之间的数据交互符合同源策略要求。 另外，随着Kubernetes在生产环境中的广泛应用，Nginx Ingress Controller成为处理跨域请求的另一种常见方案。它允许在集群入口级别集中配置CORS策略，使得跨越多个服务或命名空间的资源访问得以顺利进行。 同时，业界也在深入研究如何在遵循安全原则的前提下优化浏览器的跨域限制。例如，W3C关于CORS标准的最新讨论与修订，可能会影响未来Web应用程序跨域资源共享的最佳实践。 综上所述，理解并掌握Docker与Nginx在解决浏览器跨域问题上的应用，以及关注相关领域技术的发展动态，对于提升Web应用的开发效率与安全性具有重要意义。

...xtensions API，并定期发布Firefox浏览器及其开发者版本的更新日志。关注这些信息有助于您及时获取新特性、优化建议以及未来可能影响插件开发的政策变更。例如，近期Mozilla发布了Firefox 95版，对WebExtensions进行了多项改进和安全增强，开发者应当关注并适时调整代码以适应新的API。 2. WebExtensions最佳实践案例分析：通过研究GitHub等平台上的开源项目，可以学习到实际应用场景中WebExtensions的最佳实践。比如，某些高分评价的广告拦截器、跨域资源共享助手或自定义样式脚本等，它们不仅展示了如何高效利用WebExtensions API，还提供了内容脚本与后台脚本通信的实用范例。 3. 隐私保护与安全性考量：随着用户对数据隐私和网络安全的关注度日益提高，浏览器扩展开发必须注重权限最小化和透明性原则。Mozilla为此制定了严格的审核政策和指导原则，确保WebExtensions遵循隐私保护要求。阅读相关文章和讨论，将有助于您在开发过程中充分考虑并实现更安全、合规的插件设计。 4. 跨浏览器兼容性研究：虽然本文主要介绍了在Firefox中的WebExtensions开发，但WebExtensions标准已经被其他主流浏览器如Chrome、Edge等广泛采纳。了解各浏览器在实现WebExtensions时的具体差异和兼容问题，可以帮助您编写出能够在多平台上良好运行的跨浏览器扩展。 综上所述，作为Firefox WebExtensions插件开发者，在熟练掌握基本技能的基础上，不断跟进行业动态、汲取优秀案例经验、强化隐私安全意识并拓展跨浏览器开发视野，将是提升自身专业水平、适应市场变化的关键所在。

...了。这就是我们常说的跨域问题。这篇文章将讨论如何在Node.js中间件中解决这个问题。 二、什么是跨域问题？ 在Web开发中，由于同源策略（Same-Origin Policy）的存在，浏览器限制了脚本只能访问同一来源（协议、域名和端口都相同）的资源。当你在一个网页上，这个网页试图偷偷摸摸地从别的地方抓取数据或者搞点小动作的时候，浏览器就会像个严格的保安一样，立马出手制止这种情况，这就叫做“跨域问题”。就像是你的邻居不能随意进出你家拿东西一样，每个网页都有自己的“地盘”，浏览器就是那个确保各网页间不互相越界的家伙。 三、如何在Node.js中间件中解决跨域问题？ 在Node.js中，我们可以使用一些库来处理跨域问题，其中最常用的是cors库。以下是如何使用cors库来设置允许所有源访问的响应头的例子： javascript var express = require('express'); var cors = require('cors'); var app = express(); app.use(cors()); app.get('/api/data', function(req, res) { res.json({ message: 'Hello World!' }); }); app.listen(3000, function() { console.log('Example app listening on port 3000!'); }); 在这个例子中，我们首先引入了Express和Cors模块，然后创建了一个新的Express应用程序，并使用cors()方法设置了允许所有源访问的应用程序中间件。 四、总结 跨域问题是我们在进行网页或应用开发时经常会遇到的问题。通过使用Node.js中间件，我们可以很容易地解决这个问题。在这篇文章里，我们手把手教你如何用cors这个小工具，轻松几步设置好响应头，让任何源都能无障碍访问你的资源~虽然这种方法安全性可能没那么高，但是在某些特定情况下，它可能是最省事儿、最一针见血的解决方案了。 当然，这只是一个基本的示例。在实际做项目的时候，你可能遇到需要制定更高级的跨域方案，比如说，得让特定的一些来源能够访问，或者干脆只放行那些从HTTPS请求过来的连接啥的。这些都可以通过调整cors库的配置来实现。如果你正在面临跨域问题，我强烈建议你尝试使用cors库来解决。我相信，只要正确使用，它一定能帮你解决问题。

...时遇到了无法访问内部API的问题。 Elasticsearch服务 , Elasticsearch是一个基于Lucene的分布式、RESTful搜索引擎，能够处理大规模数据的近实时搜索与分析。在本文上下文中，Elasticsearch服务作为Kibana的数据后端，为Kibana提供数据检索和API接口，当其出现异常或未启动时，可能导致Kibana无法正常访问内部API。 API（Application Programming Interface） , API是一种让软件之间交互和通信的标准方式，它定义了软件组件如何互相调用并交换信息。在本文中，Kibana内部API指的是Kibana系统内部用于获取、处理和展示Elasticsearch中数据的一系列接口。如果这些API调用失败，将直接影响到Kibana的数据展现和分析功能。 配置文件（kibana.yml） , 在Kibana中，kibana.yml是一个核心配置文件，用于存储和管理Kibana的各种设置参数，如Elasticsearch服务地址、网络配置、安全性设置等。当此文件中的配置错误，特别是与API访问权限或URL路径相关的设置有误时，可能会导致Kibana无法正确调用内部API。 Role-Based Access Control (RBAC) , 角色基于访问控制，是一种常见的授权机制，用于根据用户的角色分配不同级别的系统资源访问权限。在Elasticsearch中，通过实现RBAC可以精细控制不同用户对Elasticsearch API的访问权限，防止因权限设置不当引发的API调用失败问题。

...布式应用的快速搭建、配置及启动，方便地进行复杂微服务架构的开发与测试。 Docker API , Docker API是一套RESTful接口，允许程序以编程方式与Docker守护进程交互，执行包括容器创建、启动、停止、删除以及获取容器日志等各种操作。开发者可以通过HTTP请求访问这些API来自动化或扩展Docker的功能，例如在本文中提到的，通过Docker API可以直接获取指定容器的日志流。 标准输出（stdout）和错误输出（stderr） , 在计算机程序中，标准输出和错误输出是两种常见的输出流。标准输出通常用于程序正常运行时产生的信息，而错误输出则用于记录程序运行时出现的错误信息或警告信息。在Docker环境中，容器的标准输出和错误输出会被捕获并作为日志存储，以便于用户通过docker logs命令或其他方式查看和分析容器内部的运行状态和问题排查。

...始，经过一系列编译、配置、链接等步骤，最终生成可执行文件并进行安装的过程。在本文中，用户需下载Python3.5.2的源代码包，并在Ubuntu 12.04系统环境下对其进行编译和安装，以实现对Python3.5.2版本的使用。相较于直接通过包管理器安装预编译好的二进制包，源码编译安装方式允许用户根据自身需求进行个性化配置，如指定安装路径、启用或禁用特定功能模块等。 pip3 , pip是Python的包管理工具，用于安装和管理Python应用程序所需的第三方库和依赖项。pip3则是针对Python 3系列版本的pip工具，它可以从Python官方的PyPI（Python Package Index）或其他第三方库仓库中自动下载、安装、升级、卸载Python包。在本篇文章中，用户通过pip3安装了flask以及其相关的依赖包，为搭建基于Python3编程语言的Web服务器运行环境提供了必要的组件支持。 Flask Web服务器 , Flask是一个轻量级的Web应用框架，由Python编写，遵循Werkzeug WSGI工具集和Jinja2模板引擎的标准。在本文中，用户在安装完Python3.5.2之后，通过pip3安装了Flask，目的是利用Flask提供的简洁灵活的API和丰富的扩展库来开发基于Python3的Web应用程序。Flask框架易于上手且功能强大，特别适合小型到中型规模的Web项目，开发者可以快速构建RESTful API、网页服务以及其他基于HTTP协议的应用程序。