前端技术
HTML
CSS
Javascript
前端框架和UI库
VUE
ReactJS
AngularJS
JQuery
NodeJS
JSON
Element-UI
Bootstrap
Material UI
服务端和客户端
Java
Python
PHP
Golang
Scala
Kotlin
Groovy
Ruby
Lua
.net
c#
c++
后端WEB和工程框架
SpringBoot
SpringCloud
Struts2
MyBatis
Hibernate
Tornado
Beego
Go-Spring
Go Gin
Go Iris
Dubbo
HessianRPC
Maven
Gradle
数据库
MySQL
Oracle
Mongo
中间件与web容器
Redis
MemCache
Etcd
Cassandra
Kafka
RabbitMQ
RocketMQ
ActiveMQ
Nacos
Consul
Tomcat
Nginx
Netty
大数据技术
Hive
Impala
ClickHouse
DorisDB
Greenplum
PostgreSQL
HBase
Kylin
Hadoop
Apache Pig
ZooKeeper
SeaTunnel
Sqoop
Datax
Flink
Spark
Mahout
数据搜索与日志
ElasticSearch
Apache Lucene
Apache Solr
Kibana
Logstash
数据可视化与OLAP
Apache Atlas
Superset
Saiku
Tesseract
系统与容器
Linux
Shell
Docker
Kubernetes
[Go语言Web应用数据库连接池设置]的搜索结果
这里是文章列表。热门标签的颜色随机变换,标签颜色没有特殊含义。
点击某个标签可搜索标签相关的文章。
点击某个标签可搜索标签相关的文章。
Go-Spring
...能的管道工,它搭建起数据传输的桥梁,让我们的系统能够和其他系统的数据顺利地“握手交谈”。也就是说,有了API这个神通广大的工具,咱们的系统就能和外界其他系统实现亲密无间的互动交流啦。然而,在实际用起来的时候,我们免不了会碰到各种各样的问题,比如有时候需要把某个特殊的请求重新导向到别的地方去。这时候,我们就需要用到API端点路由重定向功能。这篇文章将向你介绍如何使用Go-Spring实现这一功能。 二、什么是API端点路由重定向功能? API端点路由重定向功能是指在接收到某个特定请求后,将其转发到另一个URL上。这种功能呀,一般就是在处理一些特殊状况时派上用场,比如你登录页面需要跳转的时候,或者遇到错误页面需要引导换个页面的时候,它就发挥了大作用。 三、如何使用Go-Spring实现API端点路由重定向功能? 下面我们将通过一个简单的例子来演示如何使用Go-Spring实现API端点路由重定向功能。 首先,我们需要创建一个新的Go项目,并添加Spring Boot依赖: go // main.go package main import ( "net/http" "github.com/gorilla/mux" "github.com/spring-projects/go-spring-boot/spring-boot/v2" ) func main() { app := springboot.New() app.SetPort(8080) router := mux.NewRouter() router.HandleFunc("/api/user/{id}", GetUser).Methods("GET") app.Run(router) } func GetUser(w http.ResponseWriter, r http.Request) { id := mux.Vars(r)["id"] if id == "1" { http.Redirect(w, r, "/api/user/2", http.StatusFound) } else { http.NotFound(w, r) } } 在这个例子中,我们创建了一个新的Go项目,并添加了Spring Boot依赖。然后,我们在main.go文件中定义了一个HTTP服务器,并设置了端口为8080。 接着,我们创建了一个路由处理器函数GetUser,它会接收到来自/api/user/{id}路径的GET请求。如果用户ID是1,那么我们就使用http.Redirect方法将请求重定向到/api/user/2。否则,我们就返回一个404 Not Found的状态码。 最后,我们调用app.Run(router)方法启动服务器,并开始监听来自8080端口的请求。 四、结论 通过上面的例子,你应该已经了解了如何使用Go-Spring实现API端点路由重定向功能。其实呢,这只是个入门级别的小栗子,实际上,你完全可以按照自己的小心思,定制更多五花八门的重定向规则,让它们更贴合你的需求。总的来说,API端点路由重定向这个功能可真是个宝贝疙瘩,它实实在在地帮我们在管理API的各种请求和响应时更加游刃有余。这样一来,咱们的系统就像长了翅膀一样,既灵活又具有超强的扩展性,让咱的工作效率嗖嗖往上涨! 希望这篇文章能对你有所帮助!如果你有任何问题或者想要进一步了解Go-Spring的相关知识,欢迎随时联系我!
2023-09-23 09:54:15
550
半夏微凉-t
Tornado
...依赖于稳定可靠的网络连接。然而,有时候咱们会碰上网络信号闹别扭或者干脆罢工的情况,这可不只是耽误了咱们的工作、影响了日常生活那么简单,还可能悄无声息地给咱们的信息安全带来隐患呐。那么,如何有效地解决这个问题呢?让我们来看看Python的Tornado库。 二、什么是Tornado? Tornado是一个高性能的Python Web服务器和异步网络库,它被设计用来构建实时Web应用和服务。它的最大亮点就是能够支持异步IO操作,这就意味着即使在单线程环境下也能轻松应对海量的并发请求,这样一来,系统的性能和稳定性都得到了超级大的提升,就像给系统装上了涡轮增压器一样,嗖嗖地快,稳稳地好。 三、Tornado如何解决网络连接不稳定或中断的问题? 网络连接不稳定或中断通常是由以下几个原因引起的:网络拥塞、路由器故障、服务提供商问题等。这些问题虽然没法彻底躲开,不过只要我们巧妙地进行网络编程,就能最大限度地降低它们对我们应用程序的影响程度,尽可能让它们少添乱。Tornado就是这样一个可以帮助我们处理这些问题的工具。 四、Tornado的使用示例 下面我们将通过几个实例来展示如何使用Tornado来处理网络连接不稳定或中断的问题。 1. 异步I/O操作 在传统的同步I/O操作中,当一个线程执行完一个任务后,会阻塞等待新的任务。这种方式在处理大量并发请求时效率较低。而异步I/O这招厉害的地方就在于,它能充分榨干多核CPU的潜能,让多个请求同时开足马力并行处理,就像一个超级服务员,能够同时服务多位顾客,既高效又灵活。Tornado这个家伙,厉害之处就在于它采用了异步I/O操作这招杀手锏,这样一来,面对蜂拥而至的高并发网络请求,它也能游刃有余地高效应对,处理起来毫不含糊。 python import tornado.web class MainHandler(tornado.web.RequestHandler): def get(self): 这里是你的业务逻辑 pass application = tornado.web.Application([ (r"/", MainHandler), ]) application.listen(8888) tornado.ioloop.IOLoop.current().start() 2. 自动重连机制 在网络连接不稳定或中断的情况下,传统的TCP连接可能会因为超时等原因断开。为了避免这种情况,我们可以设置自动重连机制。Tornado提供了一个方便的方法来实现这个功能。 python import tornado.tcpclient class MyClient(tornado.tcpclient.TCPClient): def __init__(self, host='localhost', port=80, kwargs): super().__init__(host, port, kwargs) self.retries = 3 def connect(self): for _ in range(self.retries): try: return super().connect() except Exception as e: print(f'Connect failed: {e}') tornado.ioloop.IOLoop.current().add_timeout( tornado.ioloop.IOLoop.current().time() + 5, lambda: self.connect(), ) raise tornado.ioloop.TimeoutError('Connect failed after retrying') client = MyClient() 以上就是Tornado的一些基本使用方法,它们都可以帮助我们有效地处理网络连接不稳定或中断的问题。当然,Tornado的功能远不止这些,你还可以利用它的WebSocket、HTTP客户端等功能来满足更多的需求。 五、总结 总的来说,Tornado是一个非常强大的工具,它不仅可以帮助我们提高网络应用程序的性能和稳定性,还可以帮助我们更好地处理网络连接不稳定或中断的问题。如果你是一名网络开发工程师,我强烈推荐你学习和使用Tornado。相信你会发现,它会给你带来很多惊喜和收获。 六、结语 希望通过这篇文章,你能了解到Tornado的基本概念和使用方法,并且能将这些知识运用到实际的工作和项目中。记住了啊,学习这件事儿可是没有终点线的马拉松,只有不断地吸收新知识、动手实践操作,才能让自己的技能树茁壮成长,最终修炼成一名货真价实的网络开发大神。
2023-05-20 17:30:58
168
半夏微凉-t
Beego
...种软件设计模式,广泛应用于Web开发领域,如Beego。在该模式中,模型(Model)负责处理数据和业务逻辑,视图(View)负责展示用户界面,控制器(Controller)作为中介,接收用户请求、调用模型方法处理数据,并将结果传递给视图进行渲染。 语义化版本控制(Semantic Versioning, SemVer) , 一种版本号命名约定,用于明确表示软件包的兼容性和新特性发布情况。遵循SemVer规则的版本号格式为主版本号.次版本号.修订号,其中主版本号变化代表不兼容的API更改,次版本号变化意味着新增功能但保持向后兼容,修订号则表示对现有功能的错误修复且不影响兼容性。 版本控制系统(如Git) , Git是一个分布式版本控制系统,用于跟踪代码文件及整个项目的修改历史,支持多人协作并解决代码冲突。通过Git,开发者可以方便地回滚至任意提交版本,分支管理以及合并代码,从而有效应对软件开发过程中可能出现的版本兼容性问题。在本文语境下,建议利用Git来管理和切换不同版本的Beego和Bee工具。
2023-12-07 18:40:33
411
青山绿水
Go-Spring
...的缓存服务承担着提升数据访问速度、减轻数据库压力的角色,但同时也会遇到如数据过期、污染等异常情况。 Go-Spring , Go-Spring是一种基于Go语言的轻量级微服务框架,它借鉴了Spring框架的设计理念,为开发者提供了便捷的服务注册与发现、依赖注入等功能,以简化Go语言开发微服务应用的过程。文中提到,在使用Go-Spring框架时可能会遇到缓存服务异常的问题,并介绍了如何利用第三方库go-cache进行缓存管理及异常处理。 缓存服务异常 , 在计算机软件系统中,特别是分布式环境中,缓存服务异常是指原本应正常工作的缓存系统出现了无法按预期提供服务的情况。这可能包括但不限于缓存数据未按设定时间自动更新或清除(数据过期)、缓存被无效或错误信息填充(缓存污染)等现象,进而影响到系统的性能和稳定性。在文中,针对Go-Spring项目中出现的缓存服务异常问题,作者提出了一系列的监控、分析与修复策略。
2023-11-23 18:26:05
511
心灵驿站-t
Beego
一、引言 作为一个Go语言的Web开发框架,Beego以其简洁的语法和强大的功能,深受开发者们的喜爱。不过,在实际操作的时候,我们常常会遇到一些需要用异步方式处理的活儿,比如处理图片啦、清洗数据什么的,这些都是常见的例子。这就需要用到异步任务处理和队列系统。在本文里,咱们将手把手地学习如何在Beego这个框架里玩转异步任务处理,还会把它和队列系统巧妙地“撮合”在一起,让它们俩亲密协作。 二、异步任务处理与队列系统介绍 首先,我们需要了解什么是异步任务处理以及队列系统。异步任务处理是一种在后台执行的任务处理方式,它允许我们在主线程等待任务结果的同时,处理其他的事情,从而提高程序的并发性能。队列系统呢,其实就相当于一个装有待办任务的篮子,它超级实用,能够帮我们把各类任务安排得明明白白,有序又可控地去执行,就像是在指挥交通一样,保证每个任务都能按时按序到达“终点站”。 三、在Beego中实现异步任务处理 在Beego中,我们可以使用goroutine来实现异步任务处理。Goroutine,这可是Go语言里的一个超级灵活的小家伙,你可以把它理解为一个轻量级的线程“小兵”。有了它,我们就能在一个函数调用里边轻松玩转多个任务,让它们并行运行,就像我们同时处理好几件事情一样,既高效又给力。 下面是一个简单的示例: go package main import ( "fmt" "time" ) func main() { for i := 1; i <= 5; i++ { go func(i int) { time.Sleep(time.Second) fmt.Println("Task", i, "completed") }(i) } } 在这个示例中,我们创建了5个goroutine,每个goroutine都会打印出一条消息,然后暂停1秒钟再继续执行下一个任务。 四、将队列系统集成到Beego中 有了goroutine,我们就可以开始考虑如何将队列系统集成进来了。在这里,我们选择RabbitMQ作为我们的队列系统。RabbitMQ,这可是个超级实用的开源消息“快递员”,它能和各种各样的通信协议打成一片,而且这家伙的可靠性贼高,性能也是杠杠的,就像个不知疲倦的消息传输小超人一样。 在Beego中,我们可以使用beego-queue这个库来与RabbitMQ进行交互。首先,我们需要安装这个库: bash go get github.com/jroimartin/beego-queue 然后,我们可以创建一个生产者,用于向队列中添加任务: go package main import ( "github.com/jroimartin/beego-queue" ) func main() { queue := beego.NewQueue(8, "amqp://guest:guest@localhost:5672/") defer queue.Close() for i := 1; i <= 5; i++ { task := fmt.Sprintf("Task %d", i) if err := queue.Put(task); err != nil { panic(err) } } } 在这个示例中,我们创建了一个新的队列,并向其中添加了5个任务。每个任务都是一条字符串。 接下来,我们可以创建一个消费者,用于从队列中获取并处理任务: go package main import ( "github.com/jroimartin/beego-queue" ) func handleTask(task string) { fmt.Println("Received task:", task) } func main() { queue := beego.NewQueue(8, "amqp://guest:guest@localhost:5672/") defer queue.Close() go queue.Consume(handleTask) for i := 1; i <= 5; i++ { task := fmt.Sprintf("Task %d", i) if err := queue.Put(task); err != nil { panic(err) } } } 在这个示例中,我们创建了一个消费者函数handleTask,它会接收到从队列中取出的任务,并打印出来。然后,我们启动了一个goroutine来监听队列的变化,并在队列中有新任务时调用handleTask。 五、结论 通过以上步骤,我们已经在Beego中成功地实现了异步任务处理和队列系统的集成。这不仅可以提高我们的程序性能,还可以使我们的代码更易于维护和扩展。当然啦,这只是处理异步任务的一种入门级做法,实际上,咱们完全可以按照自身需求,解锁更多玩法。比如,我们可以用Channel来搭建一个沟通桥梁,或者尝试不同类型的队列系统,这些都能够让任务处理变得更灵活、更高效。希望这篇文章能对你有所帮助!
2023-04-09 17:38:09
487
昨夜星辰昨夜风-t
转载文章
...t-starter-web</artifactId></dependency><dependency><groupId>commons-io</groupId><artifactId>commons-io</artifactId><version>2.8.0</version></dependency><dependency><groupId>org.projectlombok</groupId><artifactId>lombok</artifactId><optional>true</optional></dependency> controller package com.kang.controller;import lombok.extern.slf4j.Slf4j;import org.springframework.stereotype.Controller;import org.springframework.web.bind.annotation.RequestMapping;import javax.servlet.http.HttpServletRequest;import javax.servlet.http.HttpServletResponse;import java.io.;import java.net.URLEncoder;import java.util.Optional;/ @Description 文件切片下载 @ClassName DownLoadController @Author 康世行 @Date 20:58 2023/2/22 @Version 1.0/@Controller@Slf4jpublic class DownLoadController {private final static String utf8 = "utf-8";@RequestMapping("/down")public void downLoadFile(HttpServletRequest request, HttpServletResponse response) throws IOException {// 设置编码格式response.setCharacterEncoding(utf8);//获取文件路径String fileName=request.getParameter("fileName");String drive=request.getParameter("drive");//参数校验log.info(fileName,drive);//完整路径(路径拼接待优化-前端传输优化-后端从新格式化 )String pathAll=drive+":\\"+fileName;log.info("pathAll{}",pathAll);Optional<String> pathFlag = Optional.ofNullable(pathAll);File file=null;if (pathFlag.isPresent()){//根据文件名,读取file流file = new File(pathAll);log.info("文件路径是{}",pathAll);if (!file.exists()){log.warn("文件不存在");return;} }else {//请输入文件名log.warn("请输入文件名!");return;}InputStream is = null;OutputStream os = null;try {//分片下载long fSize = file.length();//获取长度response.setContentType("application/x-download");String file_Name = URLEncoder.encode(file.getName(),"UTF-8");response.addHeader("Content-Disposition","attachment;filename="+fileName);//根据前端传来的Range 判断支不支持分片下载response.setHeader("Accept-Range","bytes");//获取文件大小//response.setHeader("fSize",String.valueOf(fSize));response.setHeader("fName",file_Name);//定义断点long pos = 0,last = fSize-1,sum = 0;//判断前端需不需要分片下载if (null != request.getHeader("Range")){response.setStatus(HttpServletResponse.SC_PARTIAL_CONTENT);String numRange = request.getHeader("Range").replaceAll("bytes=","");String[] strRange = numRange.split("-");if (strRange.length == 2){pos = Long.parseLong(strRange[0].trim());last = Long.parseLong(strRange[1].trim());//若结束字节超出文件大小 取文件大小if (last>fSize-1){last = fSize-1;} }else {//若只给一个长度 开始位置一直到结束pos = Long.parseLong(numRange.replaceAll("-","").trim());} }long rangeLenght = last-pos+1;String contentRange = new StringBuffer("bytes").append(pos).append("-").append(last).append("/").append(fSize).toString();response.setHeader("Content-Range",contentRange);// response.setHeader("Content-Lenght",String.valueOf(rangeLenght));os = new BufferedOutputStream(response.getOutputStream());is = new BufferedInputStream(new FileInputStream(file));is.skip(pos);//跳过已读的文件(重点,跳过之前已经读过的文件)byte[] buffer = new byte[1024];int lenght = 0;//相等证明读完while (sum < rangeLenght){lenght = is.read(buffer,0, (rangeLenght-sum)<=buffer.length? (int) (rangeLenght - sum) :buffer.length);sum = sum+lenght;os.write(buffer,0,lenght);}log.info("下载完成");}finally {if (is!= null){is.close();}if (os!=null){os.close();} }} } 启动成功 Vue <html xmlns:th="http://www.thymeleaf.org"><head><meta charset="utf-8"/><title>狂神说Java-ES仿京东实战</title><link rel="stylesheet" th:href="@{/css/style.css}"/></head><body class="pg"><div class="page" id="app"><div id="mallPage" class=" mallist tmall- page-not-market "><!-- 头部搜索 --><div id="header" class=" header-list-app"><div class="headerLayout"><div class="headerCon "><!-- Logo--><h1 id="mallLogo"><img th:src="@{/images/jdlogo.png}" alt=""></h1><div class="header-extra"><!--搜索--><div id="mallSearch" class="mall-search"><form name="searchTop" class="mallSearch-form clearfix"><fieldset><legend>天猫搜索</legend><div class="mallSearch-input clearfix"><div class="s-combobox" id="s-combobox-685"><div class="s-combobox-input-wrap"><input v-model="keyword" type="text" autocomplete="off" value="java" id="mq"class="s-combobox-input" aria-haspopup="true"></div></div><button type="submit" @click.prevent="searchKey" id="searchbtn">搜索</button></div></fieldset></form><ul class="relKeyTop"><li><a>狂神说Java</a></li><li><a>狂神说前端</a></li><li><a>狂神说Linux</a></li><li><a>狂神说大数据</a></li><li><a>狂神聊理财</a></li></ul></div></div></div></div></div><el-button @click="download" id="download">下载</el-button><!-- <el-button @click="concurrenceDownload" >并发下载测试</el-button>--><el-button @click="stop">停止</el-button><el-button @click="start">开始</el-button>{ {fileFinalOffset} }{ {contentList} }<el-progress type="circle" :percentage="percentage"></el-progress></div><!--前端使用Vue,实现前后端分离--><script th:src="@{/js/axios.min.js}"></script><script th:src="@{/js/vue.min.js}"></script><!-- 引入样式 --><link rel="stylesheet" href="https://unpkg.com/element-ui/lib/theme-chalk/index.css"><!-- 引入组件库 --><script src="https://unpkg.com/element-ui/lib/index.js"></script><script>new Vue({ el: 'app',data: {keyword: '', //搜索关键字results: [] ,//搜索结果percentage: 0, // 下载进度filesCurrentPage:0,//文件开始偏移量fileFinalOffset:0, //文件最后偏移量stopRecursiveTags:true, //停止递归标签,默认是true 继续进行递归contentList: [], // 文件流数组breakpointResumeTags:false, //断点续传标签,默认是false 不进行断点续传temp:[],fileMap:new Map(),timer:null, //定时器名称},methods: {//根据关键字搜索商品信息searchKey(){var keyword=this.keyword;axios.get('/search/JD/search/'+keyword+"/1/10").then(res=>{this.results=res.data;//绑定数据console.log(this.results)console.table(this.results)})},//停止下载stop(){//改变递归标签为falsethis.stopRecursiveTags=false;},//开始下载start(){//重置递归标签为true 最后进行合并this.stopRecursiveTags=true;//重置断点续传标签this.breakpointResumeTags=true;//重新调用下载方法this.download();},// 分段下载需要后端配合download() {// 下载地址const url = "/down?fileName="+this.keyword.trim()+"&drive=E";console.log(url)const chunkSize = 1024 1024 50; // 单个分段大小,这里测试用100Mlet filesTotalSize = chunkSize; // 安装包总大小,默认100Mlet filesPages = 1; // 总共分几段下载//计算百分比之前先清空上次的if(this.percentage==100){this.percentage=0;}let sentAxios = (num) => {let rande = chunkSize;//判断是否开启了断点续传(断点续传没法并行-需要上次请求的结果作为参数)if (this.breakpointResumeTags){rande = ${Number(this.fileFinalOffset)+1}-${num chunkSize + 1};}else {if (num) {rande = ${(num - 1) chunkSize + 2}-${num chunkSize + 1};} else {// 第一次0-1方便获取总数,计算下载进度,每段下载字节范围区间rande = "0-1";} }let headers = {range: rande,};axios({method: "get",url: url.trim(),async: true,data: {},headers: headers,responseType: "blob"}).then((response) => {if (response.status == 200 || response.status == 206) {//检查了下才发现,后端对文件流做了一层封装,所以将content指向response.data即可const content = response.data;//截取文件总长度和最后偏移量let result= response.headers["content-range"].split("/");// 获取文件总大小,方便计算下载百分比filesTotalSize =result[1];//获取最后一片文件位置,用于断点续传this.fileFinalOffset=result[0].split("-")[1]// 计算总共页数,向上取整filesPages = Math.ceil(filesTotalSize / chunkSize);// 文件流数组this.contentList.push(content);// 递归获取文件数据(判断是否要继续递归)if (this.filesCurrentPage < filesPages&&this.stopRecursiveTags==true) {this.filesCurrentPage++;//计算下载百分比 当前下载的片数/总片数this.percentage=Number((this.contentList.length/filesPages)100).toFixed(2);sentAxios(this.filesCurrentPage);//结束递归return;}//递归标签为true 才进行下载if (this.stopRecursiveTags){// 文件名称const fileName =decodeURIComponent(response.headers["fname"]);//构造一个blob对象来处理数据const blob = new Blob(this.contentList);//对于<a>标签,只有 Firefox 和 Chrome(内核) 支持 download 属性//IE10以上支持blob但是依然不支持downloadif ("download" in document.createElement("a")) {//支持a标签download的浏览器const link = document.createElement("a"); //创建a标签link.download = fileName; //a标签添加属性link.style.display = "none";link.href = URL.createObjectURL(blob);document.body.appendChild(link);link.click(); //执行下载URL.revokeObjectURL(link.href); //释放urldocument.body.removeChild(link); //释放标签} else {//其他浏览器navigator.msSaveBlob(blob, fileName);} }} else {//调用暂停方法,记录当前下载位置console.log("下载失败")} }).catch(function (error) {console.log(error);});};// 第一次获取数据方便获取总数sentAxios(this.filesCurrentPage);this.$message({message: '文件开始下载!',type: 'success'});} }})</script></body></html> 本篇文章为转载内容。原文链接:https://blog.csdn.net/kangshihang1998/article/details/129407214。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-01-19 08:12:45
546
转载
转载文章
...媒资信息 需求分析 数据模型 Dao Service 测试 0x03 Logstash:扫描课程计划媒资 创建索引 创建模板文件 配置 mysql.conf 启动 logstash.bat Logstash多实例运行 0x04 搜素服务:查询课程媒资接口 需求分析 Api接口定义 Service Controller 测试 三、在线学习:接口开发 0x01 需求分析 0x02 搭建开发环境 0x03 Api接口 0x04 服务端开发 需求分析 搜索服务注册Eureka 搜索服务客户端 自定义错误代码 Service Controller 测试 0x05 前端开发 需求分析 api方法 配置代理 视频播放页面 简单的测试 完整的测试 1、上传文件 一些问题 ~~方案1:删除本地分块文件重新尝试上传~~ 方案2:检查前端提交的MD5值是否正确 2、为课程计划选择媒资信息 3、前端门户测试 四、待完善的一些功能 😁 认识作者 一、学习页面:查询课程计划 0x01 需求分析 到目前为止,我们已可以编辑课程计划信息并上传课程视频,下一步我们要实现在线学习页面动态读取章节对应的视频并进行播放。在线学习页面所需要的信息有两类: 课程计划信息 课程学习信息(视频地址、学习进度等) 如下图: 在线学习集成媒资管理的需求如下: 1、在线学习页面显示课程计划 2、点击课程计划播放该课程计划对应的视频 本章节实现学习页面动态显示课程计划,进入不同课程的学习页面右侧动态显示当前课程的课程计划。 0x02 Api接口 课程计划信息从哪里获取? 在课程发布完成后会自动发布到一个 course_pub 的表中,logstash 会自动将课程发布后的信息自动采集到 ES 索引库中,这些信息也包含课程计划信息。 所以考虑性能要求,课程发布后对课程的查询统一从 ES 索引库中查询。 前端通过请求 搜索服务 获取课程信息,需要单独在 搜索服务 中定义课程信息查询接口。 本接口接收课程id,查询课程所有信息返回给前端。 我们在搜素服务 API 下添加以下方法 @ApiOperation("根据id搜索课程发布信息")public Map<String,CoursePub> getdetail(String id); 返回的课程信息为 json 结构:key 为课程id,value 为课程内容。 0x03 服务端开发 在搜索服务中开发查询课程信息接口。 Controller 在搜素服务下添加以下方法 / 根据id搜索课程发布信息 @param id 课程id @return JSON数据/@Override@GetMapping("/getdetail/{id}")public Map<String, CoursePub> getdetail(@PathVariable("id")String id) {return esCourseService.getdetail(id);} Service / 根据id搜索课程发布信息 @param id 课程id @return JSON数据/public Map<String, CoursePub> getdetail(String id) {//设置索引SearchRequest searchRequest = new SearchRequest(es_index);//设置类型searchRequest.types(es_type);//创建搜索源对象SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();//设置查询条件,根据id进行查询searchSourceBuilder.query(QueryBuilders.termQuery("id",id));//这里不使用source的原字段过滤,查询所有字段// searchSourceBuilder.fetchSource(new String[]{"name", "grade", "charge","pic"}, newString[]{});//设置搜索源对象searchRequest.source(searchSourceBuilder);//执行搜索SearchResponse searchResponse = null;try {searchResponse = restHighLevelClient.search(searchRequest);} catch (IOException e) {e.printStackTrace();}//获取搜索结果SearchHits hits = searchResponse.getHits();SearchHit[] searchHits = hits.getHits(); //获取最优结果Map<String,CoursePub> map = new HashMap<>();for (SearchHit hit: searchHits) {//从搜索结果中取值并添加到coursePub对象Map<String, Object> sourceAsMap = hit.getSourceAsMap();String courseId = (String) sourceAsMap.get("id");String name = (String) sourceAsMap.get("name");String grade = (String) sourceAsMap.get("grade");String charge = (String) sourceAsMap.get("charge");String pic = (String) sourceAsMap.get("pic");String description = (String) sourceAsMap.get("description");String teachplan = (String) sourceAsMap.get("teachplan");CoursePub coursePub = new CoursePub();coursePub.setId(courseId);coursePub.setName(name);coursePub.setPic(pic);coursePub.setGrade(grade);coursePub.setTeachplan(teachplan);coursePub.setDescription(description);//设置map对象map.put(courseId,coursePub);}return map;} 测试 使用 swagger-ui 或 postman 测试查询课程信息接口。 0x04 前端开发 配置NGINX虚拟主机 学习中心的二级域名为 ucenter.xuecheng.com ,我们在 nginx 中配置 ucenter 虚拟主机。 学成网用户中心server {listen 80;server_name ucenter.xuecheng.com;个人中心location / {proxy_pass http://ucenter_server_pool;} } 前端ucenterupstream ucenter_server_pool{server 127.0.0.1:7081 weight=10;server 127.0.0.1:13000 weight=10;} 在学习中心要调用搜索的 API,使用 Nginx 解决代理,如下图: 在 ucenter 虚拟主机下配置搜索 Api 代理路径 后台搜索(公开api)upstream search_server_pool{server 127.0.0.1:40100 weight=10;} 学成网用户中心server {listen 80;server_name ucenter.xuecheng.com;个人中心location / {proxy_pass http://ucenter_server_pool;}后端搜索服务location /openapi/search/ {proxy_pass http://search_server_pool/search/;} } 前端 API 方法 在学习中心 xc-ui-pc-leanring 对课程信息的查询属于基础常用功能,所以我们将课程查询的 api 方法定义在base 模块下,如下图: 在system.js 中定义课程查询方法: import http from './public'export const course_view = id => {return http.requestGet('/openapi/search/course/getdetail/'+id);} 前端 API 方法调用 在 learning_video.vue 页面中调用课程信息查询接口得到课程计划,将课程计划json 串转成对象。 xc-ui-pc-leanring/src/module/course/page/learning_video.vue 1、定义视图 课程计划 <!--课程计划部分代码--><div class="navCont"><div class="course-weeklist"><div class="nav nav-stacked" v-for="(teachplan_first, index) in teachplanList"><div class="tit nav-justified text-center"><i class="pull-left glyphicon glyphicon-th-list"></i>{ {teachplan_first.pname} }<i class="pull-right"></i></div><li v-if="teachplan_first.children!=null" v-for="(teachplan_second, index) in teachplan_first.children"><i class="glyphicon glyphicon-check"></i><a :href="url" @click="study(teachplan_second.id)">{ {teachplan_second.pname} }</a></li><!-- <div class="tit nav-justified text-center"><i class="pull-left glyphicon glyphicon-th-list"></i>第一章<i class="pull-right"></i></div><li ><i class="glyphicon glyphicon-check"></i><a :href="url" >第一节</a></li>--><!--<li><i class="glyphicon glyphicon-unchecked"></i>为什么分为A、B、C部分</li>--></div></div></div> 课程名称 <div class="top text-center">{ {coursename} }</div> 定义数据对象 data() {return {url:'',//当前urlcourseId:'',//课程idchapter:'',//章节Idcoursename:'',//课程名称coursepic:'',//课程图片teachplanList:[],//课程计划playerOptions: {//播放参数autoplay: false,controls: true,sources: [{type: "application/x-mpegURL",src: ''}]},} } 在 created 钩子方法中获取课程信息 created(){//当前请求的urlthis.url = window.location//课程idthis.courseId = this.$route.params.courseId//章节idthis.chapter = this.$route.params.chapter//查询课程信息systemApi.course_view(this.courseId).then((view_course)=>{if(!view_course || !view_course[this.courseId]){this.$message.error("获取课程信息失败,请重新进入此页面!")return ;} let courseInfo = view_course[this.courseId]console.log(courseInfo)this.coursename = courseInfo.nameif(courseInfo.teachplan){let teachplan = JSON.parse(courseInfo.teachplan);this.teachplanList = teachplan.children;} })}, 测试 在浏览器请求:http://ucenter.xuecheng.com//learning/4028e581617f945f01617f9dabc40000/0 4028e581617f945f01617f9dabc40000:第一个参数为课程 id,测试时从 ES索引库找一个课程 id 0:第二个参数为课程计划 id,此参数用于点击课程计划播放视频。 如果出现跨域问题,但是确定已经配置了跨域,请尝试结束所以 nginx.exe 的进程 和 清空浏览器缓存。 如果还没有解决?重启电脑试试。 二、学习页面:获取视频播放地址 0x01 需求分析 用户进入在线学习页面,点击课程计划将播放该课程计划对应的教学视频。 业务流程如下: 业务流程说明: 1、用户进入在线学习页面,页面请求搜索服务获取课程信息(包括课程计划信息)并且在页面展示。 2、在线学习请求学习服务获取视频播放地址。 3、学习服务校验当前用户是否有权限学习,如果没有权限学习则提示用户。 4、学习服务校验通过,请求搜索服务获取课程媒资信息。 5、搜索服务请求ElasticSearch获取课程媒资信息。 为什么要请求 ElasticSearch 查询课程媒资信息? 出于性能的考虑,公开查询课程信息从搜索服务查询,分摊 mysql 数据库的访问压力。 什么时候将课程媒资信息存储到 ElasticSearch 中? 课程媒资信息是在课程发布的时候存入 ElasticSearch,因为课程发布后课程信息将基本不再修改。 0x02 课程发布:储存媒资信息 需求分析 课程媒资信息是在课程发布的时候存入 ElasticSearch 索引库,因为课程发布后课程信息将基本不再修改,具体的业务流程如下。 1、课程发布,向课程媒资信息表写入数据。 1)根据课程 id 删除 teachplanMediaPub 中的数据 2)根据课程 id 查询 teachplanMedia 数据 3)将查询到的 teachplanMedia 数据插入到 teachplanMediaPub 中 2、Logstash 定时扫描课程媒资信息表,并将课程媒资信息写入索引库。 数据模型 在 xc_course 数据库创建课程计划媒资发布表: CREATE TABLE teachplan_media_pub (teachplan_id varchar(32) NOT NULL COMMENT '课程计划id',media_id varchar(32) NOT NULL COMMENT '媒资文件id',media_fileoriginalname varchar(128) NOT NULL COMMENT '媒资文件的原始名称',media_url varchar(256) NOT NULL COMMENT '媒资文件访问地址',courseid varchar(32) NOT NULL COMMENT '课程Id',timestamp timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT'logstash使用',PRIMARY KEY (teachplan_id)) ENGINE=InnoDB DEFAULT CHARSET=utf8 数据模型类如下: package com.xuecheng.framework.domain.course;import lombok.Data;import lombok.ToString;import org.hibernate.annotations.GenericGenerator;import javax.persistence.;import java.io.Serializable;import java.util.Date;@Data@ToString@Entity@Table(name="teachplan_media_pub")@GenericGenerator(name = "jpa-assigned", strategy = "assigned")public class TeachplanMediaPub implements Serializable {private static final long serialVersionUID = -916357110051689485L;@Id@GeneratedValue(generator = "jpa-assigned")@Column(name="teachplan_id")private String teachplanId;@Column(name="media_id")private String mediaId;@Column(name="media_fileoriginalname")private String mediaFileOriginalName;@Column(name="media_url")private String mediaUrl;@Column(name="courseid")private String courseId;@Column(name="timestamp")private Date timestamp;//时间戳} Dao 创建 TeachplanMediaPub 表的 Dao,向 TeachplanMediaPub 存储信息采用先删除该课程的媒资信息,再添加该课程的媒资信息,所以这里定义根据课程 id 删除课程计划媒资方法: public interface TeachplanMediaPubRepository extends JpaRepository<TeachplanMediaPub, String> {//根据课程id删除课程计划媒资信息long deleteByCourseId(String courseId);} 从TeachplanMedia查询课程计划媒资信息 //从TeachplanMedia查询课程计划媒资信息public interface TeachplanMediaRepository extends JpaRepository<TeachplanMedia, String> {List<TeachplanMedia> findByCourseId(String courseId);} Service 编写保存课程计划媒资信息方法,并在课程发布时调用此方法。 1、保存课程计划媒资信息方法 本方法采用先删除该课程的媒资信息,再添加该课程的媒资信息,在 CourseService 下定义该方法 //保存课程计划媒资信息private void saveTeachplanMediaPub(String courseId){//查询课程媒资信息List<TeachplanMedia> byCourseId = teachplanMediaRepository.findByCourseId(courseId);if(byCourseId == null) return; //没有查询到媒资数据则直接结束该方法//将课程计划媒资信息储存到待索引表//删除原有的索引信息teachplanMediaPubRepository.deleteByCourseId(courseId);//一个课程可能会有多个媒资信息,遍历并使用list进行储存List<TeachplanMediaPub> teachplanMediaPubList = new ArrayList<>();for (TeachplanMedia teachplanMedia: byCourseId) {TeachplanMediaPub teachplanMediaPub = new TeachplanMediaPub();BeanUtils.copyProperties(teachplanMedia, teachplanMediaPub);teachplanMediaPubList.add(teachplanMediaPub);}//保存所有信息teachplanMediaPubRepository.saveAll(teachplanMediaPubList);} 2、课程发布时调用此方法 修改课程发布的 coursePublish 方法: ....//保存课程计划媒资信息到待索引表saveTeachplanMediaPub(courseId);//页面urlString pageUrl = cmsPostPageResult.getPageUrl();return new CoursePublishResult(CommonCode.SUCCESS,pageUrl);..... 测试 测试课程发布后是否成功将课程媒资信息存储到 teachplan_media_pub 中,测试流程如下: 1、指定一个课程 2、为课程计划添加课程媒资 3、执行课程发布 4、观察课程计划媒资信息是否存储至 teachplan_media_pub 中 注意:由于此测试仅用于测试发布课程计划媒资信息的功能,可暂时将 cms页面发布的功能暂时屏蔽,提高测试效率。 测试结果如下 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Vrzs5589-1595567273126)(https://qnoss.codeyee.com/20200704_15/image7)] 0x03 Logstash:扫描课程计划媒资 Logstash 定时扫描课程媒资信息表,并将课程媒资信息写入索引库。 创建索引 1、创建 xc_course_media 索引 2、并向此索引创建如下映射 POST: http://localhost:9200/xc_course_media/doc/_mapping {"properties" : {"courseid" : {"type" : "keyword"},"teachplan_id" : {"type" : "keyword"},"media_id" : {"type" : "keyword"},"media_url" : {"index" : false,"type" : "text"},"media_fileoriginalname" : {"index" : false,"type" : "text"} }} 索引创建成功 创建模板文件 在 logstach 的 config 目录文件 xc_course_media_template.json 文件路径为 %ES_ROOT_DIR%/logstash6.8.8/config/xc_course_media_template.json %ES_ROOT_DIR% 为 ElasticSearch 和 logstash 的安装目录 内容如下: {"mappings" : {"doc" : {"properties" : {"courseid" : {"type" : "keyword"},"teachplan_id" : {"type" : "keyword"},"media_id" : {"type" : "keyword"},"media_url" : {"index" : false,"type" : "text"},"media_fileoriginalname" : {"index" : false,"type" : "text"} }},"template" : "xc_course_media"} } 配置 mysql.conf 在logstash的 config 目录下配置 mysql_course_media.conf 文件供 logstash 使用,logstash 会根据 mysql_course_media.conf 文件的配置的地址从 MySQL 中读取数据向 ES 中写入索引。 参考https://www.elastic.co/guide/en/logstash/current/plugins-inputs-jdbc.html 配置输入数据源和输出数据源。 input {stdin {} jdbc {jdbc_connection_string => "jdbc:mysql://localhost:3306/xc_course?useUnicode=true&characterEncoding=utf-8&useSSL=true&serverTimezone=UTC" 数据库信息jdbc_user => "root"jdbc_password => "123123" MYSQL 驱动地址,修改为maven仓库对应的位置jdbc_driver_library => "D:/soft/apache-maven-3.5.4/repository/mysql/mysql-connector-java/5.1.40/mysql-connector-java-5.1.40.jar" the name of the driver class for mysqljdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"要执行的sql文件statement_filepath => "/conf/course.sql"statement => "select from teachplan_media_pub where timestamp > date_add(:sql_last_value,INTERVAL 8 HOUR)"定时配置schedule => " "record_last_run => truelast_run_metadata_path => "D:/soft/elasticsearch/logstash-6.8.8/config/xc_course_media_metadata"} } output {elasticsearch {ES的ip地址和端口hosts => "localhost:9200"hosts => ["localhost:9200","localhost:9202","localhost:9203"]ES索引库名称index => "xc_course_media"document_id => "%{teachplan_id}"document_type => "doc"template => "D:/soft/elasticsearch/logstash-6.8.8/config/xc_course_media_template.json"template_name =>"xc_course_media"template_overwrite =>"true"} stdout {日志输出codec => json_lines} } 启动 logstash.bat 启动 logstash.bat 采集 teachplan_media_pub 中的数据,向 ES 写入索引。 logstash.bat -f ../config/mysql_course_media.conf 课程发布成功后,Logstash 会自动参加 teachplan_media_pub 表中新增的数据,效果如下 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ILPBxfXi-1595567273134)(https://qnoss.codeyee.com/20200704_15/image10)] Logstash多实例运行 由于之前我们还启动了一个 Logstash 对课程的发布信息进行采集,所以如果想两个 logstash 实例同时运行,因为每个实例都有一个.lock文件,所以不能使用同一个目录来存放数据,所以我们需要使用 --path.data= 为每个实例指定单独的数据目录,具体的代码如下: 该配置是在windows下进行的 课程发布实例 logstash_start_course_pub.bat @title logstash in course_publogstash.bat -f ..\config\mysql.conf --path.data=../data/course_pub 课程计划媒体发布实例 logstash_start_teachplan_media.bat @title logstash i n teachplan_media_publogstash.bat -f ../config/mysql_course_media.conf --path.data=../data/teachplan_media/ 同时运行效果如下 0x04 搜素服务:查询课程媒资接口 需求分析 搜索服务 提供查询课程媒资接口,此接口供学习服务调用。 Api接口定义 @ApiOperation("根据课程计划查询媒资信息")public TeachplanMediaPub getmedia(String teachplanId); Service 1、配置课程计划媒资索引库等信息 在 application.yml 中配置 xuecheng:elasticsearch:hostlist: ${eshostlist:127.0.0.1:9200} 多个结点中间用逗号分隔course:index: xc_coursetype: docsource_field: id,name,grade,mt,st,charge,valid,pic,qq,price,price_old,status,studymodel,teachmode,expires,pub_time,start_time,end_timemedia:index: xc_course_mediatype: docsource_field: courseid,media_id,media_url,teachplan_id,media_fileoriginalname 2、service 方法开发 在 课程搜索服务 中定义课程媒资查询接口,为了适应后续需求,service 参数定义为数组,可一次查询多个课程计划的媒资信息。 / 根据一个或者多个课程计划id查询媒资信息 @param teachplanIds 课程id @return QueryResponseResult/public QueryResponseResult<TeachplanMediaPub> getmedia(String [] teachplanIds){//设置索引SearchRequest searchRequest = new SearchRequest(media_index);//设置类型searchRequest.types(media_type);//创建搜索源对象SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();//源字段过滤String[] media_index_arr = media_field.split(",");searchSourceBuilder.fetchSource(media_index_arr, new String[]{});//查询条件,根据课程计划id查询(可以传入多个课程计划id)searchSourceBuilder.query(QueryBuilders.termsQuery("teachplan_id", teachplanIds));searchRequest.source(searchSourceBuilder);SearchResponse searchResponse = null;try {searchResponse = restHighLevelClient.search(searchRequest);} catch (IOException e) {e.printStackTrace();}//获取结果SearchHits hits = searchResponse.getHits();long totalHits = hits.getTotalHits();SearchHit[] searchHits = hits.getHits();//数据列表List<TeachplanMediaPub> teachplanMediaPubList = new ArrayList<>();for(SearchHit hit:searchHits){TeachplanMediaPub teachplanMediaPub =new TeachplanMediaPub();Map<String, Object> sourceAsMap = hit.getSourceAsMap();//取出课程计划媒资信息String courseid = (String) sourceAsMap.get("courseid");String media_id = (String) sourceAsMap.get("media_id");String media_url = (String) sourceAsMap.get("media_url");String teachplan_id = (String) sourceAsMap.get("teachplan_id");String media_fileoriginalname = (String) sourceAsMap.get("media_fileoriginalname");teachplanMediaPub.setCourseId(courseid);teachplanMediaPub.setMediaUrl(media_url);teachplanMediaPub.setMediaFileOriginalName(media_fileoriginalname);teachplanMediaPub.setMediaId(media_id);teachplanMediaPub.setTeachplanId(teachplan_id);//将对象加入到列表中teachplanMediaPubList.add(teachplanMediaPub);}//构建返回课程媒资信息对象QueryResult<TeachplanMediaPub> queryResult = new QueryResult<>();queryResult.setList(teachplanMediaPubList);queryResult.setTotal(totalHits);return new QueryResponseResult<TeachplanMediaPub>(CommonCode.SUCCESS,queryResult);} Controller / 根据课程计划id搜索发布后的媒资信息 @param teachplanId @return/@GetMapping(value="/getmedia/{teachplanId}")@Overridepublic TeachplanMediaPub getmedia(@PathVariable("teachplanId") String teachplanId) {//为了service的拓展性,所以我们service接收的是数组作为参数,以便后续开发查询多个ID的接口String[] teachplanIds = new String[]{teachplanId};//通过service查询ES获取课程媒资信息QueryResponseResult<TeachplanMediaPub> mediaPubQueryResponseResult = esCourseService.getmedia(teachplanIds);QueryResult<TeachplanMediaPub> queryResult = mediaPubQueryResponseResult.getQueryResult();if(queryResult!=null&& queryResult.getList()!=null&& queryResult.getList().size()>0){//返回课程计划对应课程媒资return queryResult.getList().get(0);} return new TeachplanMediaPub();} 测试 使用 swagger-ui 和 postman 测试课程媒资查询接口。 三、在线学习:接口开发 0x01 需求分析 根据下边的业务流程,本章节完成前端学习页面请求学习服务获取课程视频地址,并自动播放视频。 0x02 搭建开发环境 1、创建数据库 创建 xc_learning 数据库,学习数据库将记录学生的选课信息、学习信息。 导入:资料/xc_learning.sql 2、创建学习服务工程 参考课程管理服务工程结构,创建学习服务工程: 导入:资料/xc-service-learning.zip 项目工程结构如下 0x03 Api接口 此 api 接口是课程学习页面请求学习服务获取课程学习地址。 定义返回值类型: package com.xuecheng.framework.domain.learning.response;import com.xuecheng.framework.model.response.ResponseResult;import com.xuecheng.framework.model.response.ResultCode;import lombok.Data;import lombok.NoArgsConstructor;import lombok.ToString;@Data@ToString@NoArgsConstructorpublic class GetMediaResult extends ResponseResult {public GetMediaResult(ResultCode resultCode, String fileUrl) {super(resultCode);this.fileUrl = fileUrl;}//媒资文件播放地址private String fileUrl;} 定义接口,学习服务根据传入课程 ID、章节 Id(课程计划 ID)来取学习地址。 @Api(value = "录播课程学习管理",description = "录播课程学习管理")public interface CourseLearningControllerApi {@ApiOperation("获取课程学习地址")public GetMediaResult getMediaPlayUrl(String courseId,String teachplanId);} 0x04 服务端开发 需求分析 学习服务根据传入课程ID、章节Id(课程计划ID)请求搜索服务获取学习地址。 搜索服务注册Eureka 学习服务要调用搜索服务查询课程媒资信息,所以需要将搜索服务注册到 eureka 中。 1、查看服务名称是否为 xc-service-search 注意修改application.xml中的服务名称:spring:application:name: xc‐service‐search 2、配置搜索服务的配置文件 application.yml,加入 Eureka 配置 如下: eureka:client:registerWithEureka: true 服务注册开关fetchRegistry: true 服务发现开关serviceUrl: Eureka客户端与Eureka服务端进行交互的地址,多个中间用逗号分隔defaultZone: ${EUREKA_SERVER:http://localhost:50101/eureka/,http://localhost:50102/eureka/}instance:prefer-ip-address: true 将自己的ip地址注册到Eureka服务中ip-address: ${IP_ADDRESS:127.0.0.1}instance-id: ${spring.application.name}:${server.port} 指定实例idribbon:MaxAutoRetries: 2 最大重试次数,当Eureka中可以找到服务,但是服务连不上时将会重试,如果eureka中找不到服务则直接走断路器MaxAutoRetriesNextServer: 3 切换实例的重试次数OkToRetryOnAllOperations: false 对所有操作请求都进行重试,如果是get则可以,如果是post,put等操作没有实现幂等的情况下是很危险的,所以设置为falseConnectTimeout: 5000 请求连接的超时时间ReadTimeout: 6000 请求处理的超时时间 3、添加 eureka 依赖 <dependency><groupId>org.springframework.cloud</groupId><artifactId>spring‐cloud‐starter‐netflix‐eureka‐client</artifactId></dependency> 4、修改启动类,在class上添加如下注解: @EnableDiscoveryClient 搜索服务客户端 在 学习服务 创建搜索服务的客户端接口,此接口会生成代理对象,调用搜索服务: package com.xuecheng.learning.client;import com.xuecheng.framework.domain.course.TeachplanMediaPub;import org.springframework.cloud.openfeign.FeignClient;import org.springframework.web.bind.annotation.GetMapping;import org.springframework.web.bind.annotation.PathVariable;@FeignClient(value = "xc‐service‐search")public interface CourseSearchClient {@GetMapping(value="/getmedia/{teachplanId}")public TeachplanMediaPub getmedia(@PathVariable("teachplanId") String teachplanId);} 自定义错误代码 我们在 com.xuecheng.framework.domain.learning.response 包下自定义一个错误消息模型 package com.xuecheng.framework.domain.learning.response;import com.xuecheng.framework.model.response.ResultCode;import lombok.ToString;@ToStringpublic enum LearningCode implements ResultCode {LEARNING_GET_MEDIA_ERROR(false,23001,"学习中心获取媒资信息错误!");//操作代码boolean success;//操作代码int code;//提示信息String message;private LearningCode(boolean success, int code, String message){this.success = success;this.code = code;this.message = message;}@Overridepublic boolean success() {return success;}@Overridepublic int code() {return code;}@Overridepublic String message() {return message;} } 该消息模型基于 ResultCode 来实现,代码如下 package com.xuecheng.framework.model.response;/ Created by mrt on 2018/3/5. 10000-- 通用错误代码 22000-- 媒资错误代码 23000-- 用户中心错误代码 24000-- cms错误代码 25000-- 文件系统/public interface ResultCode {//操作是否成功,true为成功,false操作失败boolean success();//操作代码int code();//提示信息String message(); 从 ResultCode 中我们可以看出,我们约定了用户中心的错误代码使用 23000,所以我们定义的一些错误信息的代码就从 23000 开始计数。 Service 在学习服务中定义 service 方法,此方法远程请求课程管理服务、媒资管理服务获取课程学习地址。 package com.xuecheng.learning.service.impl;import com.netflix.discovery.converters.Auto;import com.xuecheng.framework.domain.course.TeachplanMediaPub;import com.xuecheng.framework.domain.learning.response.GetMediaResult;import com.xuecheng.framework.exception.ExceptionCast;import com.xuecheng.framework.model.response.CommonCode;import com.xuecheng.learning.client.CourseSearchClient;import com.xuecheng.learning.service.LearningService;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.stereotype.Service;@Servicepublic class LearningServiceImpl implements LearningService {@AutowiredCourseSearchClient courseSearchClient;/ 远程调用搜索服务获取已发布媒体信息中的url @param courseId 课程id @param teachplanId 媒体信息id @return/@Overridepublic GetMediaResult getMediaPlayUrl(String courseId, String teachplanId) {//校验学生权限,是否已付费等//远程调用搜索服务进行查询媒体信息TeachplanMediaPub mediaPub = courseSearchClient.getmedia(teachplanId);if(mediaPub == null) ExceptionCast.cast(CommonCode.FAIL);return new GetMediaResult(CommonCode.SUCCESS, mediaPub.getMediaUrl());} } Controller 调用 service 根据课程计划 id 查询视频播放地址: @RestController@RequestMapping("/learning/course")public class CourseLearningController implements CourseLearningControllerApi {@AutowiredLearningService learningService;@Override@GetMapping("/getmedia/{courseId}/{teachplanId}")public GetMediaResult getMediaPlayUrl(@PathVariable String courseId, @PathVariable String teachplanId) {//获取课程学习地址return learningService.getMedia(courseId, teachplanId);} } 测试 使用 swagger-ui 或postman 测试学习服务查询课程视频地址接口。 0x05 前端开发 需求分析 需要在学习中心前端页面需要完成如下功能: 1、进入课程学习页面需要带上 课程 Id参数及课程计划Id的参数,其中 课程 Id 参数必带,课程计划 Id 可以为空。 2、进入页面根据 课程 Id 取出该课程的课程计划显示在右侧。 3、进入页面后判断如果请求参数中有课程计划 Id 则播放该章节的视频。 4、进入页面后判断如果 课程计划id 为0则需要取出本课程第一个 课程计划的Id,并播放第一个课程计划的视频。 进入到模块 xc-ui-pc-leanring/src/module/course api方法 let sysConfig = require('@/../config/sysConfig')let apiUrl = sysConfig.xcApiUrlPre;/获取播放地址/export const get_media = (courseId,chapter) => {return http.requestGet(apiUrl+'/api/learning/course/getmedia/'+courseId+'/'+chapter);} 配置代理 在 Nginx 中的 ucenter.xuecheng.com 虚拟主机中配置 /api/learning/ 的路径转发,此url 请转发到学习服务。 学习服务upstream learning_server_pool{server 127.0.0.1:40600 weight=10;}学成网用户中心server {listen 80;server_name ucenter.xuecheng.com;个人中心location / {proxy_pass http://ucenter_server_pool;}后端搜索服务location /openapi/search/ {proxy_pass http://search_server_pool/search/; }学习服务location ^~ /api/learning/ {proxy_pass http://learning_server_pool/learning/;} } 视频播放页面 1、如果传入的课程计划id为0则取出第一个课程计划id 在 created 钩子方法中完成 created(){//当前请求的urlthis.url = window.location//课程idthis.courseId = this.$route.params.courseId//章节idthis.chapter = this.$route.params.chapter//查询课程信息systemApi.course_view(this.courseId).then((view_course)=>{if(!view_course || !view_course[this.courseId]){this.$message.error("获取课程信息失败,请重新进入此页面!")return ;}let courseInfo = view_course[this.courseId]console.log(courseInfo)this.coursename = courseInfo.nameif(courseInfo.teachplan){console.log("准备开始播放视频")let teachplan = JSON.parse(courseInfo.teachplan);this.teachplanList = teachplan.children;//开始学习if(this.chapter == "0" || !this.chapter){//取出第一个教学计划this.chapter = this.getFirstTeachplan();console.log("第一个教学计划id为 ",this.chapter);this.study(this.chapter);}else{this.study(this.chapter);} }})}, 取出第一个章节 id,用户未输入课程计划 id 或者输入为 0 时,播放第一个。 //取出第一个章节getFirstTeachplan(){for(var i=0;i<this.teachplanList.length;i++){let firstTeachplan = this.teachplanList[i];//如果当前children存在,则取出第一个返回if(firstTeachplan.children && firstTeachplan.children.length>0){let secondTeachplan = firstTeachplan.children[0];return secondTeachplan.id;} }return ;}, 开始学习: //开始学习study(chapter){// 获取播放地址courseApi.get_media(this.courseId,chapter).then((res)=>{if(res.success){let fileUrl = sysConfig.videoUrl + res.fileUrl//播放视频this.playvideo(fileUrl)}else if(res.message){this.$message.error(res.message)}else{this.$message.error("播放视频失败,请刷新页面重试")} }).catch(res=>{this.$message.error("播放视频失败,请刷新页面重试")});}, 2、点击右侧课程章节切换播放 在原有代码基础上添加 click 事件,点击调用开始学习方法(study)。 <li v‐if="teachplan_first.children!=null" v‐for="(teachplan_second, index) inteachplan_first.children"><i class="glyphicon glyphicon‐check"></i><a :href="url" @click="study(teachplan_second.id)">{ {teachplan_second.pname} }</a></li> 3、地址栏路由url变更 这里需要注意一个问题,在用户点击课程章节切换播放时,地址栏的 url 也应该同步改变为当前所选择的课程计划 id 4、在线学习按钮 将 learnstatus 默认更改为 1,这样就能显示出马上学习的按钮,方便我们后续的集成测试。 文件路径为 xc-ui-pc-static-portal/include/course_detail_dynamic.html 部分代码块如下 <script>var body= new Vue({ //创建一个Vue的实例el: "body", //挂载点是id="app"的地方data: {editLoading: false,title:'测试',courseId:'',charge:'',//203001免费,203002收费learnstatus: 1 ,//课程状态,1:马上学习,2:立即报名、3:立即购买course:{},companyId:'template',company_stat:[],course_stat:{"s601001":"","s601002":"","s601003":""} }, 简单的测试 访问在线学习页面:http://ucenter.xuecheng.com//learning/课程id/课程计划id 通过 url 传入两个参数:课程id 和 课程计划id 如果没有课程计划则传入0 测试项目如下: 1、传入正确的课程id、课程计划id,自动播放本章节的视频 2、传入正确的课程id、课程计划id传入0,自动播放第一个视频 3、传入错误的课程id 或 课程计划id,提示错误信息。 4、通过右侧章节目录切换章节及播放视频。 访问: http://ucenter.xuecheng.com//learning/4028e58161bcf7f40161bcf8b77c0000/4028e58161bd18ea0161bd1f73190008 传入正确的课程id、课程计划id,自动播放本章节的视频 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Ef0xxym7-1595567273153)(https://qnoss.codeyee.com/20200704_15/image17)] 传入正确的课程id、课程计划id传入0,自动播放第一个视频 访问 http://ucenter.xuecheng.com//learning/4028e58161bcf7f40161bcf8b77c0000/0 识别出第一个课程计划的 id 需要注意的是这里的 chapter 参数是我自己在 study 函数里加上去的,可以忽略。 传入错误的课程id或课程计划id,提示错误信息。 通过右侧章节目录切换章节及播放视频。 点击章节即可播放,但是点击制定章节后 url 没有发生改变,这个问题暂时还没有解决,关注笔记后面的内容。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-TOGdxwb4-1595567273158)(https://qnoss.codeyee.com/20200704_15/image20)] 完整的测试 准备工作 启动 RabbitMQ,启动 Logstash、ElasticSearch 建议把所有后端服务都开起来 启动 前端静态门户、启动 nginx 、启动课程管理前端 我们整理一下测试的流程 上传两个媒资视频文件,用于测试 进入到课程管理,为课程计划选择媒资信息 发布课程,等待 logstash 将数据采集到 ElasticSearch 的索引库中 进入学成网主页,点击课程,进入到搜索门户页面 搜索课程,进入到课程详情页面 点击开始学习,进入到课程学习页面,选择课程计划中的一个章节进行学习。 1、上传文件 首先我们使用之前开发的媒资管理模块,上传两个视频文件用于测试。 第一个文件上传成功 一些问题 在上传第二个文件时,发生了错误,我们来检查一下问题出在了哪里 在媒体服务的控制台中可以看到,在 mergeChunks 方法在校验文件 md5 时候抛出了异常 我们在 MD5 校验这里打个断点,重新上传文件,分析一下问题所在。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-OpEMZGI8-1595567273166)(https://qnoss.codeyee.com/20200704_15/image23)] 单步调试后发现,合并文件后的MD5值与用户上传的源文件值不相等 方案1:删除本地分块文件重新尝试上传 考虑到可能是在用户上传完 视频的分块文件时发生了一些问题,导致合并文件后与源文件的大小不等,导致MD5也不相同,这里我们把这个视频上传到本地的文件全部删除,在媒资上传页面重新上传文件。 对比所有分块文件的字节大小和本地源文件的大小,完全是相等的 删除所有文件后重新上传,md5值还是不等,考虑从调试一下文件合并的代码。 方案2:检查前端提交的MD5值是否正确 在查阅是否有其他的MD5值获取方案时,发现了一个使用 windows 本地命令获取文件MD5值的方法 certutil -hashfile .\19-在线学习接口-集成测试.avi md5 惊奇的发现,TM的原来是前端那边转换的MD5值不正确,后端这边是没有问题的。 从前面的图可以看出,本地和后端转换的都是以一个 f6f0 开头的MD5值 那么问题就出现在前端了,还需要花一些时间去分析一下,这里暂时就先告一段落,因为上传了几个文件测试中只有这一个文件出现了问题。 2、为课程计划选择媒资信息 进入到一个课程的管理页面 http://localhost:12000//course/manage/baseinfo/4028e58161bcf7f40161bcf8b77c0000 将刚才我们上传的媒资文件的信息和课程计划绑定 选择效果如下 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-epKaqzCD-1595567273178)(https://qnoss.codeyee.com/20200704_15/image29)] 2、发布课程,等待 logstash 从 course_pub 以及 teachplan_media_pub 表中采集数据到 ElasticSearch 当中 发布成功后,我们可以从 teachplan_media_pub 表中看到刚才我们发布的媒资信息 再观察 Logstash 的控制台,发现两个 Logstash 的实例都对更新的课程发布信息进行了采集 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hTUve2ik-1595567273183)(https://qnoss.codeyee.com/20200704_15/image32)] 3、前端门户测试 打开我们的门户主站 http://www.xuecheng.com/ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-4wZe9R84-1595567273185)(https://qnoss.codeyee.com/20200704_15/image33)] 点击导航栏的课程,进入到我们的搜索门户页面 如果无法进入到搜索门户,请检查你的 xc-ui-pc-portal 前端工程是否已经启动 进入到搜索门户后,可以看到一些初始化时搜索的课程数据,默认是搜索第一页的数据,每页2个课程。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-BJ1AKoJb-1595567273187)(https://qnoss.codeyee.com/20200704_15/image34)] 我们可以测试搜索一下前面我们选择媒资信息时所用的课程 点击课程,进入到课程详情页面,然后再点击开始学习。 点击马上学习后,会进入到该课程的在线学习页面,默认自动播放我们第一个课程计划中的视频。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-tcuLWnf2-1595567273193)(https://qnoss.codeyee.com/20200704_15/image37)] 我们可以在右侧的目录中选择第二个课程计划,会自动播放所选的课程计划所对应的媒资视频播放地址,该 播放地址正是我们刚才通过 Logstash 自动采集到 ElasticSearch 的索引信息,效果图如下 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Cvi9Dr0Y-1595567273195)(https://qnoss.codeyee.com/20200704_15/image38)] 四、待完善的一些功能 课程发布前,校验课程计划里面是否包含二级课程计划 课程发布前,校验课程计划信息里面是否全部包含媒资信息 删除媒资信息,并且同步删除ES中的索引 在获取该课程的播放地址时校验用户的合法、 在线学习页面,点击右侧目录中的课程计划同时改变url中的课程计划地址 视频文件 19-在线学习接口-集成测试.avi 前端上传时提交的MD5值不正确 😁 认识作者 作者:👦 LCyee ,全干型代码🐕 自建博客:https://www.codeyee.com 记录学习以及项目开发过程中的笔记与心得,记录认知迭代的过程,分享想法与观点。 CSDN 博客:https://blog.csdn.net/codeyee 记录和分享一些开发过程中遇到的问题以及解决的思路。 欢迎加入微服务练习生的队伍,一起交流项目学习过程中的一些问题、分享学习心得等,不定期组织一起刷题、刷项目,共同见证成长。 本篇文章为转载内容。原文链接:https://blog.csdn.net/codeyee/article/details/107558901。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-12-16 12:41:01
73
转载
JSON
...SON是一种简洁的的数据通信协议,它在Web应用中普遍使用,而Go编程语言也兼容对JSON的解读和创建操作。当我们需要在Go中对JSON格式的数据进行处理的时候,我们通常需要使用数据结构来映射该JSON数据的结构。而JSON创建Go数据结构的辅助工具可以帮助我们自动创建Go数据结构,从而节约了我们人工编写的时间。 JSON创建Go数据结构的辅助工具可以通过网站或者命令行来使用。其中,网站类似于json-to-go,命令行类似于gojson。这些辅助工具可以将JSON格式的数据转换成Go代码,其中包括对应的数据结构。 下面是通过一个实例来演示如何使用上述JSON创建Go数据结构的辅助工具。 // JSON数据 { "name": "张三", "age": 25, "gender": "男", "hobbies": ["足球", "篮球", "音乐"], "address": { "city": "上海", "street": "静安寺" } } // 使用gojson命令创建数据结构 $ gojson -name Person data.json // 创建的Go代码 type Person struct { Name string json:"name" Age int json:"age" Gender string json:"gender" Hobbies []string json:"hobbies" Address struct { City string json:"city" Street string json:"street" } json:"address" } 以上代码中,我们使用gojson命令将data.json文件转换成了对应的Go数据结构Person。其中,使用了反引号来定义Go数据结构中每个成员的数据类型和JSON属性名称的映射关系。在这里,我们还可以看到,在address成员中嵌套了一个数据结构,以映射层次化的JSON数据。
2024-01-12 17:00:16
530
码农
转载文章
...者可以利用它为不同的应用场景创建code-39、code-128等标准编码格式的条形码,通过配置相关参数(如文字内容、图片格式、条形码类型以及文字位置和大小),并将生成的条形码集成到Web项目或应用程序中。 Servlet , Servlet是一种Java编程语言编写的服务器端程序,其主要功能是在Web服务器上处理HTTP请求并生成HTTP响应。在本文中,BarcodeServlet是基于Servlet技术实现的一个特定类,用于根据用户提供的参数动态生成条形码图像,并通过HTTP响应将其发送给客户端浏览器进行显示。 Web.xml , web.xml文件是Java Web应用程序的标准部署描述符,用于定义Servlet、过滤器、监听器以及其他与容器相关的配置信息。在本文的具体应用中,开发人员需要在web.xml文件中配置BarcodeServlet,指定Servlet的名称、类路径以及URL映射规则,以便当客户端发起相应请求时,Web容器能够找到并执行该Servlet以生成条形码。
2023-12-31 23:00:52
93
转载
Go-Spring
...架构模式,它将复杂的应用程序拆分成一组小型、独立的服务,每个服务运行在其自己的进程中,服务于特定的业务功能,并通过API进行通信。在本文语境中,Go-Spring即是一个用于构建和管理微服务的强大的开源框架,它为开发者提供了便捷的方式来组织、部署和管理微服务应用。 ORM(对象关系映射)工具 , ORM是Object-Relational Mapping(对象关系映射)的缩写,是一种编程技术,用于在面向对象语言与关系型数据库之间建立桥梁。在文中,GORM作为Go-Spring中的ORM工具,允许开发者以面向对象的方式操作数据库,从而简化数据库交互,提高开发效率。通过定义结构体(如User)并使用GORM提供的方法(如Create、Where等),可以更直观地执行SQL查询和数据操作,同时减少因手动编写SQL而导致的语法错误。 预编译SQL , 预编译SQL是在数据库客户端或应用程序端对SQL语句进行预处理的一种技术,它可以将SQL语句中的变量分离出来,仅保留固定的SQL结构部分进行编译。在Go-Spring中,通过集成的GORM库支持预编译SQL,可以在执行查询前先对SQL结构进行检查和优化,确保其语法正确性。这样不仅可以预防无效语法导致的问题,还能提升查询性能,因为同一SQL模板只需编译一次,多次执行时只需替换变量即可。
2023-07-20 11:25:54
454
时光倒流
Struts2
...设计模式的Java web应用程序框架,由Apache软件基金会提供。它主要用于构建企业级Java Web应用,通过简化和标准化应用程序开发过程,提供了丰富的标签库、强大的表单处理功能以及灵活的插件扩展机制。在Struts2中,开发者可以使用配置文件struts.xml来定义Action、结果页面、全局常量等核心组件,实现请求与响应的映射、业务逻辑处理和页面跳转等功能。 DTD (Document Type Definition) , DTD是一种XML文档结构的标准定义方式,在本文中提到的“DOCTYPE Struts Configuration 2.3”即指Struts2.3版本的配置文件DTD定义。这个声明帮助XML解析器理解并验证struts.xml文件的语法和结构是否符合Struts2框架的要求,确保配置文件的有效性与合法性。 OGNL (Object-Graph Navigation Language) , OGNL是一种强大的表达式语言,被广泛应用于Struts2框架中进行数据绑定和访问对象属性。在Struts2中,OGNL允许开发者在Action、JSP页面和其他组件之间灵活地传递和操作数据,如从Action中提取属性值到JSP页面展现,或者动态地根据请求参数执行相应逻辑。在更高版本的Struts2中,支持了OGNL 3.0,增强了类型转换、表达式计算和安全性等方面的功能。 Convention over Configuration (约定优于配置) , 这是一种软件设计范式,强调通过遵循一定的命名约定和项目组织结构,减少开发人员编写大量配置的工作量。在Struts2框架中,通过引入注解等方式,使得一些常见的配置可以通过默认约定自动完成,从而提高开发效率和代码可读性。例如,当遵循特定的目录结构时,Struts2可以自动识别并映射Action类到相应的URL请求上,而无需手动在struts.xml中逐一配置。
2023-11-11 14:08:13
96
月影清风-t
Go Iris
...风格,它将一个复杂的应用程序拆分成一组小型、独立的服务。每个服务都运行在其自己的进程中,服务之间通过API(如HTTP/2或gRPC)进行通信协作,每个服务均围绕着单一业务功能进行构建和部署,并可以独立地扩展和更新。 gRPC(Google Remote Procedure Call) , gRPC是由Google开发并开源的一种高性能、通用的远程过程调用框架,基于HTTP/2协议实现。它允许客户端与服务器应用程序直接进行高效、结构化的双向消息传递,支持多种语言环境,并使用Protocol Buffers作为接口描述语言和序列化工具,以实现高效的编码解码性能。 Protocol Buffers(protobuf) , Protocol Buffers是Google开发的一种灵活、高效且与语言无关的数据序列化协议。在本文中,protobuf用于定义gRPC服务接口及请求响应数据结构,通过.proto文件编写接口定义,然后使用protoc编译器生成对应编程语言的代码,使得不同语言编写的系统间能方便、高效地交换结构化数据。 Iris , Iris是一个用Go语言编写的快速、简洁且功能丰富的Web框架,用于构建高性能的Web应用程序和APIs。在本文中,开发者介绍了如何在Iris框架中集成gRPC服务,从而实现在Web应用中便捷地调用gRPC服务,提升整个系统的灵活性和效率。
2023-04-20 14:32:44
450
幽谷听泉-t
Golang
在深入学习了Go语言处理文件系统操作的最佳实践后,进一步的探索可以聚焦于Go语言在大型项目和现代云原生环境中的文件系统交互优化。例如,Google近期发布的Go 1.18版本中对io/fs包进行了重大更新,提供了更加强大且易于使用的文件系统接口,实现了从内存、ZIP归档等多种来源读取文件系统的功能,这对于构建容器镜像、处理配置文件等场景具有显著优势。 同时,随着Kubernetes和Docker等容器技术的发展,理解并掌握如何在分布式和容器化环境中安全高效地进行文件系统操作至关重要。比如,在Kubernetes中利用Volume进行持久化存储时,Go语言编写的控制器或operator如何正确管理Pod间共享的文件资源,避免并发写入导致的数据不一致问题。 此外,针对大规模数据处理场景,可研究Golang结合开源库如gofsutil来实现跨平台的文件系统挂载与管理,或者参考Netflix的开源项目如HDFS-Go客户端,了解如何在Go中实现与大数据文件系统(如Hadoop HDFS)的无缝集成。 最后,对于安全性要求极高的场景,不妨阅读相关安全研究论文及业界案例,探讨如何通过Go实现加密文件系统、访问控制列表等功能,确保敏感数据在存储和传输过程中的安全性。这些实时的、针对性的技术发展和实践应用将极大地丰富您对Go语言处理文件系统操作的理解,并帮助您在实际项目开发中做出更为明智和高效的决策。
2024-02-24 11:43:21
428
雪落无痕
Go Gin
...件开发方法论,将大型应用程序拆分为一组小型、独立的服务,每个服务运行在其自身的进程中,并通过轻量级通信机制互相协调。在Go Gin的背景下,微服务架构允许开发者高效地管理API,每个服务使用Gin处理特定的路由,提高了系统的可扩展性和故障隔离性。 RESTful API , Representational State Transfer(REST)风格的API设计,遵循一组原则,如统一接口、无状态、资源导向等。在Go Gin中,开发者通过定义路由来创建RESTful API,使客户端和服务端之间的数据交换更加清晰和易于理解。 JWT身份验证 , JSON Web Token(JWT)是一种轻量级的身份验证协议,用于在各方之间安全地传输信息。在Go Gin应用中,JWT常用于在API请求中验证用户身份,通过中间件处理,确保只有授权的用户才能访问特定资源。 高并发请求 , 指在短时间内有大量的客户端同时向服务器发送请求的情况。Go Gin因其高性能和并发处理能力,使得它在处理高并发场景下表现出色,能够有效地响应大量请求,保证服务的稳定和响应速度。 API速率限制器 , 一种机制,用来控制特定时间段内对API的调用频率,防止滥用或恶意攻击。在Go Gin中,通过中间件实现API速率限制,有助于保护API资源,维持服务的正常运行。 自动路由发现 , 在微服务架构中,通过注册与发现服务的方式,使得客户端能够自动找到并连接到正确的服务实例。Go Gin结合服务发现工具(如Consul、Eureka等),实现了服务间的路由自动管理。 Gin Swagger , 一种用于生成Go Gin API文档的工具,通过注解和配置,自动生成清晰、格式化的API文档,有助于开发者理解和使用API,提高开发效率。 Kubernetes , 一个开源的容器编排平台,用于自动化部署、扩展和管理容器化应用。与Go Gin结合,Kubernetes能够帮助管理微服务的生命周期和负载均衡,确保服务的高可用性。
2024-04-12 11:12:32
501
梦幻星空
Tornado
一、引言 在Web开发的世界里,WebSocket是一种双向通信协议,它允许客户端与服务器在单个TCP连接上进行持续的、全双工的数据交换。不过,在实际用起来的时候,WebSocket这个握手环节还真可能碰上各种幺蛾子。比如网络突然抽风、服务器那边出了状况、客户端对WebSocket压根儿不感冒等等,而其中最常见的问题就是这握手没能成功。在Python Web框架界,Tornado可是个响当当的角色,它手握一套既完备又灵活的WebSocket解决方案,帮我们轻松解决各种难题。就像是给开发者们献上了一把解锁实时通信的万能钥匙,让大家用起来得心应手、游刃有余。这篇文儿,咱们主要唠唠在Tornado框架里头对付WebSocket握手失败时,都有哪些接地气、实用的应对策略。 二、WebSocket握手流程及其重要性 WebSocket握手是客户端与服务器初次建立连接时的关键步骤,主要包括以下四个阶段: 1. HTTP Upgrade Request: 客户端通过发送一个包含Upgrade头信息的HTTP请求,表示希望从普通的HTTP连接升级到WebSocket连接。 python Tornado Example: class MyHandler(tornado.web.RequestHandler): async def get(self): self.set_header("Upgrade", "websocket") self.set_header("Connection", "upgrade") self.set_header("Sec-WebSocket-Version", 13) self.set_header("Sec-WebSocket-Key", generate_key()) await self.write(""" """) def generate_key(): return base64.b64encode(os.urandom(16)).decode() 2. Server Handshake Response: 服务器收到请求后,会返回一个包含Upgrade、Connection、Sec-WebSocket-Accept头的HTTP响应,以及客户端提供的Sec-WebSocket-Key值所计算出来的Sec-WebSocket-Accept值。 python class MyWebSocket(tornado.websocket.WebSocketHandler): async def open(self, args, kwargs): key = self.get_secure_cookie("websocket_key") accept = base64.b64encode(hmac.new(key.encode(), environ["Sec-WebSocket-Key"].encode(), hashlib.sha1).digest()).decode() self.write_message(f"Sec-WebSocket-Accept: {accept}") 3. Client Acceptance: 客户端收到Server Handshake Response后,验证Sec-WebSocket-Accept头,并继续向服务器发送一个确认消息。 4. Persistent Connection: 握手成功后,双方可以开始进行WebSocket数据传输。 如果任一阶段出现错误(如错误的HTTP状态码、无法获取正确的Sec-WebSocket-Accept),握手就会失败,导致连接未能建立。 三、处理WebSocket握手失败的方法 面对WebSocket握手失败的问题,我们可以采用以下几种方法来确保应用程序能够优雅地处理并恢复: 1. 错误检查与重试机制 - 在MyWebSocket类的open()方法中,我们可以通过检查HTTP响应的状态码和自定义的错误条件,捕获握手失败异常: python try: await super().open(args, kwargs) except tornado.websocket.WebSocketHandshakeError as e: if e.status_code == 400 or "Invalid upgrade header" in str(e): print("WebSocket handshake failed due to an invalid request.") self.close() - 如果出现握手失败,可设置一个重试逻辑,例如延迟一段时间后再次尝试连接: python import time MAX_RETRIES = 3 RETRY_DELAY_SECONDS = 5 retry_count = 0 while retry_count < MAX_RETRIES: try: await super().open(args, kwargs) break except WebSocketHandshakeError as e: print(f"WebSocket handshake failed ({e}), retrying in {RETRY_DELAY_SECONDS} seconds...") time.sleep(RETRY_DELAY_SECONDS) retry_count += 1 else: print("Maximum retries exceeded; connection failure.") break 2. 监控与日志记录 - 可以利用Tornado的日志功能,详细记录握手过程中发生的错误及其原因,便于后续排查与优化: python logging.basicConfig(level=logging.INFO) logger = logging.getLogger(__name__) async def open(self, args, kwargs): try: await super().open(args, kwargs) except WebSocketHandshakeError as e: logger.error("WebSocket handshake failed:", exc_info=True) self.close() 3. 通知客户端错误信息 - 当服务器检测到握手失败时,应告知客户端具体问题以便其采取相应措施: python try: await super().open(args, kwargs) except WebSocketHandshakeError as e: message = f"WebSocket handshake failed: {str(e)}" self.write_message(message) self.close() 四、总结 WebSocket握手失败对于实时应用而言是一个重大挑战,但通过以上针对错误检查、重试机制、日志监控及客户端反馈等方面的处理策略,我们可以确保Tornado WebSocket服务具备高度健壮性和容错能力。当碰上WebSocket握手不成功这类状况时,别忘了结合实际的业务环境,活学活用这些小技巧。这样一来,咱的WebSocket服务肯定能变得更扎实、更靠谱,妥妥地提升稳定性。
2024-02-03 10:48:42
132
清风徐来-t
转载文章
...智慧足迹投递并参与“数据猿年度金猿策划活动——2021大数据产业创新技术突破榜单及奖项”评选。 数据智能产业创新服务媒体 ——聚焦数智 · 改变商业 中国联通智慧足迹开发的SSNG多源数据处理平台,是完全自研的新一代面向行为集成的位置数据处理系统。平台沉淀海量信令处理过程中的长期经验,着力解决影响数据输出质量的核心堵点,可兼容类似信令的多种LBS数据源接入并实现自动化、标准化输出数据结果。 技术说明 SSNG多源数据处理平台技术创新部分包括: 行为矩阵:将离散的驻留信息,转化为用户的时空矩阵,通过机器学习模式识别,提取出用户的LBS行为特征。 行为集成:将用户的行为矩阵,结合搜集沉淀的土地利用&地物POI数据,为用户的驻留、出行信息赋予具体的目的,便于后续的场景化分析。 人车匹配:结合车联网LBS数据,将轨迹重合度高的“人-车”用户对,通过轨迹伴随算法识别出来,可用于判断用户的车辆保有情况。 路径拟合:解决信令数据定位不连续和受限基站布设密度等问题,引入路网拓扑数据,将用户出行链还原至真实道路上,并确定流向及关键转折点,以便于判断出行方式。 出行洞察:利用信令数据、基站数据,匹配地铁网络、高铁网络,通过机器学习算法,判定用户出行时使用的出行方式。 基于SSNG多源数据处理平台,可实现的技术突破包括: 1)全国长时序人口流动监测技术 针对运营商信令数据以及spark分布式计算平台的特点,独创了处理运营商信令数据的双层计算框架,填补了分布式机器学习方法处理运营商信令数据的空白,实现了大规模高效治理运营商大数据的愿景;研发了人口流动与现代大数据技术相结合的宏观监测仿真模型。 基于以上技术构建了就业、交通、疫情、春运等一系列场景模型,并开发了响应决策平台,实现了对我国人口就业、流动及疫情影响的全域实时监测。 2)全国长时序人口流动预测技术 即人口流动的大尺度OD预测技术,研发了人口跨区域流动OD预测模型,解决了信令大数据在量化模拟大尺度人口流动中的技术难题,形成了对全国人口流动在日、周、月不同时间段和社区、乡镇、县市不同地理尺度进行预测的先进技术,实现了2020年新冠疫情后全国返城返岗和2021年全国春节期间人口流动的高精度预测。 3)实时人口监测 实时人口监测是通过对用户手机信令进行实时处理、计算和分析,得出指定区域的实时人口数量、特征和迁徙情况。包括区域人口密度、人口数量、人口结构、人口来源、人口画像、人口迁徙、职住分析、人口预测等信息。 4)超强数据处理及AI能力 引入Bitmap大数据处理算法及Pilosa数据库集群,采用实时流式计算,集成Kafka、redis、RabbitMQ等分布式大数据处理组件,搭建自有信令大数据处理平台,使用百亿计算go-kite架构,实现毫秒级响应,实时批量处理数据达500000条 /秒,每天可处理1000亿条数据。集成AI分析能力(A/B轨),有效避免了运营商数据采集及传输过程中的时延及中断情况,大幅提高数据结果的实时性。 已获专利情况: 专利名称 专利号 出行统计方法、装置、计算机设备和可读存储介质 ZL 2020 1 0908424.3 信令数据匹配方法、装置及电子设备 ZL 2019 1 1298869.8 轨道交通用户识别方法和装置 ZL 2019 1 0755903.3 公共聚集事件识别方法、装置、计算机设备及存储介质 ZL 2020 1 1191917.6 广域高铁基站识别方法、装置、服务器及存储介质 ZL 2020 1 1325543.2 相关荣誉: 2021地理信息科技进步奖一等奖、中国测绘学会科技进步奖特等奖、2021数博会领先科技成果奖、兼容系统创新应用大赛大数据专项赛优秀奖。 开发团队 ·带队负责人:陶周天 公司CTO,北京大学理学学士。长期任职于微软等世界500强企业,曾任上市公司优炫软件VP,具备丰富的IT架构、数据安全、数据分析建模、机器学习、项目管理经验。牵头组织突破多个技术难题(人地匹配、人车匹配、室内基站优化、行为集成AI等),研发一系列技术专利。 ·团队其他重要成员:刘祖军 高级算法工程师,美国爱荷华大学计算机科学本硕,曾任职于美国俄亥俄州立大学研究院。 ·隶属机构:智慧足迹 智慧足迹数据科技有限公司是中国联通控股,京东科技参股的专业大数据及智能科技公司。公司依托中国联通卓越的数据资源和5G能力,京东科技强大的人工智能、物联网等技术和“产业X科技”能力,聚焦“人口+”大数据,连接人-物-企,成为全域数据智能科技领先服务商。 公司以P·A·Dt为核心能力,面向数字政府、智慧城市、企业数字化转型广大市场主体,专注经济治理、社会治理和企业数字化服务,构建“人口+”七大多源数据主题库,提供“人口+” 就业、经济、消费、民生、城市、企业等大数据产品平台,服务支撑国家治理现代化和国家战略,推动经济社会发展。 目前,公司已服务国家二十多个部委及众多省市政府、300+城市规划、知名企业和高校等智库、国有及股份制银行等数百家头部客户,已建成全球最强大的手机信令处理平台,是中国就业、城规、统计等领域大数据领先服务商。 相关评价 新一代SSNG多源大数据处理平台,提升了手机信令数据在空间数据计算的精度,信令处理结果对室内场景更具敏锐性,在区域范围的职住人群空间分布更加接近实际情况。 ——某央企大数据部技术负责人 新一代SSNG多源大数据处理平台,可处理实时及历史信令数据,应对不同客户应用场景。并且根据长时间序列历史数据实现人口预测,为提高数据精度可对接室内基站数据,从而提供更加准确的人员定位。 ——某企业政府事业部总监 提示:了解更多相关内容,点击文末左下角“阅读原文”链接可直达该机构官网。 《2021企业数智化转型升级服务全景图/产业图谱1.0版》 《2021中国数据智能产业图谱3.0升级版》 《2021中国企业数智化转型升级发展研究报告》 《2021中国数据智能产业发展研究报告》 ❷ 创新服务企业榜 ❸ 创新服务产品榜 ❸ 最具投资价值榜 ❺ 创新技术突破榜 ☆条漫:《看过大佬们发的朋友圈之后,我相信:明天会更好!》 联系数据猿 北京区负责人:Summer 电话:18500447861(微信) 邮箱:summer@datayuan.cn 全国区负责人:Yaphet 电话:18600591561(微信) 邮箱:yaphet@datayuan.cn 本篇文章为转载内容。原文链接:https://blog.csdn.net/YMPzUELX3AIAp7Q/article/details/122314407。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-07-01 09:57:01
343
转载
MySQL
...L是一个开源的关系型数据库管理系统,广泛应用于互联网行业和企业级应用中,支持多种SQL语句进行数据查询、更新、管理等操作。在本文的上下文中,MySQL是用户权限管理、查看与配置的核心平台。 mysql.user , mysql.user是MySQL系统内部的一个重要表,用于存储关于所有用户的账户信息和权限设置。该表中记录了每个用户的用户名(User)、允许连接的主机名或IP地址(Host)以及各个用户的全局权限分配情况,如SELECT、INSERT、UPDATE和DELETE等基本权限。 SHOW GRANTS , SHOW GRANTS是MySQL中的一个内置SQL命令,专门用来显示指定用户的所有权限。在文章中,通过执行SHOW GRANTS FOR username @ hostname 语句,可以详细列出该用户从特定主机登录时所拥有的所有全局权限或数据库权限,有助于管理员理解和管理各个用户的实际操作权限范围。
2023-04-12 13:59:00
92
软件工程师
JSON
...理解了如何从JSON数据中获取数组名字的值之后,我们可以进一步探索更复杂的JSON操作场景以及JavaScript中处理JSON的高级技巧。近日,随着Web服务和API接口的广泛应用,JSON作为数据交换的标准格式,其解析与操作的重要性日益凸显。 例如,2023年5月,Node.js社区发布了一篇关于优化JSON性能的文章,其中详述了如何利用最新版本V18中的JSON.parse()方法的新特性提高大数据量JSON解析速度。通过引入新的Streaming API和改进的内存管理机制,开发者可以更高效地处理大规模JSON数据流,并动态获取嵌套数组或对象的名字及其对应值。 另外,对于那些需要深度访问JSON结构的应用场景,如配置文件解析、复杂状态管理等,JavaScript提供了诸如Lodash这样的工具库,提供了诸如_.get()、_.set()等便捷方法,使得根据路径字符串动态获取或设置JSON任意层级的数据成为可能,大大提升了开发效率及代码可读性。 同时,针对安全性考量,在实际项目中处理JSON时应确保进行有效的数据验证和错误处理,防止因恶意构造或意外损坏的JSON数据导致的安全漏洞。例如,使用AJV等JSON Schema验证库,可以在数据解析前对其进行严格校验,从而降低潜在风险。 综上所述,对JSON数组名值获取的基础理解是前端乃至全栈开发者的必备技能之一,而随着技术发展和安全需求的提升,掌握更多先进的JSON处理策略与工具将为开发者应对各种复杂应用场景提供有力支持。
2023-10-30 12:28:39
512
编程狂人
HTML
...键技术之一。随着现代Web应用日趋复杂和交互性增强,这一需求变得更加普遍且重要。近期,Vue.js、React和Angular等主流前端框架在模板渲染方面提供了更为强大且灵活的解决方案。 例如,Vue.js采用MVVM(Model-View-ViewModel)模式,并支持模板语法,开发者可以直接在HTML中插入可响应的数据绑定表达式,如{ {name} }和v-bind指令,框架会自动将其转化为对应的HTML字符串,实现数据与视图的实时同步更新。 同时,React推崇JSX语法,它允许开发者直接在JavaScript中编写类似HTML的结构,通过Babel编译器将其转化为React.createElement函数调用序列,最终生成HTML字符串。这种将模板与逻辑紧密耦合的方式有利于提升代码的可维护性和复用性。 深入研究,还可以发现诸如lit-html这样的轻量级库,它利用模板字面量和HTML模板化功能,结合高效的差异更新算法,在保证性能的同时简化了将JavaScript转为HTML字符串的过程。 总之,在当前前端开发领域,将JavaScript转换为HTML字符串不仅停留在原始的字符串拼接或模板字符串阶段,而是融入到各类现代框架的核心机制之中,以更高效、便捷的方式服务于复杂的Web应用开发实践。不断跟进和掌握这些新方法和技术趋势,有助于开发者提升项目质量和开发效率。
2023-11-22 11:28:15
474
电脑达人
MySQL
...L是一个开源的关系型数据库管理系统,由Oracle公司开发并维护。在本文的语境中,MySQL被用于存储和管理结构化数据,用户可通过SQL语言实现对数据库的各种操作,如新建、查询、更新和删除数据等。MySQL因其稳定、高效、可扩展性强以及支持多种操作系统平台而被广泛应用于网站开发、企业级应用系统以及各种需要持久化存储数据的应用场景。 关系型数据库管理系统(RDBMS) , 关系型数据库管理系统是一种建立在关系模型基础上的软件系统,它能通过表格、列和行的形式来组织、存储和管理数据,并利用SQL(Structured Query Language)语句进行数据操作。在文章中,MySQL即是一个典型的关系型数据库管理系统,通过它可以创建多个相互关联的数据库,确保数据的一致性和完整性。 SQL , SQL(Structured Query Language)是一种标准化的编程语言,用于管理和处理关系型数据库中的数据。在本文所描述的MySQL环境中,用户使用SQL命令来与数据库交互,例如“CREATE DATABASE”用于创建新的数据库,“SHOW DATABASES”则用于查看所有已存在的数据库列表。SQL语言不仅包括数据定义语言(DDL,如创建表或数据库),还包括数据操作语言(DML,如插入、更新和删除记录)以及数据查询语言(DQL,如SELECT语句)。
2023-08-12 18:53:34
138
码农
HTML
...们可以进一步探索现代Web开发中DOM操作的更多应用场景和前沿技术动态。例如,近期发布的Vue 3框架引入了新的“Teleport”功能,允许开发者将组件或DOM元素渲染到页面上的任何位置,这一特性为布局设计和动态内容展示提供了更灵活的解决方案。 同时,React Hooks的广泛应用也革新了DOM操作方式,通过useState、useEffect等API,开发者能以函数式编程思维高效管理组件状态并驱动DOM更新,这对于复杂列表项的排序、过滤等需求尤为便捷。 另外,随着Web Components标准的逐渐成熟,自定义元素和Shadow DOM的结合使得封装独立、可复用的UI组件成为可能,其内部DOM结构与外部应用环境隔离,既保障了组件内部逻辑的一致性,又赋予了开发者对DOM层级进行深度定制的能力。 此外,在性能优化方面,Facebook的Incremental DOM以及Google的Incremental DOM库(如lit-html)采用差异算法进行最小化DOM操作,仅针对需要更新的部分进行重新渲染,大大提升了大规模数据列表及频繁更新场景下的页面性能。 综上所述,无论是主流前端框架的最新进展,还是底层DOM操作技术的持续优化,都为我们实现更高效、更动态的Web界面提供了有力支持。对于热衷于Web开发的工程师而言,紧跟这些技术和实践的发展,无疑将有助于提升项目质量和用户体验。
2023-11-11 23:44:19
581
编程狂人
MySQL
... 是一款开源的关系型数据库管理系统,广泛应用于网站、应用开发以及企业级数据存储场景中。在本文上下文中,MySQL 提供了丰富的系统变量设置功能,允许用户根据实际需求调整数据库的运行参数,以优化性能和资源使用。 系统变量 , 在 MySQL 中,系统变量是指由数据库服务器维护的一系列配置项,这些变量可以影响数据库的行为和性能特征,例如连接数上限(max_connections)、缓冲池大小(innodb_buffer_pool_size)等。用户可以根据不同的业务需求来查看、修改这些系统变量,以达到调优数据库的目的。 my.cnf , my.cnf 是 MySQL 数据库的主要配置文件,用于存储全局级别的配置选项和系统变量设定。当 MySQL 服务启动时,会读取并应用该文件中的配置信息。通过编辑 my.cnf 文件并更改系统变量的默认值,用户可以实现永久性地改变 MySQL 服务的运行参数,确保即使在重启服务后,新的系统变量值仍能生效。
2023-09-12 09:01:49
113
算法侠
站内搜索
用于搜索本网站内部文章,支持栏目切换。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
ssh user@hostname
- 远程登录到另一台Linux主机。
推荐内容
推荐本栏目内的其它文章,看看还有哪些文章让你感兴趣。
2023-04-28
2023-08-09
2023-06-18
2023-04-14
2023-02-18
2023-04-17
2024-01-11
2023-10-03
2023-09-09
2023-06-13
2023-08-07
2023-03-11
历史内容
快速导航到对应月份的历史文章列表。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"