前端技术
HTML
CSS
Javascript
前端框架和UI库
VUE
ReactJS
AngularJS
JQuery
NodeJS
JSON
Element-UI
Bootstrap
Material UI
服务端和客户端
Java
Python
PHP
Golang
Scala
Kotlin
Groovy
Ruby
Lua
.net
c#
c++
后端WEB和工程框架
SpringBoot
SpringCloud
Struts2
MyBatis
Hibernate
Tornado
Beego
Go-Spring
Go Gin
Go Iris
Dubbo
HessianRPC
Maven
Gradle
数据库
MySQL
Oracle
Mongo
中间件与web容器
Redis
MemCache
Etcd
Cassandra
Kafka
RabbitMQ
RocketMQ
ActiveMQ
Nacos
Consul
Tomcat
Nginx
Netty
大数据技术
Hive
Impala
ClickHouse
DorisDB
Greenplum
PostgreSQL
HBase
Kylin
Hadoop
Apache Pig
ZooKeeper
SeaTunnel
Sqoop
Datax
Flink
Spark
Mahout
数据搜索与日志
ElasticSearch
Apache Lucene
Apache Solr
Kibana
Logstash
数据可视化与OLAP
Apache Atlas
Superset
Saiku
Tesseract
系统与容器
Linux
Shell
Docker
Kubernetes
[Context Context 在文中以...]的搜索结果
这里是文章列表。热门标签的颜色随机变换,标签颜色没有特殊含义。
点击某个标签可搜索标签相关的文章。
点击某个标签可搜索标签相关的文章。
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 最近在学习java的爬虫技术,学的是黑马的视频资源,由于是几年前的视频啦,京东页面有些许变化,在此记录我遇到的问题,使用的爬虫技术是httpClient和jsoup,项目搭建使用的springboot+ jpa。 首先给出主页的代码: @Componentpublic classItemTask { @AutowiredprivateHttpUtils httpUtils; @AutowiredprivateItemService itemService;public static final ObjectMapper MAPPER = newObjectMapper();//设置定时任务执行完成后,再间隔100秒执行一次 @Scheduled(fixedDelay = 1000 100)public void process() throwsException {//分析页面发现访问的地址,页码page从1开始,下一页page加2 String url = "https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&suggest=1.his.0.0&wq=%E6%89%8B%E6%9C%BA&s=121&click=0&page=";//遍历执行,获取所有的数据 for (int i = 1; i < 10; i = i + 2) {//发起请求进行访问,获取页面数据,先访问第一页 String html = this.httpUtils.getHtml(url +i);//解析页面数据,保存数据到数据库中 this.parseHtml(html); } System.out.println("执行完成"); }//解析页面,并把数据保存到数据库中 private void parseHtml(String html) throwsException {//使用jsoup解析页面 Document document =Jsoup.parse(html);//获取商品数据 Elements spus = document.select("divJ_goodsList > ul > li");//遍历商品spu数据 for(Element spuEle : spus) {//获取商品spu String attr = spuEle.attr("data-spu");long spu = Long.parseLong(attr.equals("")?"0":attr);//Long spu = Long.parseLong(spuEle.attr("data-spu"));//获取商品sku数据 Elements skus = spuEle.select("li.ps-item img");for(Element skuEle : skus) {//获取商品sku Long sku = Long.parseLong(skuEle.attr("data-sku"));//判断商品是否被抓取过,可以根据sku判断 Item param = newItem(); param.setSku(sku); List list = this.itemService.findAll(param);//判断是否查询到结果 if (list.size() > 0) {//如果有结果,表示商品已下载,进行下一次遍历 continue; }//保存商品数据,声明商品对象 Item item = newItem();//商品spu item.setSpu(spu);//商品sku item.setSku(sku);//商品url地址 item.setUrl("https://item.jd.com/" + sku + ".html");//创建时间 item.setCreated(newDate());//修改时间 item.setUpdated(item.getCreated());//获取商品标题 String itemHtml = this.httpUtils.getHtml(item.getUrl()); String title= Jsoup.parse(itemHtml).select("div.sku-name").text(); item.setTitle(title);//获取商品价格 String priceUrl = "https://p.3.cn/prices/mgets?skuIds=J_"+sku; String priceJson= this.httpUtils.getHtml(priceUrl);//解析json数据获取商品价格 double price = MAPPER.readTree(priceJson).get(0).get("p").asDouble(); item.setPrice(price);//获取图片地址 String pic = "https:" + skuEle.attr("data-lazy-img").replace("/n9/","/n1/"); System.out.println(pic);//下载图片 String picName = this.httpUtils.getImage(pic); item.setPic(picName);//保存商品数据 this.itemService.save(item); } } } } 分享一下我学习中遇到的问题: 1.爬取数据为null,需要登录京东 看到这段代码应该就明白了吧,就是京东发现并非人为操作,需要登陆账号了。解决办法也很简单,只需要自己模拟浏览器登陆即可 在HttpUttils加上这段,两个方法中的HTTPGet对象都需要设置一下。 //设置请求头模拟浏览器 httpGet.setHeader("User-Agent","Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:72.0) Gecko/20100101 Firefox/72.0"); 2.java.lang.NumberFormatException: For input string: "",获取的spu为空串,加上一个前置空串判断即可 解决如下: //获取商品spu String attr = spuEle.attr("data-spu");//判断是否为空串 long spu = Long.parseLong(attr.equals("")?"0":attr); 以上两个bug是我学习遇到的,现已解决,爬取数据如下: 本篇文章为转载内容。原文链接:https://blog.csdn.net/weixin_32161697/article/details/114506244。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-03-13 10:48:12
105
转载
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 内存管理可以分为三个层次,自底向上分别是: 操作系统内核的内存管理 用户空间lib库的内存管理算法 应用程序从lib库申请内存后,根据应用程序本身的程序特性进行优化, 比如使用引用计数std::shared_ptr,内存池方式等等。 1. 用户空间内存管理 目前大部分用户控件程序使用glibc提供的malloc/free系列函数,而glibc使用的ptmalloc2在性能上远远弱后于google的tcmalloc和facebook的jemalloc。 而且后两者只需要使用LD_PRELOAD环境变量启动程序即可,甚至并不需要重新编译。 1.1 ptmalloc2 malloc是一个C库中的函数,malloc向glibc请求内存空间。glibc初始分配或者通过brk和sbrk或者mmap向内核批发内存,然后“卖”给我们malloc使用。 既然brk、mmap提供了内存分配的功能,直接使用brk、mmap进行内存管理不是更简单吗,为什么需要glibc呢? 因为系统调用,导致程序从用户态陷入内核态,比较消耗资源。为了减少系统调用带来的性能损耗,glibc采用了内存池的设计,增加了一个代理层,每次内存分配,都优先从内存池中寻找,如果内存池中无法提供,再向操作系统申请。 1.2 tcmalloc tcmalloc 是google开发的内存分配算法库,用来替代传统的malloc内存分配函数,它有减少内存碎片,适用于多核,更好的并行性支持等特性。 要使用tcmalloc,只要将tcmalloc通过-ltcmalloc连接到应用程序即可。 也可以使用LD_PRELOAD在不是你自己编译的应用程序中使用:$ LD_PRELOAD="/usr/lib/libtcmalloc.so" 2. 内核空间内存管理 linux操作系统内核,将内存分为一个个页去管理。 2.1 页面管理算法–伙伴系统 在实际应用中,而频繁地申请和释放不同大小的连续页框,必然导致在已分配页框的内存块中分散了许多小块的空闲页框。这样,即使这些页框是空闲的,其他需要分配连续页框的应用也很难得到满足。 为了避免出现这种内存碎片,Linux内核中引入了伙伴系统算法(buddy system)。 2.1.1 Buddy(伙伴的定义) 满足以下三个条件的称为伙伴: 1)两个块大小相同; 2)两个块地址连续; 3)两个块必须是同一个大块中分离出来的; 2.1.2 Buddy算法的分配 假设要申请一个256个页框的块,先从256个页框的链表中查找空闲块,如果没有,就去512个页框的链表中找,找到了则将页框块分为2个256个页框的块,一个分配给应用,另外一个移到256个页框的链表中。如果512个页框的链表中仍没有空闲块,继续向1024个页框的链表查找,如果仍然没有,则返回错误。 2.1.3 Buddy算法的释放 内存的释放是分配的逆过程,也可以看作是伙伴的合并过程。页框块在释放时,会主动将两个连续的页框块合并为一个较大的页框块。 2.2 Slab机制 slab是Linux操作系统的一种内存分配机制。其工作是针对一些经常分配并释放的对象,如进程描述符等,这些对象的大小一般比较小,如果直接采用伙伴系统来进行分配和释放,不仅会造成大量的内碎片,而且处理速度也太慢。 而slab分配器是基于对象进行管理的,相同类型的对象归为一类(如进程描述符就是一类),每当要申请这样一个对象,slab分配器就从一个slab列表中分配一个这样大小的单元出去,而当要释放时,将其重新保存在该列表中,而不是直接返回给伙伴系统,从而避免这些内碎片。slab分配器并不丢弃已分配的对象,而是释放并把它们保存在内存中。当以后又要请求新的对象时,就可以从内存直接获取而不用重复初始化。 2.3 内核中申请内存的函数 2.3.1 __get_free_pages __get_free_pages函数是最原始的内存分配方式,直接从伙伴系统中获取原始页框,返回值为第一个页框的起始地址. 2.3.2 kmem_cache_alloc kmem_cache_create/ kmem_cache_alloc是基于slab分配器的一种内存分配方式,适用于反复分配释放同一大小内存块的场合。首先用kmem_cache_create创建一个高速缓存区域,然后用kmem_cache_alloc从 该高速缓存区域中获取新的内存块。 2.3.3 kmalloc kmalloc是内核中最常用的一种内存分配方式,它通过调用kmem_cache_alloc函数来实现。 kmalloc() 申请的内存位于物理内存映射区域,而且在物理上也是连续的,它们与真实的物理地址只有一个固定的偏移,因为存在较简单的转换关系,所以对申请的内存大小有限制,不能超过128KB。 较常用的flags()有: GFP_ATOMIC —— 不能睡眠; GFP_KERNEL —— 可以睡眠; GFP_DMA —— 给 DMA 控制器分配内存,需要使用该标志。 2.3.4 vmalloc vmalloc() 函数则会在虚拟内存空间给出一块连续的内存区,但这片连续的虚拟内存在物理内存中并不一定连续。由于 vmalloc() 没有保证申请到的是连续的物理内存,因此对申请的内存大小没有限制,如果需要申请较大的内存空间就需要用此函数了。 注意vmalloc和vfree时可以睡眠的,因此不能从中断上下问调用。 一般情况下,内存只有在要被 DMA 访问的时候才需要物理上连续,但为了性能上的考虑,内核中一般使用 kmalloc(),而只有在需要获得大块内存时才使用 vmalloc()。例如,当模块被动态加载到内核当中时,就把模块装载到由 vmalloc() 分配的内存上。 本篇文章为转载内容。原文链接:https://secdev.blog.csdn.net/article/details/109731954。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-02-26 20:46:17
232
转载
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 前言 Neighbor2Neighbor属于自监督去噪中算法,通过训练后可以对任意尺寸的图像进行去噪,现在对去噪代码中如何实现任意尺寸图像去噪进行解读。 代码 先贴源码 import torchfrom PIL import Imagefrom torchvision import transformsfrom arch_unet import UNetimport numpy as npdef get_generator():global operation_seed_counter 全局变量 在局部变量可以引用全局变量并修改operation_seed_counter += 1g_cuda_generator = torch.Generator(device="cuda")g_cuda_generator.manual_seed(operation_seed_counter)return g_cuda_generatorclass AugmentNoise(object): 添加噪声的类def __init__(self, style):print(style)if style.startswith('gauss'):self.params = [float(p) / 255.0 for p in style.replace('gauss', '').split('_')]if len(self.params) == 1:self.style = "gauss_fix"elif len(self.params) == 2:self.style = "gauss_range"elif style.startswith('poisson'):self.params = [float(p) for p in style.replace('poisson', '').split('_')]if len(self.params) == 1:self.style = "poisson_fix"elif len(self.params) == 2:self.style = "poisson_range"def add_train_noise(self, x):shape = x.shapeif self.style == "gauss_fix":std = self.params[0]std = std torch.ones((shape[0], 1, 1, 1), device=x.device)noise = torch.cuda.FloatTensor(shape, device=x.device)torch.normal(mean=0.0,std=std,generator=get_generator(),out=noise)return x + noiseelif self.style == "gauss_range":min_std, max_std = self.paramsstd = torch.rand(size=(shape[0], 1, 1, 1),device=x.device) (max_std - min_std) + min_stdnoise = torch.cuda.FloatTensor(shape, device=x.device)torch.normal(mean=0, std=std, generator=get_generator(), out=noise)return x + noiseelif self.style == "poisson_fix":lam = self.params[0]lam = lam torch.ones((shape[0], 1, 1, 1), device=x.device)noised = torch.poisson(lam x, generator=get_generator()) / lamreturn noisedelif self.style == "poisson_range":min_lam, max_lam = self.paramslam = torch.rand(size=(shape[0], 1, 1, 1),device=x.device) (max_lam - min_lam) + min_lamnoised = torch.poisson(lam x, generator=get_generator()) / lamreturn noiseddef add_valid_noise(self, x):shape = x.shapeif self.style == "gauss_fix":std = self.params[0]return np.array(x + np.random.normal(size=shape) std,dtype=np.float32)elif self.style == "gauss_range":min_std, max_std = self.paramsstd = np.random.uniform(low=min_std, high=max_std, size=(1, 1, 1))return np.array(x + np.random.normal(size=shape) std,dtype=np.float32)elif self.style == "poisson_fix":lam = self.params[0]return np.array(np.random.poisson(lam x) / lam, dtype=np.float32)elif self.style == "poisson_range":min_lam, max_lam = self.paramslam = np.random.uniform(low=min_lam, high=max_lam, size=(1, 1, 1))return np.array(np.random.poisson(lam x) / lam, dtype=np.float32)model_path = 'test_dir/unet_gauss25_b4e100r02/2022-03-02-22-24/epoch_model_040.pth' 导入训练的模型文件device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')net = UNet().to(device)net.load_state_dict(torch.load(model_path, map_location=device))net.eval()noise_adder = AugmentNoise(style='gauss25')img = Image.open('validation/Kodak/000014.jpg')im = np.array(img, dtype=np.float32) / 255.0origin255 = im.copy()origin255 = origin255.astype(np.uint8)noisy_im = noise_adder.add_valid_noise(im)H = noisy_im.shape[0]W = noisy_im.shape[1]val_size = (max(H, W) + 31) // 32 32noisy_im = np.pad(noisy_im,[[0, val_size - H], [0, val_size - W], [0, 0]],'reflect')transformer = transforms.Compose([transforms.ToTensor()])noisy_im = transformer(noisy_im)noisy_im = torch.unsqueeze(noisy_im, 0)noisy_im = noisy_im.cuda()with torch.no_grad():prediction = net(noisy_im)prediction = prediction[:, :, :H, :W]prediction = prediction.permute(0, 2, 3, 1)prediction = prediction.cpu().data.clamp(0, 1).numpy()prediction = prediction.squeeze()pred255 = np.clip(prediction 255.0 + 0.5, 0, 255).astype(np.uint8)Image.fromarray(pred255).convert('RGB').save('test1.png') 输入图像 尺寸大小为(408, 310),PIL读入后进行归一化处理。 img = Image.open('validation/Kodak/00001.jpg')print('img', img.size) img (408, 310)im = np.array(img, dtype=np.float32) / 255.0print('im', im.shape) im (310, 408, 3) 先对不规则图像进行填充,要求填充的尺寸是32的倍数,否则输入到网络中会报错。在训练的时候是随机裁剪256256的切片的。 b = torch.rand(1, 3, 255, 255).to('cuda')a = net(b)print(a.shape) 在卷积神经网络中,为了避免因为卷积运算导致输出图像缩小和图像边缘信息丢失,常常采用图像边缘填充技术,即在图像四周边缘填充0,使得卷积运算后图像大小不会缩小,同时也不会丢失边缘和角落的信息。在Python的numpy库中,常常采用numpy.pad()进行填充操作。 val_size = (max(H, W) + 31) // 32 32noisy_im = np.pad(noisy_im,[[0, val_size - H], [0, val_size - W], [0, 0]],'reflect') ‘reflect’, 表示对称填充。 上图转自 http://t.zoukankan.com/shuaishuaidefeizhu-p-14179038.html >>> a = [1, 2, 3, 4, 5]>>> np.pad(a, (2, 3), 'reflect')array([3, 2, 1, 2, 3, 4, 5, 4, 3, 2]) 个人感觉使用reflect操作,而不是之间的填充0是为了在边缘去噪的时候更平滑一些。镜像填充后的图如下: 输入网络后,得到预测结果。最后进行裁剪,得到去噪后的图像。 prediction = prediction[:, :, :H, :W] 本篇文章为转载内容。原文链接:https://blog.csdn.net/qq_42948594/article/details/124712116。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-06-13 14:44:26
129
转载
Apache Solr
...搜索和分析功能。在本文中,Solr被描述为一款广泛应用且深受开发者喜爱的全文搜索服务器,它具备高效、稳定及易于扩展等特性。 DataImportHandlerException , DataImportHandlerException是Apache Solr在执行数据导入过程中可能抛出的一个异常类。当索引全量导入(Full Import)失败时,如文中所述由于驱动配置或JNDI名称未指定,就会触发此类异常。这个错误提示通常意味着Solr无法正确连接到外部数据源或者执行SQL查询来获取索引数据。 CoreContainer , 在Apache Solr中,CoreContainer是管理Solr核心集合(Solr Core)的主要容器类。它负责加载、初始化、监控和卸载Solr核心,并在集群环境下协调多个节点之间的状态和服务。在文章给出的代码示例中,CoreContainer用于启动Solr集群并查询其包含的核心集合的状态信息。 JMX (Java Management Extensions) , JMX是一种Java技术标准,用于管理和监控Java应用程序的各种资源,包括内存使用情况、线程池状态以及服务配置等。在Solr安全漏洞排查部分,建议关闭不必要的JMX服务以减少潜在的安全风险,防止恶意用户通过JMX接口远程访问和操控系统。 全文索引 (Full-text Indexing) , 全文索引是一种将文档内容转换为可搜索格式的过程,允许用户搜索文本中的任何词组或短语。在Apache Solr中,全文索引是其主要功能之一,能够对大量非结构化数据进行高效检索。当遇到“全文索引导入失败”的问题时,需要排查与全文索引构建过程相关的配置和数据源连接问题。
2023-05-31 15:50:32
498
山涧溪流-t
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 一、官方手册中的描述 1、Manual/Coroutines 函数在调用时, “从调用到返回” 都发生在一帧之内,想要处理 “随时间推移进行的事务”, 相比Update,使用协程来执行此类任务会更方便。 协程在创建时,通常是一个 “返回值类型 为 IEnumerator”、“函数体中包含 yield return 语句 ” 的函数。 yiled return 可以暂停协程的执行,并在恰当时候恢复。具体在何时恢复,由 yield 的返回值决定。 启动协程,必须使用 MonoBehaviour 的 StartCoroutine 方法。 停止协程,可以使用 MonoBehaviour 的 StopCoroutine 方法 或 StopAllCoroutine 方法。 注意:以下情况也可能使协程停止: 1)、销毁启动协程的组件(GameObject.Destory(component);) ==> 协程停止 2)、禁用启动协程的组件(component.enabled = false;)==> 协程不停止 3)、销毁启动协程的组件所在的物体(GameObject.Destory(gameobject);) ==> 协程停止 4)、隐藏启动协程的组件所在的物体(gameobject.SetActive(false);) ==> 协程停止 2、MonoBehaviour.StartCoroutine StartCoroutine 方法总是立刻返回一个 Coroutine 对象(同步返回)。 无法保证协同程序按其启动顺序结束,即使他们在同一帧中完成也是如此(异步无序完成)。 可以在一个协程中启动另一个协程(支持协程嵌套)。 二、Unity中的 yield 语句类型 1、yield break; //打断协程运行 2、yield return null; //挂起协程,并从下一帧继续 3、yield return + “任意数字”; //挂起协程,并从下一帧继续 4、yield return + “bool值”; //挂起协程,并从下一帧继续 5、yield return + “任意字符串”; //挂起协程,并从下一帧继续 6、yield return + “普通Object”; //挂起协程,并从下一帧继续 7、yield return + “任意实现了 IEnumerator 接口的对象”。重要!(可嵌套) Unity 中,常见的、直接或间接实现了 IEnumerator 接口的类有: ------------------------------------------------------------------------------------------------ CustomYieldInstruction (abstarct) ——|> IEnumerator (interface) ------------------------------------------------------------------------------------------------ WaitUnitil (sealed) ——|> CustomYieldInstruction WaitWhile (sealed) ——|> CustomYieldInstruction WaitForSecondsRealtime (非sealed,但未发现子类) ——|> CustomYieldInstruction WWW (非sealed,但未发现子类) ——|> CustomYieldInstruction ------------------------------------------------------------------------------------------------ 随着Unity更新或在一些可选的Package中,可能有更多。。。 ------------------------------------------------------------------------------------------------ 8、yield return + “任意继承了 YieldInstruction 类 ([UsedByNativeCode],源码C层中无具体实现) 的对象”。重要!(可嵌套) Unity 中,常见的、直接或间接继承了 YieldInstruction 类的类有: ------------------------------------------------------------------------------------------------ WaitForSeconds (sealed) ——|> YieldInstruction Coroutine (sealed) ——|> YieldInstruction (Coroutine 是 StartCoroutine方法的返回值,意味着协程中可嵌套协程) WaitForEndOfFrame (sealed) ——|> YieldInstruction WaitForFixedUpdate (sealed) ——|> YieldInstruction AsyncOperation ——|> YieldInstruction ------------------------------------------------------------------------------------------------ AssetBundleCreateRequest (非sealed,但未发现子类) ——|> AsyncOperation AssetBundleRecompressOperation (非sealed,但未发现子类) ——|> AsyncOperation AssetBundleRequest (非sealed,但未发现子类) ——|> AsyncOperation ResourceRequest (非sealed,但未发现子类) ——|> AsyncOperation UnityEngine.Networking.UnityWebRequestAsyncOperation (非sealed,但未发现子类) ——|> AsyncOperation UnityEngine.iOS.OnDemandResourcesRequest (sealed) ——|> AsyncOperation ------------------------------------------------------------------------------------------------ 随着Unity更新或在一些可选的Package中,可能有更多。。。 ------------------------------------------------------------------------------------------------ 测试验证 第2、3、4、5、6条 如下: using System.Collections;using UnityEngine;public class Test : MonoBehaviour{void Start(){StartCoroutine(Func1());}IEnumerator Func1(){Debug.Log("Time.frameCount: " + Time.frameCount);yield return null;Debug.Log("Time.frameCount: " + Time.frameCount);yield return 0;Debug.Log("Time.frameCount: " + Time.frameCount);yield return 1;Debug.Log("Time.frameCount: " + Time.frameCount);yield return 99; //其他整数Debug.Log("Time.frameCount: " + Time.frameCount);yield return 0.5f; //浮点数值Debug.Log("Time.frameCount: " + Time.frameCount);yield return false; //bool值Debug.Log("Time.frameCount: " + Time.frameCount);yield return "Hi NRatel!"; //字符串Debug.Log("Time.frameCount: " + Time.frameCount);yield return new Object(); //任意对象Debug.Log("Time.frameCount: " + Time.frameCount);} } 测试验证 第7条 如下: using System.Collections;using UnityEngine;public class Test : MonoBehaviour{void Start(){StartCoroutine(Func1());}IEnumerator Func1(){Debug.Log("Func1");yield return Func2();}IEnumerator Func2(){Debug.Log("Func2");yield return Func3();}IEnumerator Func3(){Debug.Log("Func3");yield return null;} } 三、Unity协程实现原理 1、C 的迭代器。 现在已经知道:协程肯定与IEnumerator有关,因为启动协程时需要一个 IEnumerator 对象。 而 IEnumerator 是C实现的 迭代器模式 中的 枚举器(用于迭代的游标)。 迭代器相关接口定义如下: namespace System.Collections{//可枚举(可迭代)对象接口public interface IEnumerable{IEnumerator GetEnumerator();}//迭代游标接口public interface IEnumerator{object Current { get; }bool MoveNext();void Reset();} } 参考 MSDN C文档中对于 IEnumerator、IEnumerable、迭代器 的描述。 利用 IEnumerator 对象,可以对与之关联的 IEnumerable 集合 进行迭代: 1)、通过 IEnumerator 的 Current 方法,可以获取集合中位于枚举数当前位置的元素。 2)、通过 IEnumerator 的 MoveNext 方法,可以将枚举数推进到集合的下一个元素。如果 MoveNext 越过集合的末尾, 则枚举器将定位在集合中最后一个元素之后, 同时 MoveNext 返回 false。 当枚举器位于此位置时, 对 MoveNext 的后续调用也将返回 false 。如果最后一次调用 MoveNext 时返回 false,则 Current 未定义(结果为null)。 3)、通过 IEnumerator 的 Reset 方法,可以将“迭代游标” 设置为其初始位置,该位置位于集合中第一个元素之前。 2、C 的 yield 关键字。 C编译器在生成IL代码时,会将一个返回值类型为 IEnumerator 的方法(其中包含一系列的 yield return 语句),构建为一个实现了 IEnumerator 接口的对象。 注意,yield 是C的关键字,而非Unity定义!IEnumerator 对象 也可以直接用于迭代,并非只能被Unity的 StartCoroutine 使用! using System.Collections;using UnityEngine;public class Test : MonoBehaviour{void Start(){IEnumerator e = Func();while (e.MoveNext()){Debug.Log(e.Current);} }IEnumerator Func(){yield return 1;yield return "Hi NRatel!";yield return 3;} } 对上边C代码生成的Dll进行反编译,查看IL代码: 3、Unity 的协程。 Unity 协程是在逐帧迭代的,这点可以从 Unity 脚本生命周期 中看出。 可以大胆猜测一下,实现出自己的协程(功能相似,能够说明逐帧迭代的原理,不是Unity源码): using System;using System.Collections;using System.Collections.Generic;using UnityEngine;public class Test : MonoBehaviour{private Dictionary<IEnumerator, IEnumerator> recoverDict; //key:当前迭代器 value:子迭代器完成后需要恢复的父迭代器private IEnumerator enumerator;private void Start(){//Unity自身的协程//StartCoroutine(Func1());//自己实现的协程StarMyCoroutine(Func1());}private void StarMyCoroutine(IEnumerator e){recoverDict = new Dictionary<IEnumerator, IEnumerator>();enumerator = e;recoverDict.Add(enumerator, null); //完成后不需要恢复任何迭代器}private void LateUpdate(){if (enumerator != null){DoEnumerate(enumerator);} }private void DoEnumerate(IEnumerator e){object current;if (e.MoveNext()){current = e.Current;}else{//迭代结束IEnumerator recoverE = recoverDict[e];if (recoverE != null){recoverDict.Remove(e);}//恢复至父迭代器, 若没有则会至为nullenumerator = recoverE;return;}//null,什么也不做,下一帧继续if (current == null) { return; }Type type = current.GetType();//基础类型,什么也不做,下一帧继续if (current is System.Int32) { return; }if (current is System.Boolean) { return; }if (current is System.String) { return; }//IEnumerator 类型, 等待内部嵌套的IEnumerator迭代完成再继续if (current is IEnumerator){//切换至子迭代器enumerator = current as IEnumerator;recoverDict.Add(enumerator, e);return;}//YieldInstruction 类型, 猜测也是类似IEnumerator的实现if (current is YieldInstruction){//省略实现return;} }IEnumerator Func1(){Debug.Log("Time.frameCount: " + Time.frameCount);yield return null;Debug.Log("Time.frameCount: " + Time.frameCount);yield return "Hi NRatel!";Debug.Log("Time.frameCount: " + Time.frameCount);yield return 3;Debug.Log("Time.frameCount: " + Time.frameCount);yield return new WaitUntil(() =>{return Time.frameCount == 20;});Debug.Log("Time.frameCount: " + Time.frameCount);yield return Func2();Debug.Log("Time.frameCount: " + Time.frameCount);}IEnumerator Func2(){Debug.Log("XXXXXXXXX");yield return null;Debug.Log("YYYYYYYYY");yield return Func3(); //嵌套 IEnumerator}IEnumerator Func3(){Debug.Log("AAAAAAAA");yield return null;Debug.Log("BBBBBBBB");yield return null;} } 对比结果,基本可以达成协程作用,包括 IEnumerator 嵌套。 但是 Time.frameCount 的结果不同,想来实现细节必然是有差别的。 四、部分Unity源码分析 1、CustomYieldInstruction 类 可以继承该类,并实现自己的、需要异步等待的类。 原理: 当协程中 yield return “一个CustomYieldInstruction的子类”; 其实就相当于在原来的 迭代器A 中,插入了一个 新的迭代器B。 当迭代程序进入 B ,如果 keepWaiting 为 true,MoveNext() 就总是返回 true。 上面已经说过,迭代器在迭代时,MoveNext() 返回false 才标志着迭代完成! 那么,B 就总是完不成,直到 keepWaiting 变为 false。 这样 A 运行至 B处就 处于了 等待B完成的状态,相当于A挂起了。 猜测 YieldInstruction 也是类似的实现。 // Unity C reference source// Copyright (c) Unity Technologies. For terms of use, see// https://unity3d.com/legal/licenses/Unity_Reference_Only_Licenseusing System.Collections;namespace UnityEngine{public abstract class CustomYieldInstruction : IEnumerator{public abstract bool keepWaiting{get;}public object Current{get{return null;} }public bool MoveNext() { return keepWaiting; } public void Reset() {} }} 2、WaitUntil 类 语义为 “等待...直到满足...” 继承自 CustomYieldInstruction,需要等待时让 m_Predicate 返回 false (keepWating为true)。 // Unity C reference source// Copyright (c) Unity Technologies. For terms of use, see// https://unity3d.com/legal/licenses/Unity_Reference_Only_Licenseusing System;namespace UnityEngine{public sealed class WaitUntil : CustomYieldInstruction{Func<bool> m_Predicate;public override bool keepWaiting { get { return !m_Predicate(); } }public WaitUntil(Func<bool> predicate) { m_Predicate = predicate; } }} 3、WaitWhile 类 语义为 “等待...如果满足...” 继承自 CustomYieldInstruction,需要等待时让 m_Predicate 返回 true (keepWating为true)。 与 WaitUntil 的实现恰好相反。 // Unity C reference source// Copyright (c) Unity Technologies. For terms of use, see// https://unity3d.com/legal/licenses/Unity_Reference_Only_Licenseusing System;namespace UnityEngine{public sealed class WaitWhile : CustomYieldInstruction{Func<bool> m_Predicate;public override bool keepWaiting { get { return m_Predicate(); } }public WaitWhile(Func<bool> predicate) { m_Predicate = predicate; } }} 本篇文章为转载内容。原文链接:https://blog.csdn.net/NRatel/article/details/102870744。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-11-24 16:50:42
390
转载
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 根据jeff377 的话,竹子将这验证码改进了一下,请大家讨论看看。 -------jeff377-------------------------------------------- 我研究所的论文就是在做类神经网络处理文字辨识,以你的例子而言,旋转随意角度对辨识来说并不会有太大影响,只要抓字的重心,360度旋转抓取特微值,还是可以辨识的出来。 通常文字辨识的有一个重要的动作,就是要把个别文字分割,你只要把文字弄的难分割就有不错的安全性。 --------------------------------------------------- 代码比较粗糙,而且比较菜,其中遇到一个问题,未对 Graphics 填充底色,那么文字的 ClearType 效果没有了,文字毛边比较明显,不知道为什么,谁能告诉竹子? 代码相对粗糙,没有考虑更多的情况,在测试过程中,以20px 字体呈现,效果感觉还不错,只是 ClearType 效果没有了。 帖几张看看 ------------ ------------ ------------ ------------ 有一些随机的不好,象下面这张 相关链接: 查看 V1.0 .NET 2.0 代码如下: using System; using System.Drawing; using System.Web; namespace Oran.Image { /// <summary> /// 旋转的可视验证码图象 /// </summary> public class RotatedVlidationCode { public enum RandomStringMode { /// <summary> /// 小写字母 /// </summary> LowerLetter, /// <summary> /// 大写字母 /// </summary> UpperLetter, /// <summary> /// 混合大小写字母 /// </summary> Letter, /// <summary> /// 数字 /// </summary> Digital, /// <summary> /// 混合数字与大小字母 /// </summary> Mix } public static string GenerateRandomString(int length, RandomStringMode mode) { string rndStr = string.Empty; if (length == 0) return rndStr; //以数组方式候选字符,可以更方便的剔除不要的字符,如数字 0 与字母 o char[] digitals = new char[10] { '0', '1', '2', '3', '4', '5', '6', '7', '8', '9' }; char[] lowerLetters = new char[26] { 'a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j', 'k', 'l', 'm', 'n', 'o', 'p', 'q', 'r', 's', 't', 'u', 'v', 'w', 'x', 'y', 'z' }; char[] upperLetters = new char[26] { 'A', 'B', 'C', 'D', 'E', 'F', 'G', 'H', 'I', 'J', 'K', 'L', 'M', 'N', 'O', 'P', 'Q', 'R', 'S', 'T', 'U', 'V', 'W', 'X', 'Y', 'Z' }; char[] letters = new char[52]{ 'a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j', 'k', 'l', 'm', 'n', 'o', 'p', 'q', 'r', 's', 't', 'u', 'v', 'w', 'x', 'y', 'z', 'A', 'B', 'C', 'D', 'E', 'F', 'G', 'H', 'I', 'J', 'K', 'L', 'M', 'N', 'O', 'P', 'Q', 'R', 'S', 'T', 'U', 'V', 'W', 'X', 'Y', 'Z' }; char[] mix = new char[62]{ '0', '1', '2', '3', '4', '5', '6', '7', '8', '9', 'a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j', 'k', 'l', 'm', 'n', 'o', 'p', 'q', 'r', 's', 't', 'u', 'v', 'w', 'x', 'y', 'z', 'A', 'B', 'C', 'D', 'E', 'F', 'G', 'H', 'I', 'J', 'K', 'L', 'M', 'N', 'O', 'P', 'Q', 'R', 'S', 'T', 'U', 'V', 'W', 'X', 'Y', 'Z' }; int[] range = new int[2] { 0, 0 }; Random random = new Random(); switch (mode) { case RandomStringMode.Digital: for (int i = 0; i < length; ++i) rndStr += digitals[random.Next(0, digitals.Length)]; break; case RandomStringMode.LowerLetter: for (int i = 0; i < length; ++i) rndStr += lowerLetters[random.Next(0, lowerLetters.Length)]; break; case RandomStringMode.UpperLetter: for (int i = 0; i < length; ++i) rndStr += upperLetters[random.Next(0, upperLetters.Length)]; break; case RandomStringMode.Letter: for (int i = 0; i < length; ++i) rndStr += letters[random.Next(0, letters.Length)]; break; default: for (int i = 0; i < length; ++i) rndStr += mix[random.Next(0, mix.Length)]; break; } return rndStr; } /// <summary> /// 显示验证码 /// </summary> /// <param name="seed">随机数辅助种子</param> /// <param name="strLen">验证码字符长度</param> /// <param name="fontSize">字体大小</param> /// <param name="mode">随机字符模式</param> /// <param name="clrFont">字体颜色</param> /// <param name="clrBg">背景颜色</param> public static void ShowValidationCode(ref int seed, int strLen, int fontSize, RandomStringMode mode, Color clrFont, Color clrBg) { int tmpSeed; unchecked { tmpSeed = (int)(seed DateTime.Now.Ticks); ++seed; } Random rnd = new Random(tmpSeed); string text = GenerateRandomString(strLen, mode); int height = fontSize 2; // 因为字体旋转后每个字体所占宽度会所有加大,所以要加一点补偿宽度 int width = fontSize text.Length + fontSize / (text.Length - 2); Bitmap bmp = new Bitmap(width, height); Graphics graphics = Graphics.FromImage(bmp); Font font = new Font("Courier New", fontSize, FontStyle.Bold); Brush brush = new SolidBrush(clrFont); Brush brushBg = new SolidBrush(clrBg); graphics.FillRectangle(brushBg, 0, 0, width, height); Bitmap tmpBmp = new Bitmap(height, height); Graphics tmpGph = null; int degree = 40; Point tmpPoint = new Point(); for (int i = 0; i < text.Length; i++) { tmpBmp = new Bitmap(height, height); tmpGph = Graphics.FromImage(tmpBmp); // tmpGph.TextRenderingHint = System.Drawing.Text.TextRenderingHint.SingleBitPerPixelGridFit; // 不填充底色,文字 ClearType 效果不见了,why?! // tmpGph.FillRectangle(brushBg, 0, 0, tmpBmp.Width, tmpBmp.Height); degree = rnd.Next(20, 51); // [20, 50]随机角度 if (rnd.Next(0, 2) == 0) { tmpPoint.X = 12; // 调整文本坐标以适应旋转后的图象 tmpPoint.Y = -6; } else { degree = ~degree + 1; // 逆时针旋转 tmpPoint.X = -10; tmpPoint.Y = 6; } tmpGph.RotateTransform(degree); tmpGph.DrawString(text[i].ToString(), font, brush, tmpPoint); graphics.DrawImage(tmpBmp, i fontSize, 0); // 拼接图象 } //输出图象 System.IO.MemoryStream memoryStream = new System.IO.MemoryStream(); bmp.Save(memoryStream, System.Drawing.Imaging.ImageFormat.Gif); HttpContext.Current.Response.Cache.SetCacheability(HttpCacheability.NoCache); HttpContext.Current.Response.ClearContent(); HttpContext.Current.Response.ContentType = "image/gif"; HttpContext.Current.Response.BinaryWrite(memoryStream.ToArray()); HttpContext.Current.Response.End(); //释放资源 font.Dispose(); brush.Dispose(); brushBg.Dispose(); tmpGph.Dispose(); tmpBmp.Dispose(); graphics.Dispose(); bmp.Dispose(); memoryStream.Dispose(); } } } 转载于:https://www.cnblogs.com/iRed/archive/2008/06/22/1227687.html 本篇文章为转载内容。原文链接:https://blog.csdn.net/weixin_30600197/article/details/96672619。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-05-27 09:38:56
250
转载
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 闭包 定义双层嵌套函数,内层函数可以访问外层函数的变量 将内层函数作为外层函数的返回,此层函数就是闭包函数 在函数嵌套的前提下,内部函数使用了外部函数的变量,并且外部函数返回了内部函数,我们把这个使用外部函数变量的内部函数称为闭包 def outer(logo):def inner(msg):print(f"{logo}:{msg}")return innerfun = outer("java")fun("hello world") 闭包修改外部函数的值 需要用 nonlocal 声明这个外部变量 def outer(num1):def inner(num2):nonlocal num1num1 += num2print(num1)return innerfun = outer(10)fun(10) 输出20 优点: 无需定义全局变量即可实现通过函数,持续的访问、修改某个值 闭包使用的变量的所用于在函数内,难以被错误的调用修改 缺点: 由于内部函数持续引用外部函数的值,所以会导致这一部分内存空间不被释放,一直占用内存 装饰器 装饰器其实也是一种闭包,其功能就是在不破坏目标函数原有的代码和功能的前提下,为目标函数增加新功能 def outer(func):def inner():print("我要睡觉了")func()print("我起床了")return inner@outerdef sleep():print("睡眠中")sleep() 单例模式 单例def strTool():passsignle = strTool()==from 单例 import signlet1 = signlet2 = signleprint(id(t1))print(id(t2)) 工厂模式 将对象的创建由使用原生类本身创建转换到由特定的工厂方法来创建 好处: 大批量创建对象的时候有统一的入口,易于代码维护 当发生修改,仅修改工厂类的创建方法即可 class Person:passclass Worker(Person):passclass Student(Person):passclass Teacher(Person):passclass PersonFactory:def get_person(self,p_type):if p_type == 'w':return Worker()elif p_type == 's':return Student()else:return Teacher()pf = PersonFactory()worker = pf.get_person('w')student = pf.get_person('s')teacher = pf.get_person('t') 多线程 threading模块使用 import threadingimport timedef sing(msg):print(msg)time.sleep(1)def dance(msg):print(msg)time.sleep(1)if __name__ == '__main__':sing_thread = threading.Thread(target=sing,args=("唱歌。。。",))dance_thread = threading.Thread(target=dance,kwargs={"msg":"跳舞。。。"})sing_thread.start()dance_thread.start() Socket Socket(套接字)是进程间通信工具 服务端 创建Socket对象import socketsocket_server = socket.socket() 绑定IP地址和端口socket_server.bind(("localhost", 8888)) 监听端口socket_server.listen(1) 等待客户端链接conn, address =socket_server.accept()print(f"接收到客户端的信息{address}")while True:data: str = conn.recv(1024).decode("UTF-8")print(f"客户端消息{data}") 发送回复消息msg = input("输入回复消息:")if msg == 'exit':breakconn.send(msg.encode("UTF-8")) 关闭连接conn.close()socket_server.close() 客户端、 import socket 创建socket对象socket_client = socket.socket() 连接到服务器socket_client.connect(("localhost", 8888))while True:msg = input("输入发送消息:")if(msg == 'exit'):break 发送消息socket_client.send(msg.encode("UTF-8"))接收返回消息recv_data = socket_client.recv(1024)print(f"服务端回复消息:{recv_data.decode('UTF-8')}") 关闭链接socket_client.close() 正则表达式使用 import res = "pythonxxxxxxpython"result = re.match("python",s) 从左到右匹配print(result) <re.Match object; span=(0, 6), match='python'>print(result.span()) (0, 6)print(result.group()) pythonresult = re.search("python",s) 匹配到第一个print(result) <re.Match object; span=(0, 6), match='python'>result = re.findall("python",s) 匹配全部print(result) ['python', 'python'] 单字符匹配 数量匹配 边界匹配 分组匹配 pattern = "1[35678]\d{9}"phoneStr = "15288888888"result = re.match(pattern, phoneStr)print(result) <re.Match object; span=(0, 11), match='15288888888'> 递归 递归显示目录中文件 import osdef get_files_recursion_dir(path):file_list = []if os.path.exists(path):for f in os.listdir(path):new_path = path + "/" + fif os.path.isdir(new_path):file_list += get_files_recursion_dir(new_path)else:file_list.append(new_path)else:print(f"指定的目录{path},不存在")return []return file_listif __name__ == '__main__':print(get_files_recursion_dir("D:\test")) 本篇文章为转载内容。原文链接:https://blog.csdn.net/qq_29385297/article/details/128085103。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-05-28 18:35:16
91
转载
Ruby
...其适用于大型项目。在文中,通过将支付处理功能封装进模块并将其集成到订单类中,实现了代码的分离与复用,从而简化了整体架构。 封装 , 面向对象编程中的一个重要原则,指隐藏对象的内部状态并仅暴露有限的接口供外界调用。封装的主要目的是保护数据免受未经授权的访问或修改,从而增强系统的安全性与稳定性。文中通过定义私有方法和属性的方式,限制了用户密码的直接访问,强制用户通过指定的方法来更改密码,体现了封装的核心思想。 模块 , Ruby语言中的一种代码组织形式,用于存放一组相关的常量、方法和其他定义。模块不能直接实例化,但可以通过include或extend关键字将其功能注入到类或对象中。在文中,PaymentProcessor模块包含了支付处理的相关方法,而Authentication模块则负责用户登录和登出逻辑,这些模块通过被包含到相应的类中,实现了功能的分离与复用。
2025-03-23 16:13:26
38
繁华落尽
Mongo
...的查询能力著称。在本文中,MongoDB被用来存储两个集合(users和orders),并通过聚合框架中的$lookup操作实现跨集合查询,从而将用户信息与订单信息关联起来。 $lookup , MongoDB聚合框架中的一个重要操作符,用于实现类似SQL中的JOIN操作。在本文中,$lookup被用来将users集合与orders集合进行关联查询,通过指定localField(本地字段)和foreignField(远程字段),将具有相同userId的文档匹配在一起,并将结果存储在一个名为orderDetails的数组中。然而,由于$lookup不会自动包含所有字段,因此需要配合其他操作符(如$project)来调整输出结果。 $project , MongoDB聚合框架中的另一个核心操作符,用于重新定义输出文档的结构。在本文中,$project被用来筛选和重组查询结果,确保所需字段(如users集合中的name、email,以及orders集合中的status)能够正确显示。通过$project,还可以对字段进行重命名或计算新的字段值,例如将orders集合中的status字段重命名为orderStatus,以便更清晰地区分不同来源的数据。
2025-04-28 15:38:33
19
柳暗花明又一村_
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 ↑ 点击上方【计算机视觉联盟】关注我们 最经典的决策树算法有ID3、C4.5、CART,其中ID3算法是最早被提出的,它可以处理离散属性样本的分类,C4.5和CART算法则可以处理更加复杂的分类问题,本文重点介绍ID3算法。 1、决策树基本流程 决策树 (decision tree) 是一类常见的机器学习方法。它是对给定的数据集学到一个模型对新示例进行分类的过程。下图所示为一个流程图的决策树,长方形代表判断模块(decision block),椭圆形代表终止模块(terminating block),表示已经得出结论,可以终止运行。从判断模块引出的左右箭头称作分支(branch),可以达到另一个判断模块或终止模块。 决策过程是基于树结构来进行决策的。如下图,首先检查邮件域名地址,如果地址为myEmployer.com,则将其分类为“无聊时需要阅读的邮件”。否则,则检查邮件内容里是否包含单词“曲棍球”,如果包含则归类为“需要及时处理的朋友邮件”,如果不包含则归类到“无需阅读的垃圾邮件” 流程图形式的决策树 显然,决策过程的最终结论对应了我们所希望的判定结果,例如"需要阅读"或"不需要阅读”。 决策过程中提出的每个判定问题都是对某个属性的"测试",如邮件地址域名为?是否包含“曲棍球”? 每个测试的结果或是导出最终结论,或是导出进一步的判定问题,其考虑范围是在上次决策结果的限定范围之内,例如若邮件地址域名不是myEmployer.com之后再判断是否包含“曲棍球”。 一般的,决策树包含一个根节点、若干个内部节点和若干个叶节点。根节点包含样本全集;叶节点对应于决策结果,例如“无聊时需要阅读的邮件”。其他每个结点则对应于一个属性测试;每个节点包含的样本集合根据属性测试的结果被划分到子结点中。 决策树学习基本算法 显然,决策树的生成是一个递归过程.在决策树基本算法中,有三种情形会导致递归返回: (1)当前结点包含的样本全属于同一类别,无需划分; (2)当前属性集为空,或是所有样本在所有属性上取值相同,无法划分; (3)当前结点包含的样本集合为空,不能划分。 2、划分选择 决策树算法的关键是如何选择最优划分属性。一般而言,随着划分过程不断进行,我们希望决策树的分支结点所包含的样本尽可能属于同一类别,即结点的"纯度" (purity)越来越高。 (1)信息增益 信息熵 "信息熵" (information entropy)是度量样本集合纯度最常用的一种指标,定义为信息的期望。假定当前样本集合 D 中第 k 类样本所占的比例为 ,则 D 的信息熵定义为: H(D)的值越小,则D的纯度越高。信息增益 一般而言,信息增益越大,则意味着使周属性 来进行划分所获得的"纯度提升"越大。因此,我们可用信息增益来进行决策树的划分属性选择,信息增益越大,属性划分越好。 以西瓜书中表 4.1 中的西瓜数据集 2.0 为例,该数据集包含17个训练样例,用以学习一棵能预测设剖开的是不是好瓜的决策树.显然,。 在决策树学习开始时,根结点包含 D 中的所有样例,其中正例占 ,反例占 信息熵计算为: 我们要计算出当前属性集合{色泽,根蒂,敲声,纹理,脐部,触感}中每个属性的信息增益。以属性"色泽"为例,它有 3 个可能的取值: {青绿,乌黑,浅自}。若使用该属性对 D 进行划分,则可得到 3 个子集,分别记为:D1 (色泽=青绿), D2 (色泽2=乌黑), D3 (色泽=浅白)。 子集 D1 包含编号为 {1,4,6,10,13,17} 的 6 个样例,其中正例占 p1=3/6 ,反例占p2=3/6; D2 包含编号为 {2,3,7,8, 9,15} 的 6 个样例,其中正例占 p1=4/6 ,反例占p2=2/6; D3 包含编号为 {5,11,12,14,16} 的 5 个样例,其中正例占 p1=1/5 ,反例占p2=4/5; 根据信息熵公式可以计算出用“色泽”划分之后所获得的3个分支点的信息熵为: 根据信息增益公式计算出属性“色泽”的信息增益为(Ent表示信息熵): 类似的,可以计算出其他属性的信息增益: 显然,属性"纹理"的信息增益最大,于是它被选为划分属性。图 4.3 给出了基于"纹理"对根结点进行划分的结果,各分支结点所包含的样例子集显示在结点中。 然后,决策树学习算法将对每个分支结点做进一步划分。以图 4.3 中第一个分支结点( "纹理=清晰" )为例,该结点包含的样例集合 D 1 中有编号为 {1, 2, 3, 4, 5, 6, 8, 10, 15} 的 9 个样例,可用属性集合为{色泽,根蒂,敲声,脐部 ,触感}。基于 D1计算出各属性的信息增益: "根蒂"、 "脐部"、 "触感" 3 个属性均取得了最大的信息增益,可任选其中之一作为划分属性.类似的,对每个分支结点进行上述操作,最终得到的决策树如圈 4.4 所示。 3、剪枝处理 剪枝 (pruning)是决策树学习算法对付"过拟合"的主要手段。决策树剪枝的基本策略有"预剪枝" (prepruning)和"后剪枝 "(post" pruning) [Quinlan, 1993]。 预剪枝是指在决策树生成过程中,对每个结点在划分前先进行估计,若当前结点的划分不能带来决策树泛化性能提升,则停止划 分并将当前结点标记为叶结点; 后剪枝则是先从训练集生成一棵完整的决策树,然后自底向上地对非叶结点进行考察,若将该结点对应的子树替换为叶结点能带来决策树泛化性能提升,则将该子树替换为叶结点。 往期回顾 ● 带你详细了解机器视觉竞赛—ILSVRC竞赛 ● 到底什么是“机器学习”?机器学习有哪些基本概念?(简单易懂) ● 带你自学Python系列(一):变量和简单数据类型(附思维导图) ● 带你自学Python系列(二):Python列表总结-思维导图 ● 2018年度最强的30个机器学习项目! ● 斯坦福李飞飞高徒Johnson博士论文: 组成式计算机视觉智能(附195页PDF) ● 一文详解计算机视觉的广泛应用:网络压缩、视觉问答、可视化、风格迁移 本篇文章为转载内容。原文链接:https://blog.csdn.net/Sophia_11/article/details/113355312。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-08-27 21:53:08
285
转载
RabbitMQ
...现共同目标的系统。在文中提到的RabbitMQ消息重新入队机制应用于分布式系统中,帮助在多个节点间实现消息的异步传递和处理,提高系统的容错性和可靠性。 微服务架构 , 一种将单一应用程序构建为一组小型服务的方法,每个服务专注于执行单一职责。文中讨论了RabbitMQ在微服务架构中的应用,通过消息队列支持服务间的异步通信,实现服务间的解耦和负载均衡,提高系统的灵活性和可扩展性。 队列QoS(服务质量)设置 , 指对消息队列的性能参数进行配置,包括消息的持久化、优先级、存活时间等。文中提到了队列QoS设置的重要性,合理配置可以优化消息的处理流程,确保关键消息得到优先处理,并维持系统的稳定运行。
2024-08-01 15:44:54
180
素颜如水
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 接上一篇文章: 重学音视频?认识 MP4 视频(上) 文章的提到的资料都放在知识星球了,后续的内容更新还是以星球为主,也会放出一些干货在公众号的,现在加入星球还是优惠价,后面干货越多,涨价的可能性就越大了。 一个关于音视频领域专业问答的小圈子!! 为了方便大家的检索,我把专栏内容放在网页上了,地址如下: https://glumes.com/player_book/ 如图所示,就能访问专栏啦。 以下就是专栏的内容: 在前文介绍了 MP4 标准的缘由,现在要详细了解一下它的格式。 还是回到这张图: 重点看这里: 第十四部分(ISO/IEC 14496-14):MPEG-4(即MP4)文件格式:定义基于第十二部分的用于存储MPEG-4内容的视频文档格式。 也就是说 MP4 文件格式是定义在 MPEG-4 第 12 部分基础之上的,而第 12 部分的内容描述如下: 第十二部分(ISO/IEC 14496-12):基于ISO的媒体文件格式:定义一个存储媒体内容的文件格式。 所以,要学习 MP4 文件格式,要先了解 第 12 部分的内容,关于 MPEG-4 第 12 部分的文档,我也同步放在知识星球里面了,有需要的可以去下载。 网上关于 MP4 文件格式的文章内容,基本都可以在第 12 部分中找到,可以说它才是学习知识的源头,当做教科书来学肯定没问题。 有官方文档的情况下,会尽量根据文档来学习,而不是盲目的参考网络博客,那样得到的知识体系太零散了。 MP4 文件组成 摘录一段官方文档的内容: 关于 MP4 文件格式,参照文档说明:文件是由一系列叫做 Box 的对象组成的,所有的数据都存储在 Box 中。 官方文档中把这些由对象结构组成的文件叫做 Object-structured File ,算是一个比较广义的概念,但我们就当做 MP4 格式好了,狭义地理解一下,并且这种文件格式必须要包含 File Type 类型的 Box 。 MP4 中的 Box MP4 中的 Box 有很多类型,每个类型中的 Box 代表的含义还不相同,但他们的基础结构还是相同的,继续往下看文档: 每个 Box 是由 Header 和 Data 两部分组成的,Header 中包含了很多标识信息,而 Data 可以是纯数据也可以是其他的子 Box 。 参照文档内容,Header 中包含了 Box 的大小 Size 和类型 Type。 关于 Size 的说明,参考文档: size 字段包含了 Box 和子 Box 的大小,如果 size 为 1 ,说明实际的大小在 largesize 字段中,如果 size 为 0 ,说明这是文件最后一个 Box 了。 关于 Type 的说明,参考文档: type 字段表示该 Box 的类型,标准的 Box 类型都是用四个字母来表示的,如果是用户自定义的类型,就用 uuid 来表示。 另外,要强调一下 Box 的字节序是网络字节序,也就是大端序,关于 Box 结构的伪代码文档中也给出了: 根据伪代码再看 Box 的结构定义就一目了然了。 MP4 中的 FullBox Box 可以说是所有 Box 类型的基类,接下来要了解它的第一个子类 FullBox 。 FullBox 在 Box 的基础上多了 version 和 flags 字段。 其中 version 字段表示 Box 的版本,flags 字段是标志位。 如果 Box 遇到了无法识别的 version 或者 type 字段,就应该跳过或者忽略。 MP4 中更多的 Box MP4 中还有很多类型的 Box ,其实有些 Box 相当重要,甚至面试中还会经常问到,下面从文档中给大家摘录一下所有的 Box 类型。 这些内容在文档中都有,自行下载了,网络的一些资料可能还没有文档全面呢。 后面我们也会继续讲解这些 Box 类型的,以及使用工具来查看 Box 信息,这节就先到这里啦!!! 众所周知,开通了知识星球,邀请了一些在头条、快手等知名IT企业从事过音视频研发的朋友们做专业咨询,涉及的范围比较广,包括 Android/iOS 开发、Camera 开发、视频编辑、在线直播、WebRTC、播放器、OpenGL、C++ 等等,基本上涵盖了音视频工程领域的绝大部分内容。 关于音视频入门如何学习,学习了 FFmpeg 之后又该怎么办,跳槽选择哪个方向比较好,程序员职业软技能等等之类的问题,更是会以行业一线开发人员的角度帮你认真分析,出谋划策。 力求做到有问必答。在知识范围内,认真地对待每一个提问,不一定所有的问题都能答案,但每一个答案都是详细思考过的。 更多开发资料、博客源码、文档教程都会在星球内给出,白菜价即可加入,iOS 用户可以加我微信 ezglumes 拉你进去!!! 一个音视频领域专业问答的小圈子! 加我微信 ezglumes 拉你入技术交流群 推荐阅读: 音视频开发工作经验分享 || 视频版 OpenGL ES 学习资源分享 开通专辑 | 细数那些年写过的技术文章专辑 Android NDK 免费视频在线学习!!! 你想要的音视频开发资料库来了 推荐几个堪称教科书级别的 Android 音视频入门项目 觉得不错,点个在看呗~ 本篇文章为转载内容。原文链接:https://blog.csdn.net/zhying719/article/details/124464016。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2024-01-21 17:43:21
438
转载
Dubbo
...在本地调用一样。在本文中,Dubbo通过实现RPC机制,支持服务间的异步调用,显著提高了分布式系统的响应速度和处理能力。 微服务架构 , 一种软件架构风格,将单一应用程序分解为一组小型、独立、可独立部署的微服务。每个微服务专注于特定的业务功能,通过轻量级通信机制(如HTTP)进行交互。在文章中,微服务架构与Dubbo结合,通过提供异步调用等特性,增强了系统的可扩展性、灵活性和稳定性。
2024-08-03 16:26:04
341
春暖花开
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 摘要: 本文是一份关于机器学习中线性代数学习指南,所给出的资源涵盖维基百科网页、教材、视频等,机器学习从业者可以从中选择合适的资源进行学习。 对于机器学习而言,要学习的特征大多数是以矩阵的形式表示。线性代数是一门关于矩阵的数学,也是机器学习领域中的一个重要支柱。 对初学者来说,线性代数可能是一个富有挑战性的难点。那么通过这篇文章,你会收获如何学习与机器学习相关的线性代数内容的相关建议与帮助。 读完这篇文章,你就会了解: 可以参考维基百科上的文章和线性代数教材 可以学习或复习线性代数的大学课程和在线课程 一些关于线性代数主题讨论的问答网站 维基百科上的线性代数解释 维基百科是一个伟大的网站,所有的重要主题的描述大多都是简洁、正确的。但存在的不足就是缺少更多人性化的描述,如类比等。 然而,当你对线性代数有一些疑问时,我建议你首先不要从维基百科上面寻找答案。维基百科上面一些关于线性代数好的网页有以下几个: 线性代数 矩阵 矩阵分解 线性代数相关的主题列表 线性代数教材 强烈建议手头上有一本好的线性代数教材,并将其作为参考教材。一本好教材的好处就是书上内容的解释都应该是相一致,而缺点可以是非常昂贵的。那么如何去寻找一本好的教材呢?答案很简单,就是一些顶尖大学的本科或研究生课程所需的线性代数教材。 我建议的一些基础性的教材包括一下几本(仅供参考): Gilbert Strang,2016·第五版·线性代数概述 Sheldon Alex,2015·第三版·线性代数应该这样学 Ivan Savov,2017·没有废话的线性代数指南 此外,建议的一些更高层次的教材如下: Gene Golub 和 Charles Van Loan,2012·矩阵计算 Lloyd Trefethen 和 David Bau,1997·数值线性代数 另外推荐一些关于多元统计的好教材,这是线性代数和数值统计方法的集合。 Richard Johnson 和 Dean Wichern,2012·应用多元统计分析 Wolfgang Karl Hardle 和 Leopold Simar,2015·应用多元统计分析 也有一些在线的书籍,这些书籍可以在维基百科线性代数词条的最后一部分内容中可以看到。 线性代数大学课程 大学的线性代数课程是有用的,这使得本科生学习到他们应该掌握的线性代数内容。而作为一名机器学习实践者,大学的线性代数课程内容可能超过你所需掌握的内容,但这也能为你学习机器学习相关线性代数内容打下坚实的基础。 现在许多大学课程提供幻灯片的讲义、笔记等PDF电子版内容。有些大学甚至提供了预先录制的讲座视频,这无疑是珍贵的。 我鼓励你通过使用大学课程教材,深入学习相关课程来加深对机器学习中特定主题的理解。而不需要完全从头学到尾,这对于机器学习从业者来说太费时间了。 美国顶尖学校推荐的课程如下: Gilbert Strang·麻省理工学院·线性代数 Philip Klein·布朗大学·计算科学中的矩阵 Rachel Thomas·旧金山大学·针对编程者的线性代数计算 线性代数在线课程 与线性代数大学课程不同,在线课程作为远程教育而言显得不是那么完整,但这对于机器学习从业者而言学起来相当的快。推荐的一些在线课程如下: 可汗学院·线性代数 edX·线性代数:前沿基础 问答平台 目前网络上存在大量的问答平台,读者们可以在上面进行相关话题的讨论。以下是我推荐的一些问答平台,在这里要注意,一定要记得定期访问之前发布的问题及坛友的解答。 数学栈交换中的线性代数标记 交叉验证的线性代数标记 堆栈溢出的线性代数标记 Quora上的线性代数主题 Reddit上的数学主题 Numpy资源 如果你是用Python实现相关的机器学习项目,那么Numpy对你而言是非常有帮助的。 Numpy API文档写得很好,以下是一些参考资料,读者可以阅读它们来了解更多关于Numpy的工作原理及某些特定的功能。 Numpy参考 Numpy数组创建例程 Numpy数组操作例程 Numpy线性代数 Scipy线性代数 如果你同时也在寻找关于Numpy和Scipy更多的资源,下面有几个好的参考教材: 2017·用Python进行数据分析 2017·Elegant Scipy 2015·Numpy指南 作者信息 Jason Brownlee,机器学习专家,专注于机器学习教育 文章原标题《Top Resources for Learning Linear Algebra for Machine Learning》,作者:Jason Brownlee, 译者:海棠,审阅:袁虎。 原文链接 干货好文,请关注扫描以下二维码: 本篇文章为转载内容。原文链接:https://blog.csdn.net/yunqiinsight/article/details/79722954。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-11-14 09:21:43
327
转载
ZooKeeper
...的磁盘I/O瓶颈。 文中提到,结合最新的NVMe SSD固态硬盘与智能存储分层技术,可以显著提升ZooKeeper的写入速度,有效缓解磁盘压力。此外,社区还提出了一种基于FPGA加速的数据同步算法,该算法能在保持数据一致性的同时,减少不必要的磁盘I/O操作,从而大大提升了集群整体效能。 同时,也有不少开发者在实践中总结出一套完善的ZooKeeper运维策略,比如采用更精细的监控工具实时追踪节点资源使用情况,并配合自动化运维平台进行动态扩容、迁移等操作,以预防磁盘空间不足或I/O性能下降导致的服务中断。 深入研究ZooKeeper源码的专家指出,未来版本的ZooKeeper可能会引入异步刷盘机制及多级日志缓冲设计,这将进一步优化其在高并发场景下的磁盘I/O性能。因此,对于持续关注和使用ZooKeeper的企业和技术团队来说,紧跟社区最新动态并适时调整优化策略至关重要,这样才能确保在复杂多变的技术环境中始终保持系统的稳定性和可靠性。
2023-02-19 10:34:57
128
夜色朦胧
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 采集下拉词数据 闲来无事,采集一下百度下拉数据 1 进行对应的网页分析 下拉数据属于动态的数据,鼠标点击输入框出现,划出输入框消失 所以先找到对应的数据包 就要进行抓包操作 1.1 抓包操作 发现其中的关键词,并复制 打开浏览器的开发者模式(快捷键F12)并点击这个搜索按钮 打开这个搜索按钮以后,进行粘贴操作 并且按下回车! 由图可知,只搜索到一个包,在查看这个包内容之前,应该就有90%的把握就是这个包了 点开查看(没错 就是这个包了) 小细节:Preview是渲染之后的结果 Response是写代码请求的结果 接下来我们就上代码 -- coding: UTF-8 --import jsonimport requestsfrom faker import Fakerdef get_aim(file_name):"""从文件里获取想要的关键词"""with open(file_name, mode='r', encoding='utf-8') as file:keys = file.read()return keysdef aim_letter(aim):"""获取到网页的json数据并保存到txt文件"""url = f'https://m.baidu.com/sugrec?pre=1&p=3&ie=utf-8&json=1&prod=wise&from=wise_web&sugsid=128699,138809,114177,135846,141002,138945,140853,141677,138878,137978,141200,140173,131246,132552,137743,138165,107315,138883,140259,141754,140201,138585,141650,138253,140114,136196,140325,140579,133847,140793,140066,134046,131423,137703,110085,127969,140957,141581,140593,140865,139886,138426,138941,141190,140596&net=&os=&sp=null&rm_brand=0&callback=jsonp1&wd{aim}&sugmode=2&lid=12389568409845924354&sugid=1990018821100998871&preqy=java&_=1580993331416'headers = {'User-Agent': Faker().user_agent(),'Host': 'm.baidu.com','Referer': 'https://m.baidu.com/ssid=4348023d/s?word={aim}&ts=3254538&t_kt=0&ie=utf-8&rsv_iqid=2845402975&rsv_t=daabpEKSG2wGueEO%252FnXSVz2dj3oGTk5cF1suYK9xduVIBAnyA5yo&sa=ib&rsv_pq=2845402975&rsv_sug4=5130&tj=1&inputT=2405&sugid=1990018821100998871&ss=100'}res = requests.get(url, headers=headers) 由于获取到的数据不是标准的json数据要进行字符串的删减result = json.loads(res.text.replace('jsonp1', '').strip('()')) 保存到txt文件with open(f'百度下拉词.txt', mode='a', encoding='utf-8') as file:for key in result['g']:file.write(key + '\n')def main():"""进行整合,并捕捉错误"""name = input('请输入文件的名字:')start_time = time.time()try:letter = get_aim(name).split('\n') 利用线程池加快爬取速度with concurrent.futures.ThreadPoolExecutor(max_workers=100) as executor:for l in letter:executor.submit(get_data, l)except:print('请检查文件名是否存在或者文件名是否错误!!')else: 提示用户完成并打印运行时间时间print('' 30 + f'<{name}> 百度相关词 已完成' + '' 30)finally:print(time.time() - start_time)if __name__ == '__main__':main() 在此 要感谢我的晨哥!!!哈哈 本篇文章为转载内容。原文链接:https://blog.csdn.net/Result_Sea/article/details/104201970。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-06-21 12:59:26
491
转载
Hadoop
...据仓库或其他系统中。文中提到的Apache NiFi和Apache Beam都是炙手可热的ETL工具,它们能与Hadoop紧密结合,帮助用户构建复杂的数据处理流程,实现对原始数据的有效管理和利用。 Apache NiFi , Apache NiFi是一个基于Java的实时流数据处理系统,提供了一种可视化的方式来定义和管理数据流管道。通过NiFi,用户可以轻松接收、路由、处理和传输数据,并且支持高度的配置性和灵活性,可以处理各种类型的数据源和目的地。在与Hadoop集成时,NiFi可用于从HDFS读取数据、对其进行处理后,再将结果写入其他位置或系统。 Apache Beam , Apache Beam是一个统一的编程模型,旨在简化批处理和实时数据处理应用程序的开发过程。Beam允许开发者编写一次代码,就能在多个执行引擎(包括Apache Flink、Spark和Google Dataflow等)上运行,从而极大地提高了跨平台的数据处理效率。在文章中,Apache Beam被用于整合Hadoop,通过其SDK编写代码来处理HDFS中的数据,实现了数据处理逻辑的一致性和可移植性。
2023-06-17 13:12:22
583
繁华落尽-t
Etcd
...有已注册的观察者。在文中,Etcd的观察者模式被用来监听键值的变化,一旦某个键值发生更新,相关的监听器会立即收到通知并作出相应处理。这种方法非常适合用于实时监控系统状态或触发特定业务逻辑,增强了系统的响应能力和灵活性。
2025-03-21 15:52:27
55
凌波微步
HessianRPC
...统中的服务间通信。在文中,重点讨论了如何在使用HessianRPC构建的服务中实现自动化安全检测,包括输入验证、异常处理和权限控制等方面。
2024-09-08 16:12:35
103
岁月静好
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 目录 1.调整桌面的图标大小 2.怎么把我的电脑放到桌面上win10 3.分屏 4.磁盘清理大法 5.hiberfil.sys&swapfile.sys 6.windows中的休眠与睡眠 7.WPS中如何不做拼写检查 8.EV视频相关方法 9.WINDOW自带剪辑方法 10.快捷键大全 11.B站上传合集 12.查看WIN电脑配置 1.调整桌面的图标大小 搜索注册表,在运行里键入regedit就可以进入了,修改计算机\HKEY_CURRENT_USER\Control Panel\Desktop\WindowMetrics中的IconSpacing,IconVerticalSpacing等值可以进行调整,之后重启电脑使得修改生效即可. 2.怎么把我的电脑放到桌面上win10 引用别人的链接:win10中如何把我的电脑放到桌面上 3.分屏 分屏的方法 4.磁盘清理大法 C:\Users\HP\AppData--占的空间很大 C:\Users\HP\AppData\Roaming\Code --大 C:\Users\HP\AppData\Roaming\Code\User\workspaceStorage ---大! C:\Users\HP\AppData\Roaming\Code\User\workspaceStorage\281c5e08bf4f59f783a3aa64953fdc77\ms-vscode.cpptools ---大!! C:\Users\HP\AppData\Roaming--文件夹能删除吗 C:\Users\HP\Documents\Tencent Files D:\014-电子书\017-杂乱下载C盘\腾讯\5723\Image--腾讯聊天的图 C:\Users\HP\AppData\Local\Microsoft---6G 5.hiberfil.sys&swapfile.sys 可参考的相关hiberfi.sys和swapfile.sys的链接 今天HP1号的C盘满了,昨天还有5G的,今天只有2G了,发现了这两个文件.hiberfil.sys有3.12G,swapfile.sys256M. 经查,“hiberfil.sys”是系统休眠文件,其大小和物理内存一样大,这里我要解释下两个名字,计算机的休眠(hibernate)与睡眠(sleep),我们常用的是sleep功能, 即电脑放置一段时间, 进入低耗状态, 工作态度保存在内存里, 恢复时1-2秒就可以恢复原状态.这个功能是实用的, 也是最常用的. hibernate是把工作状态即所有内存中的数据,写入到硬盘(这就是hiberfil.sys文件),然后关闭系统,在下次启动开机时,将保持的数据写回内存,虽然需要花费些时间,但好处就是你正在进行中的工作,都会被保存起来,就算断电以后也不回消失,这也就是为什么经常有人说几个月不用关机的原因,当然休眠并不是必须的,完全看你这个需求了,如果确实有需要也不用care这点硬盘啦。有网友说--这个文件大小的描述错误,hiberfil.sys的大小并≠内存大小,因为该文件貌似是压缩过。我的内存是8G,这个.hiberfil.sys有3.12G,这样看这个网友说的对的. hiberfi.sys的链接 首先分清SLEEP睡眠和HIBERNATE休眠两个概念. 我们常用的是SLEEP睡眠功能, 也就是电脑经过一定时间后, 进入低功耗状态, 工作态度保存在内存里, 恢复时1-2秒就可以恢复原状态.这个功能是实用的, 也是最常用的. 而休眠是把工作状态即所有内存信息写入硬盘,如有2-4G内存,即要写入2-4G的文件到硬盘,然后才能关机,开机恢复要读取2-4G的文件到内存,才能恢复原界面.而大文件的读写要花大量 的时间,已经不亚于正常开机了,所以现在休眠功能很不实用(针对1G以上内存). 休眠的HIBERFIL.SYS这个文件就是用来休眠时保存内存状态用的.会占用C盘等同内存容量的空间(以2G内存为例,这个文件也为2G),所以完全可以删掉而不影响大家使用.还会大大节省C盘空间的占用。 操作: 以管理员运行CMD, 打以下命令: POWERCFG -H OFF 即自动删除该文件. 大家看处理前后C盘空间的变化就知道了. 怎么以管理员运行: 在“所有程序”->“附件”->“命令提示符”上右键,选“以管理员运行” 如果本身是以管理员身份登录,直接运行cmd即可。 我做的测试: 文件位置C:\hiberfil.sys “pagefile.sys”是页面交换文件(即虚拟内存),这个文件不能删除,不过可以改变其大小和存放位置. 6.windows中的休眠与睡眠 windows中的休眠与睡眠 7.WPS中如何不做拼写检查 WPS中如何不做拼写检查 8.EV视频相关方法 如何利用EV视频剪辑软件合并视频 EV剪辑怎么给视频添加字幕 9.WINDOW自带剪辑方法 WIN10自带剪辑视频的方法 10.快捷键大全 快捷键大全 11.B站上传合集 B站上传合集 12.查看WIN电脑配置 13.windows远程桌面链接 win+Rmstsc 14.word中的边框和底纹如何应用于文字,段落和页面 word中边框和底纹——应用于文字、段落、页面分别如何设置? 本篇文章为转载内容。原文链接:https://blog.csdn.net/Edidaughter/article/details/111231562。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-03-01 13:02:11
117
转载
Consul
...连接到其他服务。在本文中,我们将探讨如何使用Consul作为服务发现的基础设施,构建一个高效、灵活且可扩展的服务网格。 1. 为什么选择Consul? Consul 是一个开源的分布式系统工具包,提供了服务发现、健康检查、配置管理和多数据中心支持等功能。哎呀,这个东西啊,是建立在Raft一致性算法的基础上的,就像咱们家里的电路,不管外面刮风下雨,都能稳稳地供电一样,它在那些分散开来的设备间跑来跑去,遇到问题也能自己想办法解决,保证啥时候你用着都舒心,不会突然断电。这可是个厉害的小家伙呢!相比于其他服务发现方案,Consul 的优势在于其简洁的设计、丰富的API接口以及良好的社区支持。 2. Consul 的基本概念 - 服务(Service):在Consul中,服务被定义为一组运行在同一或不同节点上的实例。 - 服务注册(Service Registration):服务需要主动向Consul注册自己,提供诸如服务名称、标签、地址和端口等信息。 - 服务发现(Service Discovery):Consul通过服务标签和健康检查结果,为客户端提供服务的动态位置信息。 3. 安装与配置Consul 首先,确保你的开发环境已经安装了Go语言环境。然后,可以使用官方提供的脚本或者直接从源码编译安装Consul。接下来,配置Consul的基本参数,如监听端口、数据目录等。对于生产环境,建议使用持久化存储(如Etcd、KV Store)来存储状态信息。 bash 使用官方脚本安装 curl -s https://dl.bintray.com/hashicorp/channels | bash -s -- -b /usr/local/bin consul 启动Consul服务 consul server 4. 使用Consul进行服务注册与发现 服务注册是Consul中最基础的操作之一。通过简单的HTTP API,服务可以将自己的信息(如服务名、IP地址、端口)发送给Consul服务器,完成注册过程。 go package main import ( "fmt" "net/http" "os" "github.com/hashicorp/consul/api" ) func main() { c, err := api.NewClient(&api.Config{ Address: "localhost:8500", }) if err != nil { fmt.Println("Error creating Consul client:", err) os.Exit(1) } // 注册服务 svc := &api.AgentService{ ID: "example-service", Name: "Example Service", Tags: []string{"example", "service"}, Address: "127.0.0.1", Port: 8080, Weights: []float64{1.0}, Meta: map[string]string{"version": "v1"}, Check: &api.AgentServiceCheck{ HTTP: "/healthcheck", Interval: "10s", DeregisterCriticalServiceAfter: "5m", }, } // 发送注册请求 resp, err := c.Agent().ServiceRegister(svc) if err != nil { fmt.Println("Error registering service:", err) os.Exit(1) } fmt.Println("Service registered:", resp.Service.ID) } 服务发现则可以通过查询Consul的服务列表来完成。客户端可以通过Consul的API获取所有注册的服务信息,并根据服务的标签和健康状态来选择合适的服务进行调用。 go package main import ( "fmt" "time" "github.com/hashicorp/consul/api" ) func main() { c, err := api.NewClient(&api.Config{ Address: "localhost:8500", }) if err != nil { fmt.Println("Error creating Consul client:", err) os.Exit(1) } // 查询特定标签的服务 opts := &api.QueryOptions{ WaitIndex: 0, } // 通过服务名称和标签获取服务列表 services, _, err := c.Health().ServiceQuery("example-service", "example", opts) if err != nil { fmt.Println("Error querying services:", err) os.Exit(1) } for _, svc := range services { fmt.Printf("Found service: %s (ID: %s, Address: %s:%d)\n", svc.Service.Name, svc.Service.ID, svc.Service.Address, svc.Service.Port) } } 5. 性能与扩展性 Consul通过其设计和优化,能够处理大规模的服务注册和发现需求。通过集群部署,可以进一步提高系统的可用性和性能。同时,Consul支持多数据中心部署,满足了跨地域服务部署的需求。 6. 总结 Consul作为一个强大的服务发现工具,不仅提供了简单易用的API接口,还具备高度的可定制性和扩展性。哎呀,你知道吗?把Consul整合进服务网格里头,就像给你的交通系统装上了智能导航!这样一来,各个服务之间的信息交流不仅快得跟风一样,还超级稳,就像在高速公路上开车,既顺畅又安全。这可是大大提升了工作效率,让咱们的服务运行起来更高效、更可靠!随着微服务架构的普及,Consul成为了构建现代服务网格不可或缺的一部分。兄弟,尝试着运行这些示例代码,你会发现如何在真正的工程里用Consul搞服务发现其实挺好玩的。就像是给你的编程技能加了个新魔法,让你在项目中找服务就像玩游戏一样简单!这样一来,你不仅能把这玩意儿玩得溜,还能深刻体会到它的魅力和实用性。别担心,跟着我,咱们边做边学,保证让你在实际操作中收获满满!
2024-08-05 15:42:27
34
青春印记
转载文章
...互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。 在VMware 14虚拟机下,ndn-cxx和NFD平台搭建 实验环境 开始 安装ubuntu 16.04.5 安装ndn-cxx 0.6.3 安装NFD 0.6.3 执行示例程序 实验环境 ubuntu 16.04.5,桥接模式。 版本:ndn-cxx-0.6.3,NFD-0.6.3 原文安装方法: ndn-cxx-0.6.3:http://named-data.net/doc/ndn-cxx/current/INSTALL.html NFD-0.6.3:https://named-data.net/doc/NFD/0.6.3/INSTALL.html 开始 本人搭了很久,脑袋都大了,终于在经历了千辛万苦之后把这个鬼东西给搭出来了。ndn-cxx-0.6.3是基础,NFD要依赖ndn-cxx的库,所以我们先来安装ndn-cxx。 我是直接从网站上下载的两个源代码,所以安装过程中和指导文献有所不同。 安装ubuntu 16.04.5 安装之后,有几个安装过程中需要用到的软件: 打开终端 ctrl+alt+t sudo apt-get updatesudo apt-get install vimsudo apt-get install curl 之后,我们把下载好的ndn-cxx 0.6.3和NFD 0.6.3拷贝到:/usr/local/lib 路径下(不要问为啥,计算机路径这个东西真是恶心人),完成之后我们开始安装ndn-cxx 0.6.3 安装ndn-cxx 0.6.3 打开终端: ctrl+alt+t sudo apt-get install build-essential libsqlite3-dev libboost-all-dev libssl-dev sudo apt-get install doxygen graphviz python-sphinx python-pip 这里指导安装步骤还有sudo pip install sphinxcontrib-doxylink sphinxcontrib-googleanalytics,这个可能是以前的版本需要的依赖的包,但在0.6.3中并不需要,而且装上还会报错(卡在这里好久),因此我们就不装这个。 之后我们进入ndn-cxx 0.6.3的根目录: cd /usr/local/lib/ndn-cxx-0.6.3 接连执行以下命令 sudo ./waf configuresudo ./wafsudo ./waf install 在运行第2个命令的时候,会出现如下结果: 我们这里不用理会(不知道为啥,虽然出了ERROR,但是还是可以运行,可能最后他只是出了个WARNING,而且在过程中,WARNING都是可以忽略的)。等出现如图所示的结果: 我们就可以进行下一步: sudo ldconfig sudo ./waf configure --with-examplessudo ./wafsudo ./waf install 到此,ndn-cxx 0.6.3的环境就装好了。 安装NFD 0.6.3 打开终端,按照以下代码依次输入: sudo apt-get install software-properties-common sudo add-apt-repository ppa:named-data/ppasudo apt-get update sudo apt-get install nfd 原文指导步骤,之后是利用git命令下载ndn-cxx和nfd,因为我们提前下载过了并拷贝进虚拟机,因此,在此忽略该步骤。 sudo apt-get install build-essential pkg-config libboost-all-dev \libsqlite3-dev libssl-dev libpcap-dev sudo apt-get install doxygen graphviz python-sphinx 之后,我们进入nfd 0.6.3根目录: cd /usr/local/lib/nfd-0.6.3 进入root模式,安装一个库(很重要,因为我们不是利用git命令安装,这步必不可少;否则下一步下面会报错中断): sudo sucurl -L https://github.com/zaphoyd/websocketpp/archive/0.7.0.tar.gz > websocket.tar.gztar zxf websocket.tar.gz -C websocketpp/ --strip 1exit 之后,执行以下命令: sudo ./waf configuresudo ./wafsudo ./waf install 同样,过程中出现WARNING不用管。 最后,一定记着执行以下命令: sudo cp /usr/local/etc/ndn/nfd.conf.sample /usr/local/etc/ndn/nfd.conf 这样才能成功开启nfd。 至此,ndn-cxx 0.6.3和nfd 0.6.3全部安装完成。 执行示例程序 打开终端,运行nfd nfd-start(可能需要输入密码) 在ndn-cxx 0.6.3根目录下打开终端,进入examples目录,或者直接在example目录下打开终端(我选择这种方式,因为懒)。 这里,必须先运行producer程序,再运行consumer程序,作为学计算机的,应该不需要解释为啥了吧。 在一个终端下执行producer命令: ./producer 再打开一个终端,执行consumer命令: ./consumer 这时就可以成功看到交互了,但是有点儿问题,consumer会出现warning,如图所示: 这是为啥呢,好像是因为最近的版本,必须为interest报文指定一个默认前缀,为了之后的APP功能设计,详情请看以下链接: http://named-data.net/doc/ndn-cxx/current/doxygen/d1/d81/classndn_1_1Interest.htmla0275843d0eda5134e7fd7e787f972e78 这里我们怎么修改才能让他不显示这个warning呢?按照以下步骤: 进入ndn-cxx 的src目录: cd /usr/local/lib/ndn-cxx-0.6.3/src 修改interest.cpp文件,因为权限设置,我们在root下使用vim命令修改: sudo su(输入密码)vim interest.cpp找到 static bool hasDefaultCanBePrefixWarning = false将false改为true 之后,我们在ndn-cxx 0.6.3目录下再编译运行一下就行了,即: sudo ./waf configure --with-examplessudo ./wafsudo ./waf install 之后再examples目录再执行两个程序,就可以得到结果: 至此环境已经搭好,目前正准备进行后续工作。。。。。 望各位大佬手下留情,转载注明出处,感谢感谢!!!! 本篇文章为转载内容。原文链接:https://blog.csdn.net/silent_time/article/details/84146586。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-03-30 19:22:59
322
转载
站内搜索
用于搜索本网站内部文章,支持栏目切换。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
echo 'string' > /dev/null
- 忽略输出,常用于抑制命令的输出结果。
推荐内容
推荐本栏目内的其它文章,看看还有哪些文章让你感兴趣。
2023-04-28
2023-08-09
2023-06-18
2023-04-14
2023-02-18
2023-04-17
2024-01-11
2023-10-03
2023-09-09
2023-06-13
2023-08-07
2023-03-11
历史内容
快速导航到对应月份的历史文章列表。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"