[查询第二条记录 ]的搜索结果

...约1G） 日志管理器查询日志不便 主要目标 启用文件系统审核 快捷查询用户的删除操作 解决方案 采用轮替方式归档日志（500MB） 日志存放60天（可用脚本删除超过期限日志档案） 使用Get-WinEvent中的FilterXPath过日志进行筛选，格式打印 删除操作码为0x10000，可对其进行筛选 二、文件审核设置 2.1 开启文件系统审核功能 secpol.msc Advanced Audit Policy Configuration Object Access Audit File System [x] Configure the following audit events: [x] Success [x] Failure 2.2 建立共享文件夹 Folder Properties Sharing Choose people to share with Everyone 2.3 设置文件夹审核的用户组 Folder Properties Security Advanced Auditing Add user 2.4 设置日志路径及大小 Event Viewer Windows Logs Security Log Properties Log Path: E:\FileLog\Security.evtx Maximum log size(KB): 512000 [x] Archive the log when full,do not overwrite events 三、方法 筛选事件ID为4460日志 PS C:\Windows\system32> Get-WinEvent -LogName Security -FilterXPath "[System[EventID=4660]]"ProviderName: Microsoft-Windows-Security-AuditingTimeCreated Id LevelDisplayName Message----------- -- ---------------- -------5/22/2018 10:01:37 AM 4660 Information An object was deleted....5/22/2018 9:03:11 AM 4660 Information An object was deleted.... 筛选文件删除日志 PS C:\Windows\system32> Get-WinEvent -LogName "Security" -FilterXPath "[EventData[Data[@Name='AccessMask']='0x10000']]"ProviderName: Microsoft-Windows-Security-AuditingTimeCreated Id LevelDisplayName Message----------- -- ---------------- -------5/22/2018 10:01:37 AM 4663 Information An attempt was made to access an object....5/22/2018 9:03:11 AM 4663 Information An attempt was made to access an object.... 筛选指定用户文件删除日志 PS C:\Windows\system32> Get-WinEvent -LogName "Security" -FilterXPath "[EventData[Data[@Name='AccessMask']='0x10000']] and [EventData[Data[@Name='SubjectUserName']='lxy']]"ProviderName: Microsoft-Windows-Security-AuditingTimeCreated Id LevelDisplayName Message----------- -- ---------------- -------5/22/2018 9:03:11 AM 4663 Information An attempt was made to access an object.... 以变量方式筛选指定用户文件删除日志 PS C:\Windows\system32> $AccessMask='0x10000'PS C:\Windows\system32> $UserName='lxy'PS C:\Windows\system32> Get-WinEvent -LogName "Security" -FilterXPath "[EventData[Data[@Name='AccessMask']='$AccessMask']] and [EventData[Data[@Name='SubjectUserName']='$UserName']]"ProviderName: Microsoft-Windows-Security-AuditingTimeCreated Id LevelDisplayName Message----------- -- ---------------- -------5/22/2018 9:03:11 AM 4663 Information An attempt was made to access an object.... 从保存的文件筛选文件删除日志 PS C:\Users\F2844290> Get-WinEvent -Path 'C:\Users\F2844290\Desktop\SaveSec.evtx' -FilterXPath "[EventData[Data[@Name='AccessMask']='0x10000']]"PS C:\Windows\system32> $AccessMask='0x10000' 筛选10分钟内发生的安全性日志 XML中时间计算单位为ms，10minute=60 10 1000=600000 PS C:\Windows\system32> Get-WinEvent -LogName Security -FilterXPath "[System[TimeCreated[timediff(@SystemTime) < 600000]]]"ProviderName: Microsoft-Windows-Security-AuditingTimeCreated Id LevelDisplayName Message----------- -- ---------------- -------5/22/2018 4:11:30 PM 4663 Information An attempt was made to access an object....5/22/2018 4:11:30 PM 4663 Information An attempt was made to access an object....5/22/2018 4:11:30 PM 4663 Information An attempt was made to access an object....5/22/2018 4:11:30 PM 4663 Information An attempt was made to access an object.... 其它筛选方法 若有语法不明之处，可参考日志管理器中筛选当前日志的XML方法。 删除超过60天的存档日志并记录 Get-ChildItem E:\FileLog\Archive-Security- | Where-Object {if(( (get-date) - $_.CreationTime).TotalDays -gt 60 ){Remove-Item $_.FullName -ForceWrite-Output "$(Get-Date -UFormat "%Y/%m%d")t$_.Name" >>D:\RoMove-Archive-Logs.txt} } 四、其它文件 文件删除日志结构 Log Name: SecuritySource: Microsoft-Windows-Security-AuditingDate: 5/22/2018 9:03:11 AMEvent ID: 4663Task Category: File SystemLevel: InformationKeywords: Audit SuccessUser: N/AComputer: IDX-ST-05Description:An attempt was made to access an object.Subject:Security ID: IDX-ST-05\lxyAccount Name: lxyAccount Domain: IDX-ST-05Logon ID: 0x2ed3b8Object:Object Server: SecurityObject Type: FileObject Name: C:\Data\net.txtHandle ID: 0x444Process Information:Process ID: 0x4Process Name: Access Request Information:Accesses: DELETEAccess Mask: 0x10000Event Xml:<Event xmlns="http://schemas.microsoft.com/win/2004/08/events/event"><System><Provider Name="Microsoft-Windows-Security-Auditing" Guid="{54849625-5478-4994-A5BA-3E3B0328C30D}" /><EventID>4663</EventID><Version>0</Version><Level>0</Level><Task>12800</Task><Opcode>0</Opcode><Keywords>0x8020000000000000</Keywords><TimeCreated SystemTime="2018-05-22T01:03:11.876720000Z" /><EventRecordID>1514</EventRecordID><Correlation /><Execution ProcessID="4" ThreadID="72" /><Channel>Security</Channel><Computer>IDX-ST-05</Computer><Security /></System><EventData><Data Name="SubjectUserSid">S-1-5-21-1815651738-4066643265-3072818021-1004</Data><Data Name="SubjectUserName">lxy</Data><Data Name="SubjectDomainName">IDX-ST-05</Data><Data Name="SubjectLogonId">0x2ed3b8</Data><Data Name="ObjectServer">Security</Data><Data Name="ObjectType">File</Data><Data Name="ObjectName">C:\Data\net.txt</Data><Data Name="HandleId">0x444</Data><Data Name="AccessList">%%1537</Data><Data Name="AccessMask">0x10000</Data><Data Name="ProcessId">0x4</Data><Data Name="ProcessName"></Data></EventData></Event> 文件操作码表 File ReadAccesses: ReadData (or ListDirectory)AccessMask: 0x1File WriteAccesses: WriteData (or AddFile)AccessMask: 0x2File DeleteAccesses: DELETEAccessMask: 0x10000File RenameAccesses: DELETEAccessMask: 0x10000File CopyAccesses: ReadData (or ListDirectory)AccessMask: 0x1File Permissions ChangeAccesses: WRITE_DACAccessMask: 0x40000File Ownership ChangeAccesses: WRITE_OWNERAccessMask: 0x80000 转载于:https://blog.51cto.com/linxy/2119150 本篇文章为转载内容。原文链接：https://blog.csdn.net/weixin_34112900/article/details/92532120。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

... 2.查看版本的提交记录 3.进入不同版本 4.分支操作 5.比较文件 四、遇到的错误 一、下载 用于 Windows 安装程序的 32 位 Git。 用于 Windows 安装程序的 64 位 Git。 二、基本命令 git命令和linux的命令基本相同，大部分linux命令在git中都可以使用。 1.初始化本地库 a.首先新建一个文件夹，进入文件夹，点击鼠标右键，找到菜单中的 Git Bash Here，点击进入命令界面。 b.输入命令 git init 初始化本地仓库 你会发现你的文件夹内多出一个 .git文件证明你的本地仓库初始化成功。 有的电脑可能会隐藏后缀名的文件，无法看到 .git文件，你需要去电脑设置可查看隐藏文件。方法：进入此电脑，点击上方查看，勾选隐藏的项目即可查看被隐藏的文件。 2、设置签名 签名主要是设置用户名和email地址，有两种级别：一种是项目级别 git config user.name 用户名， git config user.email邮箱地址；另一种是系统用户级别 git config --global user.name 用户名， git config --global user.email 邮箱地址。项目级别是优先于系统级别的，但二者至少设置一个。一般只用项目级别就行。 用 cat .git/config可以查看设置的项目签名。 3.将文件/目录从工作区追加到暂存区 命令 ：git add 文件/目录 4.查看状态 命令：git status。 第一行信息告诉我们，目前正处于master分支； 第二行信息告诉我们，本地库还没有上传任何文件； 第三、四、五行信息告诉我们，可以用以下命令把暂存区的文件（绿色文件）上传到本地库。 5.把暂存区的文件移除 代码：git rm --cached 文件名。注意文件只是从暂存区中移除，并没有在目录中被删除。 未追加在暂存区的文件显示红色。 6.把文件从暂存区上传到本地库 命令：git commit -m "注释内容" 文件名。 这是查看状态可以看到暂存区已经没有文件可以上传到本地库，说明你上传成功。 7.将文件变为未暂存状态 命令：git rest HEAD 文件名。对在暂存区的文件进行操作。 8.创建远程仓库并推送 a.首先我们要有一个github或gitee账号： github官网：https://github.com/ gitee官网：https://gitee.com/ b.然后在里面创建一个远程仓库（以gihub为例）： 登录进入主页面，找到并点击右上角的加号，点击 New repository,然后填写仓库信息。或者找到点击左方的 New选项。进入创建界面，填入信息。 下面三个选项可根据需要勾选。点击 Create...就创建号一个仓库了。 c.复制仓库地址 找到左上方导航Code选项，点击进入该选项 有两个地址：HTTP地址和SSH地址。我一般用HTTP地址（简单）。 如果你创建远程仓库时选择了下面的三个选项，可能你的Code界面会有所差别，点击右方的 Code即可查看仓库地址。 然后进入git命令界面：输入命令 git remote add origin(别名) 地址为你复制的地址创建别名并储存。命令 git remote -v查看你设置过的地址。 d.最后进行推送操作，将本地仓库推送到远程仓库。 命令 git push -u origin(你要推送到的远程仓库地址) master(你要推送的分支).在第一次推送是用上 -u选项，之后就可以不用。 该界面为成功推送，你再刷新你的github或gitee仓库，这是你上传的文件将出现在远程仓库表明推送成功。 注意：1.如果创建远程仓库时勾选了下面的三个选项，则可能你刷新时没发现有新文件推送到仓库，这是先找到红色划线位置，查看当前分支是否自己推送的分支，找到正确分支再看是否正确推送。 2.如果你是第n次推送，必须要在和远程仓库版本一样的条件下进行修改后推送，否则无法推送（不能跨多个版本推送）。 3.如果推送不成功，可能是你修改前的版本和远程库的版本不一致造成，先进行拉取，在修改推送。 9.删除远程仓库 首先进入要删除的远程仓库，点击上方导航条中的 Settings选项 然后找到进入左边菜单栏中的 Options选项，鼠标划到最下面找到 点击Delete this repository选项 最后按指示输入github用户名和密码进行删除即可。 10.拉取远程仓库 命令：git pull origin master。 在打算更新远程库时，先拉取远程库然后修改或添加，否则可能报错。 表明拉取成功。 注意：若你的本地仓库进行了修该导致无法拉去成功，则尝试用 git pull --rebase命令进行拉取。 三、其他命令 1.查看命令信息指令 命令：git help 2.查看版本的提交记录 命令：git log 以每条版本日志显示一行：git log --pretty=oneline 简写哈希值的方式：git log --oneline 可以看到前进后退步数：git reflog 3.进入不同版本 先用 git reflog命令查看哈希值 a.命令：git reset --hard 哈希值（索引） b.命令：git reset --hard HEAD^，该命令只能后退（查看当前版本之前的版本），后面几个 ^ 则后退几步。 c.命令：git reset --hard~，该命令只能后退（查看当前版本之前的版本），后退 （数值） 步； 4.分支操作 命令：git branch -v，查看所有分支 命令：git branch 分支名，创建分支 命令：git checkout 分支名，切换分支 5.比较文件 命令：git diff 文件名，工作区和暂存区比较 命令：git diff HEAD 文件名，当前版本比较 命令：git diff HEAD^ 文件名，历史版本比较 四、遇到的错误 git config --global http.sslVerify false 本篇文章为转载内容。原文链接：https://blog.csdn.net/qq_56180999/article/details/117634968。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...前提 基本思路 键鼠记录器脚本 前期准备 脚本原理 注意事项 检查下载效果 写在前面 整理专利的时候，在专利引擎上只能一条条的下载，很是烦人。我比较讨厌这种重复性劳动，所以每次碰上都得想想办法怎么自动化操作，虽然上每次研究自动化办法的时间把都足够把活干完了哈哈。可惜的是每次搞完都没有把文档保留下来，下次有点什么事情又得从头开始。因此准备开始写写文档记录一些思路，同时如果能帮到有需要的人就更好了！ 适合人群 不会爬虫的都可以来看看！能大概看明白python就够了。 使用前提 python环境配好 有梯子 不排斥键鼠记录器读取键鼠记录 基本思路 现在的专利搜索引擎大概都有批量下载库，如果只要摘要的话直接下载就可以了。但是下载全文的时候，大部分引擎都不支持批量下载，只能一个一个点，还得输验证码。 这里就不得不提到google patent了，这是我目前找到的唯一一个不需要验证码就能下载的专利引擎了（其实主要是还不会用python识别验证码）。那么有了google patent这个神器，就可以用自动办法来进行下载了。我这里使用的是按键精灵，傻瓜式操作。（没用python爬虫的原因是requests不能挂梯子。。。这里我不是很确定是什么问题，希望有大佬指点一下。anyway，主要思路就是用键鼠记录器点点点，我用的是按键精灵，理论上什么记录器都可以。 ps. 听说poxoq能批量下载，但是新版本只能下载前十页，因此我没有尝试，如果能直接下载全文的话请评论区告诉我。 键鼠记录器脚本 前期准备 按格式排好公开号或者申请号，在编辑器中打开； 把google patent搜索页面和文本编辑器分屏显示，便于操作。 脚本原理 以edge浏览器为例，按键精灵双击全选文本中第一行的公开号，ctrl+c复制，鼠标转到网页搜索框，ctrl+v粘贴，点搜索。等搜索完成右键download PDF，选链接另存为并确定，之后点击网页关闭下载栏，一次下载完成。返回编辑器，删除第一行的文本，把第二行提到第一行，完成复位。 这样就形成了完整的一次过程，只要重复运行脚本就可以把所有专利全文下载下来。 注意事项 实际操作中，可能遇到两大问题： 网页反馈问题 这里指的是搜索后没有来到我们想象中的专利页，可能是没有搜索到专利，或该专利google patent没有pdf文档，这时如果脚本还在运行，那么显然就会错误运行。 脚本运行问题 主要要考虑的是命令之间的延时。延时调小确实运行速度会变快，但是如果电脑运行速度不够或者网速/服务器慢了，就会错误执行命令。我的建议是文本操作可以适当删减延时，涉及网页的部分适量增加延时，保证脚本的容错率。 由此可以看出来这个脚本还是离不开人的，在跑的时候还是需要盯着点，如果有错误可以及时处理。 检查下载效果 看了上面的注意事项，想必你也知道这个脚本不太靠谱。那么解决这个问题的方法就是负反馈。下载完了检查一遍就好了。 由于google patent下载的文件是以公开号命名的，所以对照要下载的和已下载的公开号就能看出哪些专利没有下载成功。 我这里写了一个python小脚本。 import pandas as pdimport os读取待下载专利的公开号，地址修改成你自己存放的位置df = pd.read_excel("target.xlsx",header= 0, usecols= "B").drop_duplicates()取前11位作为对比（以中国专利作为参考）PublicNumber_tgt = list(map(lambda x: x[0:11],df["公开（公告）号"].to_list()))读取已下载专利的公开号，地址修改成你自己存放的位置filelist=os.listdir(r'C:\Users\mornthx\Desktop\专利全文')取前11位作为对比PublicNumber_dl = list(map(lambda x: x[0:11],filelist))比较两者差值diff = set(PublicNumber_tgt).difference(set(PublicNumber_dl))print(diff) 没下载的专利具体问题具体解决就好了。 希望能帮到大家！ 本篇文章为转载内容。原文链接：https://blog.csdn.net/weixin_38688347/article/details/124000919。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...储原始业务数据的明细记录，为后续的数据分析提供基础支撑，特点是保持原始数据的粒度，不做任何聚合处理，以便于进行多维度的统计分析。 Spark SQL , Spark SQL是Apache Spark项目中的一部分，它将SQL查询能力与Spark的分布式计算框架相结合，使得用户能够通过标准的SQL语句或者DataFrame API对大规模数据集进行操作。Spark SQL不仅可以处理结构化数据，还能无缝对接Hive表和其他外部数据源，实现复杂的数据处理任务，如过滤、排序、聚合等，并支持将结果写入多种数据库系统，包括MySQL。 MySQL数据库shtd_store , MySQL是一个开源的关系型数据库管理系统，广泛应用于Web应用开发。在本文的上下文中，“MySQL数据库shtd_store”指的是作者在MySQL服务器上创建的一个特定的数据库实例，名为“shtd_store”，用于存储从数据仓库中导出的统计结果数据，如国家地区每月下单数量及总金额等信息。MySQL因其稳定、高效、易于管理的特点，常被选为数据仓库下游存储系统的组成部分之一，以支持OLAP在线分析处理场景的需求。

...尤为重要。 第二部分：Memcached的基本原理与限制 Memcached通过键值对的方式存储数据，其设计初衷是为了提供快速的数据访问，而不涉及复杂的数据结构和事务管理。这就好比你有一款游戏，它的规则设定里就没有考虑过时间旅行或者穿越时空的事情。所以，你不能在游戏中实现回到过去修改错误或者尝试不同的未来路径。同理，这个系统也一样，它的设计初衷没有考虑到版本更新时的逻辑问题，所以自然也就无法直接支持多版本控制了。 第三部分：实现多版本控制的方法 1. 使用命名空间进行版本控制 一个简单的策略是为每个数据项创建一个命名空间，其中包含当前版本的键和历史版本的键。例如： python import memcache mc = memcache.Client(['127.0.0.1:11211'], debug=0) def set_versioned_data(key, version, data): mc.set(f'{key}_{version}', data) mc.set(key, data) 保存最新版本 设置数据 set_versioned_data('product', 'v1', {'name': 'Product A', 'price': 10}) 更新数据并设置新版本 set_versioned_data('product', 'v2', {'name': 'Product A (Updated)', 'price': 15}) 2. 利用时间戳进行版本控制 另一种方法是在数据中嵌入一个时间戳字段，作为版本标识。这种方法在数据频繁更新且版本控制较为简单的情况下适用。 python import time def set_timestamped_data(key, timestamp, data): mc.set(f'{key}_{timestamp}', data) mc.set(key, data) 设置数据 set_timestamped_data('product', int(time.time()), {'name': 'Product A', 'price': 10}) 更新数据 set_timestamped_data('product', int(time.time()) + 1, {'name': 'Product A (Updated)', 'price': 15}) 第四部分：优化与挑战 在实际应用中，选择何种版本控制策略取决于具体业务需求。比如说，假设你老是得翻查过去的数据版本，那用时间戳或者命名空间跟数据库的搜索功能搭伙用，可能会是你的最佳选择。就像你去图书馆找书，用书名和出版日期做检索，比乱翻一气效率高多了。这方法就像是给你的数据做了个时间轴或者标签系统，让你想看哪段历史一搜就出来，方便得很！同时，考虑到内存资源的限制，应合理规划版本的数量，避免不必要的内存占用。 结论 Memcached本身不提供内置的多版本控制功能，但通过一些简单的编程技巧，我们可以实现这一需求。无论是使用命名空间还是时间戳，关键在于根据业务逻辑选择最适合的实现方式。哎呀，你知不知道在搞版本控制的时候，咱们得好好琢磨琢磨性能优化和资源管理这两块儿？这可是关乎咱们系统稳不稳定的头等大事，还有能不能顺畅运行的关键！别小瞧了这些细节，它们能让你的程序像开了挂一样，不仅跑得快，而且用起来还特别省心呢！所以啊，做这些事儿的时候，可得细心点，别让它们成为你系统的绊脚石！ 后记 在开发过程中，面对复杂的数据管理和版本控制需求，灵活运用现有工具和技术，往往能取得事半功倍的效果。嘿！小伙伴们，咱们一起聊聊天呗。这篇文章呢，就是想给那些正跟咱们遇到相似难题的编程大神们一点灵感和方向。咱们的目标啊，就是一块儿把技术这块宝地给深耕细作，让它开出更绚烂的花，结出更甜美的果子。加油，程序员朋友们，咱们一起努力，让代码更有灵魂，让技术更有温度！

...层次高，可以将复杂的查询逻辑转化为简单易懂的脚本形式，从而降低数据处理的门槛。 三、Scripting Shell的引入 让Pig脚本更加灵活 Apache Pig提供了多种运行环境，其中Scripting Shell是用户最常使用的交互式环境之一。哎呀，小伙伴们！使用Scripting Shell，咱们可以直接在命令行里跑Pig脚本啦！这不就方便多了嘛，想看啥结果立马就能瞅到，遇到小问题还能马上调试调调试，改一改，试一试，挺好玩的！这样子，咱们的操作过程就像在跟老朋友聊天一样，轻松又自在~哎呀，这种交互方式简直是开发者的大救星啊！特别是对新手来说，简直就像有了个私人教练，手把手教你Pig的基本语法规则和工作流程，让你的学习之路变得轻松又愉快。就像是在玩游戏一样，不知不觉中就掌握了技巧，感觉真是太棒了！ 四、使用Scripting Shell进行数据处理 实战演练 让我们通过几个具体的例子来深入了解如何利用Scripting Shell进行数据处理： 示例1：加载并查看数据 首先，我们需要从HDFS加载数据集。假设我们有一个名为orders.txt的文件，存储了订单信息，我们可以使用以下脚本来加载数据并查看前几行： pig A = LOAD 'hdfs://path_to_your_file/orders.txt' USING PigStorage(',') AS (order_id:int, customer_id:int, product_id:int, quantity:int); dump A; 在这个例子中，我们使用了LOAD语句从HDFS加载数据，PigStorage(',')表示数据分隔符为逗号，然后定义了一个元组类型(order_id:int, customer_id:int, product_id:int, quantity:int)。dump命令则用于输出数据集的前几行，帮助我们验证数据是否正确加载。 示例2：数据过滤与聚合 接下来，假设我们想要找出每个客户的总订单数量： pig B = FOREACH A GENERATE customer_id, SUM(quantity) as total_quantity; C = GROUP B by 0; D = FOREACH C GENERATE key, SUM(total_quantity); dump D; 在这段脚本中，我们首先对原始数据集A进行处理，计算每个客户对应的总订单数量（步骤B），然后按照客户ID进行分组（步骤C），最后再次计算每组的总和（步骤D）。最终，dump D命令输出结果，显示了每个客户的ID及其总订单数量。 示例3：数据清洗与异常值处理 在处理真实世界的数据时，数据清洗是必不可少的步骤。例如，假设我们发现数据集中存在无效的订单ID： pig E = FILTER A BY order_id > 0; dump E; 通过FILTER语句，我们仅保留了order_id大于0的记录，这有助于排除无效数据，确保后续分析的准确性。 五、结语 Apache Pig的未来与挑战 随着大数据技术的不断发展，Apache Pig作为其生态中的重要组成部分，持续进化以适应新的需求。哎呀，你知道吗？Scripting Shell这个家伙，简直是咱们数据科学家们的超级帮手啊！它就像个神奇的魔法师，轻轻一挥，就把复杂的数据处理工作变得简单明了，就像是给一堆乱糟糟的线理了个顺溜。而且，它还能搭建起一座桥梁，让咱们这些数据科学家们能够更好地分享知识、交流心得，就像是在一场热闹的聚会里，大家围坐一起，畅所欲言，气氛超棒的！哎呀，你知道不？现在数据越来越多，越来越复杂，咱们得好好处理才行。那啥，Apache Pig这东西，以后要想做得更好，得解决几个大问题。首先，怎么让性能更上一层楼？其次，怎么让系统能轻松应对更多的数据？最后，怎么让用户用起来更顺手？这些可是Apache Pig未来的头等大事！ 通过本文的探索，我们不仅了解了Apache Pig的基本原理和Scripting Shell的功能，还通过实际示例亲身体验了如何使用它来进行高效的数据处理。希望这些知识能够帮助你开启在大数据领域的新篇章，探索更多可能！

...S这家伙可不懂SQL查询这门子事儿，所以啊，如果我们想对数据进行更深度的分析和复杂的查询操作，就得先把数据从HDFS里导出来，然后存到像是MySQL这样的SQL数据库中才行。 步骤一：设置环境 首先，我们需要确保已经安装了所有必要的工具和软件。以下是您可能需要的一些组件： - Apache Sqoop：这是一个用于在Hadoop和关系型数据库之间进行数据迁移的工具。 - MySQL：这是一个流行的开源关系型数据库管理系统。 - Java Development Kit (JDK)：这是开发Java应用程序所必需的一组工具。 在Windows上，你可以在这里找到Java JDK的下载链接：https://www.oracle.com/java/technologies/javase-downloads.html 。在MacOS上，你可以在这里找到Java JDK的下载链接：https://jdk.java.net/15/ 步骤二：配置Hadoop和MySQL 在开始之前，请确保您的Hadoop和MySQL已经正确配置并运行。 对于Hadoop，您可以查看以下教程：https://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-common/SingleCluster.html 对于MySQL，您可以参考官方文档：https://dev.mysql.com/doc/refman/8.0/en/installing-binary-packages.html 步骤三：创建MySQL表 在开始导出数据之前，我们需要在MySQL中创建一个表来存储数据。以下是一个简单的例子： CREATE TABLE students ( id int(11) NOT NULL AUTO_INCREMENT, name varchar(45) DEFAULT NULL, age int(11) DEFAULT NULL, PRIMARY KEY (id) ) ENGINE=InnoDB DEFAULT CHARSET=utf8; 这个表将包含学生的ID、姓名和年龄字段。 步骤四：编写Sqoop脚本 现在我们可以使用Sqoop将HDFS中的数据导入到MySQL表中。以下是一个基本的Sqoop脚本示例： bash -sqoop --connect jdbc:mysql://localhost:3306/test \ -m 1 \ --num-mappers 1 \ --target-dir /user/hadoop/students \ --delete-target-dir \ --split-by id \ --as-textfile \ --fields-terminated-by '|' \ --null-string 'NULL' \ --null-non-string '\\N' \ --check-column id \ --check-nulls \ --query "SELECT id, name, age FROM students WHERE age > 18" 这个脚本做了以下几件事： - 使用--connect选项连接到MySQL服务器和测试数据库。 - 使用-m和--num-mappers选项设置映射器的数量。在这个例子中，我们只有一个映射器。 - 使用--target-dir选项指定输出目录。在这个例子中，我们将数据导出到/user/hadoop/students目录下。 - 使用--delete-target-dir选项删除目标目录中的所有内容，以防数据冲突。 - 使用--split-by选项指定根据哪个字段进行拆分。在这个例子中，我们将数据按学生ID进行拆分。 - 使用--as-textfile选项指定数据格式为文本文件。 - 使用--fields-terminated-by选项指定字段分隔符。在这个例子中，我们将字段分隔符设置为竖线（|）。 - 使用--null-string和--null-non-string选项指定空值的表示方式。在这个例子中，我们将NULL字符串设置为空格，将非字符串空值设置为\\N。 - 使用--check-column和--check-nulls选项指定检查哪个字段和是否有空值。在这个例子中，我们将检查学生ID是否为空，并且如果有，将记录为NULL。 - 使用--query选项指定要从中读取数据的SQL查询语句。在这个例子中，我们只选择年龄大于18的学生。 请注意，这只是一个基本的示例。实际的脚本可能会有所不同，具体取决于您的数据和需求。 步骤五：运行Sqoop脚本 最后，我们可以使用以下命令运行Sqoop脚本： bash -sqoop \ -Dmapreduce.job.user.classpath.first=true \ --libjars $SQOOP_HOME/lib/mysql-connector-java-8.0.24.jar \ --connect jdbc:mysql://localhost:3306/test \ -m 1 \ --num-mappers 1 \ --target-dir /user/hadoop/students \ --delete-target-dir \ --split-by id \ --as-textfile \ --fields-terminated-by '|' \ --null-string 'NULL' \ --null-non-string '\\N' \ --check-column id \ --check-nulls \ --query "SELECT id, name, age FROM students WHERE age > 18" 注意，我们添加了一个-Dmapreduce.job.user.classpath.first=true参数，这样就可以保证我们的自定义JAR包在任务的classpath列表中处于最前面的位置。 如果一切正常，我们应该可以看到一条成功的消息，并且可以在MySQL中看到导出的数据。 总结 本文介绍了如何使用Apache Sqoop将HDFS中的数据导出到MySQL数据库。咱们先给环境捯饬得妥妥当当，然后捣鼓出一个MySQL表，再接再厉，编了个Sqoop脚本。最后，咱就让这个脚本大展身手，把数据导出溜溜的。希望这篇文章能帮助你解决这个问题！

...TF-8 [API]查询商户信息与结算规则 URL地址：http://pay.lqan.cn/api.php?act=query&pid={商户ID}&sign={签名字符串} 请求参数说明： 字段名变量名必填类型示例值描述 操作类型act是Stringquery此API固定值 商户IDpid是Int1001 签名字符串sign是String67d12af9ddbe38d9c7b0931ad102ca3c签名算法与支付宝签名算法相同 返回结果： 字段名变量名类型示例值描述 返回状态码codeInt11为成功，其它值为失败 商户IDpidInt1001所创建的商户ID 商户密钥keyString(32)89unJUB8HZ54Hj7x4nUj56HN4nUzUJ8i所创建的商户密钥 商户类型typeInt1此值暂无用 商户状态activeInt11为正常，0为封禁 商户余额moneyString0.00商户所拥有的余额 结算账号accountString1070077170@qq.com结算的支付宝账号 结算姓名usernameString张三结算的支付宝姓名 满多少自动结算settle_moneyString30此值为系统预定义 手动结算手续费settle_feeString1此值为系统预定义 每笔订单分成比例money_rateString98此值为系统预定义 [API]查询结算记录 URL地址：http://pay.lqan.cn/api.php?act=settle&pid={商户ID}&sign={签名字符串} 请求参数说明： 字段名变量名必填类型示例值描述 操作类型act是Stringsettle此API固定值 商户IDpid是Int1001 签名字符串sign是String67d12af9ddbe38d9c7b0931ad102ca3c签名算法与支付宝签名算法相同 返回结果： 字段名变量名类型示例值描述 返回状态码codeInt11为成功，其它值为失败 返回信息msgString查询结算记录成功！ 结算记录dataArray结算记录列表 [API]查询单个订单 URL地址：http://pay.lqan.cn/api.php?act=order&pid={商户ID}&out_trade_no={商户订单号}&sign={签名字符串} 请求参数说明： 字段名变量名必填类型示例值描述 操作类型act是Stringorder此API固定值 商户IDpid是Int1001 商户订单号out_trade_no是String20160806151343349 签名字符串sign是String67d12af9ddbe38d9c7b0931ad102ca3c签名算法与支付宝签名算法相同 返回结果： 字段名变量名类型示例值描述 返回状态码codeInt11为成功，其它值为失败 返回信息msgString查询订单号成功！ 易支付订单号trade_noString2016080622555342651凉秋易支付订单号 商户订单号out_trade_noString20160806151343349商户系统内部的订单号 支付方式typeStringalipayalipay:支付宝,tenpay:财付通, qqpay:QQ钱包,wxpay:微信支付 商户IDpidInt1001发起支付的商户ID 创建订单时间addtimeString2016-08-06 22:55:52 完成交易时间endtimeString2016-08-06 22:55:52 商品名称nameStringVIP会员 商品金额moneyString1.00 支付状态statusInt01为支付成功，0为未支付 [API]批量查询订单 URL地址：http://pay.lqan.cn/api.php?act=orders&pid={商户ID}&sign={签名字符串} 请求参数说明： 字段名变量名必填类型示例值描述 操作类型act是Stringorders此API固定值 商户IDpid是Int1001 查询订单数量limit否Int20返回的订单数量，最大50 签名字符串sign是String67d12af9ddbe38d9c7b0931ad102ca3c签名算法与支付宝签名算法相同 返回结果： 字段名变量名类型示例值描述 返回状态码codeInt11为成功，其它值为失败 返回信息msgString查询结算记录成功！ 订单列表dataArray订单列表 [API]支付订单退款 URL地址：http://pay.lqan.cn/api.php?act=refund&pid={商户ID}&out_trade_no={商户订单号}&sign={签名字符串} 只支持微信官方、QQ钱包官方、当面付退款 请求参数说明： 字段名变量名必填类型示例值描述 操作类型act是Stringrefund此API固定值 商户IDpid是Int1001 商户订单号out_trade_no是Int1000 退款原因desc否String 退款金额money否Double20.00不填默认退全款 签名字符串sign是String67d12af9ddbe38d9c7b0931ad102ca3c签名算法与支付宝签名算法相同 返回结果： 字段名变量名类型示例值描述 返回状态码codeInt11为成功，其它值为失败 返回信息msgString退款成功! 发起支付请求 URL地址：http://pay.lqan.cn/submit.php?pid={商户ID}&type={支付方式}&out_trade_no={商户订单号}¬ify_url={服务器异步通知地址}&return_url={页面跳转通知地址}&name={商品名称}&money={金额}&sitename={网站名称}&sign={签名字符串}&sign_type=MD5 请求参数说明： 字段名变量名必填类型示例值描述 商户IDpid是Int1001 支付方式type是Stringalipayalipay:支付宝,tenpay:财付通, qqpay:QQ钱包,wxpay:微信支付 商户订单号out_trade_no是String20160806151343349 异步通知地址notify_url是Stringhttp://域名/notify_url.php服务器异步通知地址 跳转通知地址return_url是Stringhttp://域名/return_url.php页面跳转通知地址 商品名称name是StringVIP会员 商品金额money是String1.00 网站名称sitename否String某某某平台 签名字符串sign是String202cb962ac59075b964b07152d234b70签名算法与支付宝签名算法相同 签名类型sign_type是StringMD5默认为MD5 支付结果通知 通知类型：服务器异步通知(notify_url)、页面跳转通知(return_url) 请求方式：GET 特别说明：回调成功之后请输出 SUCCESS字符串，如果没有收到商户响应的SUCCESS字符串，系统将通过策略重新通知5次，通知频率为15s/60s/3m/30m/1h 请求参数说明： 字段名变量名必填类型示例值描述 商户IDpid是Int1001 易支付订单号trade_no是String20160806151343349021凉秋易支付订单号 商户订单号out_trade_no是String20160806151343349商户系统内部的订单号 支付方式type是Stringalipayalipay:支付宝,tenpay:财付通, qqpay:QQ钱包,wxpay:微信支付 商品名称name是StringVIP会员 商品金额money是String1.00 支付状态trade_status是StringTRADE_SUCCESS 签名字符串sign是String202cb962ac59075b964b07152d234b70签名算法与支付宝签名算法相同 签名类型sign_type是StringMD5默认为MD5 签名算法 请对参数按照键名进行降序排序(a-z)sign sign_type 和空值不进行签名！。 排序后请操作参数生成或拼接一个url请求字符串 例如 a=b&c=d&e=f (Url值不能携带参数！不要进行urlencode) 再将拼接好的请求字符串与平台生成的Key进行MD5加密得出sign签名参数 MD5 ( a=b&c=d&e=f + KEY ) (注意：+ 为各语言的拼接符！不是字符！) 本篇文章为转载内容。原文链接：https://blog.csdn.net/weixin_39620334/article/details/115933932。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...页面有些许变化,在此记录我遇到的问题，使用的爬虫技术是httpClient和jsoup，项目搭建使用的springboot+ jpa。 首先给出主页的代码： @Componentpublic classItemTask { @AutowiredprivateHttpUtils httpUtils; @AutowiredprivateItemService itemService;public static final ObjectMapper MAPPER = newObjectMapper();//设置定时任务执行完成后，再间隔100秒执行一次 @Scheduled(fixedDelay = 1000 100)public void process() throwsException {//分析页面发现访问的地址,页码page从1开始，下一页page加2 String url = "https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&suggest=1.his.0.0&wq=%E6%89%8B%E6%9C%BA&s=121&click=0&page=";//遍历执行，获取所有的数据 for (int i = 1; i < 10; i = i + 2) {//发起请求进行访问，获取页面数据,先访问第一页 String html = this.httpUtils.getHtml(url +i);//解析页面数据，保存数据到数据库中 this.parseHtml(html); } System.out.println("执行完成"); }//解析页面，并把数据保存到数据库中 private void parseHtml(String html) throwsException {//使用jsoup解析页面 Document document =Jsoup.parse(html);//获取商品数据 Elements spus = document.select("divJ_goodsList > ul > li");//遍历商品spu数据 for(Element spuEle : spus) {//获取商品spu String attr = spuEle.attr("data-spu");long spu = Long.parseLong(attr.equals("")?"0":attr);//Long spu = Long.parseLong(spuEle.attr("data-spu"));//获取商品sku数据 Elements skus = spuEle.select("li.ps-item img");for(Element skuEle : skus) {//获取商品sku Long sku = Long.parseLong(skuEle.attr("data-sku"));//判断商品是否被抓取过，可以根据sku判断 Item param = newItem(); param.setSku(sku); List list = this.itemService.findAll(param);//判断是否查询到结果 if (list.size() > 0) {//如果有结果，表示商品已下载，进行下一次遍历 continue; }//保存商品数据，声明商品对象 Item item = newItem();//商品spu item.setSpu(spu);//商品sku item.setSku(sku);//商品url地址 item.setUrl("https://item.jd.com/" + sku + ".html");//创建时间 item.setCreated(newDate());//修改时间 item.setUpdated(item.getCreated());//获取商品标题 String itemHtml = this.httpUtils.getHtml(item.getUrl()); String title= Jsoup.parse(itemHtml).select("div.sku-name").text(); item.setTitle(title);//获取商品价格 String priceUrl = "https://p.3.cn/prices/mgets?skuIds=J_"+sku; String priceJson= this.httpUtils.getHtml(priceUrl);//解析json数据获取商品价格 double price = MAPPER.readTree(priceJson).get(0).get("p").asDouble(); item.setPrice(price);//获取图片地址 String pic = "https:" + skuEle.attr("data-lazy-img").replace("/n9/","/n1/"); System.out.println(pic);//下载图片 String picName = this.httpUtils.getImage(pic); item.setPic(picName);//保存商品数据 this.itemService.save(item); } } } } 分享一下我学习中遇到的问题： 1.爬取数据为null,需要登录京东 看到这段代码应该就明白了吧，就是京东发现并非人为操作，需要登陆账号了。解决办法也很简单，只需要自己模拟浏览器登陆即可 在HttpUttils加上这段，两个方法中的HTTPGet对象都需要设置一下。 //设置请求头模拟浏览器 httpGet.setHeader("User-Agent","Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:72.0) Gecko/20100101 Firefox/72.0"); 2.java.lang.NumberFormatException: For input string: ""，获取的spu为空串，加上一个前置空串判断即可 解决如下： //获取商品spu String attr = spuEle.attr("data-spu");//判断是否为空串 long spu = Long.parseLong(attr.equals("")?"0":attr); 以上两个bug是我学习遇到的，现已解决，爬取数据如下： 本篇文章为转载内容。原文链接：https://blog.csdn.net/weixin_32161697/article/details/114506244。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...理跨数据库或表的复杂查询和操作？别急，我们来聊聊ClickHouse！ 1. 初识ClickHouse 它到底是什么？ 大家好啊！今天咱们来聊一聊ClickHouse这个神奇的东西。要是你对数据分析或者存一堆数据的事儿挺感兴趣的，那肯定听过这个词啦！ClickHouse是一个开源的列式数据库管理系统，专为超快的实时分析而设计。它的速度非常惊人，可以轻松应对TB甚至PB级别的数据量。 但是呢，就像所有工具都有自己的特点一样，ClickHouse也有它的局限性。其实呢，它的一个小短板就是，在面对跨数据库或者跨表的那种复杂查询时，有时候会有点招架不住，感觉有点使不上劲儿。这可不是说它不好，而是我们需要了解它的能力边界在哪里。 让我先举个例子吧。假设你有两个表A和B，分别存储了不同的业务数据。如果你打算在一个查询里同时用上这两个表的数据，然后搞点复杂的操作（比如说JOIN那种），你可能会发现，ClickHouse 并不像某些关系型数据库那么“丝滑”，有时候它可能会让你觉得有点费劲。这是为什么呢？让我们一起来探究一下。 --- 2. ClickHouse的工作原理揭秘 首先，我们要明白ClickHouse是怎么工作的。它用的是列式存储，简单说就是把一整列的数据像叠积木一样整整齐齐地堆在一起，而不是东一个西一个乱放。这种设计特别适合处理海量数据的情况，比如你只需要拿其中一小块儿，完全不用像行式存储那样一股脑儿把整条记录全读进来，多浪费时间啊！ 但是这也带来了一个问题——当你想要执行跨表的操作时，事情就变得复杂了。为什么呢？因为ClickHouse的设计初衷并不是为了支持复杂的JOIN操作。它的查询引擎在处理简单的事儿，比如筛选一下数据或者做个汇总啥的，那是一把好手。但要是涉及到多张表格之间的复杂关系，它就有点转不过弯来了，感觉像是被绕晕了的小朋友。 举个例子来说，如果你有一张用户表User和一张订单表Order，你想找出所有购买了特定商品的用户信息，这听起来很简单对不对？但在ClickHouse里，这样的JOIN操作可能会导致性能下降，甚至直接失败。 sql SELECT u.id, o.order_id FROM User AS u JOIN Order AS o ON u.id = o.user_id; 这段SQL看起来很正常，但运行起来可能会让你抓狂。所以接下来，我们就来看看如何在这种情况下找到解决方案。 --- 3. 面临的挑战与解决之道 既然我们知道ClickHouse不太擅长处理复杂的跨表查询，那么我们应该怎么办呢？其实方法还是有很多的，只是需要我们稍微动点脑筋罢了。 方法一：数据预处理 最直接的办法就是提前做好准备。你可以先把两张表格的数据合到一块儿，变成一个新表格，之后就在这个新表格里随便查啥都行。虽然听起来有点麻烦，但实际上这种方法非常有效。 比如说，我们可以创建一个新的视图，将两张表的内容联合起来： sql CREATE VIEW CombinedData AS SELECT u.id AS user_id, u.name AS username, o.order_id FROM User AS u JOIN Order AS o ON u.id = o.user_id; 这样，当你需要查询相关信息时，就可以直接从这个视图中获取，而不需要每次都做JOIN操作。 方法二：使用Materialized Views 另一种思路是利用Materialized Views（物化视图）。简单说吧，物化视图就像是提前算好答案的一张表格。一旦下面的数据改了，这张表格也会跟着自动更新，就跟变魔术似的！这种方式特别适合于那些经常被查询的数据模式。 例如，如果我们知道某个查询会频繁出现，就可以事先定义一个物化视图来加速： sql CREATE MATERIALIZED VIEW AggregatedOrders TO AggregatedTable AS SELECT user_id, COUNT(order_id) AS order_count FROM Orders GROUP BY user_id; 通过这种方式，每次查询时都不需要重新计算这些统计数据，从而大大提高了效率。 --- 4. 实战演练 动手试试看！ 好了，理论讲得差不多了，现在该轮到实战环节啦！我来给大家展示几个具体的例子，看看如何在实际场景中应用上述提到的方法。 示例一：合并数据到单表 假设我们有两个表：Sales 和 Customers，它们分别记录了销售记录和客户信息。现在我们想找出每个客户的总销售额。 sql -- 创建视图 CREATE VIEW SalesByCustomer AS SELECT c.customer_id, c.name, SUM(s.amount) AS total_sales FROM Customers AS c JOIN Sales AS s ON c.customer_id = s.customer_id GROUP BY c.customer_id, c.name; -- 查询结果 SELECT FROM SalesByCustomer WHERE total_sales > 1000; 示例二：使用物化视图优化查询 继续上面的例子，如果我们发现SalesByCustomer视图被频繁访问，那么就可以进一步优化，将其转换为物化视图： sql -- 创建物化视图 CREATE MATERIALIZED VIEW SalesSummary ENGINE = MergeTree() ORDER BY customer_id AS SELECT customer_id, name, SUM(amount) AS total_sales FROM Sales JOIN Customers USING (customer_id) GROUP BY customer_id, name; -- 查询物化视图 SELECT FROM SalesSummary WHERE total_sales > 1000; 可以看到，相比之前的视图方式，物化视图不仅减少了重复计算，还提供了更好的性能表现。 --- 5. 总结与展望 总之，尽管ClickHouse在处理跨数据库或表的复杂查询方面存在一定的限制，但这并不意味着它无法胜任大型项目的需求。其实啊，只要咱们好好琢磨一下怎么安排和设计，这些问题根本就不用担心啦，还能把ClickHouse的好处发挥得足足的！ 最后，我想说的是，技术本身并没有绝对的好坏之分，关键在于我们如何运用它。希望今天的分享能帮助你在使用ClickHouse的过程中更加得心应手。如果还有任何疑问或者想法，欢迎随时交流讨论哦！ 加油，我们一起探索更多可能性吧！

...一个日志数据集，每条记录代表一次用户操作，我们需要计算用户在某段时间内的活跃天数（即每天至少有一次操作）。 步骤1：定义聚合代码 首先，我们需要编写JavaScript代码来实现我们的逻辑。以下是一个示例： javascript { "aggs": { "active_days": { "scripted_metric": { "init_script": "total_days = 0", "map_script": "if (doc['timestamp'].value > 0) { total_days++; }", "combine_script": "return total_days", "reduce_script": "return sum" } } }, "script_fields": { "timestamp": { "script": { "source": "doc['timestamp'].value", "lang": "painless" } } } } 解释： - init_script：初始化变量total_days为0。 - map_script：当timestamp字段值大于0时，将total_days加1。 - combine_script：返回当前total_days的值。 - reduce_script：用于汇总多个聚合结果，这里使用sum函数将所有total_days值相加。 步骤2：执行聚合 在Kibana中创建一个新的搜索查询，选择_scripted_metric聚合类型，并粘贴上述代码片段。确保数据源正确，然后运行查询以查看结果。 三、实战应用与优化 在实际项目中，自定义聚合函数可以极大地增强数据分析的能力。例如，你可能需要根据业务需求调整map_script中的条件，或者优化init_script和combine_script以提高性能。 实践建议： - 测试与调试：在部署到生产环境前，务必充分测试自定义聚合函数，确保其逻辑正确且性能良好。 - 性能考虑：自定义聚合函数可能会增加查询的复杂度和执行时间，特别是在处理大量数据时。合理设计脚本，避免不必要的计算，以提升效率。 - 可读性：保持代码简洁、注释清晰，方便团队成员理解和维护。 四、结语 自定义数据聚合函数是Kibana强大的功能之一，它赋予了用户无限的创造空间，能够针对特定业务需求进行精细的数据分析。通过本文的探索，相信你已经掌握了基本的实现方法。嘿，兄弟！你得记住，实践就是那最棒的导师。别老是坐在那里空想，多动手做做看，不断试验，然后调整改进。这样啊，你的数据洞察力，那可是能突飞猛进的。就像种花一样，你得浇水、施肥、修剪，它才会开花结果。所以，赶紧去实践吧，让自己的技能开枝散叶！在数据的海洋中航行，自定义聚合函数就是你手中的指南针，引领你发现更多宝藏。

...art(); // 查询集群状态 Collections cores = cc.getCores(); for (SolrCore core : cores) { System.out.println(core.getName() + " status : " + core.getStatus()); } 如果以上步骤无法解决问题，建议查阅相关文档或寻求专业人士的帮助。 三、Solr代码执行漏洞排查及解决方法 近年来，随着Apache Solr的广泛应用，安全问题日益突出。嘿，你知道吗？在2019年11月19日曝出的一条消息，Apache Solr这个家伙在默认设置下有个不小的安全隐患。如果它以cloud模式启动，并且对外开放的话，那么远程的黑客就有机会利用这个漏洞，在目标系统上随心所欲地执行任何代码呢！就像是拿到了系统的遥控器一样，想想都有点让人捏把汗呐！ 对于这个问题，我们可以从以下几个方面进行排查： - 首先，检查solr的安全配置，确保只允许受信任的IP地址访问； - 其次，关闭不必要的服务端功能，如远程管理、JMX等； - 最后，定期更新solr到最新版本，以获取最新的安全补丁。 在实践中，我们可以尝试如下代码实现： java // 关闭JMX服务 String configPath = "/path/to/solr/home/solr.xml"; File configFile = new File(configPath); DocumentBuilder db = DocumentBuilderFactory.newInstance().newDocumentBuilder(); Document doc = db.parse(configFile); Element root = doc.getDocumentElement(); if (!root.getElementsByTagName("jmx").isEmpty()) { Node jmxNode = root.getElementsByTagName("jmx").item(0); jmxNode.getParentNode().removeChild(jmxNode); } TransformerFactory tf = TransformerFactory.newInstance(); Transformer transformer = tf.newTransformer(); transformer.setOutputProperty(OutputKeys.INDENT, "yes"); transformer.setOutputProperty("{http://xml.apache.org/xslt}indent-amount", "2"); DOMSource source = new DOMSource(doc); StreamResult result = new StreamResult(new File(configPath)); transformer.transform(source, result); 如果以上步骤无法解决问题，建议查阅相关文档或寻求专业人士的帮助。 四、总结 总的来说，Apache Solr虽然强大，但在使用过程中也会遇到各种各样的问题。了解并搞定这些常见问题后，咱们就能把Solr的潜能发挥得更淋漓尽致，这样一来，工作效率蹭蹭上涨，用户体验也噌噌提升，妥妥的双赢局面！希望本文能对你有所帮助！

...不对？结果我一上手写查询语句，咦？怎么关键的几个字段就凭空消失了呢？真是让人摸不着头脑啊！这可把我急坏了，因为我必须把这些字段完整地呈现出来。 于是乎，我开始了一段探索之旅，试图找到问题的答案。接下来的内容就是我在这段旅程中的所见所闻啦！ --- 2. 初步分析 为什么会出现这种情况？ 首先，让我们来理清一下思路。MongoDB可是一款不走寻常路的数据库，跟那些死守SQL规则的传统关系型数据库不一样，它要随意得多，属于非主流中的“潮牌”选手！因此，在进行多集合查询时，我们需要特别注意一些细节。 2.1 数据模型设计的重要性 在我的案例中，这两个集合分别是users和orders。users集合存储了用户的个人信息，而orders则记录了用户下的订单信息。嘿嘿，为了让查起来更方便，我专门给这两个集合加了个索引，还把它们用userId绑在一块儿了，这样找起来就跟串门似的，一下子就能找到啦！ 然而，当我执行以下查询时： javascript db.users.aggregate([ { $lookup: { from: "orders", localField: "userId", foreignField: "userId", as: "orderDetails" } } ]) 我发现返回的结果中缺少了一些关键字段，比如orders集合中的status字段。这是怎么回事呢？ 经过一番查阅资料后，我发现这是因为$lookup操作符虽然可以将两个集合的数据合并到一起，但它并不会自动包含所有字段。只有那些明确出现在查询条件或者投影阶段的字段才会被保留下来。 --- 3. 解决方案 一步一步搞定问题 既然找到了问题所在，那么接下来就是解决它的时候了！不过在此之前，我想提醒大家一句：解决问题的过程往往不是一蹴而就的，而是需要不断尝试与调整。所以请保持耐心，跟着我的脚步一步步走。 3.1 使用$project重新定义输出结构 针对上述情况，我们可以利用$project阶段来手动指定需要保留的字段。比如，如果我希望在最终结果中同时看到users集合的所有字段以及orders集合中的status字段，就可以这样写： javascript db.users.aggregate([ { $lookup: { from: "orders", localField: "userId", foreignField: "userId", as: "orderDetails" } }, { $project: { _id: 1, name: 1, email: 1, orderStatus: "$orderDetails.status" } } ]) 这里需要注意的是，$project阶段允许我们对输出的字段进行重命名或者过滤。例如，我把orders集合中的status字段改名为orderStatus，以便于区分。 3.2 深入探究嵌套数组 细心的朋友可能已经注意到，当我们使用$lookup时，返回的结果实际上是将orders集合中的匹配项打包成了一个数组（即orderDetails）。这就相当于说，如果我们要直接找到数组里的某个特定元素，还得费点功夫去搞定它呢！ 假设我现在想要获取第一个订单的状态，可以通过添加额外的管道步骤来实现： javascript db.users.aggregate([ { $lookup: { from: "orders", localField: "userId", foreignField: "userId", as: "orderDetails" } }, { $project: { _id: 1, name: 1, email: 1, firstOrderStatus: { $arrayElemAt: ["$orderDetails.status", 0] } } } ]) 这段代码使用了$arrayElemAt函数来提取orderDetails数组的第一个元素对应的status值。 --- 4. 总结与反思 这次经历教会了我什么？ 经过这次折腾，我对MongoDB的聚合框架有了更深的理解。其实呢，它虽然挺灵活的，但这也意味着我们得更小心翼翼地把握查询逻辑，不然很容易就出问题啦！特别是处理那些涉及多个集合的操作时，你得弄明白每一步到底干了啥，不然就容易出岔子。 最后，我想说的是，无论是在编程还是生活中，遇到困难并不可怕，可怕的是放弃思考。只要愿意花时间去研究和实践，总会找到解决问题的办法。希望大家都能从中受益匪浅！ 好了，今天的分享就到这里啦！如果你也有类似的经历或者疑问，欢迎随时留言交流哦~

...它们还能把重要的信息记录下来，就像我们小时候写日记一样，重要的事情不会忘记。所以，有了它们，我们的工作和生活就变得更加高效和有序了！哎呀，你知道那款叫RabbitMQ的消息中间件吗？这家伙在咱们开发者圈里可火得不得了，简直就是个消息传递的神器！为啥呢？因为它不仅成熟稳定，功能还贼强大，各种特性多到数不清，简直就是咱们搞技术的小伙伴们的最爱！用它来处理消息，那叫一个顺畅，效率杠杠的，怪不得这么多人对它情有独钟呢！本文旨在深入探讨如何在RabbitMQ中实现消息的重新入队机制，这是一个关键的功能，对于处理异常场景、优化系统性能至关重要。 第一部分：理解消息重新入队的基本概念 消息重新入队，简单来说，就是当消费者无法处理消息或者消息处理失败时，RabbitMQ自动将消息重新放入队列的过程。哎呀，这个机制就像是系统的超级救生员，专门负责不让任何消息失踪，还有一套超级厉害的技能，能在系统出状况的时候及时出手，让它重新变得稳稳当当的。就像你出门忘了带钥匙，但有备用钥匙在手，就能轻松解决问题一样，这个机制就是系统的那个备用钥匙，关键时刻能救大急！ 第二部分：消息重新入队的关键因素 - 消息持久化：消息是否持久化决定了消息在RabbitMQ服务器重启后是否能继续存在。启用持久化（basic.publish()方法中的mandatory参数设置为true）是实现消息重新入队的基础。 - 确认机制：通过配置confirm.select，可以确保消息被正确地投递到队列中。这有助于检测消息投递失败的情况，从而触发重新入队流程。 - 死信交换：当消息经过一系列处理后仍不符合接收条件时，可能会被转移到死信队列中。合理配置死信策略，可以避免死信积累，确保消息正常流转。 第三部分：实现消息重新入队的步骤 步骤一：配置持久化 在RabbitMQ中，确保消息持久化是实现重新入队的第一步。通过生产者代码添加持久化标志： python import pika connection = pika.BlockingConnection(pika.ConnectionParameters('localhost')) channel = connection.channel() channel.queue_declare(queue='my_queue', durable=True) message = "Hello, RabbitMQ!" channel.basic_publish(exchange='', routing_key='my_queue', body=message, properties=pika.BasicProperties(delivery_mode=2)) 设置消息持久化 connection.close() 步骤二：使用确认机制 通过confirm.select来监听消息确认状态，确保消息成功到达队列： python def on_delivery_confirmation(method_frame): if method_frame.method.delivery_tag in sent_messages: print(f"Message {method_frame.method.delivery_tag} was successfully delivered") else: print("Failed to deliver message") sent_messages = [] connection = pika.BlockingConnection(pika.ConnectionParameters('localhost')) channel = connection.channel() channel.confirm_delivery() channel.basic_consume(queue='my_queue', on_message_callback=callback, auto_ack=False) channel.start_consuming() 步骤三：处理异常与重新入队 在消费端，通过捕获异常并重新发送消息到队列来实现重新入队： python import pika def callback(ch, method, properties, body): try: process_message(body) except Exception as e: print(f"Error processing message: {e}") ch.basic_nack(delivery_tag=method.delivery_tag, requeue=True) def process_message(message): 处理逻辑... pass connection = pika.BlockingConnection(pika.ConnectionParameters('localhost')) channel = connection.channel() channel.queue_declare(queue='my_queue') channel.basic_qos(prefetch_count=1) channel.basic_consume(queue='my_queue', on_message_callback=callback) channel.start_consuming() 第四部分：实践与优化 在实际应用中，合理设计队列的命名空间、消息TTL、死信策略等，可以显著提升系统的健壮性和性能。此外，监控系统状态、定期清理死信队列也是维护系统健康的重要措施。 结语 消息重新入队是RabbitMQ提供的一种强大功能，它不仅增强了系统的容错能力，还为开发者提供了灵活的错误处理机制。通过上述步骤的学习和实践，相信你已经对如何在RabbitMQ中实现消息重新入队有了更深入的理解。嘿，兄弟！听我一句，你得明白，做事情可不能马虎。每一个小步骤，每一个细节，都像是你在拼图时放的一块小片儿，这块儿放对了，整幅画才好看。所以啊，在你搞设计或者实现方案的时候，千万要细心点儿，谨慎点儿，别急躁，慢慢来，细节决定成败你知道不？这样出来的成果，才能经得起推敲，让人满意！愿你在构建分布式系统时，能够充分利用RabbitMQ的强大功能，打造出更加稳定、高效的应用。

...大规模数据集提供实时查询服务。它支持SQL查询语言，并能高效地处理PB级别的数据。哎呀，你瞧，DorisDB这玩意儿可真给力！它提供了超棒的数据备份工具和机制，保证你的数据既完整又一致。不管遇到多复杂的状况，它都能稳稳地运行，就像个忠诚的守护神一样，保护着你的数据安全无虞。是不是感觉用起来既安心又省心呢？ 3. 备份策略的重要性 在DorisDB中，制定有效的备份策略至关重要。哎呀，这事儿可得仔细想想！咱们得定期给数据做个备份，以防万一，万一哪天电脑突然罢工或者数据出啥问题，咱还能有东西可补救。别小瞧了这一步，选对备份文件存放在哪儿，多久检查一次备份，还有万一需要恢复数据，咱得有个顺溜的流程，这每一步都挺关键的。就像是给宝贝儿们做保险计划一样，得周全，还得实用，不能光图个形式，对吧？哎呀，兄弟，咱们得给数据做个保险啊！就像你出门前检查门窗一样，定期备份数据，能大大降低数据丢了找不回来的风险。万一哪天电脑罢工或者硬盘坏掉啥的，你也不至于急得团团转，还得去求那些所谓的“数据恢复大师”。而且，备份做得好，恢复数据的时候也快多了，省时间又省心，这事儿得重视起来！ 4. 遇到问题时的常见错误及解决方法 错误1：备份失败，日志提示“空间不足” 原因：这通常是因为备份文件的大小超过了可用磁盘空间。 解决方法： 1. 检查磁盘空间 首先确认备份目录的磁盘空间是否足够。 2. 调整备份策略 考虑使用增量备份，仅备份自上次备份以来发生变化的数据部分，减少单次备份的大小。 3. 优化数据存储 定期清理不再需要的数据，释放更多空间。 python 示例代码：设置增量备份 dorisdb_backup = dorisdb.BackupManager() dorisdb_backup.set_incremental_mode(True) 错误2：备份过程中断电导致数据损坏 原因：断电可能导致正在执行的备份任务中断，数据完整性受损。 解决方法： 1. 使用持久化存储 确保备份操作在非易失性存储设备上进行，如SSD或RAID阵列。 2. 实施数据同步 在多个节点间同步数据，即使部分节点在断电时仍能继续备份过程。 python 示例代码：设置持久化备份 dorisdb_backup = dorisdb.BackupManager() dorisdb_backup.enable_persistence() 5. 数据恢复实战 当备份数据出现问题时，及时且正确的恢复策略至关重要。DorisDB提供了多种恢复选项，从完全恢复到特定时间点的恢复，应根据实际情况灵活选择。 步骤1：识别问题并定位 首先，确定是哪个备份文件或时间点出了问题，这需要详细的日志记录和监控系统来辅助。 步骤2：选择恢复方式 - 完全恢复：将数据库回滚到最近的备份状态。 - 时间点恢复：选择一个具体的时间点进行恢复，以最小化数据丢失。 步骤3：执行恢复操作 使用DorisDB的恢复功能，确保数据的一致性和完整性。 python 示例代码：执行时间点恢复 dorisdb_restore = dorisdb.RestoreManager() dorisdb_restore.restore_to_timepoint('2023-03-15T10:30:00Z') 6. 结语 数据备份和恢复是数据库管理中的重要环节，正确理解和应用DorisDB的相关功能，能够有效避免和解决备份过程中遇到的问题。通过本篇讨论，我们不仅了解了常见的备份错误及其解决方案，还学习了如何利用DorisDB的强大功能，确保数据的安全性和业务的连续性。记住，每一次面对挑战都是成长的机会，不断学习和实践，你的数据管理技能将愈发成熟。 --- 以上内容基于实际应用场景进行了概括和举例说明，旨在提供一种实用的指导框架，帮助读者在实际工作中应对数据备份和恢复过程中可能出现的问题。希望这些信息能够对您有所帮助！

...、栈或者保存事件历史记录。列表的特性使其在处理序列化数据或消息队列时非常有用。 代码示例： bash 向列表尾部添加元素 redis-cli rpush messages "Hello" redis-cli rpush messages "World" 从列表头部弹出元素 redis-cli lpop messages 查看列表中的元素 redis-cli lrange messages 0 -1 移除列表中的指定元素 redis-cli lrem messages "World" 1 思考过程： 列表的动态性质使得它们成为处理实时数据流的理想选择。比如说，在咱们常用的聊天软件里头，新来的消息就像新鲜出炉的面包一样，被放到了面包篮的最底下，而那些老掉牙的消息就给挤到一边去了，这样做的目的就是为了保证咱们聊天界面能一直保持最新鲜、最实时的状态。就像是在超市里，你每次买完东西，最前面的架子上总是最新的商品，那些旧货就被推到后面去一样。 4. 集合（Sets） 集合是无序、不重复的元素集合，适合用于存储唯一项或进行元素计数。Redis的集合操作既高效又安全，是实现去重、投票系统或用户兴趣聚合的理想选择。 代码示例： bash 向集合添加元素 redis-cli sadd users alice bob charlie 检查元素是否在集合中 redis-cli sismember users alice 移除集合中的元素 redis-cli srem users bob 计算集合的大小 redis-cli scard users 思考过程： 集合的唯一性保证了数据的纯净度，同时其高效的操作速度使其成为处理大量用户交互数据的首选。在投票系统中，用户的选择会被自动去重，确保了统计的准确性。 结语 Redis提供的这些数据结构，无论是单独使用还是结合使用，都能极大地提升应用的性能和灵活性。通过上述代码示例和思考过程的展示，我们可以看到，Redis不仅仅是一个简单的键值存储系统，而是内存世界中的一把万能钥匙，帮助我们解决各种复杂问题。哎呀，不管你是想捣鼓个能秒回消息的聊天软件，还是想要打造个能精准推荐的神器，亦或是设计一套复杂到让人头大的分布式计算平台，Redis这货简直就是你的秘密武器啊！它就像个全能的魔法师，能搞定各种棘手的问题，让你在编程的路上顺风顺水，轻松应对各种挑战。在未来的开发旅程中，掌握这些数据结构的使用技巧，将使你能够更加游刃有余地应对各种挑战。

...一个API提供了复杂查询的功能，但你的项目只需要简单地拿数据，直接去用那些复杂查询方法，就可能会遇到“未实现”的问题，就像你拿着个高级的多功能工具去做一件只需要基本工具就能搞定的事一样。所以，选择合适的工具很重要！ 如何解决“未实现” 1. 明确需求与功能优先级 在开始编码之前，确保对项目的整体需求有清晰的理解，并优先实现那些对业务至关重要的功能。对于非核心需求，可以考虑在未来版本中添加或作为可选特性。 2. 使用空实现或占位符 在设计接口或类时，为未实现的方法提供一个空实现或占位符，这样可以避免运行时的“未实现”错误，同时为未来的实现提供清晰的接口定义。 3. 错误处理与日志记录 在调用可能引发“未实现”错误的代码块前，添加适当的错误检查和日志记录。这不仅有助于调试，也能在问题发生时为用户提供有意义的反馈。 4. 模块化与解耦 通过将功能拆分为独立的模块或服务，可以降低不同部分之间的依赖关系，从而更容易地处理“未实现”的情况。当某个模块的实现发生变化时，其他模块受到的影响也会减少。 5. 持续集成与自动化测试 通过自动化测试，可以在早期阶段捕获“未实现”的错误，确保代码的稳定性和一致性。同时，持续集成流程可以帮助团队及时发现并修复这类问题。 结语 面对“未实现”的挑战，重要的是保持灵活性和前瞻性。哎呀，搞定这个问题得靠点心思呢！首先，你得搞清楚问题的根本原因，这就像解谜一样，得一步步来。然后，安排功能实现的顺序就挺像编排一场精彩的节目，得有头有尾，不能乱套。最后，别忘了设置有效的错误处理策略，就像是给你的项目上了一份保险，万一出啥状况也能从容应对。这样一来，整个过程就能流畅多了，避免了很多不必要的麻烦。在不断学习和实践中，开发者能够更好地适应变化，提升软件质量和用户体验。嘿，听好了！每次碰到那些没搞定的事情，那可是个大好机会，能让你学东西，还能把事情做得更好呢！就像是在玩游戏，遇到难关了，你就得想办法突破，对吧？这不就是升级打怪嘛！所以，别灰心，每一步小小的失败都是通往更牛逼、更灵活的软件系统的必经之路！

...次更新键值对时，都会记录一个新的版本。这对于确保数据一致性至关重要。例如，你可以使用KV() API的CheckAndSet方法原子性地更新值，只有当键的当前值与预期一致时才进行更新。 go // 更新键值对并确保值匹配 _, _, err = client.KV().CheckAndSet(&api.KVPair{ Key: "myapp/config/db_url", Value: []byte("postgresql://localhost:5432/mydb-updated"), Version: 1, // 假设我们已经知道当前版本是1 }, nil) 4. 过期时间与自动清理 Consul允许为键设置过期时间，一旦超过这个时间，Consul会自动删除该键值对，无需人工干预。这对于临时存储或缓存数据特别有用。 go // 设置过期时间为1小时的键值对 _, _, err = client.KV().Put(&api.KVPair{ Key: "myapp/temp_data", Value: []byte("temp data"), TTL: time.Hour, }, nil) 5. 集群同步与一致性 Consul的KV Store采用复制和一致性算法，确保所有节点上的数据保持同步。当有新数据需要写入时，Consul会发动一次全体节点参与的协同作战，确保这些新鲜出炉的数据会被所有节点稳稳接收到，这样一来，就不用担心数据会神秘消失或者出现啥不一致的情况啦。 6. 动态配置与服务发现 Consul的KV Store常用于动态配置，如应用的环境变量。同时呢，它还跟服务发现玩得可亲密了。具体来说就是，服务实例会主动把自己的信息挂到KV Store这个公告板上，其他服务一看，嘿，只要找到像service/myapp这样的关键词，就能轻松查到这些服务的配置情况和健康状况啦。 go // 注册服务 service := &api.AgentServiceRegistration{ ID: "myapp", Name: "My App Service", Tags: []string{"web"}, Address: "192.168.1.100:8080", } _, _, err = client.Agent().ServiceRegister(service, nil) 7. 总结与展望 Consul的Key-Value存储是其强大功能的核心，它使得数据管理变得简单且可靠。嘿，你知道吗？KV Store就像个超能小管家，在分布式系统里大显身手。它通过灵活的版本控制机制，像记录家族大事记一样，确保每一次数据变动都有迹可循；再搭配上过期时间管理这一神技能，让数据能在合适的时间自动更新换代，永葆青春；最关键的是，它还提供了一致性保证这个法宝，让所有节点的数据都能保持同步协调，稳如磐石。所以说啊，KV Store实实在在地为分布式系统搭建了一个无比坚实的基础支撑。无论是服务发现还是配置管理，Consul都展现了其灵活和实用的一面。随着企业越来越离不开微服务和云原生架构，Consul这个家伙将在现代DevOps的日常运作中持续扮演它的“大主角”，而且这戏份只会越来越重。 --- 在撰写这篇文章的过程中，我尽力将复杂的概念以易于理解的方式呈现，同时也融入了一些代码示例，以便读者能更直观地感受Consul的工作原理。甭管你是刚刚开始摸Consul的开发者小哥，还是正在绞尽脑汁提升自家系统稳定性的工程师大佬，都能从Consul这儿捞到实实在在的好处。希望本文能帮助你在使用Consul时更好地理解和利用其数据存储能力。

...为仅次于MySQL的第二大最受欢迎的关系型数据库。这表明，无论是商业产品还是开源项目，都在不断演进以满足现代企业的多样化需求。 对于普通开发者而言，掌握最新的数据库技术和最佳实践至关重要。例如，了解如何高效地进行数据迁移、优化查询性能以及实施灾难恢复策略，都是确保业务连续性的关键技能。同时，随着人工智能技术的进步，智能化数据库管理工具逐渐兴起，它们能够自动识别潜在问题并提供解决方案，极大提升了开发效率。 总之，数据库领域正经历着前所未有的变革，无论是云转型、法规遵从还是技术创新，都值得每一位从业者持续关注和学习。未来，数据库将更加智能、安全且易于使用，为企业创造更大的价值。

...-quick 不缓冲查询，直接导出至stdout；使用mysql_use_result()做它。 -S /path/to/socket, --socket=/path/to/socket 与localhost连接时(它是缺省主机)使用的套接字文件。 -T, --tab=path-to-some-directory 对于每个给定的表，创建一个table_name.sql文件，它包含SQL CREATE 命令，和一个table_name.txt文件，它包含数据。 注意：这只有在mysqldump运行在mysqld守护进程运行的同一台机器上的时候才工作。.txt文件的格式根据--fields-xxx和--lines--xxx选项来定。 -u user_name, --user=user_name 与服务器连接时，MySQL使用的用户名。缺省值是你的Unix登录名。 -O var=option, --set-variable var=option设置一个变量的值。可能的变量被列在下面。 -v, --verbose 冗长模式。打印出程序所做的更多的信息。 -V, --version 打印版本信息并且退出。 -w, --where=@where-condition@ 只导出被选择了的记录；注意引号是强制的！ "--where=user=@jimf@" "-wuserid>1" "-wuserid<1" 最常见的mysqldump使用可能制作整个数据库的一个备份： mysqldump --opt database > backup-file.sql 但是它对用来自于一个数据库的信息充实另外一个MySQL数据库也是有用的： mysqldump --opt database | mysql --host=remote-host -C database 由于mysqldump导出的是完整的SQL语句，所以用mysql客户程序很容易就能把数据导入了： shell> mysqladmin create target_db_name shell> mysql target_db_name < backup-file.sql 就是 shell> mysql 库名 < 文件名 相关标签：工具 本文原创发布php中文网，转载请注明出处，感谢您的尊重！ 本篇文章为转载内容。原文链接：https://blog.csdn.net/weixin_28851659/article/details/114329359。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...操作的方法，然后尝试第二种方法，找到路径地址输入框然后输入路径： 未点击地址栏时路径的窗口句柄是上图这样的 点击地址栏之后路径窗口句柄变成下图这样 a1 = win32gui.FindWindowEx(hwnd,None,"WorkerW",None) a2 = win32gui.FindWindowEx(a1,None,"ReBarWindow32",None) a3 = win32gui.FindWindowEx(a2,None,"Address Band Root",None) a4 = win32gui.FindWindowEx(a3,None,"msctls_progress32",None) a5 = win32gui.FindWindowEx(a4,None,"Breadcrumb Parent",None) hwnd_filepath1 = win32gui.FindWindowEx(a5,None,"ToolbarWindow32",None) print "-----hwnd_filepath1------",hwnd_filepath1 先找到到上图路径栏句柄（查找成功），然后按回车，使地址栏变成可输入状态 win32gui.PostMessage(hwnd_filepath1, win32con.WM_LBUTTONDOWN, win32con.MK_LBUTTON, 0) win32gui.PostMessage(hwnd_filepath1, win32con.WM_LBUTTONUP, win32con.MK_LBUTTON, 0) 在通过路径查找 a11 = win32gui.FindWindowEx(hwnd,None,"WorkerW",None) a21 = win32gui.FindWindowEx(a11,None,"ReBarWindow32",None) a31 = win32gui.FindWindowEx(a21,None,"Address Band Root",None) a41 = win32gui.FindWindowEx(a31,None,"msctls_progress32",None) a6 = win32gui.FindWindowEx(a41,None,"ComboBoxEx32",None) a7 = win32gui.FindWindowEx(a6,None,"ComboBox",None) hwnd_filepath = win32gui.FindWindowEx(a7,None,"Edit",None) print "-----hwnd_filepath------",hwnd_filepath 到这一步查找句柄返回值变成0，就是没查找到路径编辑框，没有找到原因，代码运行下来路径那里只是能看到的效果点击了一下，但是不会变成输入框状态，但是把鼠标移上去会变成输入的状态 这样是可输入的状态 然后win32gui.SendMessage(hwnd_filepath, win32con.WM_SETTEXT, None, 'C:\Users\Administrator\Desktop')这样地址就输入不进去，原因不明 视图数操作的方法没有找到 2.取消按钮的点击无效（已解决） 保存按钮 取消按钮 保存和取消的类名都是“Button”，所以通过保存按钮查找到下一个Button就是取消 hwnd_cancle = win32gui.FindWindowEx(hwnd,hwnd_save,"Button",None) print "------hwnd_cancle---",hwnd_cancle 取消句柄获取到了，通过下面的方法打印出来的父句柄和保存按钮是一样的都是另存为这个弹出框 print win32gui.GetParent(hwnd_cancle) 下面两行代码也获取到了取消的类名和标题打印出来的是‘Button’和‘取消’ print win32gui.GetClassName(hwnd_cancle) print win32gui.GetWindowText(hwnd_cancle).decode('gbk').encode('utf-8') 以下两行代码点击取消按钮的时候，弹出框不关闭，然后发现点击的是保存按钮，原因不明 win32gui.PostMessage(hwnd_cancle, win32con.WM_KEYDOWN, win32con.VK_RETURN, 0) win32gui.PostMessage(hwnd_cancle, win32con.WM_KEYUP, win32con.VK_RETURN, 0) 以上是完成的两点和处理失败的两点，做出来是个半成品，win32gui这方面的知识对我来说有点难，在python中安装的pywin32自带了一个API，里面的描述方法很简单，不够详细，很多看不太懂，以后还需要再花时间慢慢研究 -------------------------------------------------------------------------------------------- 问题1的解决方法： 修改成指定路径 win_1 = win32gui.FindWindowEx(hwnd, None,"WorkerW",None) win_2 = win32gui.FindWindowEx(win_1, None,"ReBarWindow32",None) win_3 = win32gui.FindWindowEx(win_2, None,"Address Band Root",None) win_4 = win32gui.FindWindowEx(win_3, None,"msctls_progress32",None) left, top, right, bottom = win32gui.GetWindowRect(win_4) win32api.SetCursorPos([left,top]) win32api.mouse_event(win32con.MOUSEEVENTF_LEFTUP | win32con.MOUSEEVENTF_LEFTDOWN, 0, 0, 0, 0) 将路径复制到剪切板 win32clipboard.OpenClipboard() win32clipboard.EmptyClipboard() win32clipboard.SetClipboardText(filePath) win32clipboard.CloseClipboard() 按下ctrl+v win32api.keybd_event(0x11, 0, 0, 0) win32api.keybd_event(0x56, 0, 0, 0) win32api.keybd_event(0x56, 0, win32con.KEYEVENTF_KEYUP, 0) win32api.keybd_event(0x11, 0, win32con.KEYEVENTF_KEYUP, 0) 按回车进入该路径 win32api.keybd_event(0x0D,0,0,0) 问题2取消按钮点击的问题已经解决： 点击取消按钮，用鼠标点击点击取消按钮，上面使用键盘按键不行，原因不明 hwnd_cancel = win32gui.FindWindowEx(hwnd,hwnd_save,"Button",None) left, top, right, bottom = win32gui.GetWindowRect(hwnd_cancel)该方法接收值必须为4个 win32api.SetCursorPos([left+35,top+13]) win32api.mouse_event(win32con.MOUSEEVENTF_LEFTUP | win32con.MOUSEEVENTF_LEFTDOWN, 0, 0, 0, 0) win32gui.GetWindowRect方法描述：Returns the rectangle for a window in screen coordinates。应该返回该句柄控件的四个顶点坐标吧 win32api.SetCursorPos方法描述：The SetCursorPos function moves the cursor to the specified screen coordinates.将光标移动到指定的屏幕坐标。 ----------------------------------------------------------------------------------------------- 查找另存为弹出框下的所有子句柄： hwndChildList = [] win32gui.EnumChildWindows(hwnd, lambda hwnd1, param: param.append(hwnd1), hwndChildList) for a in hwndChildList: print win32gui.GetParent(a) print win32gui.GetClassName(a) print win32gui.GetWindowText(a).decode('gbk').encode('utf-8') print "-----hwnd_save------",a 另外，经同事推荐ViewWizard工具比spy++更轻便快捷，查看父句柄也比之更方便 按键控制查询：http://www.mamicode.com/info-detail-1319197.html 本篇文章为转载内容。原文链接：https://blog.csdn.net/weixin_39814378/article/details/110329291。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。

...聊聊选择的问题 自学第二步，选择从事的方向。 学完 Java 基础，你就面临自己以后需要从事开发的方向。如 Java 来说，一般分为服务段开发与客户端开发，方向不同，接下去学的知识点就会不同。所以这里选择需要慎重思考。 这里可以使用一个方法，我们从事件的价值出发，列出一个优缺清单表。比如你要选择服务端开发还是客户端开发，你先去充分了解这两个方向，然后列一分优缺清单表格，把了解到每一个点都写上去，打一个分数，分数分为 -10 到 10 分。最后我们统计一个总分，然后那个分数较高的方向。 掌握数据库 由于本人从事服务端开发，下面说说服务端开发学习的过程。 服务端开发，需要学习的东西会很多，不过不用担心，我们一个个说。 首先我们先说数据库。数据库对于服务端开发，一定要学会的技术，所以这个我们需要着重学习。 首先按照网上教程，自己在电脑上搭建一个数据库，这里推荐 MySQL。搭建之后，再下载一个数据库客户端管理工具，如 Navicat，DataGrip。弄完这些基础设施之后，我们这里接着去学会 SQL 的语法。这里着重学习单表增删改查的语法，跨表的连接查询等。网上找一个例子，如可以自己构建一个学生课程信息表，做到可以用以上学习到的语法。 学习完数据库，接着我们就需要学习Java JDBC 的知识。学习的 JDBC 就是让我们了解，如何使用 Java 操作数据库，运行 Mybatis的增删改查的语句。 接着我们可以去学习相关 ORM 的框架，如 Hibernate 或 Mybatis，这里推荐 Mybatis。学习框架，我们要做到掌握框架的使用技巧就可以。 这个过程你可能会发现，Mybatis 这类框架这么如此简化开发，为什么我们不直接学习 Mybatis ？ 学习 JDBC 的目的，其实就是让你了解这些 ORM 的基础。 学完这个阶段，我们接下去就要进入 WEB 开发。 WEB 开发 这个过程我们首先学习一些前端知识，如 HTML，CSS,JavaScript，然后再去 Jquery 等前端框架，做到能实现一些简单的功能。我们不需要跟你上面一样精通，我们只要了解一些概念即可。 接下去我们学习 Servlet，做到能使用原生 Servlet + Jsp 能运行一个 WEB 程序。 后面我们再去学习 Spring 框架，使用 SpringMVC 了解 MVC 的概念。最后用 SpringMVC+Spring+Mybatis+MySQL 完成一个简单的管理系统。 其他 学完以上内容，基本上已经学习完工作中学习到的技术栈。这个过程你还需要额外学习一些工作中用到其他知识。 你需要去学习协同开发的工具，如 Git，SVN。做到了解如何新建分支，如何拉取代码，如何合并代码即可。 你还需要去学习一些 Linux 的命令。 总结 学完上述内容，你实际就已经掌握初级开发所需要的技术，已经基本上可以从事一个初级开发的岗位。我们上面讲的都是使用技巧，但是面试的时候可能会问你一些原理性的内容，所以在我们去找工作之前我们还需要去了解一些原理性知识。这方面的内容通过搜索引擎搜索即可。 这个过程你可能会碰到很多问题，这个过程一定善于使用搜索引擎。 本篇文章为转载内容。原文链接：https://blog.csdn.net/qq_35006660/article/details/115610534。 该文由互联网用户投稿提供，文中观点代表作者本人意见，并不代表本站的立场。 作为信息平台，本站仅提供文章转载服务，并不拥有其所有权，也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况，请及时联系我们，我们将第一时间进行核实并删除相应内容。