前端技术
HTML
CSS
Javascript
前端框架和UI库
VUE
ReactJS
AngularJS
JQuery
NodeJS
JSON
Element-UI
Bootstrap
Material UI
服务端和客户端
Java
Python
PHP
Golang
Scala
Kotlin
Groovy
Ruby
Lua
.net
c#
c++
后端WEB和工程框架
SpringBoot
SpringCloud
Struts2
MyBatis
Hibernate
Tornado
Beego
Go-Spring
Go Gin
Go Iris
Dubbo
HessianRPC
Maven
Gradle
数据库
MySQL
Oracle
Mongo
中间件与web容器
Redis
MemCache
Etcd
Cassandra
Kafka
RabbitMQ
RocketMQ
ActiveMQ
Nacos
Consul
Tomcat
Nginx
Netty
大数据技术
Hive
Impala
ClickHouse
DorisDB
Greenplum
PostgreSQL
HBase
Kylin
Hadoop
Apache Pig
ZooKeeper
SeaTunnel
Sqoop
Datax
Flink
Spark
Mahout
数据搜索与日志
ElasticSearch
Apache Lucene
Apache Solr
Kibana
Logstash
数据可视化与OLAP
Apache Atlas
Superset
Saiku
Tesseract
系统与容器
Linux
Shell
Docker
Kubernetes
[使用ID生成器避免Hadoop中重复键值...]的搜索结果
这里是文章列表。热门标签的颜色随机变换,标签颜色没有特殊含义。
点击某个标签可搜索标签相关的文章。
点击某个标签可搜索标签相关的文章。
转载文章
...l-mdsal-apidocs feature:install odl-ovsdb-openstack odl-netvirt-sfc JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk CLASSPATH=.:$JAVA_HOME/lib/tools.jar PATH=$JAVA_HOME/bin:$PATH JVM_OPTS="-Xms256m -XX:PermSize=256m -XX:MaxPermSize=512m" MAVEN_OPTS="$MAVEN_OPTS -Xms512m -Xmx1024m -XX:PermSize=256m -XX:MaxPermSize=512m" export MAVEN_OPTS JAVA_HOME CLASSPATH JVM_OPTS PATH [root@localhost ~] netstat -ntpl Active Internet connections (only servers) Proto Recv-Q Send-Q Local Address Foreign Address State PID/Program name tcp 0 0 0.0.0.0:22 0.0.0.0: LISTEN 3327/sshd tcp 0 0 127.0.0.1:25 0.0.0.0: LISTEN 3620/master tcp6 0 0 :::6633 ::: LISTEN 868/java tcp6 0 0 127.0.0.1:1099 ::: LISTEN 868/java tcp6 0 0 :::6640 ::: LISTEN 868/java tcp6 0 0 127.0.0.1:6644 ::: LISTEN 868/java tcp6 0 0 :::8181 ::: LISTEN 868/java tcp6 0 0 127.0.0.1:2550 ::: LISTEN 868/java tcp6 0 0 :::22 ::: LISTEN 3327/sshd tcp6 0 0 :::8185 ::: LISTEN 868/java tcp6 0 0 127.0.0.1:44601 ::: LISTEN 868/java tcp6 0 0 :::33273 ::: LISTEN 868/java tcp6 0 0 ::1:25 ::: LISTEN 3620/master tcp6 0 0 :::44444 ::: LISTEN 868/java tcp6 0 0 :::6653 ::: LISTEN 868/java tcp6 0 0 :::39169 ::: LISTEN 868/java tcp6 0 0 :::8101 ::: LISTEN 868/java tcp6 0 0 :::6886 ::: LISTEN 868/java openstack配置 openstack的networking-odl插件安装方式 https://docs.openstack.org/networking-odl/latest/install/installation.htmlodl-installation yum install python-networking-odl.noarch -y https://docs.openstack.org/networking-odl/latest/install/installation.htmlnetworking-odl-configuration systemctl restart neutron-server /etc/neutron/plugins/ml2 测试端口可连接性 curl -u admin:admin http://10.13.80.34:8181/controller/nb/v2/neutron/networks odl配置文件修改 etc/custom.properties ovsdb.l3.fwd.enabled=yes ovsdb.l3gateway.mac=0a:00:27:00:00:0d telnet 10.13.80.34 8181 netstat -nlp | grep 8181 telnet 127.0.0.1 8181 telnet 10.13.80.34 8181 systemctl status firewall iptables iptables -nvL iptables -F 清空iptables openstack server create --flavor tiny --image cirros --nic net-id=24449ee2-b84e-493f-8d76-139ac3e4f3cd --key-name mykey provider-instance nova service-list nova show ae5e26d1-c84d-40fa-bb27-f0b46d6a7061 查看虚机详情 ovs-vsctl set Open_vSwitch 89444614-3bf8-4d7a-b3a0-df5d20b48b7a other_config={'local_ip'='192.168.56.102'} ovs-vsctl set Open_vSwitch b084eccf-b92e-470c-8dff-8549e92c2104 other_config={'local_ip'='192.168.56.122'} ovs-vsctl list interface eth0 ovs-appctl fdb/show br-int [root@rcontroller01 ~] openstack security group rule list 2e19a748-9086-49f8-9498-01abc1a964fe 一个神奇的命令 +--------------------------------------+-------------+-----------+------------+--------------------------------------+ | ID | IP Protocol | IP Range | Port Range | Remote Security Group | +--------------------------------------+-------------+-----------+------------+--------------------------------------+ | 0184e6b3-4f7f-4fd5-8125-b80682e7ee48 | None | None | | 2e19a748-9086-49f8-9498-01abc1a964fe | | 1e0bfedc-8f25-408a-9328-708113bbbc52 | icmp | 0.0.0.0/0 | | None | | 39116d39-454b-4d82-867e-bbfd3ea63182 | None | None | | None | | 4032366f-3ac9-4862-85a7-c7411a8b7678 | None | None | | 2e19a748-9086-49f8-9498-01abc1a964fe | | dc7bc251-f0d0-456a-9102-c5b66646aa84 | tcp | 0.0.0.0/0 | 22:22 | None | | ddacf7ea-57ea-4c8a-8b68-093766284595 | None | None | | None | +--------------------------------------+-------------+-----------+------------+--------------------------------------+ dpif/dump-flows dp 想控制端打印dp中流表的所有条目。 这个命令主要来与debugOpen Vswitch.它所打印的流表不是openFlow的流条目。 它打印的是由dp模块维护的简单的流。 如果你想查看OpenFlow条目,请使用ovs-ofctl dump-flows。dpif/del-fow dp 删除指定dp上所有流表。同上所述,这些不是OpenFlow流表。 ovs-appctl dpif/dump-flows br-int 创建网络 openstack network create --share --external --provider-physical-network provider --provider-network-type flat provider $ openstack subnet create --network provider \ --allocation-pool start=192.168.56.100,end=192.168.56.200 \ --dns-nameserver 8.8.8.8 --gateway 192.168.56.1 \ --subnet-range 192.168.56.0/24 provider openstack network create selfservice $ openstack subnet create --network selfservice \ --dns-nameserver 8.8.8.8 --gateway 192.168.1.1 \ --subnet-range 192.168.1.0/24 selfservice openstack router create router openstack router add subnet router selfservice openstack router set router --external-gateway provider openstack port list --router router +--------------------------------------+------+-------------------+-------------------------------------------------------------------------------+--------+ | ID | Name | MAC Address | Fixed IP Addresses | Status | +--------------------------------------+------+-------------------+-------------------------------------------------------------------------------+--------+ | bff6605d-824c-41f9-b744-21d128fc86e1 | | fa:16:3e:2f:34:9b | ip_address='172.16.1.1', subnet_id='3482f524-8bff-4871-80d4-5774c2730728' | ACTIVE | | d6fe98db-ae01-42b0-a860-37b1661f5950 | | fa:16:3e:e8:c1:41 | ip_address='203.0.113.102', subnet_id='5cc70da8-4ee7-4565-be53-b9c011fca011' | ACTIVE | +--------------------------------------+------+-------------------+-------------------------------------------------------------------------------+--------+ $ ping -c 4 203.0.113.102 创建虚机 openstack keypair list $ ssh-keygen -q -N "" $ openstack keypair create --public-key ~/.ssh/id_rsa.pub mykey openstack flavor list openstack image list openstack network list openstack server create --flavor tiny --image cirros --nic net-id=27616098-0374-4ab4-95a8-b5bf4839dcf8 --key-name mykey provider-instance 网络配置 python /usr/lib/python2.7/site-packages/networking_odl/cmd/set_ovs_hostconfigs.py --ovs_hostconfigs='{ "ODL L2": { "allowed_network_types": [ "flat", "vlan", "vxlan" ], "bridge_mappings": { "provider": "br-int" }, "supported_vnic_types": [ { "vnic_type": "normal", "vif_type": "ovs", "vif_details": {} } ] }, "ODL L3": {} }' ovs-vsctl list open . [2019/1/16 19:09] 高正伟: ovs-vsctl set Open_vSwitch . other_config:local_ip=hostip ovs-vsctl set Open_vSwitch . other_config:local_ip=192.168.56.122 ovs-vsctl set Open_vSwitch . other_config:remote_ip=192.168.56.122 ovs-vsctl remove interface tunca7b782f232 options remote_ip ovs-vsctl set Open_vSwitch . other_config:provider_mappings=provider:br-ex ovs-vsctl set Open_vSwitch . external_ids:provider_mappings="{\"provider\": \"br-ex\"}" 清空 ovs-vsctl clear Open_vSwitch . external_ids ovs-vsctl set-manager tcp:10.13.80.34:6640 ovs-vsctl set-controller br-ex tcp:10.13.80.34:6640 ovs-vsctl del-controller br-ex sudo neutron-odl-ovs-hostconfig ovs-vsctl show ovs-vsctl add-port <bridge name> <port name> ovs-vsctl add-port br-ex enp0s10 ovs-vsctl del-port br-ex phy-br-ex ovs-vsctl del-port br-ex tun2ad7e9e91e4 重启odl后 systemctl restart openvswitch.service systemctl restart neutron-server.service systemctl stop neutron-server.service 创建虚机 openstack network create --share --external --provider-physical-network provider --provider-network-type flat provider openstack subnet create --network provider --allocation-pool start=192.168.56.2,end=192.168.56.100 --dns-nameserver 8.8.8.8 --gateway 192.168.56.1 --subnet-range 192.168.56.0/24 provider nova boot --image cirros --flavor tiny --nic net-id= --availability-zone nova:rcontroller01 vm-01 openstack server create --flavor tiny --image cirros --nic net-id= --key-name mykey test nova boot --image cirros --flavor tiny --nic net-id=0fe983c2-8178-403b-a00e-e8561580b210 --availability-zone nova:rcontroller01 vm-01 虚机可以学习到mac但是ping不通 抓包,先在虚机网卡上抓包, 然后在br-int上抓包 发现虚拟网卡上是发送了icmp请求报文的,但是br-int上没有 查看报文情况 [root@rcontroller01 ~] ovs-appctl dpif/dump-flows br-int recirc_id(0),tunnel(tun_id=0x0,src=192.168.56.102,dst=192.168.56.122,flags(-df-csum+key)),in_port(4),eth(),eth_type(0x0800),ipv4(proto=17,frag=no),udp(dst=3784), packets:266436, bytes:17584776, used:0.591s, actions:userspace(pid=4294962063,slow_path(bfd)) recirc_id(0xa0),in_port(5),ct_state(+new-est-rel-inv+trk),ct_mark(0/0x1),eth(),eth_type(0x0800),ipv4(frag=no), packets:148165, bytes:14520170, used:0.566s, actions:drop recirc_id(0),in_port(3),eth(),eth_type(0x0806), packets:1, bytes:60, used:5.228s, actions:drop recirc_id(0),tunnel(tun_id=0xb,src=192.168.56.102,dst=192.168.56.122,flags(-df-csum+key)),in_port(4),eth(dst=fa:16:3e:ab:ba:7e),eth_type(0x0806), packets:0, bytes:0, used:never, actions:5 recirc_id(0),in_port(5),eth(src=fa:16:3e:ab:ba:7e),eth_type(0x0800),ipv4(src=192.168.0.16,proto=1,frag=no), packets:148165, bytes:14520170, used:0.566s, actions:ct(zone=5004),recirc(0xa0) recirc_id(0),in_port(3),eth(),eth_type(0x0800),ipv4(frag=no), packets:886646, bytes:316947183, used:0.210s, flags:SFPR., actions:drop recirc_id(0),in_port(5),eth(src=fa:16:3e:ab:ba:7e,dst=fa:16:3e:7d:95:75),eth_type(0x0806),arp(sip=192.168.0.16,tip=192.168.0.5,op=1/0xff,sha=fa:16:3e:ab:ba:7e), packets:0, bytes:0, used:never, actions:userspace(pid=4294961925,controller(reason=4,dont_send=0,continuation=0,recirc_id=4618,rule_cookie=0x822002d,controller_id=0,max_len=65535)),set(tunnel(tun_id=0xb,src=192.168.56.122,dst=192.168.56.102,ttl=64,tp_dst=4789,flags(df|key))),4 安全组设置 openstack security group rule create --proto tcp 2e19a748-9086-49f8-9498-01abc1a964fe openstack security group rule create --proto tcp 6095293d-c2cd-433d-8a8f-e77ecb03609e openstack security group rule create --proto udp 2e19a748-9086-49f8-9498-01abc1a964fe openstack security group rule create --proto udp 6095293d-c2cd-433d-8a8f-e77ecb03609e ovs-vsctl add-port br-ex "ex-patch-int" ovs-vsctl set interface "ex-patch-int" type=patch ovs-vsctl set interface "ex-patch-int" options:peer=int-patch-ex ovs-vsctl add-port br-int "int-patch-ex" ovs-vsctl set interface "int-patch-ex" type=patch ovs-vsctl set interface "int-patch-ex" options:peer=ex-patch-int ovs-vsctl del-port br-ex "ex-patch-int" ovs-vsctl del-port br-int "int-patch-ex" ovs-vsctl del-port br-ex enp0s9 ovs-vsctl add-port br-int enp0s9 ovs-appctl ofproto/trace 重要命令 sudo ovs-ofctl -O OpenFlow13 show br-int sudo ovs-appctl ofproto/trace br-int "in_port=5,ip,nw_src=192.168.0.16,nw_dst=192.168.0.5" ovs-appctl dpctl/dump-conntrack 11.查看接口id等 ovs-appctl dpif/show 12.查看接口统计 ovs-ofctl dump-ports br-int 查看接口 sudo ovs-ofctl show br-int -O OpenFlow13 ovs常用命令 控制管理类 1.查看网桥和端口 ovs-vsctl show 1 2.创建一个网桥 ovs-vsctl add-br br0 ovs-vsctl set bridge br0 datapath_type=netdev 1 2 3.添加/删除一个端口 for system interfaces ovs-vsctl add-port br0 eth1 ovs-vsctl del-port br0 eth1 for DPDK ovs-vsctl add-port br0 dpdk1 -- set interface dpdk1 type=dpdk options:dpdk-devargs=0000:01:00.0 for DPDK bonds ovs-vsctl add-bond br0 dpdkbond0 dpdk1 dpdk2 \ -- set interface dpdk1 type=dpdk options:dpdk-devargs=0000:01:00.0 \ -- set interface dpdk2 type=dpdk options:dpdk-devargs=0000:02:00.0 1 2 3 4 5 6 7 8 9 4.设置/清除网桥的openflow协议版本 ovs-vsctl set bridge br0 protocols=OpenFlow13 ovs-vsctl clear bridge br0 protocols 1 2 5.查看某网桥当前流表 ovs-ofctl dump-flows br0 ovs-ofctl -O OpenFlow13 dump-flows br0 ovs-appctl bridge/dump-flows br0 1 2 3 6.设置/删除控制器 ovs-vsctl set-controller br0 tcp:1.2.3.4:6633 ovs-vsctl del-controller br0 1 2 7.查看控制器列表 ovs-vsctl list controller 1 8.设置/删除被动连接控制器 ovs-vsctl set-manager tcp:1.2.3.4:6640 ovs-vsctl get-manager ovs-vsctl del-manager 1 2 3 9.设置/移除可选选项 ovs-vsctl set Interface eth0 options:link_speed=1G ovs-vsctl remove Interface eth0 options link_speed 1 2 10.设置fail模式,支持standalone或者secure standalone(default):清除所有控制器下发的流表,ovs自己接管 secure:按照原来流表继续转发 ovs-vsctl del-fail-mode br0 ovs-vsctl set-fail-mode br0 secure ovs-vsctl get-fail-mode br0 1 2 3 11.查看接口id等 ovs-appctl dpif/show 1 12.查看接口统计 ovs-ofctl dump-ports br0 1 流表类 流表操作 1.添加普通流表 ovs-ofctl add-flow br0 in_port=1,actions=output:2 1 2.删除所有流表 ovs-ofctl del-flows br0 1 3.按匹配项来删除流表 ovs-ofctl del-flows br0 "in_port=1" 1 匹配项 1.匹配vlan tag,范围为0-4095 ovs-ofctl add-flow br0 priority=401,in_port=1,dl_vlan=777,actions=output:2 1 2.匹配vlan pcp,范围为0-7 ovs-ofctl add-flow br0 priority=401,in_port=1,dl_vlan_pcp=7,actions=output:2 1 3.匹配源/目的MAC ovs-ofctl add-flow br0 in_port=1,dl_src=00:00:00:00:00:01/00:00:00:00:00:01,actions=output:2 ovs-ofctl add-flow br0 in_port=1,dl_dst=00:00:00:00:00:01/00:00:00:00:00:01,actions=output:2 1 2 4.匹配以太网类型,范围为0-65535 ovs-ofctl add-flow br0 in_port=1,dl_type=0x0806,actions=output:2 1 5.匹配源/目的IP 条件:指定dl_type=0x0800,或者ip/tcp ovs-ofctl add-flow br0 ip,in_port=1,nw_src=10.10.0.0/16,actions=output:2 ovs-ofctl add-flow br0 ip,in_port=1,nw_dst=10.20.0.0/16,actions=output:2 1 2 6.匹配协议号,范围为0-255 条件:指定dl_type=0x0800或者ip ICMP ovs-ofctl add-flow br0 ip,in_port=1,nw_proto=1,actions=output:2 7.匹配IP ToS/DSCP,tos范围为0-255,DSCP范围为0-63 条件:指定dl_type=0x0800/0x86dd,并且ToS低2位会被忽略(DSCP值为ToS的高6位,并且低2位为预留位) ovs-ofctl add-flow br0 ip,in_port=1,nw_tos=68,actions=output:2 ovs-ofctl add-flow br0 ip,in_port=1,ip_dscp=62,actions=output:2 8.匹配IP ecn位,范围为0-3 条件:指定dl_type=0x0800/0x86dd ovs-ofctl add-flow br0 ip,in_port=1,ip_ecn=2,actions=output:2 9.匹配IP TTL,范围为0-255 ovs-ofctl add-flow br0 ip,in_port=1,nw_ttl=128,actions=output:2 10.匹配tcp/udp,源/目的端口,范围为0-65535 匹配源tcp端口179 ovs-ofctl add-flow br0 tcp,tcp_src=179/0xfff0,actions=output:2 匹配目的tcp端口179 ovs-ofctl add-flow br0 tcp,tcp_dst=179/0xfff0,actions=output:2 匹配源udp端口1234 ovs-ofctl add-flow br0 udp,udp_src=1234/0xfff0,actions=output:2 匹配目的udp端口1234 ovs-ofctl add-flow br0 udp,udp_dst=1234/0xfff0,actions=output:2 11.匹配tcp flags tcp flags=fin,syn,rst,psh,ack,urg,ece,cwr,ns ovs-ofctl add-flow br0 tcp,tcp_flags=ack,actions=output:2 12.匹配icmp code,范围为0-255 条件:指定icmp ovs-ofctl add-flow br0 icmp,icmp_code=2,actions=output:2 13.匹配vlan TCI TCI低12位为vlan id,高3位为priority,例如tci=0xf123则vlan_id为0x123和vlan_pcp=7 ovs-ofctl add-flow br0 in_port=1,vlan_tci=0xf123,actions=output:2 14.匹配mpls label 条件:指定dl_type=0x8847/0x8848 ovs-ofctl add-flow br0 mpls,in_port=1,mpls_label=7,actions=output:2 15.匹配mpls tc,范围为0-7 条件:指定dl_type=0x8847/0x8848 ovs-ofctl add-flow br0 mpls,in_port=1,mpls_tc=7,actions=output:2 1 16.匹配tunnel id,源/目的IP 匹配tunnel id ovs-ofctl add-flow br0 in_port=1,tun_id=0x7/0xf,actions=output:2 匹配tunnel源IP ovs-ofctl add-flow br0 in_port=1,tun_src=192.168.1.0/255.255.255.0,actions=output:2 匹配tunnel目的IP ovs-ofctl add-flow br0 in_port=1,tun_dst=192.168.1.0/255.255.255.0,actions=output:2 一些匹配项的速记符 速记符 匹配项 ip dl_type=0x800 ipv6 dl_type=0x86dd icmp dl_type=0x0800,nw_proto=1 icmp6 dl_type=0x86dd,nw_proto=58 tcp dl_type=0x0800,nw_proto=6 tcp6 dl_type=0x86dd,nw_proto=6 udp dl_type=0x0800,nw_proto=17 udp6 dl_type=0x86dd,nw_proto=17 sctp dl_type=0x0800,nw_proto=132 sctp6 dl_type=0x86dd,nw_proto=132 arp dl_type=0x0806 rarp dl_type=0x8035 mpls dl_type=0x8847 mplsm dl_type=0x8848 指令动作 1.动作为出接口 从指定接口转发出去 ovs-ofctl add-flow br0 in_port=1,actions=output:2 1 2.动作为指定group group id为已创建的group table ovs-ofctl add-flow br0 in_port=1,actions=group:666 1 3.动作为normal 转为L2/L3处理流程 ovs-ofctl add-flow br0 in_port=1,actions=normal 1 4.动作为flood 从所有物理接口转发出去,除了入接口和已关闭flooding的接口 ovs-ofctl add-flow br0 in_port=1,actions=flood 1 5.动作为all 从所有物理接口转发出去,除了入接口 ovs-ofctl add-flow br0 in_port=1,actions=all 1 6.动作为local 一般是转发给本地网桥 ovs-ofctl add-flow br0 in_port=1,actions=local 1 7.动作为in_port 从入接口转发回去 ovs-ofctl add-flow br0 in_port=1,actions=in_port 1 8.动作为controller 以packet-in消息上送给控制器 ovs-ofctl add-flow br0 in_port=1,actions=controller 1 9.动作为drop 丢弃数据包操作 ovs-ofctl add-flow br0 in_port=1,actions=drop 1 10.动作为mod_vlan_vid 修改报文的vlan id,该选项会使vlan_pcp置为0 ovs-ofctl add-flow br0 in_port=1,actions=mod_vlan_vid:8,output:2 1 11.动作为mod_vlan_pcp 修改报文的vlan优先级,该选项会使vlan_id置为0 ovs-ofctl add-flow br0 in_port=1,actions=mod_vlan_pcp:7,output:2 1 12.动作为strip_vlan 剥掉报文内外层vlan tag ovs-ofctl add-flow br0 in_port=1,actions=strip_vlan,output:2 1 13.动作为push_vlan 在报文外层压入一层vlan tag,需要使用openflow1.1以上版本兼容 ovs-ofctl add-flow -O OpenFlow13 br0 in_port=1,actions=push_vlan:0x8100,set_field:4097-\>vlan_vid,output:2 1 ps: set field值为4096+vlan_id,并且vlan优先级为0,即4096-8191,对应的vlan_id为0-4095 14.动作为push_mpls 修改报文的ethertype,并且压入一个MPLS LSE ovs-ofctl add-flow br0 in_port=1,actions=push_mpls:0x8847,set_field:10-\>mpls_label,output:2 1 15.动作为pop_mpls 剥掉最外层mpls标签,并且修改ethertype为非mpls类型 ovs-ofctl add-flow br0 mpls,in_port=1,mpls_label=20,actions=pop_mpls:0x0800,output:2 1 16.动作为修改源/目的MAC,修改源/目的IP 修改源MAC ovs-ofctl add-flow br0 in_port=1,actions=mod_dl_src:00:00:00:00:00:01,output:2 修改目的MAC ovs-ofctl add-flow br0 in_port=1,actions=mod_dl_dst:00:00:00:00:00:01,output:2 修改源IP ovs-ofctl add-flow br0 in_port=1,actions=mod_nw_src:192.168.1.1,output:2 修改目的IP ovs-ofctl add-flow br0 in_port=1,actions=mod_nw_dst:192.168.1.1,output:2 17.动作为修改TCP/UDP/SCTP源目的端口 修改TCP源端口 ovs-ofctl add-flow br0 tcp,in_port=1,actions=mod_tp_src:67,output:2 修改TCP目的端口 ovs-ofctl add-flow br0 tcp,in_port=1,actions=mod_tp_dst:68,output:2 修改UDP源端口 ovs-ofctl add-flow br0 udp,in_port=1,actions=mod_tp_src:67,output:2 修改UDP目的端口 ovs-ofctl add-flow br0 udp,in_port=1,actions=mod_tp_dst:68,output:2 18.动作为mod_nw_tos 条件:指定dl_type=0x0800 修改ToS字段的高6位,范围为0-255,值必须为4的倍数,并且不会去修改ToS低2位ecn值 ovs-ofctl add-flow br0 ip,in_port=1,actions=mod_nw_tos:68,output:2 1 19.动作为mod_nw_ecn 条件:指定dl_type=0x0800,需要使用openflow1.1以上版本兼容 修改ToS字段的低2位,范围为0-3,并且不会去修改ToS高6位的DSCP值 ovs-ofctl add-flow br0 ip,in_port=1,actions=mod_nw_ecn:2,output:2 1 20.动作为mod_nw_ttl 修改IP报文ttl值,需要使用openflow1.1以上版本兼容 ovs-ofctl add-flow -O OpenFlow13 br0 in_port=1,actions=mod_nw_ttl:6,output:2 1 21.动作为dec_ttl 对IP报文进行ttl自减操作 ovs-ofctl add-flow br0 in_port=1,actions=dec_ttl,output:2 1 22.动作为set_mpls_label 对报文最外层mpls标签进行修改,范围为20bit值 ovs-ofctl add-flow br0 in_port=1,actions=set_mpls_label:666,output:2 1 23.动作为set_mpls_tc 对报文最外层mpls tc进行修改,范围为0-7 ovs-ofctl add-flow br0 in_port=1,actions=set_mpls_tc:7,output:2 1 24.动作为set_mpls_ttl 对报文最外层mpls ttl进行修改,范围为0-255 ovs-ofctl add-flow br0 in_port=1,actions=set_mpls_ttl:255,output:2 1 25.动作为dec_mpls_ttl 对报文最外层mpls ttl进行自减操作 ovs-ofctl add-flow br0 in_port=1,actions=dec_mpls_ttl,output:2 1 26.动作为move NXM字段 使用move参数对NXM字段进行操作 将报文源MAC复制到目的MAC字段,并且将源MAC改为00:00:00:00:00:01 ovs-ofctl add-flow br0 in_port=1,actions=move:NXM_OF_ETH_SRC[]-\>NXM_OF_ETH_DST[],mod_dl_src:00:00:00:00:00:01,output:2 1 2 ps: 常用NXM字段参照表 NXM字段 报文字段 NXM_OF_ETH_SRC 源MAC NXM_OF_ETH_DST 目的MAC NXM_OF_ETH_TYPE 以太网类型 NXM_OF_VLAN_TCI vid NXM_OF_IP_PROTO IP协议号 NXM_OF_IP_TOS IP ToS值 NXM_NX_IP_ECN IP ToS ECN NXM_OF_IP_SRC 源IP NXM_OF_IP_DST 目的IP NXM_OF_TCP_SRC TCP源端口 NXM_OF_TCP_DST TCP目的端口 NXM_OF_UDP_SRC UDP源端口 NXM_OF_UDP_DST UDP目的端口 NXM_OF_SCTP_SRC SCTP源端口 NXM_OF_SCTP_DST SCTP目的端口 27.动作为load NXM字段 使用load参数对NXM字段进行赋值操作 push mpls label,并且把10(0xa)赋值给mpls label ovs-ofctl add-flow br0 in_port=1,actions=push_mpls:0x8847,load:0xa-\>OXM_OF_MPLS_LABEL[],output:2 对目的MAC进行赋值 ovs-ofctl add-flow br0 in_port=1,actions=load:0x001122334455-\>OXM_OF_ETH_DST[],output:2 1 2 3 4 28.动作为pop_vlan 弹出报文最外层vlan tag ovs-ofctl add-flow br0 in_port=1,dl_type=0x8100,dl_vlan=777,actions=pop_vlan,output:2 1 meter表 常用操作 由于meter表是openflow1.3版本以后才支持,所以所有命令需要指定OpenFlow1.3版本以上 ps: 在openvswitch-v2.8之前的版本中,还不支持meter 在v2.8版本之后已经实现,要正常使用的话,需要注意的是datapath类型要指定为netdev,band type暂时只支持drop,还不支持DSCP REMARK 1.查看当前设备对meter的支持 ovs-ofctl -O OpenFlow13 meter-features br0 2.查看meter表 ovs-ofctl -O OpenFlow13 dump-meters br0 3.查看meter统计 ovs-ofctl -O OpenFlow13 meter-stats br0 4.创建meter表 限速类型以kbps(kilobits per second)计算,超过20kb/s则丢弃 ovs-ofctl -O OpenFlow13 add-meter br0 meter=1,kbps,band=type=drop,rate=20 同上,增加burst size参数 ovs-ofctl -O OpenFlow13 add-meter br0 meter=2,kbps,band=type=drop,rate=20,burst_size=256 同上,增加stats参数,对meter进行计数统计 ovs-ofctl -O OpenFlow13 add-meter br0 meter=3,kbps,stats,band=type=drop,rate=20,burst_size=256 限速类型以pktps(packets per second)计算,超过1000pkt/s则丢弃 ovs-ofctl -O OpenFlow13 add-meter br0 meter=4,pktps,band=type=drop,rate=1000 5.删除meter表 删除全部meter表 ovs-ofctl -O OpenFlow13 del-meters br0 删除meter id=1 ovs-ofctl -O OpenFlow13 del-meter br0 meter=1 6.创建流表 ovs-ofctl -O OpenFlow13 add-flow br0 in_port=1,actions=meter:1,output:2 group表 由于group表是openflow1.1版本以后才支持,所以所有命令需要指定OpenFlow1.1版本以上 常用操作 group table支持4种类型 all:所有buckets都执行一遍 select: 每次选择其中一个bucket执行,常用于负载均衡应用 ff(FAST FAILOVER):快速故障修复,用于检测解决接口等故障 indirect:间接执行,类似于一个函数方法,被另一个group来调用 1.查看当前设备对group的支持 ovs-ofctl -O OpenFlow13 dump-group-features br0 2.查看group表 ovs-ofctl -O OpenFlow13 dump-groups br0 3.创建group表 类型为all ovs-ofctl -O OpenFlow13 add-group br0 group_id=1,type=all,bucket=output:1,bucket=output:2,bucket=output:3 类型为select ovs-ofctl -O OpenFlow13 add-group br0 group_id=2,type=select,bucket=output:1,bucket=output:2,bucket=output:3 类型为select,指定hash方法(5元组,OpenFlow1.5+) ovs-ofctl -O OpenFlow15 add-group br0 group_id=3,type=select,selection_method=hash,fields=ip_src,bucket=output:2,bucket=output:3 4.删除group表 ovs-ofctl -O OpenFlow13 del-groups br0 group_id=2 5.创建流表 ovs-ofctl -O OpenFlow13 add-flow br0 in_port=1,actions=group:2 goto table配置 数据流先从table0开始匹配,如actions有goto_table,再进行后续table的匹配,实现多级流水线,如需使用goto table,则创建流表时,指定table id,范围为0-255,不指定则默认为table0 1.在table0中添加一条流表条目 ovs-ofctl add-flow br0 table=0,in_port=1,actions=goto_table=1 2.在table1中添加一条流表条目 ovs-ofctl add-flow br0 table=1,ip,nw_dst=10.10.0.0/16,actions=output:2 tunnel配置 如需配置tunnel,必需确保当前系统对各tunnel的remote ip网络可达 gre 1.创建一个gre接口,并且指定端口id=1001 ovs-vsctl add-port br0 gre1 -- set Interface gre1 type=gre options:remote_ip=1.1.1.1 ofport_request=1001 2.可选选项 将tos或者ttl在隧道上继承,并将tunnel id设置成123 ovs-vsctl set Interface gre1 options:tos=inherit options:ttl=inherit options:key=123 3.创建关于gre流表 封装gre转发 ovs-ofctl add-flow br0 ip,in_port=1,nw_dst=10.10.0.0/16,actions=output:1001 解封gre转发 ovs-ofctl add-flow br0 in_port=1001,actions=output:1 vxlan 1.创建一个vxlan接口,并且指定端口id=2001 ovs-vsctl add-port br0 vxlan1 -- set Interface vxlan1 type=vxlan options:remote_ip=1.1.1.1 ofport_request=2001 2.可选选项 将tos或者ttl在隧道上继承,将vni设置成123,UDP目的端为设置成8472(默认为4789) ovs-vsctl set Interface vxlan1 options:tos=inherit options:ttl=inherit options:key=123 options:dst_port=8472 3.创建关于vxlan流表 封装vxlan转发 ovs-ofctl add-flow br0 ip,in_port=1,nw_dst=10.10.0.0/16,actions=output:2001 解封vxlan转发 ovs-ofctl add-flow br0 in_port=2001,actions=output:1 sflow配置 1.对网桥br0进行sflow监控 agent: 与collector通信所在的网口名,通常为管理口 target: collector监听的IP地址和端口,端口默认为6343 header: sFlow在采样时截取报文头的长度 polling: 采样时间间隔,单位为秒 ovs-vsctl -- --id=@sflow create sflow agent=eth0 target=\"10.0.0.1:6343\" header=128 sampling=64 polling=10 -- set bridge br0 sflow=@sflow 2.查看创建的sflow ovs-vsctl list sflow 3.删除对应的网桥sflow配置,参数为sFlow UUID ovs-vsctl remove bridge br0 sflow 7b9b962e-fe09-407c-b224-5d37d9c1f2b3 4.删除网桥下所有sflow配置 ovs-vsctl -- clear bridge br0 sflow 1 QoS配置 ingress policing 1.配置ingress policing,对接口eth0入流限速10Mbps ovs-vsctl set interface eth0 ingress_policing_rate=10000 ovs-vsctl set interface eth0 ingress_policing_burst=8000 2.清除相应接口的ingress policer配置 ovs-vsctl set interface eth0 ingress_policing_rate=0 ovs-vsctl set interface eth0 ingress_policing_burst=0 3.查看接口ingress policer配置 ovs-vsctl list interface eth0 4.查看网桥支持的Qos类型 ovs-appctl qos/show-types br0 端口镜像配置 1.配置eth0收到/发送的数据包镜像到eth1 ovs-vsctl -- set bridge br0 mirrors=@m \ -- --id=@eth0 get port eth0 \ -- --id=@eth1 get port eth1 \ -- --id=@m create mirror name=mymirror select-dst-port=@eth0 select-src-port=@eth0 output-port=@eth1 2.删除端口镜像配置 ovs-vsctl -- --id=@m get mirror mymirror -- remove bridge br0 mirrors @m 3.清除网桥下所有端口镜像配置 ovs-vsctl clear bridge br0 mirrors 4.查看端口镜像配置 ovs-vsctl get bridge br0 mirrors Open vSwitch中有多个命令,分别有不同的作用,大致如下: ovs-vsctl用于控制ovs db ovs-ofctl用于管理OpenFlow switch 的 flow ovs-dpctl用于管理ovs的datapath ovs-appctl用于查询和管理ovs daemon 转载于:https://www.cnblogs.com/liuhongru/p/10336849.html 本篇文章为转载内容。原文链接:https://blog.csdn.net/weixin_30876945/article/details/99916308。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-06-08 17:13:19
295
转载
JQuery插件下载
...升了网站的整体性能。使用jQuery.gif.js非常简单,只需几行代码即可实现强大的功能。首先,你需要将插件文件引入到你的HTML文档中。接着,在你的HTML结构中添加一个包含静态GIF预览图的标签,并为其指定一个唯一的ID或类名。最后,通过一行简单的jQuery代码来激活插件的功能。例如:javascript$(document).ready(function(){$('your-image-id').gifjs();});这里,your-image-id应替换为你实际使用的元素ID。一旦完成这些步骤,用户就能享受到流畅的GIF图片播放体验了。此外,jQuery.gif.js还支持多种自定义选项,如控制播放速度、调整静止图像的大小等,使你能够根据具体需求进行个性化设置。无论是用于展示产品动态效果、提供教程演示,还是增强网页互动性,这款插件都能为你带来极大的便利和灵活性。 点我下载 文件大小:371.21 KB 您将下载一个JQuery插件资源包,该资源包内部文件的目录结构如下: 本网站提供JQuery插件下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2024-12-02 10:47:15
57
本站
VUE
...尺码、颜色的商品。而使用Vue.js来完成Sku选择器,可以为客户供给更好的商品选择体验。 <template> <div> <div v-for="item in skuList"> <h3>{ { item.title } }</h3> <div v-for="subItem in item.items"> <label> <input type="checkbox" v-model="selected[subItem.id]" @change="onSkuSelected" /> { { subItem.value } } </label> </div> </div> </div> </template> 在上面的代码中,我们使用Vue.js的v-for命令展现Sku列表,并使用v-model命令关联选择的状态。当用户勾选或取消勾选选项时,通过@change事件启动onSkuSelected方法来处理选择状态。 除了Sku选择器,Vue.js还可以用于完成许多其他的功能,例如页面展现、表单验证、事件处理等。因此,Vue.js已经成为许多开发者选择的第一框架。
2023-05-19 22:11:19
101
算法侠
VUE
...组。假设我们想要取消id为2的项的选中状态: vue // 在methods中增加一个方法 unselectRow(id) { this.selectedRows = this.selectedRows.filter(row => row.id !== id); } // 调用该方法 this.unselectRow(2); 上面的unselectRow方法通过filter函数移除了selectedRows中id为2的项,这样在视图层上对应id为2的行就会自动变为未选中状态。 4. 深入思考与探讨 实际上,取消选中状态的过程并不是直接对table组件进行操作,而是通过操作绑定的数据源间接影响了组件的状态。这体现了Vue的核心思想——数据驱动视图,也展示了iview table组件设计的灵活性。 当然,实际项目中可能还会涉及更复杂的交互逻辑,例如批量取消、联动其他组件等,但只要遵循“数据驱动”的原则,灵活运用Vue的数据绑定和计算属性等功能,都能迎刃而解。同时,也要注意适时地利用生命周期钩子或者watcher来监听数据变化,确保视图及时响应数据的变化,以提供流畅的用户体验。 总的来说,理解并掌握iview table组件数据绑定机制以及Vue的数据驱动特性,对于处理这类问题至关重要。在编程的世界里,我们在摸爬滚打的探索旅程中,不断挠头苦思、动手尝试、优化打磨,直到最后能把实际问题迎刃而解,这就是编程让人着迷的地方啦!
2023-05-25 23:04:41
88
雪落无痕_
Maven
...execution-id不生效? 作为Java开发者,我们经常会遇到各种各样的问题。今天我想跟大家分享的是一个关于Maven的问题——为什么我们在命令行指定execution-id时,它的效果并不如预期呢? 什么是Maven? Maven是一个强大的构建工具,它可以帮助我们自动化构建、测试和部署我们的Java应用程序。它是基于Apache Ant和Apache Ivy构建的,提供了一个简单的方式来管理项目的构建和依赖关系。 execution-id是什么? 在Maven的POM文件中,我们可以定义多个build元素,每个build元素都可以包含一个或多个execution元素。execution元素是用来定义构建生命周期的一部分的。每个execution元素都有一个唯一的ID,这个ID叫做execution-id。 当我们运行Maven命令时,Maven会根据我们指定的execution-id来执行相应的构建步骤。比如,如果我们只想单独跑打包这一步骤,那么我们可以在命令行里头敲入-Dexecutions=clean package这个指令来实现。 为什么execution-id不起作用? 让我们来看一个例子: xml org.apache.maven.plugins maven-compiler-plugin default-compile compile test-compile test-compile 在这个例子中,我们定义了两个execution元素,它们分别对应编译和测试阶段。如果我们只想运行测试阶段,我们应该在命令行中指定-Dexecutions=test-compile。不过实际上,你要是执行了mvn test命令,Maven这家伙可不会单干测试这一项,它会一股脑儿把编译和测试两个步骤一起完成。 这是为什么呢?这是因为Maven默认只会执行第一个execution元素,而不管我们有没有指定execution-id。如果我们想要运行某个特定的execution任务,就得在命令行里头把那个完整的execution元素的XML串给指定出来。说白了,就是得把那个包含所有详细设置的execution XML代码段,原原本本地塞到命令行里面去执行它。 如何解决问题? 要解决这个问题,我们需要修改我们的execution元素,使其具有唯一的id属性,并在命令行中指定整个execution元素的XML字符串。例如: xml org.apache.maven.plugins maven-compiler-plugin default-compile compile test-compile test-compile 然后在命令行中,我们应该这样运行Maven命令: bash mvn -Dexecutions='[org.apache.maven.plugins:maven-compiler-plugin:test-compile]' test 这样,Maven就会只运行test-compile阶段,而不是同时运行编译和测试阶段了。 总结 总的来说,Maven的execution-id是一个很有用的功能,它可以帮助我们更灵活地控制构建流程。但是,如果我们不正确地使用它,就可能导致一些意想不到的结果。所以,伙计们,在使用这个“execution-id”的时候,咱们真得打起十二分精神,确保我们的每一步设置都准确无误,可别马虎大意了!
2023-12-11 19:41:15
108
月影清风_t
Hibernate
...ernate中正确地使用JOIN呢?本文将为大家详细讲解。 二、Hibernate JOIN的基本概念 在SQL中,JOIN是一种将两个或多个表中的行匹配起来的操作。在Hibernate这玩意儿里,如果你想做JOIN操作的话,我们可以有两种灵活的方式来实现。一种是通过Criteria API,另一种则是用HQL,两种方法都超级实用,能够帮助你轻松完成JOIN查询的需求。Hibernate支持INNER JOIN、LEFT OUTER JOIN、RIGHT OUTER JOIN以及FULL OUTER JOIN四种类型的JOIN。 1. INNER JOIN 只返回两个表中满足条件的记录。 java Criteria criteria = session.createCriteria(User.class); criteria.add(Restrictions.eq("username", "test")); List users = criteria.list(); 2. LEFT OUTER JOIN 返回左表的所有记录,如果右表中没有满足条件的记录,则返回NULL。 sql SELECT FROM user u LEFT OUTER JOIN address a ON u.id=a.user_id WHERE u.username='test' 3. RIGHT OUTER JOIN 返回右表的所有记录,如果左表中没有满足条件的记录,则返回NULL。 sql SELECT FROM user u RIGHT OUTER JOIN address a ON u.id=a.user_id WHERE u.username='test' 4. FULL OUTER JOIN 返回两表中的所有记录,如果某一方没有满足条件的记录,则返回NULL。 sql SELECT FROM user u FULL OUTER JOIN address a ON u.id=a.user_id WHERE u.username='test' 三、使用Criteria API进行JOIN操作 我们可以使用Criteria API来构建一个复杂的JOIN查询。比如这样,想象一下我们有两个类,“User”和“Address”,好比生活中你有一个朋友(User)和他的家(Address)。这个朋友的资料里会记录着他家的地址信息,也就是说,一个User对象会关联到一个Address对象。现在呢,我们的目标是找出所有这些朋友以及他们各自的家的具体位置。 java Criteria criteria = session.createCriteria(User.class); criteria.createAlias("address", "a"); criteria.add(Restrictions.eq("username", "test")); List users = criteria.list(); 在这个例子中,我们首先创建了一个Criteria对象,然后使用createAlias方法创建了一个别名"a",这个别名对应于Address实体类。接着,我们添加了一个限制条件,即用户名为"test"。最后,我们调用了list方法获取所有的User对象。 四、使用HQL进行JOIN操作 除了使用Criteria API,我们还可以使用HQL来编写JOIN查询。HQL是一种面向对象的关系查询语言,它可以被用来替代JDBC。 例如,我们可以使用以下的HQL语句来查找所有用户及其地址: css SELECT u, a FROM User u JOIN u.address a WHERE u.username = 'test' 在这个例子中,我们使用了JOIN关键字来指定User和Address两个表之间的关系,然后使用WHERE子句来指定用户名为"test"。最后,我们把要交出来的结果给定了,其实就是User和Address这两个实体类啦。 五、总结 总的来说,在Hibernate中进行JOIN操作并不复杂,我们只需要根据实际需求选择合适的JOIN类型,然后使用Criteria API或者HQL来构建我们的查询即可。只要咱们把這些基础知识都牢牢掌握住,就能像玩转积木一样,灵活运用Hibernate这个工具,对数据库进行各种高难度操作,一点儿都不费劲儿。
2023-01-23 14:43:22
505
雪落无痕-t
Impala
...以SQL查询的形式在Hadoop集群上执行分析任务。它的主要目标是提供高性能、可扩展性和易用性。与其他分析工具不同的是,Impala不依赖于复杂的MapReduce框架,而是通过多核CPU进行计算。这意味着你可以更快地获取结果,而且不会受到MapReduce框架的一些限制。 二、Impala的数据同步机制是什么? 在Impala中,数据同步是指当一个节点上的数据发生变化时,如何将其更新到其他节点上的过程。Impala使用一种称为"数据复制"的技术来实现这一功能。实际上呢,每个Impala节点都有一份数据的完整备份,这样一来,就像每人都有同样的剧本一样,保证了所有数据的一致性和同步性,一点儿都不会出岔子。当一个节点上的数据有了新动静,就像有人在广播里喊了一嗓子“注意啦,有数据更新了!”这时候,其他所有节点都像接到消息的小伙伴一样,会立刻自动把自己的数据副本刷新一下,保证和最新的信息同步。 三、Impala的数据同步机制的优点 1. 提高了数据一致性 由于每个节点都有完整的数据副本,所以即使某个节点发生故障,也不会影响整个系统的数据完整性。 2. 提升了数据读取效率 由于每个节点都有一份完整的数据副本,所以读取数据的速度会比从单个节点读取要快得多。 3. 提供了容错能力 如果一个节点发生故障,其他节点仍然可以通过其备份来提供服务,从而提高了系统的可用性。 四、Impala的数据同步机制的缺点 1. 需要大量的存储空间 由于每个节点都需要保存完整的数据副本,所以这会消耗大量的存储空间。 2. 对网络带宽的需求较高 因为数据需要被广播到所有节点,所以这会增加网络带宽的需求。 3. 增加了系统的复杂性 虽然数据复制可以提高数据的一致性和读取效率,但也增加了系统的复杂性,需要更多的管理和维护工作。 五、总结 Impala的数据同步机制是一种非常重要的技术,它确保了系统数据的一致性和可用性。不过呢,这种技术也存在一些小短板。比如,它对存储空间的需求可是相当大的,而且网络带宽的要求也不低,得要足够给力才行。所以,在考虑选用Impala的时候,咱们得把这些因素都掂量一下,根据实际情况,像挑西瓜那样,选出最对味儿的那个选择。总的来说,Impala这家伙可真是个实力派兼灵活的法宝,在大数据的世界里,它能帮我们更溜地进行数据分析,效率嗖嗖的。如果你还没有尝试过Impala,那么我强烈建议你试一试!
2023-09-29 21:29:11
500
昨夜星辰昨夜风-t
Kafka
...。 - group.id: 每个客户端在加入复制组时必须指定的唯一标识符。 - replication.factor: 用于指定每个Partition的副本数量,也就是在一个复制组中,每个Partition应该有多少个副本。 - inter.broker.protocol.version: 用于指定跨数据中心复制时使用的网络协议版本。 四、使用Kafka API进行跨数据中心复制 除了通过配置文件进行跨数据中心复制之外,还可以直接使用Kafka的API进行手动操作。具体步骤如下: 1. 在生产者端,调用send()方法发送消息到Leader节点。 2. Leader节点接收到消息后,将其复制到所有的Follower节点。 3. 在消费者端,从Follower节点获取消息并进行处理。 五、总结 总的来说,通过设置Kafka的复制组参数和使用Kafka的API接口,我们可以轻松地实现在跨数据中心之间的数据复制。而且你知道吗,Kafka有个超赞的Replication机制,这玩意儿就像给数据上了个超级保险,让数据的安全性和稳定性杠杠的。哪怕某个地方突然出了状况,单点故障了,也能妥妥地防止数据丢失,可牛掰了! 六、致谢 感谢阅读这篇关于如何确保Kafka的跨数据中心复制的文章,如果您有任何疑问或建议,请随时与我联系,我将竭诚为您服务!
2023-03-17 20:43:00
532
幽谷听泉-t
Apache Pig
...ache Pig作为Hadoop生态的重要一员,以其SQL-like的脚本语言——Pig Latin,为用户提供了对大规模数据集进行高效处理的能力。然而,在把Pig任务扔给YARN(也就是那个“又一个资源协调器”)集群的时候,咱们时常会碰到个让人头疼的小插曲:这任务竟然没法顺利拿到队列里的资源。本文将深入探讨这个问题的发生原因,并通过实例代码和详细解析来提供有效的解决策略。 2. 问题现象及初步分析 当您尝试提交一个Pig作业到YARN上运行时,可能遇到类似这样的错误提示:“Failed to submit application to YARN: org.apache.hadoop.yarn.exceptions.YarnException: Application submission failed for appattempt_1603984756655_0001 due to queue 'your-queue-name' not existing in the system.” 这个错误明确指出,Pig作业无法在指定的队列中找到足够的资源来执行任务。 问题根源:这通常是因为队列配置不正确或资源管理器未识别出该队列。YARN按照预定义的队列管理和分配资源,如果提交作业时不明确指定或指定了不存在的队列名称,就会导致作业无法获取所需的计算资源。 3. 示例代码与问题演示 首先,让我们看一段典型的使用Apache Pig提交作业到YARN的示例代码: shell pig -x mapreduce -param yarn_queue_name=your-queue-name script.pig 假设这里的"your-queue-name"是一个实际不存在于YARN中的队列名,那么上述命令执行后就会出现文章开头所述的错误。 4. 解决方案与步骤 4.1 检查YARN队列配置 第一步是确认YARN资源管理器的队列配置是否包含了你所指定的队列名。登录到Hadoop ResourceManager节点,查看yarn-site.xml文件中的相关配置,如yarn.resourcemanager.scheduler.class和yarn.scheduler.capacity.root.queues等属性,确保目标队列已被正确创建并启用。 4.2 确认权限问题 其次,检查提交作业的用户是否有权访问指定队列。在容量调度器这个系统里,每个队列都有一份专属的“通行证名单”——也就是ACL(访问控制列表)。为了保险起见,得确认一下您是不是已经在这份名单上,拥有对当前队列的访问权限。 4.3 正确指定队列名 在提交Pig作业时,请务必准确无误地指定队列名。例如,如果你在YARN中有名为"data_processing"的队列,应如此提交作业: shell pig -x mapreduce -param yarn_queue_name=data_processing script.pig 4.4 调整资源请求 最后,根据队列的实际资源配置情况,适当调整作业的资源请求(如vCores、内存等)。如果资源请求开得太大,即使队列里明明有资源并且存货充足,作业也可能抓不到自己需要的那份资源,导致无法顺利完成任务。 5. 总结与思考 理解并解决Pig作业在YARN上无法获取队列资源的问题,不仅需要我们熟悉Apache Pig和YARN的工作原理,更要求我们在实践中细心观察、细致排查。当你碰到这类问题的时候,不妨先从最基础的设置开始“摸底”,一步步地往里探索。同时,得保持像猫捉老鼠那样的敏锐眼神和逮住问题不放的耐心,这样你才能在海量数据这座大山中稳稳当当地向前迈进。毕竟,就像生活一样,处理大数据问题的过程也是充满挑战与乐趣的探索之旅。
2023-06-29 10:55:56
477
半夏微凉
Hadoop
...理大数据集时。你知道Hadoop不?这可是个开源的大数据处理神器,它的能耐可大了去了!首先,它超级皮实,就算出点小差错也能稳稳地hold住;其次,这家伙还能随需应变,扩展性贼强,不管数据量有多大,都能妥妥地消化掉;最后,用它还特经济实惠,能让企业和研究机构在进行大规模机器学习训练时,既省钱又省心,简直是大家手里的香饽饽工具啊!在这篇文章里,我要带你手把手了解如何在大数据的海洋里畅游,利用Hadoop这把大铲子进行大规模机器学习训练。不仅如此,我还会给你送上一些实实在在的代码实例,让你看得懂、学得会,保证你收获满满! 二、什么是Hadoop? Hadoop是一个开源的分布式计算框架,主要用于存储和处理大量的结构化和非结构化数据。其主要由两个核心组件构成:Hadoop Distributed File System(HDFS)和MapReduce。HDFS用于存储海量数据,而MapReduce则用于并行处理这些数据。 三、Hadoop与机器学习 在大规模机器学习训练中,我们需要处理的数据量通常非常大,甚至超过了单台计算机的处理能力。这时,我们就可以借助Hadoop来解决这个问题。把数据分散到多个节点上,让它们并行处理,这就像我们把工作分给不同的团队一起干,效率嗖嗖地提高,这样一来,处理数据的速度就能大幅度提升。 四、如何利用Hadoop进行机器学习训练? 要利用Hadoop进行机器学习训练,我们需要完成以下几个步骤: 1. 数据准备 首先,我们需要将原始数据转换为适合于机器学习模型的格式,并将其加载到HDFS中。 2. 特征提取 接下来,我们需要从原始数据中提取有用的特征。这可能涉及到一些复杂的预处理步骤,例如数据清洗、标准化等。 3. 训练模型 最后,我们将使用Hadoop的MapReduce功能,将数据分割成多个部分,然后在各个部分上并行训练模型。当所有部分都历经了充分的训练,我们就会把它们各自的成绩汇总起来,这样一来,就诞生了我们的终极模型。 下面是一些具体的代码示例,展示了如何在Hadoop上进行机器学习训练。 java // 将数据加载到HDFS fs = FileSystem.get(conf); fs.copyFromLocalFile(new Path("local/data"), new Path("hdfs/data")); // 使用MapReduce并行训练模型 public static class Map extends Mapper { private final static IntWritable one = new IntWritable(1); private Text word = new Text(); public void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException { String[] words = value.toString().split("\\s+"); for (String w : words) { word.set(w); context.write(one, new DoubleWritable(count.incrementAndGet())); } } public void reduce(IntWritable key, Iterable values, Context context) throws IOException, InterruptedException { double sum = 0; for (DoubleWritable val : values) { sum += val.get(); } context.write(key, new DoubleWritable(sum)); } } 在这个例子中,我们首先将数据从本地文件系统复制到HDFS。接着,我们设计了一个超级实用的Map函数,它的任务就是把数据“大卸八块”,把每个单词单独拎出来,然后统计它们出现的次数,并且把这些信息原原本本地塞进输出流里。然后,我们创建了一个名叫Reduce的函数,它的任务呢,就是统计每个单词出现的具体次数,就像个认真的小会计,给每个单词记账。 五、总结 总的来说,利用Hadoop进行大规模机器学习训练是一项既复杂又有趣的工作。这玩意儿需要咱们对Hadoop的架构和运行机制了如指掌,而且呢,还得顺手拈来一些机器学习的小窍门。但只要我们能像玩转乐高一样灵活运用Hadoop,就能毫不费力地对付那些海量数据,而且还能像探宝者一样,从这些数据海洋中挖出真正有价值的宝藏信息。
2023-01-11 08:17:27
465
翡翠梦境-t
ZooKeeper
...外,结合Kafka、Hadoop等开源项目的实际案例,我们可以看到ZooKeeper在大型集群管理、服务注册与发现等方面的广泛应用。比如,在Kafka中,ZooKeeper不仅用于Broker节点的管理和协调,还为生产者和消费者提供动态的数据订阅服务,进一步凸显了其在分布式系统中的核心价值。 综上所述,深入研究和掌握ZooKeeper的工作原理及其最新进展,对于构建高可用、高性能的分布式系统至关重要。同时,理解并借鉴其在各类实战场景中的最佳实践,将有助于开发者们更好地应对未来分布式计算环境中的挑战与机遇。
2023-07-04 14:25:57
73
寂静森林
ZooKeeper
...:ZooKeeper使用ZAB协议(ZooKeeper Atomic Broadcast)保证了数据的一致性,这意味着所有客户端看到的数据视图都是最新的,并且是全局一致的。 (2)临时节点与监听器:ZooKeeper支持创建临时节点,当创建节点的客户端会话断开时,该节点会自动删除。同时呢,ZooKeeper这个小家伙还支持客户端给任何一个节点挂上Watcher监听器,这样一来,一旦这个节点状态有啥风吹草动,嘿,ZooKeeper可就立马通知所有对这个节点保持关注的客户端们了。 这些特性使得ZooKeeper成为分布式任务调度的理想选择,任务可以以临时节点的形式存在,而任务调度器通过监听节点变化来实时获取并分配任务。 3. 使用ZooKeeper实现分布式任务调度 3.1 创建任务队列 首先,我们可以利用ZooKeeper创建一个持久化或临时的ZNode作为任务队列。例如: java ZooKeeper zk = new ZooKeeper("zk_server:port", sessionTimeout, this); String taskQueuePath = "/task_queue"; zk.create(taskQueuePath, "".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT); 3.2 添加任务 当有新的任务需要调度时,将其转化为JSON格式或其他可序列化的形式,然后作为子节点添加到任务队列中,创建为临时有序节点: java String taskId = "task_001"; byte[] taskData = serializeTask(new TaskInfo(...)); // 序列化任务信息 String taskPath = taskQueuePath + "/" + taskId; zk.create(taskPath, taskData, ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL); 3.3 监听任务节点变化 任务调度器在启动时,会在任务队列节点上设置一个Watcher监听器,当有新任务加入或者已有任务完成(节点被删除)时,都能收到通知: java zk.exists(taskQueuePath, new Watcher() { @Override public void process(WatchedEvent event) { if (event.getType() == EventType.NodeChildrenChanged) { List tasks = zk.getChildren(taskQueuePath, true); // 获取当前待处理的任务列表 // 根据任务优先级、顺序等策略,从tasks中选取一个任务进行调度 } } }); 3.4 分配与执行任务 根据监听到的任务列表,任务调度器会选择合适的任务分配给空闲的工作节点。工作节点接收到任务后,开始执行任务,并在完成后删除对应的ZooKeeper节点。 这样,通过ZooKeeper的协助,我们成功实现了分布式任务调度系统的构建。每个步骤都超级灵活、充满活力,能像变形金刚那样,随着集群的大小变化或者任务需求的起起伏伏,始终保持超高的适应能力和稳定性,妥妥地hold住全场。 4. 总结与探讨 ZooKeeper以其强大的协调能力,让我们得以轻松应对复杂的分布式任务调度场景。不过在实际动手操作的时候,咱们还得多琢磨琢磨怎么对付错误、咋整并发控制这些事儿,这样才能让调度的效率和效果噌噌往上涨,达到更理想的优化状态。另外,面对不同的业务应用场景,我们可能需要量身定制任务分配的策略。这就意味着,首先咱们得把ZooKeeper摸透、吃熟,然后结合实际业务的具体逻辑,进行一番深度的琢磨和探究,这样才能玩转起来!就像冒险家在一片神秘莫测的丛林里找寻出路,我们也是手握ZooKeeper这个强大的指南针,在分布式任务调度这片“丛林”中不断尝试、摸爬滚打,努力让我们的解决方案更加完善、无懈可击。
2023-04-06 14:06:25
54
星辰大海
ZooKeeper
...nodes/nodeId,并在其数据部分存储节点负载量。 java // 创建ZNode并设置节点负载数据 String path = "/services/serviceName/nodes/nodeId"; byte[] data = String.valueOf(nodeLoad).getBytes(StandardCharsets.UTF_8); zk.create(path, data, ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT); (2.)监听器(Watcher) 客户端可以通过在特定ZNode上设置Watcher,实时感知到节点负载信息的变化。一旦某个服务节点的负载发生变化,ZooKeeper会通知所有关注此节点的客户端。 java // 设置监听器,监控节点负载变化 Stat stat = new Stat(); byte[] data = zk.getData("/services/serviceName/nodes/nodeId", new Watcher() { @Override public void process(WatchedEvent event) { // 在这里处理节点负载变化事件 } }, stat); (3)选择最佳服务节点 基于ZooKeeper提供的最新节点负载数据,客户端可以根据预设的负载均衡算法(如轮询、最小连接数、权重分配等)来选择当前最合适的服务节点进行请求转发。 java List children = zk.getChildren("/services/serviceName/nodes", false); children.sort((node1, node2) -> { // 这里根据节点负载数据进行排序,选择最优节点 }); String bestNode = children.get(0); 3. 探讨与思考 运用ZooKeeper实现节点负载均衡的过程中,我们能够感受到它的灵活性与强大性。不过,到了实际用起来的时候,有几个挑战咱们也得留心一下。比如,怎么捣鼓出一个既聪明又给力的负载均衡算法,可不是件轻松事儿;再者,网络延迟这个磨人的小妖精怎么驯服,也够头疼的;还有啊,在大规模集群里头保持稳定运行,这更是个大大的考验。这就意味着我们得不断动手尝试、灵活应变,对策略进行微调和升级,确保把ZooKeeper这个分布式协调服务的大能耐,彻彻底底地发挥出来。 总结来说,ZooKeeper在节点负载均衡策略上的应用,既体现了其作为一个通用分布式协调框架的价值,又展示了其实现复杂分布式任务的能力。利用ZooKeeper那个相当聪明的数据模型和监听功能,咱们完全可以捣鼓出一个既能让业务跑得溜溜的,又能稳如磐石、始终保持高可用性的分布式系统架构。就像是用乐高积木搭建一座既美观又结实的大厦一样,我们借助ZooKeeper这块宝,来创建咱所需要的高性能系统。所以,在我们实实在在做开发的时候,要是能摸透并熟练运用ZooKeeper这家伙的节点负载均衡策略,那可是对提升我们系统的整体表现力有着大大的好处,这一点儿毋庸置疑。
2024-01-21 23:46:49
123
秋水共长天一色
ZooKeeper
...式锁来确保资源的正确使用。 4.1 分布式锁的实现 java import org.apache.zookeeper.CreateMode; import org.apache.zookeeper.ZooDefs; import org.apache.zookeeper.ZooKeeper; public class DistributedLock { private ZooKeeper zookeeper; private String lockPath; public DistributedLock(ZooKeeper zookeeper, String lockPath) { this.zookeeper = zookeeper; this.lockPath = lockPath; } public void acquireLock() throws Exception { // 创建临时顺序节点 String lockNode = zookeeper.create(lockPath + "/lock-", new byte[0], ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL); System.out.println("Created lock node: " + lockNode); // 获取所有子节点并排序 List children = zookeeper.getChildren(lockPath, false); Collections.sort(children); // 检查是否为最小节点,如果是则获取锁 if (children.get(0).equals(lockNode.substring(lockPath.length() + 1))) { System.out.println("Acquired lock"); return; } // 否则,等待前一个节点释放锁 String previousNode = children.get(Collections.binarySearch(children, lockNode.substring(lockPath.length() + 1)) - 1); System.out.println("Waiting for lock node: " + previousNode); zookeeper.exists(lockPath + "/" + previousNode, true); } public void releaseLock() throws Exception { // 删除临时节点 zookeeper.delete(lockPath + "/" + lockNode.substring(lockPath.length() + 1), -1); } } 这个简单的实现展示了如何使用ZooKeeper来创建临时顺序节点,并通过监听前一个节点的状态变化来实现分布式锁的功能。在这过程中,我们不仅学会了怎么用ZooKeeper的基本功能,还感受到了它在实际操作中到底有多牛掰。 5. 实践案例二 配置中心 接下来,我们来看看另一个常见的应用场景——配置中心。在大型系统中,配置管理往往是一项繁琐而重要的工作。而ZooKeeper正好为我们提供了一个理想的解决方案。 5.1 配置中心的实现 假设我们有一个配置文件,其中包含了一些关键的配置信息,例如数据库连接字符串、日志级别等。我们可以把配置信息存到ZooKeeper里,然后用监听器让各个节点实时更新,这样就省心多了。 java import org.apache.zookeeper.WatchedEvent; import org.apache.zookeeper.Watcher; import org.apache.zookeeper.ZooKeeper; public class ConfigCenter implements Watcher { private ZooKeeper zookeeper; private String configPath; public ConfigCenter(ZooKeeper zookeeper, String configPath) { this.zookeeper = zookeeper; this.configPath = configPath; } public void start() throws Exception { // 监听配置节点 zookeeper.exists(configPath, this); } @Override public void process(WatchedEvent event) { if (event.getType() == Event.EventType.NodeDataChanged) { try { byte[] data = zookeeper.getData(configPath, this, null); String config = new String(data, "UTF-8"); System.out.println("New configuration: " + config); } catch (Exception e) { e.printStackTrace(); } } } } 这段代码展示了如何创建一个配置中心,通过监听配置节点的变化来实时更新配置信息。这种机制不仅提高了系统的灵活性,也大大简化了配置管理的工作量。 6. 总结与展望 通过上面两个具体的案例,我们看到了ZooKeeper在实际项目中的广泛应用。无论是分布式锁还是配置中心,ZooKeeper都能为我们提供稳定可靠的支持。当然,ZooKeeper还有许多其他强大的功能等待我们去发掘。希望大家在今后的工作中也能多多尝试使用ZooKeeper,相信它一定能给我们的开发带来意想不到的帮助! --- 希望这篇文章能让你对ZooKeeper有更深刻的理解,并激发你进一步探索的兴趣。如果你有任何问题或者想了解更多细节,请随时留言交流!
2025-02-11 15:58:01
40
心灵驿站
NodeJS
...ers = [ { id: 1, name: 'Alice' }, { id: 2, name: 'Bob' } ]; res.json(users); }); // 启动微服务并监听指定端口 app.listen(3000, () => { console.log('User service is running on port 3000...'); }); 上述代码中,我们创建了一个简单的基于 Express 的微服务,它提供了一个获取用户列表的接口。这个啊,其实就是个入门级的小栗子。在真实的项目场景里,这个服务可能会跟数据库或者其他服务“打交道”,从它们那里拿到需要的数据。然后,它会通过API Gateway这位“中间人”,对外提供一个统一的服务接口,让其他应用可以方便地和它互动交流。 4. 微服务间通信 使用gRPC或HTTP 在微服务架构下,各个服务间的通信至关重要。Node.js 支持多种通信方式,例如 gRPC 和 HTTP。以下是一个使用 HTTP 进行微服务间通信的例子: javascript // 在另一个服务中调用上述用户服务 const axios = require('axios'); app.get('/orders/:userId', async (req, res) => { try { const response = await axios.get(http://user-service:3000/users/${req.params.userId}); const user = response.data; // 假设我们从订单服务获取用户的订单信息 const orders = getOrdersFromDatabase(user.id); res.json(orders); } catch (error) { res.status(500).json({ error: 'Failed to fetch user data' }); } }); 在这个例子中,我们的“订单服务”通过HTTP客户端向“用户服务”发起请求,获取特定用户的详细信息,然后根据用户ID查询订单数据。 5. 总结与思考 利用 Node.js 构建微服务架构,我们可以享受到其带来的快速响应、高并发处理能力以及丰富的生态系统支持。不过呢,每种技术都有它最适合施展拳脚的地方和需要面对的挑战。比如说,当碰到那些特别消耗CPU的任务时,Node.js可能就不是最理想的解决方案了。所以在实际操作中,咱们得瞅准具体的业务需求和技术特性,小心翼翼地掂量一下,看怎样才能恰到好处地用 Node.js 来构建一个既结实又高效的微服务架构。就像是做菜一样,要根据食材和口味来精心调配,才能炒出一盘色香味俱全的好菜。同时,随着我们提供的服务越来越多,咱们不得不面对一些额外的挑战,比如怎么管理好这些服务、如何进行有效的监控、出错了怎么快速恢复这类问题。这些问题就像是我们搭建积木过程中的隐藏关卡,需要我们在构建和完善服务体系的过程中,不断去摸索、去改进、去优化,让整个系统更健壮、更稳定。
2023-02-11 11:17:08
128
风轻云淡
Go Gin
使用 gincontrib/ratelimit 实现 API 访问控制:一次深入探索 一、引言 在构建现代 Web 应用时,API 的安全性与性能管理是至关重要的环节。哎呀,兄弟,你懂的,设置API访问频率的限制这事儿啊,就像是给自家的宝藏门口放了个看门狗,既能防止那些乱糟糟的家伙随便闯进来搞破坏,又能保护咱们的宝贝资源不被那些坏心眼的人给掏空了。这招儿,可真是既实用又有效呢!哎呀,你知道吗?Go 语言这玩意儿,那可是超级厉害的!它就像个武林高手,出手快如闪电,又稳如泰山。用 Go 来做网站啥的,不仅效率高得飞起,代码还简洁明了,看着都舒服。而且,你放心,用 Go 做的网站安全性能杠杠的,能防得住不少小偷小摸呢!所以啊,现在好多大厂做高性能、安全的网络服务,都喜欢用 Go 语言来搞,因为它真的太牛了!gin-contrib/ratelimit 是一个用于 Go 语言中 Gin 框架的库,专门用于实现 API 访问速率限制。本文将深入探讨如何利用 gin-contrib/ratelimit 来增强 API 安全性和性能。 二、基础概念与原理 速率限制(也称为限流)是一种常见的流量控制手段,它允许系统在单位时间内处理的请求数量不超过某个阈值。哎呀,你瞧这招儿挺机灵的!它能帮咱们解决一个大难题——就是那些疯了似的并发请求,就像一群蚂蚁围攻面包,瞬间就把服务器给淹没了。这样不仅能让我们的服务器喘口气,不至于被这些请求给累趴下,还能给那些没权没份的家伙们上上锁,别让他们乱用咱们的API,搞得咱们这边乱七八糟的。这招儿,既保护了服务器,又守住了规矩,真是一举两得啊! gin-contrib/ratelimit 提供了一种简单且灵活的方式来配置和应用速率限制规则。它支持多种存储后端,包括内存、Redis 和数据库等,以适应不同的应用场景需求。 三、安装与初始化 首先,确保你的 Go 环境已经配置好,并且安装了 gin-contrib/ratelimit 库。可以通过以下命令进行安装: bash go get github.com/gin-contrib/ratelimit 接下来,在你的 Gin 应用中引入并初始化 ratelimit 包: go import ( "github.com/gin-contrib/ratelimit" "github.com/gin-gonic/gin" ) func main() { r := gin.Default() // 配置限流器 limiter := ratelimit.New(ratelimit.Config{ AllowedRequests: 5, // 允许每分钟最多5次请求 Duration: time.Minute, }) // 将限流器应用于路由 r.Use(limiter) // 定义路由 r.GET("/api", func(c gin.Context) { c.JSON(200, gin.H{"message": "Hello, World!"}) }) r.Run(":8080") } 四、高级功能与自定义 除了基本的速率限制配置外,gin-contrib/ratelimit 还提供了丰富的高级功能,允许开发者根据具体需求进行定制化设置。 - 基于 IP 地址的限制: go limiter := ratelimit.New(ratelimit.Config{ AllowedRequests: 5, Duration: time.Minute, PermitsBy: ratelimit.PermitByIP, }) - 基于 HTTP 请求头的限制: go limiter := ratelimit.New(ratelimit.Config{ AllowedRequests: 5, Duration: time.Minute, PermitsBy: ratelimit.PermitByHeader("X-User-ID"), }) - 基于用户会话的限制: go limiter := ratelimit.New(ratelimit.Config{ AllowedRequests: 5, Duration: time.Minute, PermitsBy: ratelimit.PermitBySessionID, }) 这些高级功能允许你更精细地控制哪些请求会被限制,从而提供更精确的访问控制策略。 五、实践案例 基于 IP 地址的限流 假设我们需要限制某个特定 IP 地址的访问频率: go limiter := ratelimit.New(ratelimit.Config{ AllowedRequests: 10, // 每小时最多10次请求 Duration: time.Hour, PermitsBy: ratelimit.PermitByIP, }) // 在路由上应用限流器 r.Use(limiter) 六、性能考量与优化 在实际部署时,考虑到速率限制的性能影响,合理配置限流参数至关重要。哎呀,你得注意了,设定安全防护的时候,这事儿得拿捏好度才行。要是设得太严,就像在门口挂了个大锁,那些坏人进不来,可合法的访客也被挡在外头了,这就有点儿不地道了。反过来,如果设置的门槛太松,那可就相当于给小偷开了个后门,让各种风险有机可乘。所以啊,找那个平衡点,既不让真正的朋友感到不便,又能守住自家的安全,才是王道!因此,建议结合业务场景和流量预测进行参数调整。 同时,选择合适的存储后端也是性能优化的关键。哎呀,你知道的,在处理那些超级多人同时在线的情况时,咱们用 Redis 来当存储小能手,那效果简直不要太好!它就像个神奇的魔法箱,能飞快地帮我们处理各种数据,让系统运行得又顺溜又高效,简直是高并发环境里的大救星呢! 七、结论 通过集成 gin-contrib/ratelimit,我们不仅能够有效地管理 API 访问频率,还能够在保障系统稳定运行的同时,为用户提供更好的服务体验。嘿,兄弟!业务这玩意儿,那可是风云变幻,快如闪电。就像你开车,路况不一,得随时调整方向,对吧?API安全性和可用性这事儿,就跟你的车一样重要。所以,咱们得像老司机一样,灵活应对各种情况,时不时地调整和优化限流策略。这样,不管是高峰还是低谷,都能稳稳地掌控全局,让你的业务顺畅无阻,安全又高效。别忘了,这可是保护咱们业务不受攻击,保证用户体验的关键!希望本文能够帮助你更好地理解和应用 gin-contrib/ratelimit,在构建强大、安全的 API 时提供有力的支持。
2024-08-24 16:02:03
110
山涧溪流
转载文章
...er ( user_id int(11) NOT NULL AUTO_INCREMENT, user_name varchar(20) not null, user_age varchar(20) not null, PRIMARY KEY (user_id) )ENGINE=InnoDB DEFAULT CHARSET=utf8; 我们先看一下项目的完整目录,再继续下面的内容 第二步:添加jar包 对于下面代码的内容,我们就不再一一贴出来,只是把最重要的内容贴出来,大家可以下载源码。 第三步:创建model 创建一个model包并在其下创建一个User.Java文件。 [java] view plaincopy print? package com.tgb.model; / 用户 @author liang / public class User { private int id; private String age; private String userName; public User(){ super(); } public int getId() { return id; } public void setId(int id) { this.id = id; } public String getAge() { return age; } public void setAge(String age) { this.age = age; } public String getUserName() { return userName; } public void setUserName(String userName) { this.userName = userName; } public User(int id, String age, String userName) { super(); this.id = id; this.age = age; this.userName = userName; } } 第四步:创建DAO接口 创建一个包mapper,并在其下创建一个UserMapper.java文件作为DAO接口。 [java] view plaincopy print? package com.tgb.mapper; import java.util.List; import com.tgb.model.User; public interface UserMapper { void save(User user); boolean update(User user); boolean delete(int id); User findById(int id); List<User> findAll(); } 第五步:实现DAO接口 在dao包下创建一个UserMapper.xml文件作为上一步创建的DAO接口的实现。 [html] view plaincopy print? <?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd"> <!-- namespace:必须与对应的接口全类名一致 id:必须与对应接口的某个对应的方法名一致 --> <mapper namespace="com.tgb.mapper.UserMapper"> <insert id="save" parameterType="User"> insert into t_user(user_name,user_age) values({userName},{age}) </insert> <update id="update" parameterType="User"> update t_user set user_name={userName},user_age={age} where user_id={id} </update> <delete id="delete" parameterType="int"> delete from t_user where user_id={id} </delete> <!-- mybsits_config中配置的alias类别名,也可直接配置resultType为类路劲 --> <select id="findById" parameterType="int" resultType="User"> select user_id id,user_name userName,user_age age from t_user where user_id={id} </select> <select id="findAll" resultType="User"> select user_id id,user_name userName,user_age age from t_user </select> </mapper> 这里对这个xml文件作几点说明: 1、namespace必须与对应的接口全类名一致。 2、id必须与对应接口的某个对应的方法名一致即必须要和UserMapper.java接口中的方法同名。 第六步:Mybatis和Spring的整合 对于Mybatis和Spring的整合是这篇博文的重点,需要配置的内容在下面有详细的解释。 [html] view plaincopy print? <?xml version="1.0" encoding="UTF-8"?> <beans xmlns="http://www.springframework.org/schema/beans" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:p="http://www.springframework.org/schema/p" xmlns:context="http://www.springframework.org/schema/context" xmlns:tx="http://www.springframework.org/schema/tx" xsi:schemaLocation=" http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.0.xsd http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.0.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.0.xsd"> <!-- 1. 数据源 : DriverManagerDataSource --> <bean id="dataSource" class="org.springframework.jdbc.datasource.DriverManagerDataSource"> <property name="driverClassName" value="com.mysql.jdbc.Driver" /> <property name="url" value="jdbc:mysql://localhost:3306/mybatis" /> <property name="username" value="root" /> <property name="password" value="123456" /> </bean> <!-- 2. mybatis的SqlSession的工厂: SqlSessionFactoryBean dataSource:引用数据源 MyBatis定义数据源,同意加载配置 --> <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean"> <property name="dataSource" ref="dataSource"></property> <property name="configLocation" value="classpath:config/mybatis-config.xml" /> </bean> <!-- 3. mybatis自动扫描加载Sql映射文件/接口 : MapperScannerConfigurer sqlSessionFactory basePackage:指定sql映射文件/接口所在的包(自动扫描) --> <bean class="org.mybatis.spring.mapper.MapperScannerConfigurer"> <property name="basePackage" value="com.tgb.mapper"></property> <property name="sqlSessionFactory" ref="sqlSessionFactory"></property> </bean> <!-- 4. 事务管理 : DataSourceTransactionManager dataSource:引用上面定义的数据源 --> <bean id="txManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager"> <property name="dataSource" ref="dataSource"></property> </bean> <!-- 5. 使用声明式事务 transaction-manager:引用上面定义的事务管理器 --> <tx:annotation-driven transaction-manager="txManager" /> </beans> 第七步:mybatis的配置文件 [html] view plaincopy print? <?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE configuration PUBLIC "-//mybatis.org//DTD Config 3.0//EN" "http://mybatis.org/dtd/mybatis-3-config.dtd"> <configuration> <!-- 实体类,简称 -设置别名 --> <typeAliases> <typeAlias alias="User" type="com.tgb.model.User" /> </typeAliases> <!-- 实体接口映射资源 --> <!-- 说明:如果xxMapper.xml配置文件放在和xxMapper.java统一目录下,mappers也可以省略,因为org.mybatis.spring.mapper.MapperFactoryBean默认会去查找与xxMapper.java相同目录和名称的xxMapper.xml --> <mappers> <mapper resource="com/tgb/mapper/userMapper.xml" /> </mappers> </configuration> 总结 Mybatis和Spring的集成相对而言还是很简单的,祝你成功。 源码下载:SpringMVC+Spring4+Mybatis3 下篇博文我们将Hibernate和Mybatis进行一下详细的对比。 本篇文章为转载内容。原文链接:https://blog.csdn.net/konglongaa/article/details/51706991。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-09-05 11:56:25
114
转载
Kafka
...简单来说,就是把消息写入磁盘而不是内存。 java Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("acks", "all"); props.put("retries", 0); props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer"); props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); Producer producer = new KafkaProducer<>(props); producer.send(new ProducerRecord<>("my-topic", "my-key", "my-value")); producer.close(); 这段代码展示了如何发送一条消息到Kafka主题。其中acks="all"参数表示生产者会等待所有副本确认收到消息后才认为发送成功。 2.2 分区与副本机制 Kafka通过分区(Partition)来分摊负载,同时通过副本(Replica)机制来提高可用性和容错性。每个分区可以有多个副本,其中一个为主副本,其余为从副本。 java AdminClient adminClient = AdminClient.create(props); ListTopicsOptions options = new ListTopicsOptions(); options.listInternal(true); Set topics = adminClient.listTopics(options).names().get(); System.out.println("Topics: " + topics); 这段代码用于列出Kafka集群中的所有主题及其副本信息。通过这种方式,你可以检查每个主题的副本分布情况。 3. 生产者端的可靠性保障 作为生产者,我们需要确保发送出去的消息能够安全到达Kafka集群。这涉及到一些关键配置: - acks:控制生产者的确认级别。设置为"all"时,意味着必须等待所有副本确认。 - retries:指定重试次数。如果网络抖动导致消息未送达,Kafka会自动重试。 - linger.ms:控制批量发送的时间间隔。默认值为0毫秒,即立即发送。 java Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("acks", "all"); props.put("retries", 3); props.put("linger.ms", 5); props.put("batch.size", 16384); Producer producer = new KafkaProducer<>(props); for (int i = 0; i < 100; i++) { producer.send(new ProducerRecord<>("my-topic", Integer.toString(i), Integer.toString(i))); } producer.close(); 在这个例子中,我们设置了retries=3和linger.ms=5,这意味着即使遇到短暂的网络问题,Kafka也会尝试最多三次重试,并且会在5毫秒内累积多条消息一起发送。 4. 消费者端的可靠性保障 消费者端同样需要关注可靠性问题。Kafka 有两种消费模式,一个叫 earliest,一个叫 latest。简单来说,earliest 就是从头开始补作业,把之前没看过的消息全都读一遍;而 latest 则是直接从最新的消息开始看,相当于跳过之前的存档,直接进入直播频道。 java Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("group.id", "test-group"); props.put("enable.auto.commit", "true"); props.put("auto.commit.interval.ms", "1000"); props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer"); props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer"); KafkaConsumer consumer = new KafkaConsumer<>(props); consumer.subscribe(Arrays.asList("my-topic")); while (true) { ConsumerRecords records = consumer.poll(Duration.ofMillis(100)); for (ConsumerRecord record : records) { System.out.printf("offset = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value()); } } 这段代码展示了如何订阅一个主题并持续拉取消息。注意这里启用了自动提交功能,这样就不需要手动管理偏移量了。 5. 总结与反思 通过今天的讨论,我相信大家对Kafka的消息可靠性有了更深的理解。Kafka能从一堆消息队列系统里脱颖而出,靠的就是它在设计的时候就脑补了各种“灾难片”场景,比如数据爆炸、服务器宕机啥的,然后还给配齐了神器,专门对付这些麻烦事儿。 然而,正如任何技术一样,Kafka也不是万能的。在实际应用中,我们还需要结合具体的业务需求来调整配置参数。比如说啊,在那种超级忙、好多请求同时涌过来的场景下,就得调整一下每次处理的任务量,别一下子搞太多,慢慢来可能更稳。但要是你干的事特别讲究速度,晚一秒钟都不行的那种,那就得想办法把发东西的时间间隔调短点,越快越好! 总之,Kafka的强大之处在于它允许我们灵活地调整策略以适应不同的工作负载。希望这篇文章能帮助你在实践中更好地利用Kafka的优势!如果你有任何疑问或想法,欢迎随时交流哦~
2025-04-11 16:10:34
96
幽谷听泉
JQuery插件下载
...的灵活性和可定制性。使用者无需复杂的编程操作,只需简单调用API,即可实现对表格数据的灵活导出配置,如设置分隔符、忽略特定列等。这一特性使得jQuery-tableExport成为报表生成、数据分析及数据迁移场景下不可或缺的工具,极大地提升了用户体验和数据处理效率。 点我下载 文件大小:47.78 KB 您将下载一个JQuery插件资源包,该资源包内部文件的目录结构如下: 本网站提供JQuery插件下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2024-01-01 20:21:15
133
本站
JQuery插件下载
...大亮点在于它能够动态生成具有多种颜色的标签,不仅美观而且能有效提升用户体验。通过使用sTags,用户可以在页面上轻松地添加或删除标签,实现内容的快速分类与整理。此外,sTags还具备搜索过滤功能,使得在众多标签中查找特定标签变得轻而易举。无论您是在构建博客系统、产品分类展示还是其他需要标签管理的应用场景,sTags都能满足您的需求,让您的网站或应用更加高效、直观且易于操作。无论是开发者还是最终用户,都将从这一便捷的标签管理工具中受益匪浅。 点我下载 文件大小:49.37 KB 您将下载一个JQuery插件资源包,该资源包内部文件的目录结构如下: 本网站提供JQuery插件下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2025-02-11 20:50:36
36
本站
JQuery插件下载
...打造,它能够在线实时生成符合CSS3规范的背景渐变代码。用户通过直观的界面操作,可以自由调整颜色滑块以选取并过渡多种色彩,从而实现丰富的渐变效果。该插件的核心功能是将用户的视觉设计决策直接转化为可应用于网页元素的高质量样式代码。在实际使用中,只需简单集成到项目中,用户便能轻松交互,随意挑选心仪的颜色组合,并通过查看按钮预览所生成的完整CSS3背景渐变属性。这一特性极大地提升了设计与开发的工作效率,让创建动态、美观的渐变背景变得更加便捷与精准,同时也增强了网站的视觉吸引力和用户体验。 点我下载 文件大小:185.88 KB 您将下载一个JQuery插件资源包,该资源包内部文件的目录结构如下: 本网站提供JQuery插件下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2024-05-25 19:21:41
147
本站
JQuery插件下载
...cript和CSS,生成出一系列令人眼前一亮的进度条效果。无论你是想要展示下载进度、加载状态还是其他任何类型的进度信息,这款插件都能帮助你以一种美观且吸引人的方式呈现出来。其高度可定制的特性允许开发者根据自己的需求调整颜色、形状甚至动画效果,使得每一个进度条都能完美地融入到你的网站设计中。此外,由于采用了SVG格式,这些进度条在不同设备和屏幕尺寸上都能保持清晰锐利,不会出现像素化的问题。无论是用于个人项目还是商业网站,这款插件都是提升用户体验和界面美观度的理想选择。 点我下载 文件大小:18.62 KB 您将下载一个JQuery插件资源包,该资源包内部文件的目录结构如下: 本网站提供JQuery插件下载功能,旨在帮助广大用户在工作学习中提升效率、节约时间。 本网站的下载内容来自于互联网。如您发现任何侵犯您权益的内容,请立即告知我们,我们将迅速响应并删除相关内容。 免责声明:站内所有资源仅供个人学习研究及参考之用,严禁将这些资源应用于商业场景。 若擅自商用导致的一切后果,由使用者承担责任。
2025-01-24 21:10:38
72
本站
站内搜索
用于搜索本网站内部文章,支持栏目切换。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
dig +short myip.opendns.com @resolver4.opendns.com
- 获取公网IP地址。
推荐内容
推荐本栏目内的其它文章,看看还有哪些文章让你感兴趣。
2023-04-28
2023-08-09
2023-06-18
2023-04-14
2023-02-18
2023-04-17
2024-01-11
2023-10-03
2023-09-09
2023-06-13
2023-08-07
2023-03-11
历史内容
快速导航到对应月份的历史文章列表。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"