部署ELAM以擷取Nexus 7000系列交換器上的VXLAN封裝封包
簡介
本檔案介紹如何部署嵌入式邏輯分析器模組(ELAM)以擷取Nexus 7000系列交換器上的VXLAN封裝封包。
背景資訊
許多使用者目前將N7K用作其ACI MPOD/MSITE部署的IPN/ISN傳輸裝置。然而，與N9K相比，N7K缺乏基於豐富的外層(l2(vntag)|l3|l4)-內部(l2|l3|l4)-ip組合設定ELAM觸發器的強大功能。因此，從ELAM的角度確定特定VXLAN封裝的資料包是否到達IPN邊緣的N7K變得非常困難。本文檔概述了應對此挑戰的方法。
拓撲
在此場景中，顯示了簡單的ACI MPOD拓撲，其中IPN是帶F3卡的N7K。主機1和主機2位於pod1中，主機3位於pod2中。HOST1可以與HOST3通訊，但HOST2不能。ACI工程師進行故障排除後，確定從HOST2到HOST3的資料包從Pod1中的spine1傳送到N7K，但Pod2中的spine2從未收到這些資料包。這透過ACI主幹上的ELAM進行驗證，導致懷疑資料包被丟棄在N7K上。
能否僅根據ACI主幹上的ELAM結果確定問題出在N7K？當然不是。出口spine1上的ELAM表示已將資料包傳送到N7K，但這並不能保證資料包實際到達N7K，因為資料包在ELAM週期後仍可能由於較低層問題而被丟棄。但是，當您在N7K端對這些特定資料包執行ELAM時，它可以幫助我們準確地辨識問題中涉及的正確裝置。
配置觸發器
「l3-packet-length」是N7K平台上幾乎所有不同世代LC的有效ELAM觸發器。因此，讓我們利用它來建立IPN N7K上的ELAM條件。該任務包括控制HOST傳輸具有指定資料包長度的測試資料包，如下所示：
# ping 172.28.1.20 packet-size 777
PING 172.28.1.20 (172.28.1.20): 777 data bytes
785 bytes from 172.28.1.20: icmp_seq=0 ttl=252 time=1.246 ms
785 bytes from 172.28.1.20: icmp_seq=1 ttl=252 time=0.846 ms
785 bytes from 172.28.1.20: icmp_seq=2 ttl=252 time=0.84 ms
785 bytes from 172.28.1.20: icmp_seq=3 ttl=252 time=0.814 ms
785 bytes from 172.28.1.20: icmp_seq=4 ttl=252 time=0.817 ms
--- 172.28.1.20 ping statistics ---
5 packets transmitted, 5 packets received, 0.00% packet loss
round-trip min/avg/max = 0.814/0.912/1.246 ms
PING實用程式整合到任何型別的作業系統中，引數僅會根據您使用的作業系統而稍有變化。需要強調的一個關鍵點是，注意在作業系統中啟動PING時指定的資料包大小。在本範例中，777B代表純資料長度，需要額外8B （ICMP標頭）和20B （IP標頭）才能取得最終IP長度805B。經過VXLAN封裝（增加額外50B額外負荷）後，您可以預計到達N7K的資料包為855B。讓我們在ELAM中配置它。
在本示例中，連線到spine1的介面是E7/1，而E7/4連線到spine2。
# show module 7
Mod Ports Module-Type Model Status
--- ----- ----------------------------------- ------------------ ----------
7 12 10/40 Gbps Ethernet Module N7K-F312FQ-25 ok
module-7# show hardware internal dev-port-map
--------------------------------------------------------------
CARD_TYPE: 12 port 40G
>Front Panel ports:12
--------------------------------------------------------------
Device name Dev role Abbr num_inst:
--------------------------------------------------------------
> Flanker Eth Mac Driver DEV_ETHERNET_MAC MAC_0 6
> Flanker Fwd Driver DEV_LAYER_2_LOOKUP L2LKP 6
> Flanker Xbar Driver DEV_XBAR_INTF XBAR_INTF 6
> Flanker Queue Driver DEV_QUEUEING QUEUE 6
> Sacramento Xbar ASIC DEV_SWITCH_FABRIC SWICHF 1
> Flanker L3 Driver DEV_LAYER_3_LOOKUP L3LKP 6
> EDC DEV_PHY PHYS 2
+-----------------------------------------------------------------------+
+----------------+++FRONT PANEL PORT TO ASIC INSTANCE MAP+++------------+
+-----------------------------------------------------------------------+
FP port | PHYS | MAC_0 | L2LKP | L3LKP | QUEUE |SWICHF
1 0 0 0 0 0
2 0 0 0 0 0
3 1 1 1 1 0
4 1 1 1 1 0
5 0 2 2 2 2 0
6 0 2 2 2 2 0
7 1 3 3 3 3 0
8 1 3 3 3 3 0
9 4 4 4 4 0
10 4 4 4 4 0
11 5 5 5 5 0
12 5 5 5 5 0
+-----------------------------------------------------------------------+
+-----------------------------------------------------------------------+
因此，您需要在例項0中進行設定。
module-7# elam asic flanker instance 0
module-7(fln-elam)# layer2
module-7(fln-l2-elam)# trigger dbus ipv4 ingress if l3-packet-length 855
module-7(fln-l2-elam)# trigger rbus ingress if trig
module-7(fln-l2-elam)# start
module-7(fln-l2-elam)# status
ELAM Slot 7 instance 0: L2 DBUS Configuration: trigger dbus ipv4 ingress if l3-packet-length 855
L2 DBUS: Triggered
ELAM Slot 7 instance 0: L2 RBUS Configuration: trigger rbus ingress if trig
L2 RBUS: Triggered
解釋結果
module-7(fln-l2-elam)# show dbus
cp = 0x10084d00, buf = 0x10084d00, end = 0x10091050
--------------------------------------------------------------------
Flanker Instance 00 - Capture Buffer On L2 DBUS:
Status(0x1102), TriggerWord(0x000), SampleStored(0x008),CaptureBufferPointer(0x000)
is_l2_egress: 0x0000, data_size: 0x023
[000]: 14f4a000 08010000 00000000 6d200800 00006000 00000000 01800100 00000000 00000000 00000000 0000306c 7270b100 03434343 43400000 01800040 00000000 0000
0590 00990000 00000000 00000000 00000005 88405000 00000000 00000000 00000000 00000000 00000000 00000000 00000000 00000000 00050064 200500f0 21800881 f03574
a4 2dbeef00
Printing packet 0
--------------------------------------------------------------------
L2 DBUS PRS MLH IPV4
--------------------------------------------------------------------
label-count : 0x0 mc : 0x0
null-label-valid : 0x0 null-label-exp : 0x0
null-label-ttl : 0x0 lbl0-vld : 0x0
lbl0-eos : 0x0 lbl0-lbl : 0x0
lbl0-exp : 0x0 lbl0-ttl : 0x0
lbl1-exp : 0x0 lbl1-ttl : 0x0
ipv4 : 0x0 ipv6 : 0x0
l4-protocol : 0x11 df : 0x0
mf : 0x0 frag : 0x0
ttl : 0x1f l3-packet-length : 0x357
option : 0x0 tos : 0x0
sup-eid : 0x0 header-type : 0x1
error : 0x0 redirect : 0x0
port-id : 0x0 last-ethertype : 0x800
l2-frame-type : 0x0 da-type : 0x0
packet-type : 0x0 l2-length-check : 0x0
ip-da-multicast : 0x0 ip-multicast : 0x0
ip-multicast-control: 0x0 ids-check-fail : 0x0
tr : 0x0 outer-cos : 0x0
inner-cos : 0x0 vqi-valid : 0x0
vqi : 0x0 packet-length : 0x369
vlan : 0x4 destination-index : 0x0
source-index : 0x30 bundle-port : 0x0
acos : 0x0 outer-drop-eligibility: 0x0
inner-drop-eligibility: 0x0 sg-tag : 0x0
rbh : 0x0 vsl-num : 0x0
inband-flow-creation-deletion: 0x0 ignore-qoso : 0x0
ignore-qosi : 0x0 ignore-aclo : 0x0
ignore-acli : 0x0 index-direct : 0x0
no-stats : 0x0 dont-forward : 0x0
notify-index-learn : 0x1 notify-new-learn : 0x1
disable-new-learn : 0x0 disable-index-learn : 0x0
dont-learn : 0x0 bpdu : 0x0
ff : 0x0 rf : 0x0
ccc : 0x0 l2 : 0x0
rdt : 0x0 dft : 0x0
dfst : 0x0 status-ce-1q : 0x0
status-is-1q : 0x1 trill-encap : 0x0
mim-valid : 0x0 dtag-ttl : 0x0
dtag-ftag : 0x0 valid : 0x1
erspan-kpa-valid : 0x0 recir-shim-vxlan-src-peer-id: 0x0
vn-valid : 0x0 source-vif : 0x0
destination-vif : 0x0 vn-p : 0x0
sequence-number : 0x60 vl : 0x0
inner-de-valid : 0x0 de-cfi : 0x0
second-inner-cos : 0x0 tunnel-type : 0x2
--------------------------------------------------------------------
UDP OTV/LISP TUNNEL BNDL
--------------------------------------------------------------------
vlan-tag-valid: 0x0 segment-id-valid: 0x0
vl: 0x0 de: 0x0
sgt-valid: 0x0 inner-ip-ttl: 0x0
ip-da-multicast: 0x0 lisp-inst-id: 0x2c8004
lisp-flags: 0xc8 isis-mac-da-valid: 0x0
type: 0x0
shim-valid : 0x0
segment-id-valid : 0x0 copp : 0x0
dti-type-vpnid : 0x0 segment-id : 0x0
ib-length-bundle : 0x58840 mlh-type : 0x5
ulh-type : 0x4
source-ipv4-address: 10.0.200.64
destination-ipv4-address: 10.1.224.67
mim-destination-mac-address : 0000.0000.0000
mim-source-mac-address : 0000.0000.0000
destination-mac-address : 00c1.b1c9.c2c4
source-mac-address : 000d.0d0d.0d0d
由於使用l3資料包長度作為觸發器，因此ELAM可能會由無意捕獲的後台資料包觸發。因此，必須利用捕獲中的其他欄位對捕獲結果進行雙重交叉檢查。這可以確保捕獲的資料包符合我們預期的條件，包括源IP (sip)、目標IP (dip)、生存時間(ttl)、源索引等欄位。有趣的是，雖然N7K不支援使用VXLAN VNID作為觸發器，但在輸出直譯器中，欄位「lisp-inst-id： 0x2c8004」與VXLAN報頭中的VNID相對應。
module-7(fln-l2-elam)# dec 0x2c8004
2916356
Leaf3# show system internal epm endpoint ip 172.28.1.20
MAC : 0000.2222.1202 ::: Num IPs : 1
IP# 0 : 172.28.1.20 ::: IP# 0 flags : host-tracked| ::: l3-sw-hit: Yes ::: flags2 :
Vlan id : 186 ::: Vlan vnid : 11494 ::: VRF name : zixu:vrf
BD vnid : 16482209 ::: VRF vnid : 2916356 /* Confirming the VNID from ACI LEAF side */
Phy If : 0x1a00b000 ::: Tunnel If : 0
Interface : Ethernet1/12
Flags : 0x80005c04 ::: sclass : 16388 ::: Ref count : 5
EP Create Timestamp : 01/22/2021 15:42:49.243582
EP Update Timestamp : 02/08/2021 11:26:52.882308
EP Flags : local|IP|MAC|host-tracked|sclass|timer|
module-7(fln-l2-elam)# show rbus
cp = 0x100a96fc, buf = 0x100a96fc, end = 0x100b5a4c
--------------------------------------------------------------------
Flanker Instance 00 - Capture Buffer On L2 RBUS:
Status(0x1102), TriggerWord(0x000), SampleStored(0x008),CaptureBufferPointer(0x000)
is_l2_egress: 0x0000, data_size: 0x018
[000]: 0015cb30 0000006d 20000000 03000000 00000000 00000000 00000014 2d8000a0 3c3c0000 00000000 02000000 0f000f00 0c001104 a0000000 20200000 00000000 0000
0000 00000400 00008000 005d0000 001e0002 2bd7c0cf f96002a0 000000ba
Printing packet 0
--------------------------------------------------------------------
L2 RBUS INGRESS CONTENT
--------------------------------------------------------------------
pad : 0x572c valid : 0x1
l2-rbus-trigger : 0x1 sequence-number : 0x60
rit-ipv4-id : 0x0 ipv4-tunnel-encap : 0x0
rit-mpls-rw : 0x0 ml2-ptr : 0x0
ml3-ptr : 0x0 mark : 0x0
result-cap3 : 0x0 di1-v5-delta-length : 0x0
di1-v5-delta-length-plus: 0x0 di1-v4-delta-length : 0x0
di1-v4-delta-length-plus: 0x0 di2-delta-length : 0x0
di2-delta-length-plus: 0x0 ml2-delta-length : 0x0
ml2-delta-length-plus: 0x0 ml3-delta-length : 0x0
ml3-delta-length-plus: 0x0 s-vector : 0x0
lcpu-ff-valid : 0x0 sup-di-vqi : 0x0
erspan-term-index-dir: 0x0 erspan-buffer-check : 0x0
l2-tunnel-decapped : 0x0 l3-delta-length : 0x0
rit-crc16-valid : 0x1 rit-crc16 : 0x42d8
vntag-p : 0x0 frr-recirc : 0x0
ingress-lif : 0x5 earl-proxy-vld : 0x0
md-di-vld : 0x0 rc : 0x0
segment-id-valid : 0x0 ttl-out : 0x1e
ttl-mid : 0x1e tos-out : 0x0
tos-in : 0x0 orig-vlan1 : 0x0
vlan1 : 0x0 source-peer-id : 0x0
final-ignore-qoso : 0x0 port-id : 0x0
cr-type : 0x1 pup-packet : 0x0
bpdu : 0x0 vdc : 0x0
tr : 0x0 de : 0x0
cos : 0x0 inner-drop-eligibility: 0x0
inner-cos : 0x0 acos : 0x0
di-ltl-index : 0x3c l3-multicast-di : 0x3c
source-index : 0x30 vlan : 0x4
index-direct : 0x0 di1-valid : 0x1
vqi : 0x4a di2-valid : 0x0
v5-fpoe-idx : 0x0 di2-fpoe-idx : 0x0
l3-multicast-v5 : 0x0 dft : 0x0
dfst : 0x0 l3-learning-ff : 0x0
result-rbh : 0x40 di2-cr-type : 0x0
result-2 : 0x1 dtag-ftag : 0x0
dtag-ttl : 0x20 mac-in-mac-op : 0x0
dvif : 0x0 result-cap1 : 0x0
result-cap2 : 0x0 erspan-term : 0x0
erspan-decap : 0x0 dont-learn : 0x0
routed-frame : 0x1 copy-cause : 0x0
l2-copy-cause : 0x0 l3-rit-ptr : 0x5d
sg-tag : 0x0 trill-nh-id : 0x0
ttl-in : 0x1e fc-up : 0x0
up-did : 0x0 did : 0x22bd
up-sid : 0x0 sid : 0xf819ff
shim-l2-tunnel-encap: 0x0 shim-ls-hash : 0xb
shim-rc : 0x0 shim-lif : 0x5
shim-replication-pkt: 0x0 shim-router-mac : 0x1
shim-mark-enable : 0x0 shim-qos-group-id : 0x0
shim-destination-table-index: 0x5d shim-acos-preserve : 0x0
mim-destination-mac-address : 0000.0000.0000
mim-source-mac-address : 0000.0000.0000
module-7(fln-l2-elam)# show system internal pixmc info ltl-cb ltl 0x30
ltl | ltl_type | if_index | lc_type | vdc | v4_fpoe | v5_fpoe | base_fpoe_idx | flag
0x0030 | 5 | Eth7/1 | 2 | 4 | 0x00 | 0x00 | 0x0000 | 0x0
module-7(fln-l2-elam)# show system internal pixmc info ltl-cb ltl 0x3c
ltl | ltl_type | if_index | lc_type | vdc | v4_fpoe | v5_fpoe | base_fpoe_idx | flag
0x003c | 5 | Eth7/4 | 2 | 4 | 0x00 | 0x00 | 0x0000 | 0x0
如果您嘗試在ACI泛洪BD內捕獲廣播、未知單播和組播(BUM)資料包，則只需設定靜態ARP並指向主機上不存在的MAC，然後以同樣的方式啟動PING，同樣的方法也可起作用。
相關資訊
有關如何在不同N7K LC上使用ELAM的詳細資訊，請參閱以下連結：
修訂記錄
| 修訂 | 發佈日期 | 意見 |
|---|---|---|
1.0 |
22-Jan-2024 |
初始版本 |
意見