簡介
本文檔介紹如何對虛擬機器上的基本網路連線問題進行故障排除。
必要條件
需求
思科建議您瞭解以下主題:
- 整合運算系統管理員域(UCSM)
- Cisco Unified Computing System Manager(UCSM)命令列介面(CLI)
- Cisco UCS B系列和C系列伺服器
- 網路基本概念
- ESXi
採用元件
本檔案中的資訊是根據以下軟體版本:
- Cisco UCS Manager 2.x及更高版本
- Cisco UCS 6200、6300、6400和6500系列光纖互連
- Cisco UCS 2200、2300和2400系列光纖通路擴充模組
本文中的資訊是根據特定實驗室環境內的裝置所建立。文中使用到的所有裝置皆從已清除(預設)的組態來啟動。如果您的網路運作中,請確保您瞭解任何指令可能造成的影響。
背景資訊
基礎設施管理員部署網路或配置更改的一個常見情況是丟失其虛擬機器上的網路連線。本文檔旨在為找出最常見問題的故障排除過程提供指導。
瞭解問題
最常見的問題是丟失虛擬機器之間的ping。要瞭解全部情況,我們可以開始詢問:
- 這兩個虛擬機器是否都託管在UCS伺服器中?
- 這兩個虛擬機器是否位於同一個UCSM域中?
- 虛擬機器是否嘗試在同一個VLAN上通訊?
- 在虛擬機器監控程式方面我們使用哪種網路配置?(ESXi分散式交換機、NIC組合等。)
- 上游交換機的型號是什麼?
測試方案
兩台新的虛擬機器已配置並配置為使用VLAN 70,但它們無法彼此ping通其預設網關。
虛擬機器
- IMM-Transition-4.0.1
- Alma Linux 9
虛擬機器監控程式
- VMware ESXi、7.0.3、20842708
收集資訊
兩個虛擬機器的MAC和IP地址:
- IMM-Transition-4.0.1
- MAC: 00:50:56:ba:28:53
- IP: 192.168.70.23
- 主機IP:10.31.123.38
- Alma Linux 9
- MAC: 00:50:56:ba:46:96
- IP: 192.168.70.24
- 主機IP:10.31.123.40
跟蹤FI上的MAC地址
FI-A # connect nxos
FI-A(nxos)# show mac address-table vlan 70
Legend:
* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC
age - seconds since last seen,+ - primary entry using vPC Peer-Link
VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID
---------+-----------------+--------+---------+------+----+------------------
* 70 0050.56ba.4696 dynamic 30 F F Veth725 ------------------------------------------->>> VM Alma Linux 9 is learned on FI-A veth725 and VLAN 70 as expected
FI-B # connect nxos
FI-B(nxos)# show mac address-table vlan 70
Legend:
* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC
age - seconds since last seen,+ - primary entry using vPC Peer-Link
VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID
---------+-----------------+--------+---------+------+----+------------------
* 70 0050.56ba.2853 dynamic 10 F F Veth688 ---------------------------------------->>> VM IMM-Transition-4.0.1 is learned on FI-B veth688 and VLAN 70 as expected
確定託管虛擬機器的伺服器
FI-A(nxos)# show running-config interface vethernet725
!Command: show running-config interface Vethernet725
!Time: Thu Feb 1 11:59:39 2024
version 5.0(3)N2(4.13k)
interface Vethernet725
description server 1/3, VNIC vnic_a1 ---------------------------------------->>> VM Alma Linux 9 is hosted on Server 1/3 and the vnic name is vnic_a1
switchport mode trunk
no lldp transmit
no lldp receive
no pinning server sticky
pinning server pinning-failure link-down
no cdp enable
switchport trunk allowed vlan 69-70,72,470
bind interface port-channel1287 channel 725
service-policy type queuing input org-root/ep-qos-BestEffort
no shutdown
FI-B(nxos)# show running-config interface vethernet 688
!Command: show running-config interface Vethernet688
!Time: Thu Feb 1 12:06:44 2024
version 5.0(3)N2(4.13k)
interface Vethernet688
description server 1/5, VNIC vnic_b1 ---------------------------------------->>> VM IMM-Transition-4.0.1 is hosted on Server 1/5 and the vnic name is vnic_b1
switchport mode trunk
switchport trunk allowed vlan 69-70,72,470
no lldp transmit
no lldp receive
no pinning server sticky
pinning server pinning-failure link-down
no cdp enable
service-policy type queuing input org-root/ep-qos-BestEffort
bind interface port-channel1282 channel 688
no shutdown
收集有關上游交換機的資訊
FI-A(nxos)# show cdp neighbors
Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge
S - Switch, H - Host, I - IGMP, r - Repeater,
V - VoIP-Phone, D - Remotely-Managed-Device,
s - Supports-STP-Dispute
Device-ID Local Intrfce Hldtme Capability Platform Port ID
MGMT-SWITCH
mgmt0 140 R S I WS-C3650-12X4 Gig1/0/35
Nexus-1
Eth1/1 158 R S I s N5K-C5672UP-1 Eth1/3
Nexus-2
Eth1/2 133 R S I s N5K-C5672UP-1 Eth1/3
FI-A(nxos)# show cdp neighbors
Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge
S - Switch, H - Host, I - IGMP, r - Repeater,
V - VoIP-Phone, D - Remotely-Managed-Device,
s - Supports-STP-Dispute
Device-ID Local Intrfce Hldtme Capability Platform Port ID
MGMT-SWITCH
mgmt0 139 R S I WS-C3650-12X4 Gig1/0/36
Nexus-1
Eth1/1 167 R S I s N5K-C5672UP-1 Eth1/4
Nexus-2
Eth1/2 132 R S I s N5K-C5672UP-1 Eth1/4
摘要
- 虛擬機器MAC地址分別在FI-A和FI-B以及VLAN 70上獲取。
- 虛擬機器託管在不同的UCS伺服器中,但託管在同一個UCSM域中。
- 上游交換機是N5K-C5672UP-1,並連線到兩個交換矩陣互聯中的介面ethernet1-2。
定義流量
- 如果源地址和目的地址在同一個子網或VLAN上,則流量會在同一個廣播域上轉發。
- 如果源和目標位於不同的子網或vlan中,則流量會轉發到另一個廣播域。
- 如果在同一交換矩陣互聯中獲知源和目標,則流量由交換矩陣互聯進行本地交換。
- 如果在不同的交換矩陣互聯中獲知源和目標,則流量在上游轉發。
對於此特定情境:
- 源和目標位於同一個廣播域中,但在不同的交換矩陣互聯上獲知,因此流量將傳送到上游網路。
僅測試UCS網路
因此,為了測試交換矩陣互聯的本地交換,而不涉及流量流上的上游網路,可以強制在同一交換矩陣互聯中學習兩個虛擬機器的故障轉移。在本示例中,VM IMM-Transition-4.0.1將移動到FI-A。
- 從以前的故障排除開始:
- VM Alma Linux 9託管在Server 1/3上,在FI-A上學習並使用veth725(即vnic_a1)。
- VM IMM-Transition-4.0.1託管在Server 1/5上,在FI-B上學習並使用veth688(即vnic_b1)。
- 在UCSM上:
- 伺服器1/5的FI-A上有2個vNIC,FI-B上有2個vNIC
- 要強制重新定位到FI-A,請從VM使用的vNIC開始,禁用B端的vNIC,因為此方案禁用了vnic_b0和vnic_b1。
- 禁用了FI-B上的所有vNIC後,VM IMM-Transition-4.0.1現在與VM Alma Linux 9一起在FI-A上學習。
FI-A(nxos)# show mac address-table vlan 70
Legend:
* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC
age - seconds since last seen,+ - primary entry using vPC Peer-Link
VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID
---------+-----------------+--------+---------+------+----+------------------
* 70 0050.56ba.2853 dynamic 0 F F Veth686 ------------------------------------->>> VM Alma Linux 9
* 70 0050.56ba.4696 dynamic 10 F F Veth725 ------------------------------------>>> VM IMM-Transition-4.0.1
- 當UCS端的所有其他內容都按預期配置時,Ping現在即可工作,因為流量是由FI-A在本地交換的。因此,調查需要在上游網路上繼續進行。
交換矩陣互聯中未獲知的MAC地址
FI-A(nxos)# show running-config interface port-channel 1
!Command: show running-config interface port-channel1
!Time: Fri Feb 2 13:05:59 2024
version 5.0(3)N2(4.13k)
interface port-channel1
description U: Uplink
switchport mode trunk
pinning border
switchport trunk allowed vlan 1,69-70,72,470
speed 1000
- 驗證ESXi主機上的虛擬機器使用的vmnic。使用
esxtop
with選項n
,獲取繫結。
- 虛擬機器正在主機1/3上使用vmnic1和vmnic2。
- 將MAC地址從ESXi虛擬對映到UCS vNIC
[root@esx38:~] esxcfg-nics -l
Name PCI Driver Link Speed Duplex MAC Address MTU Description
vmnic0 0000:06:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC
vmnic1 0000:07:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC
vmnic2 0000:08:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC
vmnic3 0000:09:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC
- 作業系統是否正在轉發幀?(確認資料包捕獲。)
- VIC介面卡
- IOM(HIF和NIF)
相關資訊