Einleitung
In diesem Dokument wird beschrieben, wie grundlegende Probleme mit der Netzwerkverbindung auf virtuellen Systemen behoben werden.
Voraussetzungen
Anforderungen
Cisco empfiehlt, dass Sie über Kenntnisse in folgenden Bereichen verfügen:
- Unified Computing System Manager-Domäne (UCSM)
- Cisco Unified Computing System Manager (UCSM) Command Line Interface (CLI)
- Cisco UCS Server der Serien B und C
- Grundlegende Netzwerkkonzepte
- ESXi
Verwendete Komponenten
Die Informationen in diesem Dokument basieren auf folgenden Software-Versionen:
- Cisco UCS Manager Version 2.x und höher
- Cisco UCS Fabric Interconnect der Serien 6200, 6300, 6400 und 6500
- Cisco Fabric Extender der Serien UCS 2200, 2300 und 2400 - E/A-Modul
Die Informationen in diesem Dokument beziehen sich auf Geräte in einer speziell eingerichteten Testumgebung. Alle Geräte, die in diesem Dokument benutzt wurden, begannen mit einer gelöschten (Nichterfüllungs) Konfiguration. Wenn Ihr Netzwerk in Betrieb ist, stellen Sie sicher, dass Sie die möglichen Auswirkungen aller Befehle kennen.
Hintergrundinformationen
Ein gängiges Szenario für Infrastrukturadministratoren, die Netzwerk- oder Konfigurationsänderungen vornehmen, ist der Verlust der Netzwerkverbindung auf ihren virtuellen Systemen. Dieses Dokument dient als Anleitung zur Fehlerbehebung, um die häufigsten Probleme zu identifizieren.
Verstehen des Problems
Das häufigste Problem ist, dass die Ping-Verbindung zwischen virtuellen Systemen unterbrochen wird. Um das vollständige Bild zu erhalten, können wir anfangen zu fragen:
- Werden beide virtuellen Systeme in UCS-Servern gehostet?
- Befinden sich beide virtuellen Systeme in derselben UCSM-Domäne?
- Versuchen die virtuellen Systeme, über dasselbe VLAN zu kommunizieren?
- Welche Art von Netzwerkkonfiguration verwenden wir auf der Hypervisorseite? (ESXi verteilter Switch, NIC-Teaming usw.)
- Welches Modell verwenden die Upstream-Switches?
Testszenario
Es wurden zwei neue virtuelle Systeme bereitgestellt und für die Verwendung von VLAN 70 konfiguriert. Sie können jedoch keine Pings für die anderen oder das Standard-Gateway durchführen.
Virtuelle Systeme
- IMM-Übergang-4.0.1
- Alma Linux 9
Hypervisor
- VMware ESXi, 7.0.3, 20842708
Sammeln von Informationen
MAC- und IP-Adressen beider virtueller Systeme:
- IMM-Übergang-4.0.1
- MAC: 00:50:56:ba:28:53
- IP: 192.168.70.23
- Host-IP: 10.31.123.38
- Alma Linux 9
- MAC: 00:50:56:ba:46:96
- IP: 192.168.70.24
- Host-IP: 10.31.123.40
Nachverfolgung von MAC-Adressen auf den FIs
FI-A # connect nxos
FI-A(nxos)# show mac address-table vlan 70
Legend:
* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC
age - seconds since last seen,+ - primary entry using vPC Peer-Link
VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID
---------+-----------------+--------+---------+------+----+------------------
* 70 0050.56ba.4696 dynamic 30 F F Veth725 ------------------------------------------->>> VM Alma Linux 9 is learned on FI-A veth725 and VLAN 70 as expected
FI-B # connect nxos
FI-B(nxos)# show mac address-table vlan 70
Legend:
* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC
age - seconds since last seen,+ - primary entry using vPC Peer-Link
VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID
---------+-----------------+--------+---------+------+----+------------------
* 70 0050.56ba.2853 dynamic 10 F F Veth688 ---------------------------------------->>> VM IMM-Transition-4.0.1 is learned on FI-B veth688 and VLAN 70 as expected
Bestimmen des Servers, auf dem der virtuelle Computer gehostet wird
FI-A(nxos)# show running-config interface vethernet725
!Command: show running-config interface Vethernet725
!Time: Thu Feb 1 11:59:39 2024
version 5.0(3)N2(4.13k)
interface Vethernet725
description server 1/3, VNIC vnic_a1 ---------------------------------------->>> VM Alma Linux 9 is hosted on Server 1/3 and the vnic name is vnic_a1
switchport mode trunk
no lldp transmit
no lldp receive
no pinning server sticky
pinning server pinning-failure link-down
no cdp enable
switchport trunk allowed vlan 69-70,72,470
bind interface port-channel1287 channel 725
service-policy type queuing input org-root/ep-qos-BestEffort
no shutdown
FI-B(nxos)# show running-config interface vethernet 688
!Command: show running-config interface Vethernet688
!Time: Thu Feb 1 12:06:44 2024
version 5.0(3)N2(4.13k)
interface Vethernet688
description server 1/5, VNIC vnic_b1 ---------------------------------------->>> VM IMM-Transition-4.0.1 is hosted on Server 1/5 and the vnic name is vnic_b1
switchport mode trunk
switchport trunk allowed vlan 69-70,72,470
no lldp transmit
no lldp receive
no pinning server sticky
pinning server pinning-failure link-down
no cdp enable
service-policy type queuing input org-root/ep-qos-BestEffort
bind interface port-channel1282 channel 688
no shutdown
Sammeln von Informationen über die Upstream-Switches
FI-A(nxos)# show cdp neighbors
Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge
S - Switch, H - Host, I - IGMP, r - Repeater,
V - VoIP-Phone, D - Remotely-Managed-Device,
s - Supports-STP-Dispute
Device-ID Local Intrfce Hldtme Capability Platform Port ID
MGMT-SWITCH
mgmt0 140 R S I WS-C3650-12X4 Gig1/0/35
Nexus-1
Eth1/1 158 R S I s N5K-C5672UP-1 Eth1/3
Nexus-2
Eth1/2 133 R S I s N5K-C5672UP-1 Eth1/3
FI-A(nxos)# show cdp neighbors
Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge
S - Switch, H - Host, I - IGMP, r - Repeater,
V - VoIP-Phone, D - Remotely-Managed-Device,
s - Supports-STP-Dispute
Device-ID Local Intrfce Hldtme Capability Platform Port ID
MGMT-SWITCH
mgmt0 139 R S I WS-C3650-12X4 Gig1/0/36
Nexus-1
Eth1/1 167 R S I s N5K-C5672UP-1 Eth1/4
Nexus-2
Eth1/2 132 R S I s N5K-C5672UP-1 Eth1/4
Zusammenfassung
- Die MAC-Adressen von virtuellen Systemen werden auf FI-A bzw. FI-B und VLAN 70 erfasst.
- Virtuelle Systeme werden auf verschiedenen UCS-Servern, aber in derselben UCSM-Domäne gehostet.
- Upstream-Switches sind N5K-C5672UP-1 und stellen in beiden Fabric Interconnects eine Verbindung zu den Ethernet1-2-Schnittstellen her.
Definition des Datenverkehrsflusses
- Wenn sich Quelle und Ziel im selben Subnetz oder VLAN befinden, wird der Datenverkehr in derselben Broadcast-Domäne weitergeleitet.
- Wenn sich Quelle und Ziel in einem anderen Subnetz oder VLAN befinden, wird der Datenverkehr in eine andere Broadcast-Domäne weitergeleitet.
- Wenn Quelle und Ziel im selben Fabric Interconnect erfasst werden, wird der Datenverkehr lokal über den Fabric Interconnect vermittelt.
- Wenn Quelle und Ziel in einem anderen Fabric Interconnect erfasst werden, wird der Datenverkehr an den Upstream weitergeleitet.
Für dieses spezielle Szenario gilt:
- Quelle und Ziel befinden sich in derselben Broadcast-Domäne, wurden jedoch in verschiedenen Fabric Interconnects erfasst, sodass der Datenverkehr an das Upstream-Netzwerk gesendet wird.
Nur UCS Networking testen
Um das lokale Switching des Fabric Interconnects zu testen, ohne dass das Upstream-Netzwerk in den Datenverkehrsfluss involviert ist, kann ein Failover erzwungen werden, damit beide virtuellen Systeme in demselben Fabric Interconnect erfasst werden. In diesem Beispiel wird VM IMM-Transition-4.0.1 nach FI-A verschoben.
- Von vorheriger Fehlerbehebung:
- VM Alma Linux 9 wird auf Server 1/3 gehostet, auf FI-A gelernt und veth725 verwendet, was vnic_a1 ist.
- VM IMM-Transition-4.0.1 wird auf Server 1/5 gehostet, erlernt auf FI-B und unter Verwendung von veth688 (vnic_b1).
- Über UCSM:
- Server 1/5 verfügt über 2 vNICs auf FI-A und 2 auf FI-B
- Um die Neuausrichtung auf FI-A zu erzwingen, deaktivieren Sie die vNICs auf der B-Seite, beginnend mit der vNIC, die vom virtuellen System verwendet wird. In diesem Szenario wurden vnic_b0 und vnic_b1 deaktiviert.
- Nachdem alle vNICs auf FI-B deaktiviert wurden, wird VM IMM-Transition-4.0.1 jetzt auf FI-A zusammen mit VM Alma Linux 9 gelernt.
FI-A(nxos)# show mac address-table vlan 70
Legend:
* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC
age - seconds since last seen,+ - primary entry using vPC Peer-Link
VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID
---------+-----------------+--------+---------+------+----+------------------
* 70 0050.56ba.2853 dynamic 0 F F Veth686 ------------------------------------->>> VM Alma Linux 9
* 70 0050.56ba.4696 dynamic 10 F F Veth725 ------------------------------------>>> VM IMM-Transition-4.0.1
- Da alle anderen Elemente auf der UCS-Seite wie erwartet konfiguriert wurden, funktioniert der Ping-Befehl nun, da der Datenverkehr lokal von FI-A umgeleitet wird. Daher muss die Untersuchung auf dem vorgelagerten Netz fortgesetzt werden.
Auf den Fabric Interconnects nicht erfasste MAC-Adressen
- Überprüfen Sie, ob das VLAN auf den vNICs richtig konfiguriert ist.
- Überprüfen Sie, ob das VLAN für die Uplinks richtig konfiguriert ist.
FI-A(nxos)# show running-config interface port-channel 1
!Command: show running-config interface port-channel1
!Time: Fri Feb 2 13:05:59 2024
version 5.0(3)N2(4.13k)
interface port-channel1
description U: Uplink
switchport mode trunk
pinning border
switchport trunk allowed vlan 1,69-70,72,470
speed 1000
- Überprüfen Sie, ob das VLAN auf ESXi richtig konfiguriert ist.
- Validieren Sie die vmnic, die von der virtuellen Maschine auf dem ESXi-Host verwendet wird. Verwenden Sie die
esxtop
with-Option, um die Bindung abzurufenn
.
- Virtuelle Systeme verwenden vmnic1 und vmnic2 auf Host 1/3.
- Zuordnung von MAC-Adressen von ESXi vmnics zu UCS vNICs
[root@esx38:~] esxcfg-nics -l
Name PCI Driver Link Speed Duplex MAC Address MTU Description
vmnic0 0000:06:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC
vmnic1 0000:07:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC
vmnic2 0000:08:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC
vmnic3 0000:09:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC
- Leitet das Betriebssystem den Frame weiter? (Mit einer Paketerfassung bestätigen.)
- VIC-Adapter
- IOM (HIF und NIF)
Zugehörige Informationen