Fehlerbehebung bei FEX-Leistungsproblemen bei der Nexus Serie 5000/6000

Einführung

In diesem Dokument wird beschrieben, wie die Leistung der Fabric Extender (FEX), die an Nexus Switches der Serie 5000 oder 6000 angeschlossen werden können, auf Fehler überprüft wird.

Hinweis: Keiner der in diesem Dokument eingeführten Befehle führt zu Unterbrechungen.  Sie benötigen einen Nexus 2000-Switch, der mit einem Switch der Serie 5000 oder 6000 verbunden ist.

Hintergrundinformationen

Navigieren in der CLI

Am FEX anhängen

Anfügen an den FEX zum Ausführen von Befehlen zur Anzeige in der FEX-Befehlszeile:

Nexus#-FEX hinzufügen FEX
FEX>

Debug Exec-Modus eingeben

Wechseln Sie auf dem FEX in den Debugmodus, um erweiterte Befehle auszuführen und den grundlegenden FEX-Namen anzugeben. Siehe Tabelle 1. für die FEX-Basisnamen.

fex# dbgexec [prt/woo/red/pri]

Beenden Sie Debug Exec-Modus

Um den Debug Exec Mode zu beenden, verwenden Sie die Tastenfolge STRG+C:

fex> [STRG+C]

Beenden Sie den FEX.

Um das FEX zu beenden, verwenden Sie den Befehl exit:

fex# exit

Terminologie

Host Interface (HI)

Hi's sind die Ports, die zu den Servern auf dem FEX zeigen.Diese werden allgemein als Front-Ports bezeichnet.Jeder Front-Port auf einem FEX hat eine HI-Nummer. Diese Nummer unterscheidet sich in der Regel von der Portnummer, wird jedoch zur Fehlerbehebung bei Befehlen verwendet, die auf einen Port verweisen. Jede Basis tabalisiert die Ports an der Vorderseite unterschiedlich.

Netzwerkschnittstelle (NI)

NIs sind die FEX-Steuerungsports auf dem FEX, die wieder mit dem übergeordneten Switch verbunden sind. Diese werden auch als Netzwerk-Uplinks bezeichnet. Diese verfügen außerdem über eine eindeutige, modellabhängige NI-Nummer.

FEX-Fabric-Port

Diese Ports sind die übergeordnete Switch-Seite der eindeutigen Verbindung zum FEX. Diese Ports sind mit FEX-Fabric im Switch-Port-Modus und einem FEX-Zuordnungsbefehl konfiguriert. 

FEX ASIC-Namen 

Jeder FEX ist mit einem anderen ASIC ausgestattet. Die Abkürzung des ASIC-Namens wird im Debugmodus zum Ausführen von Befehlen verwendet.

Die meisten FEX-Modelle verfügen über einen ASIC. Der 2148 verfügt jedoch über 6 Modelle mit jeweils 8 Ports an der Vorderseite. Diese werden in den Befehlen zur Fehlerbehebung als "rmon" bezeichnet. 

Die ASIC-Namen und die zugehörigen Überschreibungen werden als Referenz aufgeführt:

 
Tabelle 1:

FEX-Modell	ASIC-Name	Abkürzung
N2K-C2148T-1GE	Rotholz	RW
N2K-C224TP-1GE N2K-C2248TP-1GE	Portola	Teil
N2K-C2232PP-10GE N2K-C2232TM-10GE	Waldseite	Woo
N2K-C2248TP-E-1GE	Prinzessin	PRI
B22	Waldseite	Woo
N2K-C2232TM-E-10GE	Waldseite	Woo
N2K-C2248PQ-10GE	Holzschnitt	Woo
N2K-C2348UPQ-10GE	Tiburon	Kneipe

Vordere Portzuordnung

Um die Ausgabe des Schnittstellenzählers zu unterbinden, kann es erforderlich sein, die Nummer des vorderen Anschlusses in eine HI-Nummer umzuwandeln. Die Konvertierung ist vom FEX-Chassis-Modell abhängig.

N2K-C2148T-1GE

In diesem Beispiel wurde dem Front-Port 26 (Chassis-ID/1/26) RMON 3 HI 0 zugewiesen:

switch# fex chassis_id anhängen

fex-[chassis_id]# show plattform software redwood sts

N2K-C224TP-1GE / N2K-C2248TP-1GE

In diesem Beispiel wurde dem Front-Port 10 (135/1/10) HI 9 zugewiesen:

switch# fex chassis_id anhängen

fex-[chassis_id]# dbgexec portola

prt> fp

N2K-C2232PP-10GE/N2K-C2232TM-10GE

In diesem Beispiel wurde dem Front-Port 20 (135/1/20) HI 19 zugewiesen:

switch# fex chassis_id anhängen

fex-[chassis_id]# show platform-software woodside sts

N2K-C2248TP-E-1G

N2K-C2248PQ-10GE und N2K-C2348UPQ-10GE 

In diesem Beispiel ordnet HI28 dem Front-Port 29 zu:

SFP überprüfen

Dieser Befehl zeigt die SFP-Informationen (Small Form-Factor Pluggable) für den Port an.

fex# show plattform software woodside sfmon 0 HI5

In diesem Beispiel sehen Sie, dass der SFP in HI5 ein 10G-Base-SR (LC) von CISCO-AVAGO ist:

Hinweis: Wenn Sie diesen Befehl auf einem FEX ausführen, der Kupferports verwendet, werden die Befehlsfehler angezeigt. Dies ist zu erwarten, da keine SFP-Abfrage erforderlich ist. Die Eingabeaufforderung kehrt zu keinem SFP zurück, der bei diesem Port als Glasfaser gefunden wurde, enthält jedoch derzeit kein SFP.

Verlust suchen

Befehle anzeigen können an der FEX-Eingabeaufforderung für die HI- und NI-Ports ausgeführt werden, um Schnittstellenzähler auf der FEX-Seite der FEX-Fabric-Port-Verbindungen anzuzeigen.

HI-Port-Zähler anzeigen

Dieser Befehl zeigt eine Überprüfung des Portzählers an, ähnlich einer show int:

fex-128# show platform software woodside rmon 0 HI0
+----------------------+----------------------+-----------------+--------------------------+----------------------+-----------------+
| TX                        |         Current        |       Diff          |           RX                  |       Current          |        Diff         |
+----------------------+----------------------+-----------------+--------------------------+----------------------+-----------------+
| TX_PKT_LT64     |                           0|                     0|    RX_PKT_LT64     |                           0|                     0|
| TX_PKT_64         |                           0|                     0|    RX_PKT_64          |                           0|                     0|
| TX_PKT_65         |                           0|                     0|    RX_PKT_65          |                           0|                     0|
| TX_PKT_128       |                           0|                     0|    RX_PKT_128        |                           0|                     0|
| TX_PKT_256       |                           0|                     0|    RX_PKT_256        |                           0|                     0|

Hinweis: RMON 0 wird nur verwendet, wenn der FEX über eine Hostbasis verfügt. Die Modelle 2224, 2248 und 2232 haben nur eine Basis. Das Modell 2148 hat sechs Krankheiten, daher werden die RMON 0 bis 5 verwendet. Weitere Informationen finden Sie im Abschnitt "Zuordnung der Frontanschlüsse".

Anzeigen von NI-Port-Zählern

Dieser Befehl zeigt die Port-Zähler für die Netzwerk-Uplinks an, die einem show int ähneln. Dieser Befehl zeigt die FEX-Seite der Verbindung an. Mit diesem Befehl wird die Seite des übergeordneten Switches der Verbindung nicht angezeigt.

 fex-128# show platform software woodside rmon 0 NI0
+----------------------+----------------------+-----------------+--------------------------+----------------------+-----------------+
| TX                        |         Current        |       Diff          |           RX                  |       Current          |        Diff         |
+----------------------+----------------------+-----------------+--------------------------+----------------------+-----------------+
| TX_PKT_LT64     |                           0|                     0|    RX_PKT_LT64     |                           0|                     0|
| TX_PKT_64         |                           0|                     0|    RX_PKT_64          |                           0|                     0|
| TX_PKT_65         |                           0|                     0|    RX_PKT_65          |                           0|                     0|
| TX_PKT_128       |                           0|                     0|    RX_PKT_128        |                           0|                     0|
| TX_PKT_256       |                           0|                     0|    RX_PKT_256        |                           0|                     0|  

Verlaufsverluste anzeigen

Historische Drops können mit dem Befehl drop angezeigt werden. Hier sehen Sie, dass Sie alle FEX nach dem Einschalten abgelegt haben.

Dieser Befehl zeigt auch, dass Sie auf die FEX-CPU verwerfen, die keine Datenverkehrsverluste mit DROP8-Zählern darstellt. Diese können unbedenklich ignoriert werden.

 

Hinweis: Tail Drop [8] und TAIL_DROP8 steht für Tail Drop an die FEX-CPU und ist für die Behebung von Leistungsproblemen unter normalen Bedingungen nicht relevant.

prt> drops
PRT_SS_CNT_TAIL_DROP1 : 3 SS0
PRT_SS_CNT_TAIL_DROP1 : 6 SS1
PRT_SS_CNT_TAIL_DROP1 : 1 SS2
PRT_SS_CNT_TAIL_DROP1 : 25 SS3
PRT_SS_CNT_TAIL_DROP1 : 2 SS5
PRT_SS_CNT_TAIL_DROP8 : 142 SS0
PRT_SS_CNT_TAIL_DROP8 : 73 SS1
PRT_SS_CNT_TAIL_DROP8 : 11 SS2
PRT_SS_CNT_TAIL_DROP8 : 62048 SS3
PRT_SS_CNT_TAIL_DROP8 : 4613 SS4
PRT_SS_CNT_TAIL_DROP8 : 552 SS5

Aktuelle Verluste und Unterbrechungen anzeigen

Die an die CPU gesendeten Unterbrechungen beinhalten Tail-Drop, die aufgrund von Überlastung und fehlender Pufferkapazität verworfen werden. Diese können mit dem Befehl show new_ints angezeigt werden: 

Hinweis: Code 6.0 und höher verwendet show new_ints all

Dieses Beispiel zeigt, dass Frames Tail Drop im SS1-Puffer:

prt> show new_ints
|-----------------------------------------------|
| SS1 : ssx_int_norm_td 
|--+---------+----------------------------------+
| 1 | 00001c98   |    tail drop[1]     | frames are being tail dropped.
| 2 | 00005cac   |    tail drop[2]      | frames are being tail dropped.
| 8 | 0000012e   |    tail drop[8]     | frames are being tail dropped.

Dieses Beispiel zeigt, dass NI 3 Symbolfehler empfängt:

 | NI3 : nix_xe_INT_xg  
 |--+---------+----------------------------------+ 
 |2 |00000005 | rx_local_fault                  | Link is in local fault state 
 |3 |00000007 | rx_remote_fault              | Link is in remote fault state 
 |4 |00000004 | rx_code_violation           | MAC received unexpected XGMII control characters. 
 |5 |00000004 | rx_err_symbol                 | MAC received an XGMII error character. 
 |16|00000001 | rx_local_fault_edge      | Local fault state has changed. 
 |17|00000001 | rx_remote_fault_edge  | Remote fault state has changed. 
 |-----------------------------------------------| 

Dieses Beispiel zeigt, dass der FEX-Tail Frames verwirft, die NI3 empfangen:

 | SS4 : ssx_int_err 
 |--+---------+----------------------------------+ 
 |0 |00031aa9 | wo_cr[0]               | frames rcvd without credit for pausable classes. Pause is missing. 
 |1 |00014e21 | wo_cr[1]               | frames rcvd without credit for pausable classes. Pause is missing. 
 |2 |00018a9f  | wo_cr[2]                | frames rcvd without credit for pausable classes. Pause is missing. 
 |3 |00025efb  | wo_cr[3]                | frames rcvd without credit for pausable classes. Pause is missing. 
 |-----------------------------------------------| 

Anzeigen der Portverkehrsrate in Echtzeit

 

Der Befehl rate gibt Statistiken zur Datenverkehrsrate in Echtzeit für einen Port aus. Anders als show int ist nicht der Durchschnitt, sondern die aktuelle Rohdatenrate, die an zweiter Stelle steht. In diesem Beispiel erhält NI 3 derzeit 2,96 Kbit/s in der Richtung Netzwerk zu Host. Ein show int auf dem entsprechenden übergeordneten Nexus-Switch zeigt auf dem mit NI 3 verbundenen FEX-Fabric-Uplink 2,96 Kbit/s in TX-Richtung an.

Reduzierung von Verlusten

Tail-Drops werden durch Pufferüberlastung verursacht. In der Regel wird der Puffer erschöpft, wenn mehrere Server gleichzeitig in die HIFs hochgefahren werden, oder die Ausgangs-Puffer des Hosts ihren ausgehenden Datenverkehr nicht schnell genug leeren können, um die Gutschriften auf den NIFs wieder aufzuladen.

Es stehen mehrere Optionen zur Verfügung, um diesen Verlust abzumildern.

Server neu positionieren 

Verschieben Sie alle Server mit Datenverkehrsflüssen wie Storage-Arrays und Video-Endpunkten vom FEX, und verbinden Sie sie direkt mit den Basisports des übergeordneten Switches. Dadurch wird verhindert, dass die Burst-Server den Puffer ausschöpfen und den Datenverkehr von weniger chatty Hosts blockieren.

Die Switches der Serien Nexus 5000 und 6000 verfügen über größere Puffer als FEX-Modelle. Um bursty Server mit den Basisports zu verbinden, werden diese Verluste vermieden, da die Basis-Port-Puffer einen wesentlich größeren Burst verarbeiten können. 

Zusätzliche Uplinks hinzufügen

Einige FEX-Modelle können zusätzlichen Pufferspeicher freischalten, wenn weitere Uplinks vom FEX zum übergeordneten Switch hinzugefügt werden. Dadurch können Netzwerkuplinks potenziell blockiert werden.

Tabelle 2:

  

Modell	Pufferzunahme beim Hinzufügen von Uplinks
2148	Keine
2224	Pufferzunahme von bis zu 2 Uplinks
2248TP	Pufferzunahme von bis zu 4 Uplinks
2232	Pufferzunahme von bis zu 4 Uplinks
2248TP-E	Keine
2248PQ	Keine

HI-Puffer teilen

Die meisten FEX-Modelle können von der gemeinsamen Nutzung des HI-Puffers über alle Host-Ports profitieren. Wenn im HI Verwerfungen auftreten, kann die Freigabe des Puffers diese Verwerfen mindern.

Globale Änderung des FEX-Warteschlangenlimits:

500(config)# kein FEX-Warteschlangenlimit (gilt global für alle Fexus auf diesem 5000)

Ändern Sie den Grenzwert für die FEX-Warteschlange für einzelne FEX:

Fex-Warteschlange 

5.000 (config)# fex 100
5k(config-fex)# keine Hardware [model] Warteschlangenlimit

Verbesserter Nexus 6000 FEX-Lastenausgleich

Der Nexus 6000 verfügt über eine zusätzliche Option zum Ändern des Load Balancing-Algorithmus von HIF auf NIF. Standardmäßig werden Pakete, selbst wenn sie an unterschiedlichen HIF-Ports eintreffen, trotzdem in die Warteschlange derselben NIF gestellt. Bei aktiviertem Uplink-Load-Balancing-Modus werden sie auf mehrere NIFs verteilt und ermöglichen eine gleichmäßigere Nutzung von NIF-Ausgangspuffern.

6k(config)# Hardware N2248PQ Uplink-Load-Balancing-Modus