Einleitung
In diesem Dokument wird die Migration von zwei Ein-Chassis-Systemen des Cisco Aggregation Services Routers (ASR) 9000 (9K) auf ein Network Virtualization (nV) Edge-System beschrieben.
Voraussetzungen
Anforderungen
Um zwei Router in einem Cluster zusammenzufassen, müssen verschiedene Anforderungen erfüllt werden.
Software
Sie benötigen Cisco IOS® XR Version 4.2.1 oder höher.
Hinweis: Die Software nV Edge ist im Mini-Paket integriert.
Hardware
Gehäuse:
- ASR 9006 und 9010 ab Version 4.2.1
- Unterstützung für ASR 9001 ab Version 4.3.0
- Unterstützung für ASR 9001-S und 9922 ab Version 4.3.1
- Unterstützung für ASR 9904 und 9912 ab Version 5.1.1
Hinweis: Für den nV-Edge müssen identische Gehäusetypen verwendet werden.
Line Card (LC) und Route Switch Processor (RSP):
- Dual RSP440 für 9006/9010/9904
- Dual Route Processor (RP) für 9912/9922
- Ein RSP für 9001/9001-S
- Typhoon-basierter LC- oder SPA Interface Processor (SIP)-700
Hinweis: RSP-4G, RSP-8G, Trident-basierte LCs, Integrated Service Module (ISM) und Virtualized Services Module (VSM) werden nicht unterstützt
Hinweis: Nur Typhoon-basierte LCs können Inter-Rack Link (IRL)-Verbindungen unterstützen.
Von Steuerungs-Links (Ethernet Out of Band Control (EOBC)/Cluster-Ports) unterstützte optische Verbindungen:
- Small Form-Factor Pluggabble (SFP)-GE-S, Version 4.2.1
- GLC-SX-MMD, Version 4.3.0
- GLC-LH-SMD, Version 4.3.0
Datenverbindungen/IRL-unterstützte optische Verbindungen:
- Optische Unterstützung erfolgt gemäß LC-Unterstützung
- 10G IRL-Unterstützung, die in Version 4.2.1 begonnen hat
- 40G IRL-Unterstützung, die in Version 5.1.1 begonnen hat
- 100G IRL-Unterstützung, die in Version 5.1.1 begonnen hat
Hinweis: 1G IRL wird nicht unterstützt.
Hinweis: Siehe Datenblatt zum Line Card-Support für Cisco ASR 9000 Transceiver-Module zur Unterstützung optischer LC-Verbindungen.
Hinweis: IRL im gemischten Modus wird nicht unterstützt; alle IRLs müssen dieselbe Geschwindigkeit haben.
Verwendete Komponenten
Das Beispiel in diesem Dokument basiert auf zwei 9006-Routern mit einem RSP440, auf denen XR 4.2.3 ausgeführt wird.
Die Informationen in diesem Dokument beziehen sich auf Geräte in einer speziell eingerichteten Testumgebung. Alle Geräte, die in diesem Dokument benutzt wurden, begannen mit einer gelöschten (Nichterfüllungs) Konfiguration. Wenn Ihr Netz Live ist, überprüfen Sie, ob Sie die mögliche Auswirkung jedes möglichen Befehls verstehen.
Beispielmigration
Terminologie
Die IRLs sind die Datenebenenverbindung zwischen den beiden Routern im Cluster.
Die Steuerungs-Link- bzw. EOBC-Ports stellen die Verbindung der Steuerungsebene zwischen den beiden Routern dar.
Netzwerkdiagramm
Hinweis: Die Control-Links sind wie hier dargestellt miteinander verbunden.
Für den 9001 gibt es zwei Cluster-Ports (grün dargestellt), die als 10G-EOBC-Verbindungen fungieren. Jeder 10G-Port kann für IRL-Verbindungen verwendet werden, einschließlich der integrierten SFP+-Ports (blau abgebildet) oder eines 10G-Ports in einem Modular Port Adapter (MPA).
Migration
Hinweis: Verkabeln Sie die Kontrollverbindungen nicht vor Schritt 10.
- Turboboot oder Upgrade auf die gewünschte XR-Softwareversion auf beiden Routern (mindestens Version 4.2.1).
- Vergewissern Sie sich, dass die XR-Software mit Software-Wartungs-Upgrades (SMUs) und der Firmware für das vor Ort programmierbare Gerät (FPD) auf dem neuesten Stand ist.
- Ermitteln Sie die Seriennummer jedes Gehäuses. Sie benötigen diese Informationen in späteren Schritten.
RP/0/RSP0/CPU0:ASR9006#admin show inventory chass
NAME: "chassis ASR-9006-AC-E", DESCR: "ASR 9006 AC Chassis with PEM Version 2"
PID: ASR-9006-AC-V2, VID: V01, SN: FOX1613G35U
- Konfigurieren Sie das Router-Konfigurationsregister nur auf Rack 1 so, dass der Startmodus "rom-monitor" verwendet wird.
admin config-register boot-mode rom-monitor location all
- Schalten Sie Rack 1 aus.
- Konfigurieren Sie auf Rack 0 die Cluster-Seriennummern, die in Schritt 3 von jedem Router erfasst werden:
admin
config
nv edge control serial FOX1613G35U rack 0
nv edge control serial FOX1611GQ5H rack 1
commit
- Rack 0 neu laden.
- Schalten Sie Rack 1 ein, und wenden Sie diese Befehle auf RSP 0 und RSP 1 an.
unset CLUSTER_RACK_ID
unset CLUSTER_NO_BOOT
unset BOOT
confreg 0x2102
sync
- Schalten Sie Rack 1 aus.
- Schließen Sie die Steuerungsverbindungskabel an, wie in der Abbildung im Abschnitt Netzwerkdiagramm dargestellt.
- Einschalten von Rack 1.
Die RSPs auf Rack 1 synchronisieren alle Pakete und Dateien von Rack 0.
Expected output on Rack 1 during boot up
Cisco IOS XR Software for the Cisco XR ASR9K, Version 4.2.3
Copyright (c) 2013 by Cisco Systems, Inc.
Aug 16 17:15:16.903 : Install (Node Preparation): Initializing VS Distributor...
Media storage device /harddisk: was repaired. Check fsck log at
/harddisk:/chkfs_repair.log
Could not connect to /dev/chan/dsc/cluster_inv_chan:
Aug 16 17:15:42.759 : Local port RSP1 / 12 Remote port RSP1 /
12 UDLD-Bidirectional
Aug 16 17:15:42.794 : Lport 12 on RSP1[Priority 2] is selected active
Aug 16 17:15:42.812 : Local port RSP1 / 13 Remote port RSP0 /
13 UDLD-Bidirectional
Aug 16 17:15:42.847 : Lport 13 on RSP1[Priority 1] is selected active
Aug 16 17:16:01.787 : Lport 12 on RSP0[Priority 0] is selected active
Aug 16 17:16:20.823 : Install (Node Preparation): Install device root from dSC
is /disk0/
Aug 16 17:16:20.830 : Install (Node Preparation): Trying device disk0:
Aug 16 17:16:20.841 : Install (Node Preparation): Checking size of device disk0:
Aug 16 17:16:20.843 : Install (Node Preparation): OK
Aug 16 17:16:20.844 : Install (Node Preparation): Cleaning packages on device disk0:
Aug 16 17:16:20.844 : Install (Node Preparation): Please wait...
Aug 16 17:17:42.839 : Install (Node Preparation): Complete
Aug 16 17:17:42.840 : Install (Node Preparation): Checking free space on disk0:
Aug 16 17:17:42.841 : Install (Node Preparation): OK
Aug 16 17:17:42.842 : Install (Node Preparation): Starting package and meta-data sync
Aug 16 17:17:42.846 : Install (Node Preparation): Syncing package/meta-data contents:
/disk0/asr9k-9000v-nV-px-4.2.3
Aug 16 17:17:42.847 : Install (Node Preparation): Please wait...
Aug 16 17:18:42.301 : Install (Node Preparation): Completed syncing:
/disk0/asr9k-9000v-nV-px-4.2.3
Aug 16 17:18:42.302 : Install (Node Preparation): Syncing package/meta-data contents:
/disk0/asr9k-9000v-nV-supp-4.2.3
Aug 16 17:18:42.302 : Install (Node Preparation): Please wait...
Aug 16 17:19:43.340 : Install (Node Preparation): Completed syncing:
/disk0/asr9k-9000v-nV-supp-4.2.3
Aug 16 17:19:43.341 : Install (Node Preparation): Syncing package/meta-data contents:
/disk0/asr9k-px-4.2.3.CSCuh52959-1.0.0
Aug 16 17:19:43.341 : Install (Node Preparation): Please wait...
Aug 16 17:20:42.501 : Install (Node Preparation): Completed syncing:
/disk0/asr9k-px-4.2.3.CSCuh52959-1.0.0
Aug 16 17:20:42.502 : Install (Node Preparation): Syncing package/meta-data contents:
/disk0/iosxr-routing-4.2.3.CSCuh52959-1.0.0
- Konfigurieren Sie die Datenverbindungsports als nV-Edge-Ports von Rack 0 (dSC):
interface TenGigE0/0/1/3
nv
edge
interface
!
interface TenGigE1/0/0/3
nv
edge
interface
!
interface TenGigE0/1/1/3
nv
edge
interface
!
interface TenGigE1/1/0/3
nv
edge
interface
interface TenGigE0/2/1/3
nv
edge
interface
!
interface TenGigE1/2/0/3
nv
edge
interface
!
interface TenGigE0/3/1/3
nv
edge
interface
!
interface TenGigE1/3/0/3
nv
edge
interface
Überprüfung
- Überprüfen Sie die Datenebene:
show nv edge data forwarding location all
<Snippet>
-----------------node0_RSP0_CPU0------------------
nV Edge Data interfaces in forwarding state: 4
TenGigE0_0_1_3 <--> TenGigE1_0_0_3
TenGigE0_1_1_3 <--> TenGigE1_1_0_3
TenGigE0_2_1_3 <--> TenGigE1_2_0_3
TenGigE0_3_1_3 <--> TenGigE1_3_0_3
<Snippet>
In dieser Ausgabe müssen sich die IRLs im Status Forwarding befinden.
- Überprüfen Sie die Kontrollebene:
show nv edge control control-link-protocols location 0/RSP0/CPU0
<Snippet>
Port enable administrative configuration setting: Enabled
Port enable operational state: Enabled
Current bidirectional state: Bidirectional
Current operational state: Advertisement - Single neighbor detected
Priority lPort Remote_lPort UDLD STP
======== ===== ============ ==== ========
0 0/RSP0/CPU0/0 1/RSP0/CPU0/0 UP Forwarding
1 0/RSP0/CPU0/1 1/RSP1/CPU0/1 UP Blocking
2 0/RSP1/CPU0/0 1/RSP1/CPU0/0 UP On Partner RSP
3 0/RSP1/CPU0/1 1/RSP0/CPU0/1 UP On Partner RSP
Von dieser Ausgabe aus sollte der aktuelle bidirektionale Status Bidirectional (Bidirektional) lauten und nur einer der Ports sollte sich im Forwarding-Status befinden.
- Cluster-Status überprüfen:
RP/0/RSP0/CPU0:ASR9006#admin show dsc
---------------------------------------------------------
Node ( Seq) Role Serial State
---------------------------------------------------------
0/RSP0/CPU0 ( 0) ACTIVE FOX1613G35U PRIMARY-DSC
0/RSP1/CPU0 (10610954) STANDBY FOX1613G35U NON-DSC
1/RSP0/CPU0 ( 453339) STANDBY FOX1611GQ5H NON-DSC
1/RSP1/CPU0 (10610865) ACTIVE FOX1611GQ5H BACKUP-DSC
Dieser Befehl zeigt den dSC-Status (zwischen Racks) und die Redundanzrolle (innerhalb des Racks) für alle RSPs im System an.
In diesem Beispiel sind dies:
- RSP0 auf Rack 0 ist der primäre dSC und der aktive RSP für das Rack.
- RSP1 auf Rack 0 ist ein Nicht-dSC- und der Standby-RSP für das Rack.
- RSP0 auf Rack 1 ist ein Nicht-dSC- und der Standby-RSP für das Rack.
- RSP1 auf Rack 1 ist der Backup-dSC und der aktive RSP für das Rack.
Hinweis: Die dSC-Rolle wird für Aufgaben verwendet, die nur einmal im System ausgeführt werden müssen, z. B. wenn Sie die Konfiguration anwenden oder Installationsaktivitäten durchführen.
Hinweis: Welcher RSP sich in welchem Zustand befindet, hängt davon ab, wie die Racks und RSPs gebootet wurden.
Optionale Optimierungen
Optimierung der Link Aggregation Group (LAG) und Bridge Virtual Interface (BVI)
System-MAC-Adresspool
Um Layer-2-Unterbrechungen zu vermeiden, können Sie den MAC-Adresspool des Systems manuell konfigurieren. Bei einem Ausfall des primären Racks wird durch diesen zusätzlichen Schritt sichergestellt, dass die logischen LAG-Pakete oder BVI-Schnittstellen weiterhin mit derselben MAC-Adresse kommunizieren und keine neue aus dem aktiven Rack-MAC-Adresspool generieren.
- Ermitteln Sie den MAC-Adressbereich aus dem dynamischen Pool des primären Rack-Standardwerts:
RP/0/RSP0/CPU0:ASR9006#admin show ethernet mac-allocation detail
Minimum pool size: Unlimited
Pool increment: 0
Maximum free addresses: Unlimited
Configured pool size: 0 (0 free)
Dynamic pool size: 1286 (1241 free)
Total pool size: 1286 (1241 free)
Number of clients: 1
Configured pools:
Dynamic pools:
6c9c.ed3e.24d8 - 6c9c.ed3e.29dd
- Konfigurieren Sie manuell einen logischen MAC-Adresspool für den Cluster. Sie können die gleichen dynamischen MAC-Adressen aus der Befehlsausgabe des vorherigen Schritts verwenden. Der Pool-Bereich umfasst 1286 Adressen:
admin
configure
ethernet mac-allocation pool base 6c9c.ed3e.24d8 range 1286
- Wenden Sie eine Verzögerung mit unterdrückten Klappen an, um zu verhindern, dass der Paketverwaltungsprozess während des Failovers ein Flapping der LAG-Verbindung ausführt.
Int bundle-ether 1
lacp switchover suppress-flaps 15000
Statische MAC-Pin-Belegung
Systeme, die IOS XR-Softwareversionen vor Version 5.1.1 verwenden, können die Funktion für den MAC-Adresspool des Clustersystems nicht manuell definieren. Cisco empfiehlt, die System- und Schnittstellen-MAC-Adressen für diese Bereitstellungen manuell zu konfigurieren.
- Identifizieren Sie die verwendeten MAC-Adressen:
show lacp system-id
show int bundle-ether 1
show interface BVI 1
- Die MAC-Adressen manuell konfigurieren Sie sollten die gleichen MAC-Adressen aus der Befehlsausgabe des vorherigen Schritts verwenden.
lacp system mac 8478.ac2c.7805
!
interface bundle-ether 1
mac-address 8478.ac2c.7804
- Wenden Sie eine Verzögerung mit unterdrückten Klappen an, um zu verhindern, dass der Paketverwaltungsprozess während des Failovers ein Flapping der LAG-Verbindung ausführt.
Int bundle-ether 1
lacp switchover suppress-flaps 15000
Layer 3 Equal-Cost Multi-Path (ECMP)-Optimierungen
- Bidirectional Forwarding Detection (BFD) und Non-Stopp Forwarding (NSF) für schnelle Konvergenz
router isis LAB
nsf cisco
!
interface TenGigE0/0/1/1
bfd minimum-interval 50
bfd multiplier 3
bfd fast-detect ipv4
!
interface TenGigE1/0/1/1
bfd minimum-interval 50
bfd multiplier 3
bfd fast-detect ipv4
- Loop Free Alternate Fast Reroute (LFA-FRR) für schnelle Konvergenz
Um die Cisco Express Forwarding (CEF)-Tabellen zu ändern, bevor die Routing Information Base (RIB) wieder konvergiert, können Sie LFA-FRR verwenden, um Datenverkehrsverluste bei einem Failover weiter zu reduzieren.
router isis Cluster-L3VPN
<snip>
interface Loopback0
address-family ipv4 unicast
!
!
interface TenGigE0/1/0/5
address-family ipv4 unicast
fast-reroute per-link
Hinweis: LFA-FRR kann mit ECMP-Pfaden arbeiten - ein Pfad in der ECMP-Liste kann den anderen Pfad in der ECMP-Liste sichern.
nV IRL-Grenzwertüberwachung
Wenn die Anzahl der für die Weiterleitung verfügbaren IRL-Verbindungen unter einen bestimmten Schwellenwert sinkt, können die verbleibenden IRLs überlastet werden und den Datenverkehr zwischen den Racks verwerfen.
Um Verkehrsverluste oder Blackholes zu vermeiden, sollte eine von drei präventiven Maßnahmen ergriffen werden.
- Fahren Sie alle Schnittstellen auf dem Backup-dSC herunter.
- Ausgewählte Schnittstellen herunterfahren.
- Fahren Sie alle Schnittstellen eines bestimmten Racks herunter.
RP/0/RSP0/CPU0:ios(admin-config)#nv edge data minimum
?
backup-rack-interfaces Disable ALL interfaces on backup-DSC rack
selected-interfaces Disable only interfaces with nv edge min-disable config
specific-rack-interfaces Disable ALL interfaces on a specific rack
Konfiguration der Backup-Rack-Schnittstellen
Wenn bei dieser Konfiguration die Anzahl der IRLs unter den konfigurierten Mindestschwellenwert fällt, werden alle Schnittstellen auf dem Chassis, auf dem der Backup-DSC-RSP gehostet wird, heruntergefahren.
Hinweis: Der Sicherungs-DSC-RSP kann sich in einem der beiden Chassis befinden.
Konfiguration ausgewählter Schnittstellen
Wenn bei dieser Konfiguration die Anzahl der IRLs unter den konfigurierten Mindestschwellenwert fällt, werden die Schnittstellen auf einem der Racks, für die explizit ein Herunterfahren konfiguriert wurde, heruntergefahren.
Die für ein solches Ereignis ausgewählten Schnittstellen können explizit über diese Konfiguration konfiguriert werden:
interface gigabitEthernet 0/1/1/0
nv edge min-disable
Konfiguration spezifischer Rack-Schnittstellen
Wenn bei dieser Konfiguration die Anzahl der IRLs unter den konfigurierten Mindestschwellenwert fällt, werden alle Schnittstellen auf dem angegebenen Rack (0 oder 1) heruntergefahren.
Standardkonfiguration
Die Standardkonfiguration entspricht der Konfiguration von mindestens 1 Backup-Rack-Schnittstelle für nv edge-Daten. Das heißt, wenn die Anzahl der IRLs im Weiterleitungsstatus unter 1 fällt (mindestens 1 weiterleitender IRL), werden alle Schnittstellen auf dem Rack, auf dem sich der Backup-DSC befindet, heruntergefahren. Der gesamte Datenverkehr auf diesem Rack wird nicht mehr weitergeleitet.
Häufige Fehler
In diesem Abschnitt werden häufige Fehlermeldungen behandelt, die bei der Bereitstellung von nV Edge auftreten.
EOBC-Fehler
PLATFORM-DSC_CTRL-3-MULTIPLE_PRIMARY_DSC_NODES : Primary DSC state declared
by 2 nodes: 0/RSP1/CPU0 1/RSP0/CPU0 . Local state is BACKUP-DSC
Diese Meldung wird durch nicht unterstützte SFPs an den EOBC-Ports verursacht. Dies kann auch durch nicht übereinstimmende FPD-Firmware-Versionen auf den beiden Routern ausgelöst werden. Stellen Sie sicher, dass FPDs vor der Migration aktualisiert werden.
PLATFORM-CE_SWITCH-6-BADSFP : Front panel nV Edge Control Port 0 has unsupported
SFP plugged in. Port is disabled, please plug in Cisco support 1Gig SFP for port
to be enabled
Diese Meldung wird angezeigt, wenn ein nicht unterstütztes optisches Laufwerk eingefügt wurde. Die Optik sollte durch eine unterstützte EOBC Cisco Optik ersetzt werden.
Front Panel port 0 error disabled because of UDLD uni directional forwarding.
If the cause of the underlying media error has been corrected, issue this CLI
to being it up again. clear nv edge control switch error 0 <location> <location>
is the location (rsp) where this error originated
Diese Meldung wird angezeigt, wenn eine bestimmte Ethernet-Steuerverbindung fehlerhaft ist und zu häufig flattert. In diesem Fall ist dieser Port deaktiviert und wird nicht für die Control Link-Paketweiterleitung verwendet.
PLATFORM-CE_SWITCH-6-UPDN : Interface 12 (SFP+_00_10GE) is up
PLATFORM-CE_SWITCH-6-UPDN : Interface 12 (SFP+_00_10GE) is down
Diese Meldungen werden angezeigt, wenn sich der physische Zustand der Kontrollebene-Verbindung ändert. Dies ähnelt einer Hoch-/Herunterfahrbenachrichtigung für den Datenport. Diese Meldungen werden auch angezeigt, wenn ein RSP neu geladen oder gestartet wird. Diese Meldungen werden im Normalbetrieb nicht erwartet.
IRL-Fehler
PLATFORM-NVEDGE_DATA-3-ERROR_DISABLE : Interface 0x40001c0 has been uni
directional for 10 seconds, this might be a transient condition if a card
bootup / oir etc.. is happening and will get corrected automatically without
any action. If its a real error, then the IRL will not be available fo forwarding
inter-rack data and will be missing in the output of show nv edge data
forwarding cli
Beim Systemstart wird diese Meldung möglicherweise angezeigt. In der regulären Produktion bedeutet dies, dass die IRL für die Weiterleitung von Daten zwischen Racks nicht verfügbar ist. Um die Schnittstelle zu bestimmen, geben Sie den Befehl show im database ifhandle <interface handle> ein. Die Verbindung startet Unidirectional Link Detection (UDLD) alle 10 Sekunden neu, bis sie aktiviert wird.
PLATFORM-NVEDGE_DATA-6-IRL_1SLOT : 3 Inter Rack Links configured all on one slot.
Recommended to spread across at least two slots for better resiliency
Alle IRL-Verbindungen sind auf demselben LC vorhanden. Aus Gründen der Ausfallsicherheit sollten IRLs auf mindestens zwei LCs konfiguriert werden.
INFORMATIONEN: %d Rack-Verbindungen konfiguriert in %d Steckplätzen. Empfohlen für eine Aufteilung auf maximal 5 Steckplätze für bessere Verwaltbarkeit und Fehlerbehebung
Die Gesamtzahl der IRLs im System (maximal 16) sollte auf zwei bis fünf LCs verteilt werden.
PLATFORM-NVEDGE_DATA-6-ONE_IRL : Only one Inter Rack Link is configured. For
Inter Rack Link resiliency, recommendation is to have at least two links spread
across at least two slots
Aus Gründen der Ausfallsicherheit wird empfohlen, mindestens zwei IRL-Verbindungen zu konfigurieren.
Zugehörige Informationen