In questo documento vengono esaminati alcuni componenti hardware del router Internet Cisco serie 12000, ossia il backplane, lo switch fabric, la scheda Clock and Scheduler (CSC), la scheda Switch Fabric (SFC) e le celle Cisco.
Nessun requisito specifico previsto per questo documento.
Per la stesura del documento, è stato usato un Cisco serie 12000 Internet Router.
Le informazioni discusse in questo documento fanno riferimento a dispositivi usati in uno specifico ambiente di emulazione. Su tutti i dispositivi menzionati nel documento la configurazione è stata ripristinata ai valori predefiniti. Se la rete è operativa, valutare attentamente eventuali conseguenze derivanti dall'uso dei comandi.
Per ulteriori informazioni sulle convenzioni usate, consultare il documento Cisco sulle convenzioni nei suggerimenti tecnici.
Prima di esaminare il fabric dello switch Cisco 12000, esaminiamo il backplane.
I Gigabit Route Processor (GRP) e le schede di linea (LC) vengono installati dalla parte anteriore dello chassis e collegati a un backplane passivo. Questo backplane contiene linee seriali che interconnettono tutte le schede di linea alle schede fabric dello switch, nonché altre connessioni per le funzioni di alimentazione e manutenzione. Sui modelli 120xx, ogni slot per chassis da 2,5 Gbps dispone di un massimo di quattro connessioni di linea seriale da 1,25 Gbps, una per ciascuna scheda fabric dello switch per fornire una capacità totale di 5 Gbps per slot o 2,5 Gbps full duplex. Sui modelli 124xx, ogni slot per chassis da 10 Gbps utilizza quattro set di quattro connessioni di linea seriali, che forniscono a ogni slot una capacità di switching di 20 Gbps full duplex.
Tutti i modelli di schede di linea dispongono inoltre di una quinta linea seriale che può essere collegata a una scheda di programmazione (CSC, Clock and Scheduler Card) ridondante.
Alla base di Cisco serie 12000 Internet Router vi è un fabric di switch crossbar multi-gigabit ottimizzato per fornire uno switching ad alta capacità a velocità di Gigabit. Lo switch crossbar consente prestazioni elevate per due motivi:
Le connessioni dalle schede di linea a un fabric centralizzato sono collegamenti point-to-point che possono funzionare a velocità molto elevate
È possibile supportare contemporaneamente più transazioni bus, aumentando la larghezza di banda aggregata del sistema. La scheda SFC (Switch Fabric Card) riceve le informazioni di pianificazione e il riferimento alla temporizzazione dalla scheda CSC (Clock Scheduler Card) ed esegue le funzioni di commutazione. Potete immaginare la SFC come una matrice NxN dove N è il numero di slot.
Questa architettura consente a più schede di linea di trasmettere e ricevere dati contemporaneamente. Il CSC è responsabile della selezione delle schede di linea che trasmettono e di quelle che ricevono i dati durante un determinato ciclo di fabric.
Il fabric dello switch fornisce un percorso fisico per il seguente traffico:
Download iniziale del fabric dal Route Processor (RP) alle schede di linea all'accensione
Aggiornamenti di Cisco Express Forwarding
Statistiche dalle schede di linea
Switching del traffico
Tali funzioni sono descritte più dettagliatamente di seguito.
Il fabric dello switch è un fabric dello switch crossbar non bloccante NxN in cui N rappresenta il numero massimo di LC che possono essere supportati nello chassis (incluso il GRP). In questo modo, ogni slot può inviare e ricevere contemporaneamente traffico sulla struttura. Per avere un'architettura non bloccante che consenta a più schede di linea di inviare contemporaneamente ad altre schede di linea, ogni scheda LC ha un VOQ (Virtual Output Queuing) N+1 (uno per ogni possibile destinazione di scheda di linea e uno per multicast).
Quando un pacchetto arriva in un'interfaccia, viene eseguita una ricerca (questa operazione può essere effettuata nell'hardware o nel software, a seconda della scheda LC e delle funzionalità configurate). La ricerca determina le informazioni di riscrittura LC, interface e MAC (Media Access Control) di output. Prima che il pacchetto venga inviato al LC di output attraverso la struttura, il pacchetto viene tagliato in Cisco Cells. Viene quindi inviata una richiesta all'utilità di pianificazione per autorizzare la trasmissione di una cella Cisco al LC di output specificato. Ogni ciclo di clock del fabric viene trasmesso da E0 LC e ogni quattro cicli di clock del fabric da E1 e LC superiori. Il LC di output ricompone quindi le celle Cisco in un pacchetto, utilizza le informazioni di riscrittura MAC inviate con il pacchetto per eseguire la riscrittura del livello MAC e accoda il pacchetto per la trasmissione sull'interfaccia appropriata.
Tenere presente che anche se un pacchetto arriva a un'interfaccia su un LC e deve uscire da un'altra interfaccia (o dalla stessa interfaccia in caso di sottointerfacce) sullo stesso LC, viene ancora segmentato in Cisco Cells e inviato nuovamente al fabric.
Il CSC accetta le richieste di trasmissione dalle schede di linea, rilascia i permessi di accesso alla struttura e fornisce un clock di riferimento a tutte le schede nel sistema per sincronizzare il trasferimento dei dati attraverso la barra trasversale. È attivo un solo CSC alla volta.
Il CSC può essere rimosso e sostituito, senza interrompere le normali operazioni di sistema, solo se nel sistema è installato un secondo CSC (ridondante). Un CSC deve essere presente e operativo in ogni momento per mantenere il normale funzionamento del sistema. Un secondo CSC fornisce la ridondanza del percorso dei dati, della programmazione e del clock di riferimento. Le interfacce tra le schede di linea e il fabric dello switch vengono monitorate costantemente. Se il sistema rileva una perdita di sincronizzazione (Loss of Synchronization, LoS), attiva automaticamente i percorsi dei dati del CSC ridondante e i flussi di dati attraverso il percorso ridondante. Lo switch al CSC ridondante si verifica in genere nell'ordine di secondi (il tempo effettivo dello switch dipende dalla configurazione e dalla scala), durante i quali può verificarsi una perdita di dati su alcuni/tutti i CSC.
Sui modelli Cisco 12008, 12012 e 12016, è possibile installare sul router in qualsiasi momento un insieme opzionale di tre SFC per fornire al router ulteriore capacità del fabric dello switch. Questa configurazione è denominata larghezza di banda completa. Le schede SFC aumentano la capacità di gestione dei dati del router. È possibile rimuovere e sostituire uno o tutti gli SFC in qualsiasi momento senza interrompere le operazioni di sistema o spegnere il router. Per tutto il tempo in cui un SFC non funziona, la sua capacità di trasporto dei dati viene persa al router come potenziale percorso dati per le funzioni di gestione dei dati e switching del router.
La scheda fabric switch (SFC) e la scheda clock Scheduler (CSC) forniscono il fabric switch fisico per il sistema nonché la temporizzazione per le celle Cisco che trasportano i dati e i pacchetti di controllo tra le schede di linea e i processori di routing.
Sui modelli 12008, 12012 e 12016 è necessario disporre di almeno una scheda CSC per consentire l'esecuzione del router. La disponibilità di una sola scheda CSC e di nessuna scheda SFC è definita larghezza di banda trimestrale e funziona solo con le schede di linea Engine 0. Se nel sistema sono presenti altre schede di linea, queste verranno automaticamente disattivate. Se si richiedono schede di linea diverse dal motore 0, è necessario installare nel router l'intera larghezza di banda (tre SFC e un CSC). Se è richiesta ridondanza, è necessario un secondo CSC. Questo CSC ridondante funziona solo se il CSC o un SFC si guasta. Il CSC ridondante può funzionare come CSC o SFC.
Gli switch 12416, 12406, 12410 e 12404 richiedono l'intera larghezza di banda.
Altri dettagli importanti sulla ridondanza e la larghezza di banda del fabric dello switch sono:
Tutti i router della serie 12000 hanno un massimo di tre SFC e due CSC, ad eccezione della serie 12410 che ha cinque SFC dedicati e due CSC dedicati, e della serie 12404 che ha una scheda che contiene tutte le funzionalità CSC/SFC. Per il modello 12404 non è prevista alcuna ridondanza.
Nelle versioni 12008, 12012, 12016, 12406 e 12416, le schede CSC funzionano anche come schede fabric switch. Ecco perché, per ottenere una configurazione ridondante con larghezza di banda completa, sono necessari solo tre SFC e due CSC. Nel modello 12410 sono disponibili schede dedicate per l'orologio e lo scheduler e schede fabric switch. Per ottenere una configurazione ridondante con larghezza di banda completa, sono necessari due CSC e cinque SFC.
Le configurazioni della larghezza di banda per un quarto possono essere utilizzate solo sui modelli 12008, 12012 e 12016 se lo chassis contiene solo LC Engine 0. I modelli CSC192 e SFC192, che risiedono negli chassis della serie 12400, non supportano configurazioni con larghezza di banda pari a un quarto.
Di seguito sono riportati alcuni collegamenti interessanti relativi alla struttura dello switch per tutte le piattaforme:
I CSC vengono installati nella gabbia superiore della scheda e gli SFC nella gabbia inferiore della scheda, situata dietro il gruppo del filtro dell'aria (cfr. figura 1-22: Componenti nella gabbia inferiore per schede, in Documentazione di panoramica del prodotto).
Ulteriori informazioni sono disponibili nella documentazione seguente:
Sia i CSC che gli SFC vengono installati nella gabbia inferiore a cinque slot. Vedere Vista anteriore e Gabbia inferiore per schede.
Per ulteriori informazioni, consultare la documentazione seguente:
Per Cisco 12016 sono attualmente disponibili due opzioni di fabric switch:
Fabric dello switch a 2,5 Gbps (larghezza di banda del sistema di switching a 80 Gbps): si tratta del fabric GSR16/80-CSC e del set GSR16/80-SFC. Ogni scheda SFC o CSC offre una connessione full-duplex a 2,5 Gb/s a ogni scheda di linea del sistema. In un Cisco 12016 con 16 schede di linea, ciascuna con capacità di 2 x 2,5 Gbps (full duplex), la larghezza di banda di switching del sistema è 16 x 5 Gbps = 80 Gbps. (il fabric switch meno recente è talvolta denominato fabric switch a 80 Gbps).
10 Gbps fabric switch (larghezza di banda del sistema di switching 320 Gbps) - Consiste nel set di fabric GSR16/320-CSC e GSR16/320-SFC. Ogni scheda SFC o CSC fornisce una connessione full-duplex a 10 Gbps a ogni scheda di linea del sistema. In un Cisco 12016 con 16 schede di linea, ciascuna con capacità 2 x 10 Gbps (full duplex), la larghezza di banda di switching del sistema è 16 x 20 Gbps = 320 Gbps. (il fabric switch più recente è talvolta denominato fabric switch a 320 Gbps).
Quando il router Cisco 12016 contiene il fabric di switching da 320 Gbps, è indicato come Cisco 12416 Internet Router.
Le schede CSC e SFC vengono installate nell'alloggiamento per schede fabric switch a cinque slot.
Per ulteriori informazioni, vedere i seguenti documenti:
Cisco 12404 ha una scheda chiamata Consolidated Switch Fabric (CSF) che fornisce interconnessioni di velocità sincronizzate per le schede di linea e l'RP. Il circuito CSF è contenuto in una scheda ed è costituito da un clock scheduler e dalla funzionalità del fabric switch. La scheda CSF è alloggiata nello slot inferiore etichettato FABRIC ALARM nello chassis Cisco 12404 Internet Router.
Per maggiori dettagli, vedere:
Il fabric dello switch per Cisco 12410 è costituito da due schede di clock e scheduler (CSC) e cinque schede di fabric dello switch (SFC) installate nel fabric dello switch e nella gabbia della scheda di allarme. Per un fabric switch attivo sono necessari un CSC e quattro SFC; il secondo CSC e il quinto SFC forniscono ridondanza. Le due schede di allarme che si trovano anche nel fabric dello switch e nella gabbia della scheda di allarme non fanno parte del fabric dello switch.
A differenza di altri sistemi della serie Cisco 12000, Cisco 12410 supporta solo l'ultimo fabric switch da 10 Gbps. Ogni scheda SFC o CSC fornisce una connessione full-duplex a 10 Gbps a ogni scheda di linea del sistema. Pertanto, per un Cisco 12410 con 10 schede di linea, ciascuna con capacità 2 x 10 Gbps (full duplex), la larghezza di banda di switching del sistema è 10 x 20 Gbps = 200 Gbps.
Per ulteriori informazioni, vedere i seguenti documenti:
Vedere Cisco 12016 Internet Router.
Le schede fabric switch nei modelli 12016 e 12416 non sono facili da inserire e potrebbero richiedere un po' di forza. Se uno dei CSC non è posizionato correttamente, è possibile che venga visualizzato questo messaggio di errore:
%MBUS-0-NOCSC: Must have at least 1 CSC card in slot 16 or 17 %MBUS-0-FABINIT: Failed to initialize switch fabric infrastructure
È possibile visualizzare questo messaggio di errore anche se il numero di CSC e SFC sufficienti per le configurazioni della larghezza di banda trimestrale è sufficiente. In questo caso, nessuno dei LC di E1 o superiori verrà avviato.
Un modo sicuro per capire se le schede sono posizionate correttamente è che, sul CSC/SFC, si dovrebbero vedere quattro luci accese. In caso contrario, la scheda non è posizionata correttamente.
Quando si verificano problemi relativi al fabric e ai LC che non si avviano, è importante verificare che tutti i CSC e gli SFC necessari siano correttamente inseriti e accesi. Ad esempio, per ottenere un sistema ridondante a larghezza di banda completa sono necessari tre SFC e due CSC su un server 12016. Per ottenere un sistema non ridondante a larghezza di banda completa sono necessari tre SFC e un solo CSC.
L'output dei comandi show version e show controller flash indica la configurazione hardware in esecuzione nella casella.
Thunder#show version Cisco Internetwork Operating System Software IOS (tm) GS Software (GSR-P-M), Experimental Version 12.0(20010505:112551) [tmcclure-15S2plus-FT 118] Copyright (c) 1986-2001 by cisco Systems, Inc. Compiled Mon 14-May-01 19:25 by tmcclure Image text-base: 0x60010950, data-base: 0x61BE6000 ROM: System Bootstrap, Version 11.2(17)GS2, [htseng 180] EARLY DEPLOYMENT RELEASE SOFTWARE (fc1) BOOTFLASH: GS Software (GSR-BOOT-M), Version 12.0(15.6)S, EARLY DEPLOYMENT MAINTENANCE INTERIM SOFTWARE Thunder uptime is 17 hours, 53 minutes System returned to ROM by reload at 23:59:40 MET Mon Jul 2 2001 System restarted at 00:01:30 MET Tue Jul 3 2001 System image file is "tftp://172.17.247.195/gsr-p-mz.15S2plus-FT-14-May-2001" cisco 12012/GRP (R5000) processor (revision 0x01) with 262144K bytes of memory. R5000 CPU at 200Mhz, Implementation 35, Rev 2.1, 512KB L2 Cache Last reset from power-on 2 Route Processor Cards 1 Clock Scheduler Card 3 Switch Fabric Cards 1 8-port OC3 POS controller (8 POs). 1 OC12 POs controller (1 POs). 1 OC48 POs E.D. controller (1 POs). 7 OC48 POs controllers (7 POs). 1 Ethernet/IEEE 802.3 interface(s) 17 Packet over SONET network interface(s) 507K bytes of non-volatile configuration memory. 20480K bytes of Flash PCMCIA card at slot 0 (Sector size 128K). 8192K bytes of Flash internal SIMM (Sector size 256K). Thunder#show controller fia Fabric configuration: Full bandwidth nonredundant Master Scheduler: Slot 17
Per informazioni più dettagliate, si consiglia di consultare l'output del comando show controller tramite fax.
Il design del fabric dello switch 12000 include approcci innovativi che consentono un sistema altamente efficiente. Il fabric dello switch utilizza i seguenti componenti chiave per fornire una classe carrier altamente efficiente e un design scalabile:
Code di output virtuali per scheda di linea per eliminare il blocco head of line.
Algoritmo di programmazione efficiente al posto del tradizionale approccio round robin per migliorare l'efficienza del fabric.
Replica basata su hardware per il traffico multicast; supporta l'evasione parziale per fornire una piattaforma altamente efficiente per il traffico multicast.
Pipeline per migliorare le prestazioni del fabric dello switch.
Il blocco Head of Line (HoLB) è un problema che si verifica in tutti i sistemi in cui esiste una congestione alla porta di output (vedere la figura seguente). La funzione HoLB si verifica quando più pacchetti, destinati a più destinazioni, condividono tutti una coda. I pacchetti destinati a una posizione specifica devono attendere l'elaborazione di tutti i pacchetti precedenti prima di passare attraverso l'infrastruttura dello switch. Un esempio di ciò si ha quando diverse autostrade a più corsie vengono fuse in un'autostrada a una corsia. Il modo migliore per risolvere questo problema è quello di fondere diverse autostrade a più corsie in un'unica autostrada a più corsie.
Cisco serie 12000 Internet Router utilizza un'implementazione esclusiva di code multiple per eliminare il blocco Head of Line. Quando i pacchetti arrivano nella scheda di linea, vengono disposti in una delle code di output multiple classificate per slot, porta e classe di servizio (CoS). Queste code sono definite VOQ (Virtual Output Queues).
Nella figura precedente, Virtual Output Queue (A) rappresenta la scheda di linea A, VOQ B rappresenta la scheda di linea B e così via. Ogni pacchetto viene ordinato e inserito nel VOQ corretto. L'ordinamento e il posizionamento nel VOQ sono basati sulle informazioni di inoltro contenute nella tabella Cisco Express Forwarding (CEF).
La figura seguente mostra come l'approccio VOQ eviti il problema HoLB. Come illustrato nella figura, il posizionamento dei pacchetti riduce al minimo il problema di HoLB. Anche se una serie di pacchetti viene inviata a una scheda di linea, gli altri pacchetti nei diversi VOQ possono essere inviati attraverso il fabric di switching, evitando il classico problema di HoLB.
SFC/CSC dispone di un algoritmo di pianificazione incorporato. L'algoritmo di pianificazione, sviluppato congiuntamente da Cisco Systems e Stanford University, riceve fino a 13 richieste di input per Cisco 12008 e Cisco 12012 (12 slot e 1 multicast) e 17 richieste di input per Cisco 12016 (16 slot e 1 multicast). Tutte le richieste vengono completate durante un determinato intervallo di tempo. L'algoritmo calcola la migliore corrispondenza input-output disponibile in tale intervallo. Questo algoritmo ad alta velocità, insieme all'innovazione VOQ, consente al fabric di switching di raggiungere livelli molto elevati di efficienza di switching. Ciò significa che il throughput del fabric di switching può raggiungere fino al 99% del massimo teorico rispetto al 53% raggiunto dai precedenti progetti di fabric di switch (dati basati su ricerche condotte alla Stanford University).
Il fabric di switching è inoltre progettato per le applicazioni di nuova generazione che utilizzano multicast IP. Il fabric di switching supera i tradizionali problemi associati al multicast IP grazie a:
Utilizzo di hardware speciale che esegue la replica intensiva di pacchetti IP su base distribuita (nella fabric e nella scheda di linea)
Dedicando code separate (VOQ) per il traffico multicast, in modo che non influisca su altro traffico unicast
Creazione di segmenti multicast parziali
Un'interfaccia può inviare richieste multicast e unicast al fabric dello switch. Quando viene inviata una richiesta multicast, specifica tutte le destinazioni per i dati e la priorità della richiesta. CSC gestisce le richieste multicast e unicast insieme, dando la precedenza alla richiesta con la priorità più alta, sia unicast che multicast.
Quando si riceve una richiesta multicast, questa viene inviata alla scheda Programmazione orologio. Dopo aver ricevuto una licenza dal CSC, il pacchetto viene inoltrato al fabric dello switch. Il fabric dello switch esegue copie del pacchetto e le invia a tutte le schede di linea di destinazione contemporaneamente (durante lo stesso ciclo di clock della cella). Ogni scheda della linea ricevente crea ulteriori copie del pacchetto se questo deve essere inviato a più porte.
Per ridurre il blocco, il fabric di switching supporta l'allocazione parziale per le trasmissioni multicast. Ciò significa che il fabric di switching esegue l'operazione multicast per tutte le schede disponibili. Se una scheda di destinazione riceve un pacchetto da un'altra origine, il processo multicast continua nei cicli di allocazione successivi.
Questi nuovi miglioramenti evitano gli ostacoli legati alla perdita di larghezza di banda che si frappongono ai fabric di switching crossbar di prima generazione e consentono a Cisco Systems di fornire un fabric di switching che raggiunga un livello molto elevato di efficienza di switching senza sacrificare l'affidabilità.
Il fabric di switching supporta il funzionamento full-duplex, integrato da tecniche di pipeline avanzate. La pipeline consente al fabric dello switch di avviare l'allocazione delle risorse dello switch per i cicli futuri prima che sia stata completata la trasmissione dei dati per i cicli precedenti. Eliminando i tempi morti (cicli di clock sprecati), la pipeline migliora notevolmente l'efficienza complessiva del fabric dello switch. La pipeline consente di ottenere prestazioni elevate nel fabric di switching, consentendogli di raggiungere il throughput massimo teorico.
L'unità di trasferimento attraverso la struttura dello switch crossbar è sempre un pacchetto a dimensione fissa, detto anche cella Cisco, che è più facile da pianificare rispetto a pacchetti a dimensione variabile. I pacchetti vengono suddivisi in celle prima di essere posizionati sulla struttura e vengono ricomposti dal LC in uscita prima di essere trasmessi. Le celle Cisco sono lunghe 64 byte, con un'intestazione da 8 byte, un payload di 48 byte e un controllo di ridondanza ciclico (CRC) da 8 byte.