本文档介绍当存储区域网络(SAN)交换机使用MXP-MR系列线卡来传输光纤通道(FC)流量时发现的问题。本文档旨在整合所有已知问题、缺陷及其解决方案。
Cisco 建议您了解以下主题:
本文档中的信息基于下列硬件和软件版本:
本文档中的信息都是基于特定实验室环境中的设备编写的。本文档中使用的所有设备最初均采用原始(默认)配置。如果您使用的是真实网络,请确保您已经了解所有命令的潜在影响。
使用Cisco MXP-MR-10DME-C线卡将客户端SAN服务输入(GE、FICON和FC)的混合聚合到一个OUT-2/STM-64/OC-192 DWDM隧道端信号中。
已发现通过此线卡的FC流量存在问题。这些问题可能是交换机接口上的波动、MXP-MR-10DME-C客户端接口上的错误、SAN交换机接口上的错误或互操作性问题。
要进一步说明本文档中介绍的信息,请联系思科技术支持中心(TAC)。
本节介绍Cisco 9500系列多层数据交换机(MDS9500)与使用4-G FC接口的ONS 15454-10DME系列线卡之间的互操作性问题。
对于使用距离扩展(DE)功能(也称为缓冲区到缓冲区信用欺骗)的ONS密集波分复用(DWDM)连接,必须在交换机间链路协议(ISL)上禁用光纤通道缓冲区到缓冲区状态更改通知(FCBSCN)选项。
对于带10DME线卡的ONS,在2 Gb/s时,ONS会丢弃缓冲区到缓冲区(B2B)恢复帧,并且不会通过这些帧,即使启用了DE。但是,在4 Gb/s时,ONS会通过B2B帧。这会导致FCBSCN功能的互操作性问题。
要解决此行为,请完成以下两个步骤之一:
如果从MXP-MR-10DME-C线卡的“性能”选项卡中观察到仅fcStatsRecvrReady和fcStatsTxRecvrReady的增量,并且在流量命中时看不到其他参数增量,请使用本节中介绍的解决方案。
接收方就绪(R_RDY)传输字的丢失会阻止信用缓冲的释放。默认情况下,交换机端口使用Exchange Link Parameters(ELP)模式1初始化链路。但是,网关期望使用ELP模式2(也称为ISL R_RDY模式)进行初始化。因此,为了使两台交换机能通过网关进行链路连接,必须将两台交换机上的端口设置为ELP模式2。
当每台主机向交换机传输帧时,交换机会读取帧报头中的SID和域ID(DID)。如果目的地址的DID与交换机的DID(交换机内通信)相同,则帧缓冲区被复制到目的端口,并向主机发送信用R_RDY。交换机只需读取FC帧中的字0和字1即可执行所谓的直通路由。帧可能开始从输出端口出现,然后输入端口才会完全接收。整个帧无需在交换机中缓冲。
B2B流量控制通过发送端口及其可用信用供应进行,并等待链路另一端的端口补充信用。这些B2B信用由2类和3类服务使用,并依赖于从接收链路端口发送到发送方的FC R_RDY控制字。
帧传输速率由接收链路端口根据缓冲器容纳接收帧的能力来调节。
以下是旧交换机接口配置的示例:
这是解决前面描述的互操作性问题的新配置:
结论
问题基于EMC交换机和MXP-MR-10DME线卡的已知问题。
为了解决此问题,在EMC交换机上进行了以下更改:
在此场景中,交换机接口上观察到数据包的输出丢弃,ONS 15454系统上不观察到警报/条件。在MXP-MR-10DME-C线卡上,观察fcStatsRxRecvrReady和8b10bInvalidOrderedSetsDispErrorsSum的增量。
验证受影响的ONS 15454系统的软件版本。如果软件是8.50、8.51或8.52版,则存在导致问题的软件缺陷。
要解决此问题,必须将ONS升级到软件版本9.1.0。
以下是缺陷症状:
缺陷的情况是10DME线卡连接到MDS9513交换机,并配置了:
升级ONS软件后,检查MXP-MR-10DME-C线卡上的现场可编程门阵列(FPGA)版本:
FPGA的最新版本是RAILTO_SOUTH 1.41和RIALTO_NORTH 2.35,在9.222版中测试,所有新版本都提供。有关详细信息,请参阅FPGA部分。
如果软件升级后没有最新的FPGA版本,则执行强制FPGA更新。有关升级到此系统的详细信息,请参阅将Cisco ONS 15454升级到版本9.1 Cisco文章。
两个交换机接口都报告间歇性CRC错误。在MXP-MR-10DME线卡上,从客户端端口观察到TxBadCRC 错误的增量。
检验ONS 15454节点的软件版本。如果软件是7.0版到8.52版,则系统受软件缺陷影响。
要解决此问题,必须将ONS节点升级到软件版本9.1.0。
以下是缺陷症状:
缺陷的情况是端口1或端口5(端口1受到最大影响)使用4-G FC模式。
升级ONS软件后,检查MXP-MR-10DME-C线卡上的现场可编程门阵列(FPGA)版本:
FPGA的最新版本是RAILTO_SOUTH 1.41和RIALTO_NORTH 2.35,在9.222版中测试,所有新版本都提供。有关详细信息,请参阅FPGA部分。
如果软件升级后没有最新的FPGA版本,则执行强制FPGA更新。有关升级到此系统的详细信息,请参阅将Cisco ONS 15454升级到版本9.1 Cisco文章。
ONS软件版本7.0到8.50存在与MXP-MR-10DME线卡和FC流量相关的缺陷。本节介绍已知的缺陷。
思科漏洞ID标题:手动Y型电缆交换机关闭斜挤会导致带brocade交换机的光纤通道链路断开。
此缺陷在软件版本7.0及更高版本中观察到。
要重现此问题,请完成以下步骤:
经过几次切换后,FC链路会断开。观察到SIGLOSS和GFP-CSF报警。
思科建议您在与brocade交换机交互时将静噪设置为开启。如果由于某种原因,brocade交换机必须关闭静音,则Cisco建议您使用FORCE命令来执行Y型电缆交换机。
此问题没有已知的解决方法。思科建议您应用解决方法。
思科漏洞ID标题:10DME-C:FC流量在与Brocade互操作时意外下降。
对于1-G或2-G FC流量,吞吐量在一个方向上按预期发生,而相反方向则显示问题。初始吞吐量正常,但由于信用丢失,缓慢降至零。交换机通常会触发LR以恢复链路。当数据包间隙为ARB而非空闲时,MXP-10DME线卡可能会删除VC-RDY。
软件版本7.0到8.50受此缺陷影响。
流量为FC(1 — 或2-G FC),是3类虚拟类(使用VC-RDY代替R-RDY)。 当MXP-10DME线卡执行负速率补偿(消除数据包间隙)时,会出现问题。
在交换机上使用ISC(R_rdy)模式。
软件版本8.52中包含此问题的修复。
思科漏洞ID标题:mxp-mr-10dme链中未恢复流量。
当源以太网信号被丢弃,然后在MXP-MR-10DME的菊花链设置中重新引入时,MXP-MR-10DME线卡中的CRC错误(mediaIndStatsRxRxFramesBadCRC增量在负载/统计信息上)会损坏某些数据包线卡(相互连接)。
此缺陷在软件版本7.3中观察到。
必须使用至少四个MXP-MR-10DME线卡进行菊花链设置,并且必须丢弃并重新引入源以太网信号。
必须将丢失运营商路径中每个SFP的Admin状态移至OOS-DSBLD,然后移至IS状态。
软件版本8.51中包含此缺陷的修复。
思科漏洞ID标题:10dme在4FC模式下出口CRC错误。
10DME线卡在出口(TX out)方向生成了单位错误事件(1E-12附近的错误率)。错误由mediaIndStatTXFramesBadCRC计数器捕获。
此缺陷在软件版本7.0到8.51中观察到。
4-G FC模式用于端口1或5。端口1受到很大影响。
此缺陷没有已知的解决方法。
8.52版软件中包含此缺陷的修复。
思科漏洞ID标题:4GFC交换时间(按分钟顺序)。
发生MXP-MR-10DME线卡中继交换机后,流量将永久关闭或在四到五分钟后恢复。
此缺陷在软件版本9.0中观察到。
要重现问题,请完成以下步骤:
此缺陷没有已知的解决方法。
9.1版软件中包含此缺陷的修复。
思科漏洞ID标题:MXP-MR-10DME:FC4G IS -> OOSMT -> IS导致连续数据包丢失缓慢。
某些数据包会持续丢失10到15分钟。
在软件版本8.52中观察到此缺陷。
要重现问题,请完成以下步骤:
配置类似下面的端口:OOS、DSBLD > IS。
9.00版软件中包含此缺陷的修复。
思科漏洞ID标题:与Brocade Silkworm的互操作性4G FC。
当SAN交换机端口脱机/联机时,CTC上没有警报。
在软件版本8.52中观察到此缺陷。
线路卡为4-G FC流量设置并使用模式E,DE为启用或禁用。问题与具有任何大小的小数据包(36字节或零字节负载的数据包)的特定序列有关。
在MDS交换机上,将TE端口设置为中继模式: 在 .Brocade上没有已知的解决方法。
9.0版软件中包含此缺陷的修复。
思科漏洞ID标题:MXP-MR-10DME-C:FC4G,来自MDS9513:DE ON:数据包丢弃。
数据包丢失,流量恢复。在MDS 9513系列交换机的接口上观察到输出丢弃。CTC上未报告错误。
在软件版本8.52中观察到此缺陷。
10DME线卡连接到MDS 9513系列交换机,其配置类似于:
此缺陷没有已知的解决方法。
9.0版软件中包含此缺陷的修复。
思科漏洞ID标题:DE ON导致意外吞吐量下降,Brocade/Qlogic上的信用分数很少。
链路无法实现全速率吞吐量。帧不会丢失。MXP-MR-10DME线卡性能监控报告fcStatsZeroTxCredits等于fcStatsRxRecvrReady,几乎等于fcStatsTxRecvrReady。这意味着MXP-MR-10DME线卡使用0个Tx信用点,就像链路拥塞一样。
在软件版本8.52中观察到此缺陷。
系统设置类似于以下内容:TestSet > Brocade > MXP-MR-10DME > MXP-MR-10DME > Brocade > TestSet。在R_RDY模式下,使用portCfgISLMode 1命令为brocade配置了ISL端口(E端口)。端口F有8个信用点,Brocade GUI界面报告的端口E有8个信用点。此外,MXP-MR-10DME线卡DE已启用。
此缺陷没有已知的解决方法。
9.0版软件中包含此缺陷的修复。
每个MXP-MR-10DME-C线卡上有两个FPGA:
FPGA信息可以从CTC获取。要在卡视图中获取此信息,请单击“维护”,然后单击“信息”。在“信息”选项卡下,FW_VERSION(固件版本)包含有关两个FPGA版本的信息。端口1至4和端口5至8可配置为1-G FC或4-G FC流量。
思科建议您将运行FC流量的系统的软件版本升级至至少9.1.0版,以避免已知软件缺陷。
要下载最新的Cisco ONS 15454 M12系列MSTP软件,请参阅Cisco软件下载页面。
版本 | 发布日期 | 备注 |
---|---|---|
1.0 |
25-Mar-2014 |
初始版本 |