Академический Документы
Профессиональный Документы
Культура Документы
Connect
Москва, 2017
Цифровизация:
здесь и сейчас
Методики и
инструменты для
самостоятельного
решения проблем
в сети
Леонтьев Дмитрий
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 3
Проблемы, которые можно решить
самостоятельно
• Высокая загрузка процессора
• Потери пакетов
• Ошибки в конфигурации
• Снижение производительности
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 04
Высокая загрузка процессора
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 5
Устройства, передающие пакеты с
помощью центрального процессора
Power Flash
CPU
Supply
NVRAM
Bus
Interface RAM
ROM
System Bus
System Bus
FECP RP RP FECP
Interconn. Interconn.
QFP QFP
Crypto
subsys- Crypto subsystem
assist tem assist
маршрутизаторов
серии ASR 1000 Passive Midplane
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 7
Устройства, передающие пакеты с
помощью специализированных
процессоров
Forwarding rate
MSFC <~500Kpps
1 Gbps
Архитектуры коммутаторов серии
Catalyst 6500, маршрутизаторов
Forwarding rate
серии Cisco 7600 PFC ~48+ Mpps
Linecard Linecard
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 8
Порядок передачи пакетов в устройстве
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 9
Аппаратный и программный путь пакетов
• Транзитные пакеты если возможно должны обрабатываться
специализированными процессорами (аппаратный путь)
CEF коммутация (большинство пакетов);
ACL коммутация (например PBR);
Netflow коммутация (например NAT).
• Пакеты не попадающие в специализированные процессоры для
обработки вызывают отклонения в работе
• Как результат отклонений пакеты, обрабатываются программным
обеспечением на центральном процессоре (punted) или сбрасываются
• Примеры причин обработки пакетов ПО на центральной процессоре:
Пакет предназначен устройству (это не отклонение);
Пакеты должны быть фрагментированы;
Пакеты с опциями;
Пакеты с TTL=1;
Пакеты, требующие отправки ICMP;
Отсутствие маршрута в аппаратном CEF.
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 10
Высокая загрузка процессора
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 11
Определение высокой загрузки CPU
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 12
Получение данных о высокой загрузке
процессора
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 13
Embedded Event Manager
https://supportforums.cisco.com/document/117596/cisco-eem-basic-overview-and-sample-
configurations
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 14
Embedded Event Manager
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 15
Embedded Event Manager
Действия EEM:
• Отсылает сообщения email
• Выполняет команды cisco
• Генерирует SNMP trap
• Перегружает маршрутизатор
• Генерирует приоритетные сообщения syslog
• Переключается на резервный модуль в системах с избыточностью и
отказоустойчивостью
• При наступлении события запрашивает системную информацию (show
tech, show proccess cpu history и т.д.)
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 16
Автоматический сбор статистики
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 17
Команда (IOS-XE) для отображения высокой
загрузки процессора в syslog сообщениях
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 18
Алгоритм проведения траблшутинга
Высокая загрузка процессора
трафик
да
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 19
Высокая загрузка процессора
процессами
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 20
Высокая загрузка процессора процессами
Процесс ARP Input
Вызывается большим количеством запросов протокола ARP
Причиной также может стать статический маршрут, сконфигурированный с
локальным интерфейсом вместо IP адреса следующего устройства. Это вызывает
создание запроса ARP для каждого пакета, у которого нет более специфического
маршрута.
ip route 0.0.0.0 0.0.0.0 GigabitEthernet 2/5
Router#show ip traffic | begin ARP
ARP statistics:
Rcvd: 6512 requests, 2092 replies, 0 reverse, 0 other
Sent: 258 requests, 707 replies (0 proxy), 0 reverse
Drop due to input queue full: 20
<snip>
Router#show interfaces | include line protocol|rate
GigabitEthernet 0/0/0 is up, line protocol is up
5 minute input rate 23013521 bits/sec, 2535 packets/sec
5 minute output rate 0 bits/sec, 0 packets/sec
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 21
Высокая загрузка процессора процессами
Процесс IP Input
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 22
Высокая загрузка процессора процессами
Процесс SNMP Engine
Router#show process cpu | include CPU|SNMP
CPU utilization for five seconds: 71%/0%; one minute: 29%; five minutes: 8%
PID Runtime(ms) Invoked uSecs 5Sec 1Min 5Min TTY Process
97 25889 203 127532 70.15% 31.11% 7.05% 0 SNMP ENGINE
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 23
Высокая загрузка процессора процессами
Процессы Exec и Virtual Exec
Отключите вывод сообщений с помощью команд “no logging console” или “no logging
terminal”
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 24
Высокая загрузка процессора пакетами
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 25
Определение пакетов, обрабатываемых
процессором
• Статистика по пакетам, которые видны в выводе команд show
interfaces, show ip traffic, анализ размера буферов к сожалению
не дает ответа на вопрос, почему пакеты отправляются для обработки в
процессор и как это предотвратить.
• В таком случае надо искать возможности анализа трафика, используя
архитектурные особенности оборудования.
• Как вариант, надо найти объединяющие особенности трафика
Большая часть трафика приходит через один и тот же интерфейс,
vlan, совокупность интерфейсов, vrf
Все пакеты имеют один и тот же адрес получателя
Все пакеты созданы одним и тем же протоколом (MPLS, ICMP, TCP,
UDP), имеют один и тот же порт получателя
Все пакеты большого размера, либо фрагментированы или имеют
опции
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 26
Зеркалирование трафика c помощью
CPU SPAN
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 27
Определение трафика, загружающего
процессор
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 28
Анализ собранной трассы с помощью
WireShark
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 29
Анализ трафика на супервизорах 720
Захват пакетов с помощью netdr выполняется контроллером MSFC
CPU. Это самое близкое место, в котором вы можете захватить пакеты на
MSFC для того чтобы определить какой трафик передается (punted) в
MSFC/RP CPU. Для супервизоров Sup720 и Sup32 имеется возможность
захватывать пакеты, идущие в RP или SP. Команда netdr может быть
использована для захвата пакетов, передаваемых в обоих направлениях
(Tx и Rx) при программной обработке (software-switching).
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 30
Анализ трафика на супервизорах 720
https://supportforums.cisco.com/ru/document/125971
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 31
Защита процессора с помощью Control
Plane Policy Protection
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 32
Пример СоРР. Ограничение трафика
telnet
! Определение класса telnet
class-map telnet-class
match access-group 140
! Определение списка доступа для выбора пакетов telnet
! Разрешить трафик от устройства 3.3.3.3
access-list 140 deny tcp host 3.3.3.3 any eq telnet
! Разрешить трафик от устройства 4.4.4.4
access-list 140 deny tcp host 4.4.4.4 any eq telnet
! Весь остальной трафик попадает под действие политики
access-list 140 permit tcp any any eq telnet
! Определение политики
policy-map control-plane-policy
class telnet-class
! Ограничить полосу пропускания для класса telnet равной 80kbps, при
превышении трафик отбрасывается
police 80000
! Назначить политику
control-plane
service-policy input control-plane-policy
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 33
Проверка работы СоРР
Router#show policy-map control-plane
Control Plane Interface
Service policy cpp-test
Hardware Counters:
class-map: cpp-class1 (match-all)
Match: access-group 111
police :
96000 bps 3000 limit 3000 extended limit
Earl in slot 6 :
0 bytes
5 minute offered rate 0 bps
aggregate-forwarded 0 bytes action: transmit
exceeded 0 bytes action: drop
aggregate-forward 0 bps exceed 0 bps
Software Counters:
Class-map: cpp-class1 (match-all) 0 packets, 0 bytes
5 minute offered rate 0 bps, drop rate 0 bps
Match: access-group 111
police:
100000 bps, 3125 limit, 3125 extended limit
conformed 0 packets, 0 bytes; action: transmit
exceeded 0 packets, 0 bytes; action: drop
conformed 0 bps, exceed 0 bps, violate 0 bps
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 34
Потери пакетов
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 35
Проверка потери пакетов
Просмотр статистики на интерфейсах:
Router#show interfaces
GigabitEthernet0/1 is up, line protocol is up
...
Input queue: 0/75/25350/0 (size/max/drops/flushes); Total output drops: 0
Queueing strategy: Class-based queueing
Output queue: 0/1000/0 (size/max total/drops)
5 minute input rate 53272000 bits/sec, 13620 packets/sec
5 minute output rate 95490000 bits/sec, 16657 packets/sec
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 36
Потеря приходящих пакетов
Router(config-if)#hold-queue ?
<0-240000> Queue length
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 37
Причины Input errors и Overrun на
ASR1000
TenGigabitEthernet0/1/0 is up, line protocol is up
...
Input queue: 0/375/0/0 (size/max/drops/flushes); Total output drops: 0
Queueing strategy: fifo Output queue: 0/40 (size/max)
5 minute input rate 6281191000 bits/sec, 927759 packets/sec
5 minute output rate 6552635000 bits/sec, 991723 packets/sec
2739070738313 packets input, 2309716465895527 bytes, 0 no buffer
Received 12 broadcasts (0 IP multicasts)
0 runts, 0 giants, 0 throttles
9439290 input errors, 0 CRC, 0 frame, 9439290 overrun, 0 ignored
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 38
Проверка загрузки процессора
Router#show process cpu history
...
111111111111111111111111111111111111111111111111111111111111111111111111
100
90
80
70
60
50
40
30
20
10
0....5....1....1....2....2....3....3....4....4....5....5....6....6....7..
0 5 0 5 0 5 0 5 0 5 0 5 0
CPU% per hour (last 72 hours)
* = maximum CPU% # = average CPU%
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 39
Проверка загруженности QFP
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 40
Решение проблемы с Overrun
На ESP пакеты уходят с шины в General Packet memory (GPM). Эта память
разделена на равные части, привязанных к 16 возможным источникам
трафика (input FIFO). Для SPA выделено два канала, низкоприоритетный
канал и высокоприоритетный канал. Низкоприоритетному каналу
выделено 18.27% GPM и высокоприоритетному каналу выделено 19.24%
GPM.
Если пакеты покидают шину, но при этом нет свободного места в GPM, то
в этом случае для модуля SPA передается команда удерживать пакеты в
буферах на SPA. Если свободное место в буферах закончилось, то в этом
случае наблюдаются вида overrun.
Пакеты начинают отбрасываться когда GPM израсходована, а SPA
передана команда придерживать пакеты. Все это происходит когда
загрузка QFP далека от 100%, потому что свободные ресурсы
заканчиваются у GPM.
Устранить проблему можно путем использования обеих частей GPM –
низкоприоритетной и высокоприоритетной. По умолчанию Ethernet пакеты,
с маркировкой CoS 6 и 7, считает высокоприоритетными.
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 41
Ошибки загрузки после обновления IOS
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 42
Важность обновления Firmware модулей
При обновлении версии IOS не забывайте обновлять программное обеспечение
для модулей, называемое Firmware. Проблемы с которыми можно столкнуться при
расхождении версий IOS и Firmware:
• Некорректная диагностика работы модулей. Диагностика может показывать
проблемы у работающего модуля и наоборот, у проблемного модуля будет
отображаться рабочее состояние.
• После очередного обновления IOS, устройство перестанет загружаться, если
Firmware осталось старым
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 43
Версии ROMmon для каждого модуля
------------------ show platform ------------------
...
Slot CPLD Version Firmware Version
--------- ------------------- ---------------------------------------
0 14011701 15.4(2r)S
1 14011701 15.4(2r)S
R0 13092401 15.2(1r)S
R1 13092401 15.2(1r)S
Cisco IOS ASR 1000 ASR 1002 ASR 1000 ASR 1000- ASR 1000- ASR1000- ASR1000- ASR1000- ASR1000-
XE Release RP1 RP1 RP2 ESP5 ESP10 ESP20 ESP40 ESP100 ESP200
3.13.x XND1 XND1 15.2(1r)S XNC XNC XNC 15.0(1r)S 15.3(1r)S 15.3(1r)S
3.14.x XND1 XND1 15.2(1r)S XNC XNC XNC 15.0(1r)S 15.3(1r)S 15.3(1r)S
3.15.x XND1 XND1 15.2(1r)S XNC XNC XNC 15.0(1r)S 15.3(1r)S 15.3(1r)S
3.16.x XND1 XND1 15.2(1r)S XNC XNC XNC 15.0(1r)S 15.3(1r)S 15.3(1r)S
3.17.x XND1 XND1 15.2(1r)S XNC XNC XNC 15.0(1r)S 15.3(1r)S 15.3(1r)S
http://www.cisco.com/c/en/us/td/docs/routers/asr1000/release/notes/asr1k_rn_rel_notes/a
sr1k_rn_sys_req.html#pgfId-3201398
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 44
Проблемы из-за недостатка памяти
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 45
Проблемы, вызванные недостатком
памяти
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 46
Проверка наличия ресурсов устройства
http://www.cisco.com/c/en/us/products/collateral/routers/asr-1000-series-aggregation-
services-routers/data_sheet_c78-441072.html
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 47
Проверка наличия ресурсов устройства
Memory options ● Cisco ASR 1002-X ships with 4-GB memory by default. It can be upgraded to 8- or 16-GB memory.
● Cisco ASR 1002-X has 4 DRAM memory slots, which can take either 2- or 4-GB DRAM each.
● When shipped with 4-GB DRAM (M-ASR1002X-4 GB), 2 slots are filled with 2 GB each.
● When shipped with 8-GB DRAM (M-ASR1002X-8 GB), 4 slots are filled with 2 GB each.
● When shipped with 16-GB DRAM (M-ASR1002X-16 GB), 4 slots are filled with 4 GB each.
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 48
Software redundancy как причина нехватки
памяти
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 49
Распределение памяти на ASR1000
RP and Physical Memory Memory Allocated to IOSd Memory Allocated to Kernel and
(w/o IOSd redundancy enabled) other processes
RP1 (4GB) 1.7GB 2.3GB
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 50
Пример распределения памяти для
ASR1002
Router#show version
cisco ASR1002 (2RU) processor with 1655643K/6147K bytes of
memory.
6 Gigabit Ethernet interfaces
32768K bytes of non-volatile configuration memory.
4194304K bytes of physical memory.
7798783K bytes of eUSB flash at bootflash:.
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 51
Пример распределения памяти для
ASR1002-X
Router#show version
cisco ASR1002-X (2RU-X) processor with 3813739K/6147K bytes of
memory.
6 Gigabit Ethernet interfaces
32768K bytes of non-volatile configuration memory.
8388608K bytes of physical memory.
6684671K bytes of eUSB flash at bootflash:.
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 52
Отключение Software Redundancy
#show running-config
...
redundancy
mode sso
#show version
...
cisco ASR1004 (RP2) processor with 1575783K/6147K bytes of memory.
...
8388608K bytes of physical memory.
#show running-config
...
redundancy
mode none
#show version
...
cisco ASR1004 (RP2) processor with 3015264K/6147K bytes of memory.
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 53
Сообщество технической поддержки
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 54
Сообщество Технической поддержки Cisco
https://supportforums.cisco.com
http://russiansupportforum.cisco.com
email:
csc-russian@external.cisco.com
Cisco Connect 2017 © 2017 Cisco and/or its affiliates. All rights reserved. 055
#CiscoConnectRu
Спасибо за внимание!
Оцените данную сессию в мобильном приложении конференции
Контакты:
www.facebook.com/CiscoRu Тел.: +7 495 9611410
www.cisco.com
www.vk.com/cisco
www.instagram.com/ciscoru
www.youtube.com/user/CiscoRussiaMedia