ssh тормозит (Вернуться в тему)



Slad

Размещено 08 February 2008 - 12:57

Имеется 65ка, в нее подключено 2 сервера линуксовых. Захожу на них по ssh, тормозит жутко сессия, выводит кусками как-то все. Переключаю их в 3750, ssh летает.
Для выяснения причины переделал сеть - создал vlan, поместил в него 2 порта, создал интерфейс. 65 для серверов является шлюзом. В итоге с сервера на сервер ssh работает сильно медленно. ssh перевесил на левый порт, осталось то же самое. При этом по фтп с них отдается по 700-900 мбит. Пинги между серверами ходят замечательно.
настройки портов: Код:
#sh int gi1/11 
GigabitEthernet1/11 is up, line protocol is up (connected) 
    Hardware is C6k 1000Mb 802.3, address is 0015.6336.ec1a (bia 0015.6336.ec1a) 
    Description: FTP 
    MTU 1500 bytes, BW 1000000 Kbit, DLY 10 usec, 
          reliability 255/255, txload 10/255, rxload 234/255 
    Encapsulation ARPA, loopback not set 
    Keepalive set (10 sec) 
    Full-duplex, 1000Mb/s 
    input flow-control is off, output flow-control is on 
    Clock mode is auto 
    ARP type: ARPA, ARP Timeout 04:00:00 
    Last input never, output never, output hang never 
    Last clearing of "show interface" counters never 
    Input queue: 0/2000/105/0 (size/max/drops/flushes); Total output drops: 52 
    Queueing strategy: fifo 
    Output queue: 0/40 (size/max) 
    5 minute input rate 917844000 bits/sec, 80485 packets/sec 
    5 minute output rate 40813000 bits/sec, 43061 packets/sec 
          5271517095 packets input, 7596041637146 bytes, 0 no buffer 
          Received 262 broadcasts (0 multicasts) 
          3 runts, 0 giants, 0 throttles 
          18 input errors, 0 CRC, 0 frame, 87 overrun, 0 ignored 
          0 watchdog, 0 multicast, 0 pause input 
          0 input packets with dribble condition detected 
          2781972193 packets output, 259447685871 bytes, 0 underruns 
          26 output errors, 0 collisions, 5 interface resets 
          0 babbles, 0 late collision, 0 deferred 
          0 lost carrier, 0 no carrier, 183302 PAUSE output 
          0 output buffer failures, 0 output buffers swapped out 

#sh int vl 5 
Vlan5 is up, line protocol is up 
    Hardware is EtherSVI, address is 000b.6094.3c00 (bia 000b.6094.3c00) 
    Description: FTP-NET 
    Internet address is 192.168.1.230/29 
    MTU 1500 bytes, BW 1000000 Kbit, DLY 10 usec, 
          reliability 255/255, txload 14/255, rxload 138/255 
    Encapsulation ARPA, loopback not set 
    Keepalive not supported 
    ARP type: ARPA, ARP Timeout 04:00:00 
    Last input 01:29:40, output 00:05:07, output hang never 
    Last clearing of "show interface" counters never 
    Input queue: 0/75/0/0 (size/max/drops/flushes); Total output drops: 0 
    Queueing strategy: fifo 
    Output queue: 0/40 (size/max) 
    5 minute input rate 1546540000 bits/sec, 135863 packets/sec 
    5 minute output rate 57623000 bits/sec, 74440 packets/sec 
    L2 Switched: ucast: 236784 pkt, 249174373 bytes - mcast: 74 pkt, 4736 bytes 
    L3 in Switched: ucast: 8672917825 pkt, 12508506886740 bytes - mcast: 0 pkt, 0 bytes mcast 
    L3 out Switched: ucast: 4504438002 pkt, 388152319267 bytes mcast: 0 pkt, 0 bytes 
          8673567186 packets input, 12509449768207 bytes, 0 no buffer 
          Received 70 broadcasts (0 IP multicasts) 
          0 runts, 0 giants, 0 throttles 
          0 input errors, 0 CRC, 0 frame, 0 overrun, 0 ignored 
          4504769366 packets output, 388183375768 bytes, 0 underruns 
          0 output errors, 0 interface resets 
          0 output buffer failures, 0 output buffers swapped out 

Включил в другой так же настроенный порт отдельную машину на FreeBSD, загрузка по интерфейсу Код:
  5 minute input rate 72000 bits/sec, 5 packets/sec 
  5 minute output rate 9000 bits/sec, 10 packets/sec


Но и в этом случае так же медленно ssh шевелится. Петли нет.
ps точно при такой же утилизации, и даже большей, в 3750 это никак не влияло на сессию ssh.
Подскажите как найти причину такого поведения 65-ки.

jujin

Размещено 08 February 2008 - 13:07

sh processes cpu history

Slad

Размещено 08 February 2008 - 13:15

Просмотреть сообщениеjujin, 8.2.2008, 17:07, сказал(а):

sh processes cpu history

Загрузка все время 1-2%

jujin

Размещено 08 February 2008 - 13:21

sh logging .

Slad

Размещено 08 February 2008 - 13:26

В логах пишется только вход мой по телнету, да про то что конфиг сохраняется. Чего-либо аномального нету :D

jujin

Размещено 08 February 2008 - 13:27

Тогда sh version и sh run впридачу.

Slad

Размещено 08 February 2008 - 13:46

s72033-adventerprisek9_wan-mz.122-18.SXF11
upgrade fpd auto
version 12.2
service timestamps debug uptime
service timestamps log datetime localtime
no service password-encryption
service sequence-numbers
service counters max age 5
!
boot system flash disk0:s72033-adventerprisek9_wan-mz.122-18.SXF11.bin
boot system flash slavesup-bootdisk:s72033-adventerprisek9_wan-mz.122-18.SXF11.bin
logging buffered 32768 debugging
aaa new-model
aaa authentication login default local
aaa authentication login userauthen local group radius
aaa authorization exec default local
aaa authorization network groupauthor local
aaa authorization network userauthen group radius local
!
ip subnet-zero
ip icmp rate-limit unreachable 1000
ip icmp rate-limit unreachable DF 1000
ip dhcp snooping vlan 4-1000
ip dhcp snooping information option allow-untrusted
ip flow-cache entries 1024
ip multicast-routing
ip tcp timestamp

ip ssh source-interface Vlan3
ip ssh version 2
ip domain-lookup source-interface Loopback0
ip domain-name dom.ru
ip name-server x.x.x.x
ip name-server x.x.xx

ipv6 mfib hardware-switching replication-mode ingress
udld aggressive

vtp mode transparent
mls ip multicast flow-stat-timer 9
no mls flow ip
no mls flow ipv6
no mls acl tcam share-global
mls cef error action freeze
redundancy
 mode rpr-plus
 linecard-group 1 feature-card
  class load-sharing
  slot 8
  slot 9
 main-cpu
  auto-sync running-config
!
spanning-tree mode rapid-pvst
no spanning-tree optimize bpdu transmission
spanning-tree extend system-id
spanning-tree vlan 1-4094 priority 61440
environment temperature-controlled
diagnostic bootup level minimal
diagnostic cns publish cisco.cns.device.diag_results
diagnostic cns subscribe cisco.cns.device.diag_commands
errdisable recovery cause udld
errdisable recovery cause bpduguard
errdisable recovery cause security-violation
errdisable recovery cause channel-misconfig
errdisable recovery cause pagp-flap
errdisable recovery cause dtp-flap
errdisable recovery cause link-flap
errdisable recovery cause l2ptguard
errdisable recovery cause psecure-violation
errdisable recovery cause gbic-invalid
errdisable recovery cause dhcp-rate-limit
errdisable recovery cause mac-limit
errdisable recovery cause unicast-flood
errdisable recovery cause arp-inspection
errdisable recovery interval 30
fabric buffer-reserve queue
port-channel load-balance src-mac
!
vlan internal allocation policy ascending
vlan access-log ratelimit 2000
vlan 2
 name ControlVlan
vlan 5
 name FTP-net
!
interface Loopback0
 ip address x.x.x.x 255.255.255.255
!
interface GigabitEthernet1/4
 description freebsd_server
 switchport
 switchport access vlan 2
 switchport mode access
 ip arp inspection trust
 no ip address
 speed 100
 duplex full
 arp timeout 240
 ip dhcp snooping trust
interface GigabitEthernet1/11
 description FTP
 switchport
 switchport access vlan 5
 switchport mode access
 ip arp inspection trust
 no ip address
 speed 1000
 duplex full
 no cdp enable
 spanning-tree portfast
 spanning-tree bpdufilter enable
 spanning-tree bpduguard enable
 spanning-tree guard root
 ip dhcp snooping trust
!
interface Vlan2
 description Control
 ip address x.x.x.x 255.255.255.0
 ip route-cache same-interface
 logging event link-status
 no mop enabled
!
interface Vlan5
 description FTP-NET
 ip address x.x.x.x 255.255.255.248
!
router ospf 1
 router-id x.x.x.1
 log-adjacency-changes
 redistribute connected subnets
 redistribute static subnets
 passive-interface default
 no passive-interface Vlan2
 network x.x.x.0 0.0.0.255 area 0

типа такого

Rend

Размещено 08 February 2008 - 13:49

Flowcontrol на серверах включён? либо симметрично включите его (предпочтительно) либо симметрично выключите. Какие настройки сетевой карты?

Просмотреть сообщениеSlad, 8.2.2008, 13:46, сказал(а):

типа такого

Так у вас 6500 или 7600?

Slad

Размещено 08 February 2008 - 13:59

flowcontrol не включал не выключал спецально, так же и при auto режиме, хоть на 100, хоть 1000мбитах.
у меня 6509.
Сделал
flowcontrol receive on
flowcontrol send on
на интерфейсе, не помогло.
На серваке mc работает примерно так: запускаю его, отрисовывается 2-3 линии, потом висит, нажимаю enter или еще что, отрисоввывает еще 4-5 строк, потом либо ждет либо рисует 5-6 строк.

Rend

Размещено 08 February 2008 - 14:06

А подключаетесь к тому же 6500? тогда сбросьте счётчики на интерфейсах и покажите их после того, как попробуете подсоединится по ssh.
У вас mtu всюду правильно выставлен?

Просмотреть сообщениеSlad, 8.2.2008, 13:59, сказал(а):

Сделал
flowcontrol receive on
flowcontrol send on
на интерфейсе, не помогло.

На сервере тоже?

Slad

Размещено 08 February 2008 - 14:23

К 65 подключаюсь по ssh, проблем в работе с самой 65 не замечано.
#sh int gi1/4
GigabitEthernet1/4 is up, line protocol is up (connected)
  Hardware is C6k 1000Mb 802.3, address is 0015.6336.ec13 (bia 0015.6336.ec13)
  Description: freebsd
  MTU 1500 bytes, BW 100000 Kbit, DLY 10 usec,
	 reliability 255/255, txload 1/255, rxload 1/255
  Encapsulation ARPA, loopback not set
  Keepalive set (10 sec)
  Full-duplex, 100Mb/s
  input flow-control is on, output flow-control is on
  Clock mode is auto
  ARP type: ARPA, ARP Timeout 00:04:00
  Last input never, output 00:00:51, output hang never
  Last clearing of "show interface" counters 00:00:07
  Input queue: 0/2000/0/0 (size/max/drops/flushes); Total output drops: 0
  Queueing strategy: fifo
  Output queue: 0/40 (size/max)
  5 minute input rate 102000 bits/sec, 3 packets/sec
  5 minute output rate 17000 bits/sec, 18 packets/sec
	 20 packets input, 4999 bytes, 0 no buffer
	 Received 0 broadcasts (0 multicasts)
	 0 runts, 0 giants, 0 throttles
	 0 input errors, 0 CRC, 0 frame, 0 overrun, 0 ignored
	 0 watchdog, 0 multicast, 0 pause input
	 0 input packets with dribble condition detected
	 139 packets output, 18043 bytes, 0 underruns
	 0 output errors, 0 collisions, 0 interface resets
	 0 babbles, 0 late collision, 0 deferred
	 0 lost carrier, 0 no carrier, 0 PAUSE output
	 0 output buffer failures, 0 output buffers swapped out

mtu 1500 стоит, пинги по 1500 и больше ходят без потерь. Как включить flowcontrol на freebsd как-то не нашел.

Rend

Размещено 08 February 2008 - 14:29

ifconfig -a покажи на freebsd

Просмотреть сообщениеSlad, 8.2.2008, 14:23, сказал(а):

К 65 подключаюсь по ssh, проблем в работе с самой 65 не замечано.

т.е. ты дальше с 6500 подключаешься по ssh?

Slad

Размещено 08 February 2008 - 14:35

fxp1: flags=8843<UP,BROADCAST,RUNNING,SIMPLEX,MULTICAST> metric 0 mtu 1500
options=48<VLAN_MTU,POLLING>
ether 00:11:11:95:06:33
inet x.x.x.2 netmask 0xffffffc0 broadcast x.x.x.63
media: Ethernet 100baseTX <full-duplex>
status: active
это с того сервака, у самой 65 ип x.x.x.1, захожу с шлюза для них обоих. в te3/1 подключена 3750, за ней еще куча серваков, на них по ssh хожу нормально.
хм, телнет так же не адекватно себя ведет.

Rend

Размещено 08 February 2008 - 14:42

У тебя speed mismatch. На 6500 указан гигабит, на сетевухе - 100.

Slad

Размещено 08 February 2008 - 14:47

да нет, 100.
в конфиге
speed 100
duplex full

да и
sh int gi1/4
GigabitEthernet1/4 is up, line protocol is up (connected)
Hardware is C6k 1000Mb 802.3, address is 0015.6336.ec13 (bia 0015.6336.ec13)
Description:freebsd
MTU 1500 bytes, BW 100000 Kbit, DLY 10 usec,
reliability 255/255, txload 1/255, rxload 1/255
Encapsulation ARPA, loopback not set
Keepalive set (10 sec)
Full-duplex, 100Mb/s

Rend

Размещено 08 February 2008 - 14:50

Хм, действительно.
Погоди. А в interface GigabitEthernet1/11 у тебя что воткнуто? Нарисуй схему, я уже запутался.

Slad

Размещено 10 February 2008 - 17:39

Схема сети в прикрепленном файлике.

  • : 6509.jpg

Slad

Размещено 12 February 2008 - 16:33

Проверил как поведет себя ssh при выключенных фтп - загрузка была порядка 300 мбит по vlan2, но ssh также тормозил. Что интересно, копировал через scp с freebsd - скорость была 9-10 МБ/с.

Belka

Размещено 12 February 2008 - 21:41

Можно я тоже свои 5 копеек вставлю... :D
Как давно была замечена проблема? Какие изменения вносились в конфигурацию (программную или аппаратную) перед тем, как была замечена проблема?

Это приведен актуальный конфиг, с которым проблемы и имеются?
Я хочу несколько вопросов по нему задать...
1. Почему сорс влан 3? Я его в конфиге не нашла..

Просмотреть сообщениеSlad, 8.2.2008, 12:46, сказал(а):

ip ssh source-interface Vlan3

2. На схеме изображено, что все серверы находятся в одном влане, по конфигу вижу, что в разных. Поясните, пожалуйста. Если это конфиг не от этой схемы, приложите, пожалуйста, конфиг от схемы. И желательно целиком... Ок? Кроме того, если не сложно, пишите, пожалуйста, адреса. Замените реальные на какие-то отфонарные серые. Лично мне читать конфиг с иксами сложно... Думаю, не только мне. Ок?
+

Просмотреть сообщениеSlad, 8.2.2008, 11:57, сказал(а):

Захожу на них по ssh, тормозит жутко сессия, выводит кусками как-то все.
Можете показать?
+
Счетчики ошибок с интерфейсов. Там везде на всех интерфейсах нули? Если есть интерфейсы с ошибками и т.п. посмотрите, пожалуйста, до и после сессии количество ошибок, и расскажите, увеличиваются их значения, или нет.

Роутер под большой нагрузкой? Или можно позволить себе включить debug ip ssh и потом еще отдельно сделать debug ip tcp transactions для "кривой" сессии? Может, у нас мысли какие позитивные появятся при чтении дебагов..

П.С. А вообще этот IOS лучше обновить... По нему есть advisories всякие нехорошие...

Slad

Размещено 13 February 2008 - 08:46

Просмотреть сообщениеBelka, 13.2.2008, 1:41, сказал(а):

Можно я тоже свои 5 копеек вставлю... :D
Как давно была замечена проблема? Какие изменения вносились в конфигурацию (программную или аппаратную) перед тем, как была замечена проблема?

Постаили только 65, начал на нее переводить все свои серваки, сразу же обнаружил что ssh тормозит, в итоге вернул всех обратно в 3750, оставил только 2 фтпшника и 1 для теста в 65.

Просмотреть сообщениеBelka, 13.2.2008, 1:41, сказал(а):

Это приведен актуальный конфиг, с которым проблемы и имеются?
Я хочу несколько вопросов по нему задать...
1. Почему сорс влан 3? Я его в конфиге не нашла..

Опечатался на форуме, на самом деле он 2.

Просмотреть сообщениеBelka, 13.2.2008, 1:41, сказал(а):

2. На схеме изображено, что все серверы находятся в одном влане, по конфигу вижу, что в разных. Поясните, пожалуйста. Если это конфиг не от этой схемы, приложите, пожалуйста, конфиг от схемы. И желательно целиком... Ок? Кроме того, если не сложно, пишите, пожалуйста, адреса. Замените реальные на какие-то отфонарные серые. Лично мне читать конфиг с иксами сложно... Думаю, не только мне. Ок?

По схеме: оба фтп находятся в 5 влане, на 65 есть интерфейс vlan5, для них он же и шлюз. Тестовый freebsd во 2 влане, так же как и я, ифейс vlan2 на 65.

Просмотреть сообщениеBelka, 13.2.2008, 1:41, сказал(а):

Просмотреть сообщениеSlad, 8.2.2008, 11:57, сказал(а):

Захожу на них по ssh, тормозит жутко сессия, выводит кусками как-то все.
Можете показать?

Могу дать доступ к тестовому серверу, как по ssh так и по telet, иначе не знаю как это передать :lol:

Просмотреть сообщениеBelka, 13.2.2008, 1:41, сказал(а):

Счетчики ошибок с интерфейсов. Там везде на всех интерфейсах нули? Если есть интерфейсы с ошибками и т.п. посмотрите, пожалуйста, до и после сессии количество ошибок, и расскажите, увеличиваются их значения, или нет.

Ошибок нет, счетчики по 0.

Просмотреть сообщениеBelka, 13.2.2008, 1:41, сказал(а):

Роутер под большой нагрузкой? Или можно позволить себе включить debug ip ssh и потом еще отдельно сделать debug ip tcp transactions для "кривой" сессии? Может, у нас мысли какие позитивные появятся при чтении дебагов..

Попробую включить дебаг.

Просмотреть сообщениеBelka, 13.2.2008, 1:41, сказал(а):

П.С. А вообще этот IOS лучше обновить... По нему есть advisories всякие нехорошие...

На какой стоит заменить? Есть только s72033-adventerprisek9_wan-mz.122-18.SXF7.bin.
Текущий конфиг в прикрепленке.  config_13_02_2008.txt (8.55К)
: 257

Включал debug,в лог упало только про то как я коннектился к самой 65. Сессия на проблемный сервер не логируется :lol:
 Log_Buffer.txt (9.09К)
: 122

Belka

Размещено 13 February 2008 - 10:35

Просмотреть сообщениеSlad, 13.2.2008, 7:46, сказал(а):

Могу дать доступ к тестовому серверу, как по ssh так и по telet, иначе не знаю как это передать smile.gif
Приложите просто принт скрин :D

Просмотреть сообщениеSlad, 13.2.2008, 7:46, сказал(а):

На какой стоит заменить? Есть только s72033-adventerprisek9_wan-mz.122-18.SXF7.bin.
Если верить адвайзеру - на SXF12.
За конфиг спасибо - почитаю-подумаю.

Slad

Размещено 13 February 2008 - 11:56

Просмотреть сообщениеBelka, 13.2.2008, 14:35, сказал(а):

Просмотреть сообщениеSlad, 13.2.2008, 7:46, сказал(а):

Могу дать доступ к тестовому серверу, как по ssh так и по telet, иначе не знаю как это передать smile.gif
Приложите просто принт скрин :lol:

Просмотреть сообщениеSlad, 13.2.2008, 7:46, сказал(а):

На какой стоит заменить? Есть только s72033-adventerprisek9_wan-mz.122-18.SXF7.bin.
Если верить адвайзеру - на SXF12.
За конфиг спасибо - почитаю-подумаю.

Помучался сделать скрин, понятнее не стало :D , в общем работа по ssh похожа на gprs связь, также построчно рисует все и задержки при отрисовке.
Эх, пойду погуглю SXF12, ибо смартнета нет :lol:.

Belka

Размещено 13 February 2008 - 14:35

Slad, а что говорит debug ip tcp transactions?

Slad

Размещено 14 February 2008 - 05:47

Просмотреть сообщениеBelka, 13.2.2008, 18:35, сказал(а):

Slad, а что говорит debug ip tcp transactions?

Ничего, тихо все. Попробовал с самой 65 зайти по телнету:
000991: 1w4d: TCB51371050 created
000992: 1w4d: TCB51371050 setting property TCP_VRFTABLEID (14) 479E7FB8
000993: 1w4d: TCB51371050 setting property TCP_TOS (1) 479E7FBA
000994: 1w4d: TCP: Random local port generated 23553
000995: 1w4d: TCB51371050 bound to UNKNOWN.23553
000996: 1w4d: TCP: sending SYN, seq 3517087905, ack 0
000997: 1w4d: TCP1: Connection to 192.168.40.2:23, advertising MSS 1460
000998: 1w4d: TCP1: state was CLOSED -> SYNSENT [23553 -> 192.168.40.2(23)]
000999: 1w4d: TCP1: state was SYNSENT -> ESTAB [23553 -> 192.168.40.2(23)]
001000: 1w4d: TCP1: Connection to 192.168.40.2:23, received MSS 1460, MSS is 1460
001001: 1w4d: TCB51371050 connected to 192.168.40.2.23
001002: 1w4d: TCP1: Data repacketized, seq 3049842340, sent 136 byte
001003: 1w4d: TCP1: Data repacketized, seq 3049842480, sent 11 byte
001004: 1w4d: TCP1: FIN processed
001005: 1w4d: TCP1: state was ESTAB -> CLOSEWAIT [23553 -> 192.168.40.2(23)]
001006: 1w4d: TCP1: state was CLOSEWAIT -> LASTACK [23553 -> 192.168.40.2(23)]
001007: 1w4d: TCP1: sending FIN
001008: 1w4d: TCP1: Got ACK for our FIN
001009: 1w4d: TCP1: state was LASTACK -> CLOSED [23553 -> 192.168.40.2(23)]
001010: 1w4d: TCB 0x51371050 destroyed
001011: 1w4d: TCP1: Data repacketized, seq 3049843924, sent 62 byte

это все что упало в лог.

Slad

Размещено 16 February 2008 - 05:13

Сделал откат на 12.2(18)SXF7, толку не дало. Перестановка в порт SUP720 также не помогла, я в печали :D

Глянул te3/1, куда включена 3750 и остальные серваки и я, печальная статистика получилась:
sh int te3/1
TenGigabitEthernet3/1 is up, line protocol is up (connected)
  Hardware is C6k 10000Mb 802.3, address is 0012.d99d.b23c (bia 0012.d99d.b23c)
  Description: 3750_1
  MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec,
	 reliability 255/255, txload 31/255, rxload 27/255
  Encapsulation ARPA, loopback not set
  Keepalive set (10 sec)
  Full-duplex, 10Gb/s
  input flow-control is off, output flow-control is off
  ARP type: ARPA, ARP Timeout 04:00:00
  Last input 00:00:37, output 00:00:31, output hang never
  Last clearing of "show interface" counters 00:07:15
  Input queue: 0/2000/29310/0 (size/max/drops/flushes); Total output drops: 0
  Queueing strategy: fifo
  Output queue: 0/40 (size/max)
  5 minute input rate 1091182000 bits/sec, 157280 packets/sec
  5 minute output rate 1222929000 bits/sec, 149688 packets/sec
	 70696189 packets input, 61686094852 bytes, 0 no buffer
	 Received 3702046 broadcasts (3690394 multicasts)
	 0 runts, 0 giants, 0 throttles
	 0 input errors, 0 CRC, 0 frame, 29310 overrun, 0 ignored
	 0 watchdog, 0 multicast, 0 pause input
	 0 input packets with dribble condition detected
	 67031368 packets output, 68176227694 bytes, 0 underruns
	 0 output errors, 0 collisions, 0 interface resets
	 0 babbles, 0 late collision, 0 deferred
	 0 lost carrier, 0 no carrier, 0 PAUSE output
	 0 output buffer failures, 0 output buffers swapped out

Вроде не большая нагрузка, но drops имеется, причем дропы вроде как растут если по проблемному серверу лазить по ssh.

при этом ошибок нет
#show int te3/1 counters errors

Port		Align-Err	FCS-Err   Xmit-Err	Rcv-Err UnderSize OutDiscards
Te3/1			   0		  0		  0		  0		 0		   0

Port	  Single-Col Multi-Col  Late-Col Excess-Col Carri-Sen	 Runts	Giants
Te3/1			  0		 0		 0		  0		 0		 0		 0

Port	   SQETest-Err Deferred-Tx IntMacTx-Err IntMacRx-Err Symbol-Err
Te3/1				0		   0			0			0		  0

и
show int te3/1 stats
TenGigabitEthernet3/1
		  Switching path	Pkts In   Chars In   Pkts Out  Chars Out
			   Processor		 18	   7596		 18	   8118
			 Route cache		  0		  0		  0		  0
	   Distributed cache		  0		  0		  0		  0
				   Total		 18	   7596		 18	   8118

неужто cef не работает?
скорее всего вся проблема из-за этих дропов, только вот из-за чего?

Belka

Размещено 18 February 2008 - 19:34

Привет.
Вот это настораживает

Цитата

29310 overrun

Slad, предлагаю обнулить счетчики и еще раз посмотреть, насколько они вырастают после сесии ssh. Думаю, стоит ожидать, что счетчик overrun опять что-то насчитает. Если он растет - значит, если верить этому документу http://www.verio.com/support/documents/vie....cfm?doc_id=482, то 'input rate exceeded the receiver's ability to handle the data'.
И покажите, пожалуйста, еще раз свежие выводы 'sh interface' с 3750 с транка этого и с 65 с интерфейсов gi 1/11 и 1/13... Сначала все счетчики обнулите, потом установите сессию и снимите после сессии инфу. Окей?

Дополните еще схему, пожалуйста, скоростями интерфейсов... Ок? Будет нагляднее. Есть одно предположение, но могу ошибаться. Подтвердите, пожалуйста, а на серверах у вас интерфейсы 100-мегабитные.. ? И еще покажите с серверов вывод 'netstat -ni' или аналогичную статистику с интерфейса.

P.S. Если кто найдет такое же понятное объяснение значений вывода команды 'sh interface' на cisco.com, дайте, пожалуйста, ссылку.. Так сказать, на первоисточник. Спасибо.

Rend

Размещено 18 February 2008 - 20:09

Просмотреть сообщениеBelka, 18.2.2008, 19:34, сказал(а):

P.S. Если кто найдет такое же понятное объяснение значений вывода команды 'sh interface' на cisco.com, дайте, пожалуйста, ссылку.. Так сказать, на первоисточник. Спасибо.

Ну, хотя бы вот:
http://www.cisco.com/en/US/docs/ios/12_3t/...e/int_s3gt.html

Belka

Размещено 18 February 2008 - 20:12

Rend, спасибо, но тут немножко другое. Этот документ я тоже нашла. Мне бы хотелось найти именно первоисточник с подробным описанием того, что счетчики отображают. Как на verio.com, но от циски.

Rend

Размещено 18 February 2008 - 20:14

Просмотреть сообщениеSlad, 8.2.2008, 12:57, сказал(а):

183302 PAUSE output


Обнулите счётчики и смотрите на интерфейсе, где ftp-сервер - не растёт ли этот параметр (в тот момент, когда идёте по ssh).

Slad

Размещено 18 February 2008 - 21:02

Просмотреть сообщениеBelka, 18.2.2008, 23:34, сказал(а):

Привет.
Вот это настораживает

Цитата

29310 overrun

Slad, предлагаю обнулить счетчики и еще раз посмотреть, насколько они вырастают после сесии ssh. Думаю, стоит ожидать, что счетчик overrun опять что-то насчитает. Если он растет - значит, если верить этому документу http://www.verio.com/support/documents/vie....cfm?doc_id=482, то 'input rate exceeded the receiver's ability to handle the data'.
И покажите, пожалуйста, еще раз свежие выводы 'sh interface' с 3750 с транка этого и с 65 с интерфейсов gi 1/11 и 1/13... Сначала все счетчики обнулите, потом установите сессию и снимите после сессии инфу. Окей?

Дополните еще схему, пожалуйста, скоростями интерфейсов... Ок? Будет нагляднее. Есть одно предположение, но могу ошибаться. Подтвердите, пожалуйста, а на серверах у вас интерфейсы 100-мегабитные.. ? И еще покажите с серверов вывод 'netstat -ni' или аналогичную статистику с интерфейса.

P.S. Если кто найдет такое же понятное объяснение значений вывода команды 'sh interface' на cisco.com, дайте, пожалуйста, ссылку.. Так сказать, на первоисточник. Спасибо.

очистил счетчики, зашел по ssh на фтп:
3750_1#sh int te1/0/1
TenGigabitEthernet1/0/1 is up, line protocol is up (connected)
  Hardware is Ten Gigabit Ethernet, address is 0019.55cd.b991 (bia 0019.55cd.b991)
  Description: To 6509
  MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec,
     reliability 255/255, txload 18/255, rxload 17/255
  Encapsulation ARPA, loopback not set
  Keepalive not set
  Full-duplex, 10Gb/s, media type is 10GBase-LR Xenpak
  input flow-control is off, output flow-control is unsupported
  ARP type: ARPA, ARP Timeout 00:04:00
  Last input 00:00:00, output 00:00:00, output hang never
  Last clearing of "show interface" counters 00:00:18
  Input queue: 0/75/0/0 (size/max/drops/flushes); Total output drops: 0
  Queueing strategy: fifo
  Output queue: 0/40 (size/max)
  5 minute input rate 675352000 bits/sec, 84778 packets/sec
  5 minute output rate 728777000 bits/sec, 95556 packets/sec
     1204486 packets input, 1250847822 bytes, 0 no buffer
     Received 2243 broadcasts (0 multicast)
     0 runts, 0 giants, 0 throttles
     0 input errors, 0 CRC, 0 frame, 0 overrun, 0 ignored
     0 watchdog, 1486 multicast, 0 pause input
     0 input packets with dribble condition detected
     1385353 packets output, 1258224111 bytes, 0 underruns
     0 output errors, 0 collisions, 0 interface resets
     0 babbles, 0 late collision, 0 deferred
     0 lost carrier, 0 no carrier, 0 PAUSE output
     0 output buffer failures, 0 output buffers swapped out

а это с 65 после захода на сервер
#sh int gi1/11
GigabitEthernet1/11 is up, line protocol is up (connected)
  Hardware is C6k 1000Mb 802.3, address is 0015.6336.ec1a (bia 0015.6336.ec1a)
  Description: FTP
  MTU 1500 bytes, BW 1000000 Kbit, DLY 10 usec,
     reliability 255/255, txload 2/255, rxload 119/255
  Encapsulation ARPA, loopback not set
  Keepalive set (10 sec)
  Full-duplex, 1000Mb/s
  input flow-control is off, output flow-control is on
  Clock mode is auto
  ARP type: ARPA, ARP Timeout 04:00:00
  Last input never, output never, output hang never
  Last clearing of "show interface" counters 00:02:18
  Input queue: 0/2000/0/0 (size/max/drops/flushes); Total output drops: 0
  Queueing strategy: fifo
  Output queue: 0/40 (size/max)
  5 minute input rate 468603000 bits/sec, 39909 packets/sec
  5 minute output rate 10942000 bits/sec, 21088 packets/sec
     5510472 packets input, 8063216640 bytes, 0 no buffer
     Received 0 broadcasts (0 multicasts)
     0 runts, 0 giants, 0 throttles
     0 input errors, 0 CRC, 0 frame, 0 overrun, 0 ignored
     0 watchdog, 0 multicast, 0 pause input
     0 input packets with dribble condition detected
     3023711 packets output, 195703831 bytes, 0 underruns
     0 output errors, 0 collisions, 0 interface resets
     0 babbles, 0 late collision, 0 deferred
     0 lost carrier, 0 no carrier, 0 PAUSE output
     0 output buffer failures, 0 output buffers swapped out


sh int te3/1
TenGigabitEthernet3/1 is up, line protocol is up (connected)
  Hardware is C6k 10000Mb 802.3, address is 0012.d99d.b23c (bia 0012.d99d.b23c)
  Description: 3750_1
  MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec,
     reliability 255/255, txload 21/255, rxload 22/255
  Encapsulation ARPA, loopback not set
  Keepalive set (10 sec)
  Full-duplex, 10Gb/s
  input flow-control is off, output flow-control is off
  ARP type: ARPA, ARP Timeout 04:00:00
  Last input 00:00:30, output 00:00:24, output hang never
  Last clearing of "show interface" counters 00:02:30
  Input queue: 0/2000/9823/0 (size/max/drops/flushes); Total output drops: 0
  Queueing strategy: fifo
  Output queue: 0/40 (size/max)
  5 minute input rate 865715000 bits/sec, 115477 packets/sec
  5 minute output rate 824556000 bits/sec, 103587 packets/sec
     17313486 packets input, 16506884091 bytes, 0 no buffer
     Received 1273861 broadcasts (1270420 multicasts)
     0 runts, 0 giants, 0 throttles
     0 input errors, 0 CRC, 0 frame, 9823 overrun, 0 ignored
     0 watchdog, 0 multicast, 0 pause input
     0 input packets with dribble condition detected
     15319303 packets output, 15260783240 bytes, 0 underruns
     0 output errors, 0 collisions, 0 interface resets
     0 babbles, 0 late collision, 0 deferred
     0 lost carrier, 0 no carrier, 0 PAUSE output
     0 output buffer failures, 0 output buffers swapped out

дропы появились сразу же во время захода на сервак.
а это после 15 минут на 65
sh int gi1/11
GigabitEthernet1/11 is up, line protocol is up (connected)
  Hardware is C6k 1000Mb 802.3, address is 0015.6336.ec1a (bia 0015.6336.ec1a)
  Description: FTP
  MTU 1500 bytes, BW 1000000 Kbit, DLY 10 usec,
     reliability 255/255, txload 2/255, rxload 105/255
  Encapsulation ARPA, loopback not set
  Keepalive set (10 sec)
  Full-duplex, 1000Mb/s
  input flow-control is off, output flow-control is on
  Clock mode is auto
  ARP type: ARPA, ARP Timeout 04:00:00
  Last input never, output never, output hang never
  Last clearing of "show interface" counters 00:16:20
  Input queue: 0/2000/0/0 (size/max/drops/flushes); Total output drops: 0
  Queueing strategy: fifo
  Output queue: 0/40 (size/max)
  5 minute input rate 413379000 bits/sec, 35741 packets/sec
  5 minute output rate 10146000 bits/sec, 19609 packets/sec
     38771827 packets input, 56211771499 bytes, 0 no buffer
     Received 0 broadcasts (0 multicasts)
     0 runts, 0 giants, 0 throttles
     0 input errors, 0 CRC, 0 frame, 0 overrun, 0 ignored
     0 watchdog, 0 multicast, 0 pause input
     0 input packets with dribble condition detected
     20997296 packets output, 1358557157 bytes, 0 underruns
     0 output errors, 0 collisions, 0 interface resets
     0 babbles, 0 late collision, 0 deferred
     0 lost carrier, 0 no carrier, 0 PAUSE output
     0 output buffer failures, 0 output buffers swapped out

sh int te3/1
TenGigabitEthernet3/1 is up, line protocol is up (connected)
  Hardware is C6k 10000Mb 802.3, address is 0012.d99d.b23c (bia 0012.d99d.b23c)
  Description: 3750_1
  MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec,
     reliability 255/255, txload 18/255, rxload 18/255
  Encapsulation ARPA, loopback not set
  Keepalive set (10 sec)
  Full-duplex, 10Gb/s
  input flow-control is off, output flow-control is off
  ARP type: ARPA, ARP Timeout 04:00:00
  Last input 00:00:50, output 00:00:43, output hang never
  Last clearing of "show interface" counters 00:15:49
  Input queue: 0/2000/45507/0 (size/max/drops/flushes); Total output drops: 0
  Queueing strategy: fifo
  Output queue: 0/40 (size/max)
  5 minute input rate 735208000 bits/sec, 98069 packets/sec
  5 minute output rate 740034000 bits/sec, 90536 packets/sec
     95802265 packets input, 89484490698 bytes, 0 no buffer
     Received 8056276 broadcasts (8036244 multicasts)
     0 runts, 0 giants, 0 throttles
     0 input errors, 0 CRC, 0 frame, 45507 overrun, 0 ignored
     0 watchdog, 0 multicast, 0 pause input
     0 input packets with dribble condition detected
     87704556 packets output, 89359994228 bytes, 0 underruns
     0 output errors, 0 collisions, 0 interface resets
     0 babbles, 0 late collision, 0 deferred
     0 lost carrier, 0 no carrier, 0 PAUSE output
     0 output buffer failures, 0 output buffers swapped out


статистика с фтп
# netstat -ni
Kernel Interface table
Iface	   MTU Met	RX-OK RX-ERR RX-DRP RX-OVR	TX-OK TX-ERR TX-DRP TX-OVR Flg
eth0	   1500   0 1171992082	  0  26275	  0 2133807561	  0	  0	  0 BMRU
eth0:0	 1500   0	  644	  0	  0	  0	  644	  0	  0	  0 BMRU
lo		16436   0	  644	  0	  0	  0	  644	  0	  0	  0 LRU

Сетевушка интеловская, стоит жестко в 1000full, как и порт на циске.

подрисовал скорости на линках : 6509.jpg

jujin

Размещено 19 February 2008 - 09:52

На проблемных серверах одни и теже сетевушки стоят и операционка ?

Belka

Размещено 19 February 2008 - 10:43

Slad, такой еще вопрос. Проблема только когда Вы со своего ПК подключаетесь. Правильно? А если с сервера на сервер (с 226 на 225, например), то все окей. да?

Slad

Размещено 19 February 2008 - 12:36

Пробовал на разных линуксах и freebsd,сетевые тоже разные были - одинаково тормозит.
С 226 на 225 или обратно также тормозно. Пробовал с самой 65 по телнету, так же плохо.

jujin

Размещено 19 February 2008 - 12:54

Что то мне подсказывает, что либо неисправна самма железка (маловероятно) либо дело в одной или несколько приблуд в конфиге. Если есть возможность, то сбросте конфиг на шеститоннике, сделайте минимальные настройки и посмотрите что будет. Больше мне на ум ничего увы не приходит. Может гуру есщё что нибудь подскажут.

Belka

Размещено 19 February 2008 - 13:07

jujin, +1
Slad, присоединяюсь к просьбе сконфигурировать все с самого начала.

P.S. Есть идея, конечно... http://cisco.com/en/US/products/hw/modules...080094a8c.shtml 'hold-queue 125 in', но я не уверена, что это поможет... Надо пробовать...

Slad

Размещено 19 February 2008 - 13:52

Сейчас 65 используется только для подключения 2-х 3750 и фтп. То есть кроме настроек портов и ospf нечего не используется. Попробую снести все остальное.
Настройки портов и ospf нормально сделано?

jujin

Размещено 19 February 2008 - 13:56

Вы лучше запостите то что у вас получилось, а мы посмотрим.
P.S. С очередью вроде бы все впорядке.

Slad

Размещено 19 February 2008 - 15:34

Получился такой конфиг:
!
! Last configuration change at 18:29:24 KRSK Tue Feb 19 2008 by slava
! NVRAM config last updated at 18:29:26 KRSK Tue Feb 19 2008 by slava
!
upgrade fpd auto
version 12.2
service nagle
service timestamps debug uptime
service timestamps log datetime localtime
no service password-encryption
service sequence-numbers
service counters max age 5
!
hostname MBR
!
boot system flash disk0:s72033-adventerprisek9_wan-mz.122-18.SXF11.bin
boot system flash sup-bootdisk:s72033-adventerprisek9_wan-mz.122-18.SXF11.bin
boot system flash slavedisk0:s72033-adventerprisek9_wan-mz.122-18.SXF11.bin
logging buffered 32768 debugging
no logging console
!
username slava privilege 15 secret 5 $XXX
aaa new-model
aaa authentication login default local
aaa authentication login userauthen local group radius
aaa authorization exec default local
!
aaa session-id common
clock timezone KRSK 7
clock summer-time KRSK recurring last Sun Mar 3:00 last Sun Oct 3:00
ip subnet-zero
ip icmp rate-limit unreachable 1000
ip icmp rate-limit unreachable DF 1000
!
!
!
ip multicast-routing
ip tcp timestamp
ip ssh source-interface Vlan2
ip ssh version 2
ip domain-list domen.ru
ip domain-lookup source-interface Loopback0
ip domain-name domen.ru
ip name-server 192.168.40.252
ip name-server 192.168.40.253
ipv6 mfib hardware-switching replication-mode ingress
udld aggressive

vtp domain domen
vtp mode transparent
mls ip multicast flow-stat-timer 9
no mls flow ip
no mls flow ipv6
no mls acl tcam share-global
mls cef error action freeze
!
redundancy
 mode rpr-plus
 linecard-group 1 feature-card
  class load-sharing
  slot 8
  slot 9
 main-cpu
  auto-sync running-config
!
spanning-tree mode rapid-pvst
no spanning-tree optimize bpdu transmission
spanning-tree extend system-id
spanning-tree vlan 1-4094 priority 61440
!
no power enable module 2
no power enable module 8
no power enable module 9
environment temperature-controlled
diagnostic bootup level minimal
diagnostic cns publish cisco.cns.device.diag_results
diagnostic cns subscribe cisco.cns.device.diag_commands
errdisable recovery cause udld
errdisable recovery cause bpduguard
errdisable recovery cause security-violation
errdisable recovery cause channel-misconfig
errdisable recovery cause pagp-flap
errdisable recovery cause dtp-flap
errdisable recovery cause link-flap
errdisable recovery cause l2ptguard
errdisable recovery cause psecure-violation
errdisable recovery cause gbic-invalid
errdisable recovery cause dhcp-rate-limit
errdisable recovery cause mac-limit
errdisable recovery cause unicast-flood
errdisable recovery cause arp-inspection
errdisable recovery interval 30
fabric buffer-reserve queue
!
vlan internal allocation policy ascending
vlan access-log ratelimit 2000
!
!
vlan 2
 name ControlVlan
!
vlan 5
 name FTP-net

...
!
interface Loopback0
 ip address 192.168.40.128 255.255.255.255
!
interface Loopback1
 description IPSEC
 ip address 192.168.40.140 255.255.255.255
!
...
interface GigabitEthernet1/4
 description freebsd
 switchport
 switchport access vlan 2
 switchport mode access
 no ip address
 speed 100
 duplex full
!
...
!
interface GigabitEthernet1/11
 description FTP
 switchport
 switchport access vlan 5
 switchport mode access
 no ip address
 speed 1000
 duplex full
 no cdp enable
 spanning-tree portfast
 spanning-tree bpdufilter enable
 spanning-tree bpduguard enable
 spanning-tree guard root
!
...
!
interface TenGigabitEthernet3/1
 description 3750_1
 switchport
 switchport trunk encapsulation dot1q
 switchport mode trunk
 no ip address
!
interface TenGigabitEthernet3/2
 description 3750_2
 switchport
 switchport trunk encapsulation dot1q
 switchport mode trunk
 no ip address
!
...
!
interface GigabitEthernet5/1
 no ip address
 shutdown
!
interface GigabitEthernet5/2
 no ip address
 shutdown
!
interface GigabitEthernet6/1
 no ip address
 shutdown
!
interface GigabitEthernet6/2
 switchport
 switchport access vlan 2
 switchport mode access
 no ip address
 media-type rj45
 speed 100
 duplex full
!
!
interface Vlan1
 no ip address
!
interface Vlan2
 description Control
 ip address 192.168.40.1 255.255.255.192
 load-interval 120
!
interface Vlan5
 description FTP-NET
 ip address 192.168.43.230 255.255.255.248
!
...
router ospf 1
 router-id 192.168.40.1
 log-adjacency-changes
 redistribute connected subnets
 redistribute static subnets
 passive-interface default
 no passive-interface Vlan3
 network 192.168.40.0 0.0.0.63 area 0
!
ip classless
!
no ip http server
ip http access-class 23
ip http authentication local
ip pim rp-address 192.168.43.238
ip pim snooping
!
ip access-list standard Allow-SNMP-Read
 remark Host permitted to READ snmp
 permit 192.168.40.0 0.0.0.63
 deny   any log
ip access-list standard Allow-SNMP-Read/Write
 remark Host permitted to READ/WRITE snmp
 permit 192.168.40.60
 deny   any log
!

!
logging trap debugging
logging facility local1
logging 10.20.1.254
access-list 1 permit 192.168.40.0 0.0.0.63
access-list 1 deny   any log
access-list 1 remark Host permitted to READ snmp
access-list 2 remark Host permitted to READ/WRITE snmp
access-list 2 permit 192.168.40.0 0.0.0.63
access-list 2 deny   any log
access-list 23 remark AL-NOC-TELNET
access-list 23 permit 192.168.40.0 0.0.0.63 log
access-list 23 deny   any log
!
!
snmp-server community NjkmrjXntybt RO 1
snmp-server community PfgbcmBXntybt RW 2
snmp-server file-transfer access-group 2 protocol tftp
snmp-server tftp-server-list 2
!
!
control-plane
!
!
!
dial-peer cor custom
!
!
!
!
line con 0
line vty 0 4
 access-class 23 in
 transport input lat pad mop udptn telnet rlogin ssh nasi acercon
line vty 5 15
 access-class 23 in
 transport input lat pad mop udptn telnet rlogin ssh nasi acercon
!
!
ntp clock-period 17180199
ntp update-calendar
ntp server 192.168.40.238
ntp server 192.168.40.239
mac-address-table notification mac-move
no cns aaa enable
end

Пока все также :D

Belka

Размещено 19 February 2008 - 16:46

Просмотреть сообщениеSlad, 19.2.2008, 14:34, сказал(а):

Пока все также sad.gif

Вариант с очередью мой не пробовали? Попробуйте, пожалуйста и расскажите, что вышло. Ок? Спасибо.

Rend

Размещено 19 February 2008 - 17:42

line vty 0 4
access-class 23 in
transport input lat pad mop udptn telnet rlogin ssh nasi acercon
line vty 5 15
access-class 23 in
transport input lat pad mop udptn telnet rlogin ssh nasi acercon


Много лишнего, оставьте только telnet и ssh. Я правильно понял, что проблема и для транзитного ssh, и для исходящего с самого 6500?
Покажите вывод show mls в нормальном режиме и когда делаете ssh, а также show mls status.
Configuring and Troubleshooting IP MLS on Catalyst 6500/6000 Switches with an MSFC

P.S: А зачем multilayer switching для ip выключили? :D
сделайте:

show mls entry ip [destination|source] чтобы посмотреть, что flow создаются, и
show mls statistics entry [source|destination] несколько раз, чтобы посмотреть, что счётчики увеличиваются.
для ssh-трафика и для ftp.

Slad

Размещено 20 February 2008 - 08:47

Belka, с очередью поигрался, не помогло.
также покрутил mls результатов не давало, пришел к такому:
#sh run | in mls
mls rp ip
mls ip multicast flow-stat-timer 9
mls flow ip full
no mls flow ipv6
mls acl tcam share-global
mls cef error action freeze
не помогло.
Затем добавил mls qos - помогло, убрал - стало тормозить.
Каких-либо настроек по qos не делал, но ssh стал работать как нужно.

Спасибо большое всем кто помогал мне в решении моей проблемы. Думаю что с этим проблем больше не будет :D