FreeBSD hi loading CPU

[l1ght]

Форумчане, ещё вопрос такой. Я вот тут внезапно понял, что с sysctl переигрался (психанул, по большей части)

Привел к такому виду

kern.ipc.nmbclusters=60000
kern.ipc.somaxconn=1024
kern.ipc.maxsockets=33280
net.inet.udp.maxdgram=57344
net.inet.ip.portrange.first=1024
net.inet.ip.portrange.randomized=0
net.inet.tcp.nolocaltimewait=1
net.inet.ip.forwarding=1
net.inet.ip.fastforwarding=1
net.inet.icmp.bmcastecho=0
net.inet.ip.ttl=64
net.inet.tcp.drop_synfin=1
net.inet.tcp.syncookies=1
net.inet.ip.dummynet.expire=1
kern.ipc.maxsockbuf=8388608
net.inet.ip.intr_queue_maxlen=8192
net.inet.ip.dummynet.io_fast=1
net.inet.ip.dummynet.hash_size=1024
net.inet.ip.dummynet.pipe_slot_limit=1000
kern.maxfilesperproc=200000
kern.ipc.shmmax=67108864
net.inet.tcp.rfc3390=0
net.inet.ip.fw.autoinc_step=1
net.inet.tcp.blackhole=2
net.inet.icmp.maskrepl=1
net.inet.udp.blackhole=1
net.link.ether.inet.max_age=30
net.inet.ip.random_id=1
net.inet.ip.rtexpire=60
net.inet.ip.rtminexpire=2
net.inet.ip.rtmaxcache=1024
net.inet.icmp.drop_redirect=1
net.inet.ip.redirect=0
net.graph.recvspace=8388608
net.graph.maxdgram=8388608
net.inet.icmp.icmplim=200
net.inet.udp.recvspace=262144
kern.random.sys.harvest.ethernet=0
kern.random.sys.harvest.interrupt=0
kern.random.sys.harvest.point_to_point=0
net.inet.ip.fw.dyn_max=65535
kern.ipc.shmall=32768
net.inet.tcp.msl=15000   
net.route.netisr_maxqlen=4096
net.inet.ip.intr_queue_maxlen=10240
net.link.bridge.pfil_onlyip=0
net.link.bridge.pfil_member=1
net.link.bridge.pfil_bridge=0
net.link.bridge.pfil_local_phys=0
net.link.bridge.ipfw=0
net.link.bridge.ipfw_arp=0
net.inet.tcp.syncache.rexmtlimit=0
net.inet.tcp.icmp_may_rst=0
vfs.read_max=128
security.bsd.see_other_uids=0
security.bsd.see_other_gids=0
kern.ipc.shm_use_phys=1

Что ещё отсюда убрать? Поменять может что ещё?

Или может чего добавить?

[sanyadnepr]

 

Забудьте ваші пункти 4 і 5. Ніхто тут собі не ворог щоб ставити глючні мережевки.

Ну от в випадку BARVIT-а я б не був такий категоричний.

Там і дуалкор на якійсь підозрілій матері і колошматити воно після грози відов як почало.

 

Может в соседний слот сетевуху переставить ? Было когда-то после похожих событий "отваливалась" сетевая, диагностировалось локально, консолью.

BARVIT есть в наличии другое железо - меняй.

 

 

3 человека с вашим биллингом и одинаковой траблой..

Будем честны - три человека, у одного из которых проблемы вообще нету, у второго - скорее всего с железом и у третьего - частности MPD скорее всего.

 

nightfly&ALL не кормите тролля FTTH_VN.

[BARVIT]

Такс, проблема осталась - но не зализо. Перекинули все на i7 та же срань. 

nightfly  Как раз попал на эту шнягу, нат погибает. Только как лечить хз.

Відредаговано 24 травня, 2014 BARVIT

[FTTH_VN]

Сколько pps в момент загрузки проца?

trafshow  что показывает?

Відредаговано 24 травня, 2014 FTTH_VN

[BARVIT]

Вообще судя по графикам больше 50к не было, а в момент нагрузки может и вообще трафика не быть практически. до паследнего падения 20-30к

[FTTH_VN]

Вообще судя по графикам больше 50к не было, а в момент нагрузки может и вообще трафика не быть практически. до паследнего падения 20-30к

50 к много на ваш трафик. включайте trafshow и смотрите что там дает такой pps.

[sanyadnepr]

Такс, проблема осталась - но не зализо. Перекинули все на i7 та же срань. 

Снимок.PNG

nightfly  Как раз попал на эту шнягу, нат погибает. Только как лечить хз.

Что говорит о том что нат загибается ? 50Кппс для C2D ерунда, LA в момент проблемы какой ? где netstat ? В этот раз с мира доступ был ? Картинка проца i7 ?

Может nightfly сам опишет что удается увидеть/диагностировать ?

Відредаговано 24 травня, 2014 sanyadnepr

[FTTH_VN]

 

Такс, проблема осталась - но не зализо. Перекинули все на i7 та же срань. 

Снимок.PNG

nightfly  Как раз попал на эту шнягу, нат погибает. Только как лечить хз.

Что говорит о том что нат загибается ? 50Кппс для C2D ерунда, LA в момент проблемы какой ? где netstat ? В этот раз с мира доступ был ? Картинка проца i7 ?

Может nightfly сам опишет что удается увидеть/диагностировать ?

 

50Kpps ерунда вы считаете? у него там что 600 мег трафика и 2000 юзеров? совсем не ерунда. ищите кто дает pps.

Відредаговано 24 травня, 2014 FTTH_VN

[BARVIT]

да, картинка i7

Отпускает после этого

ipfw nat 1 config if igb0.1607 log same_ports reset

[Al G]

А что перед этим говорит ipfw nat show ?

[BARVIT]

перед этим по крайней мере я не успевал ничего увидеть, падает очень быстро. буквально 5-10 секунд и доступа нет, интернета нет, с внешки тоде ничего нет... В тех логах что писались нет вообще ничего криминального. Ростик вчера прилепил логирование туда, но нужно чтоб он отписался, он непосредственно там был при всех этих движениях.

вот последнее что успел увидеть - был как раз в биллинге...

 

 PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME   WCPU COMMAND

   12 root       -68    -     0K   320K RUN     7   0:55 58.69% intr{irq263: igb0:que}

   12 root       -68    -     0K   320K CPU3    3   0:58 56.15% intr{irq259: igb0:que}

   12 root       -68    -     0K   320K RUN     2   1:12 54.88% intr{irq258: igb0:que}

   12 root       -68    -     0K   320K RUN     1   1:06 53.96% intr{irq257: igb0:que}

   12 root       -68    -     0K   320K WAIT    5   1:05 53.27% intr{irq261: igb0:que}

   12 root       -68    -     0K   320K CPU0    0   0:57 48.29% intr{irq256: igb0:que}

   11 root       171 ki31     0K    64K RUN     6  66:55 45.36% idle{idle: cpu6}

   12 root       -68    -     0K   320K CPU4    4   0:45 44.29% intr{irq260: igb0:que}

   12 root       -68    -     0K   320K RUN     6   0:46 41.55% intr{irq262: igb0:que}

   11 root       171 ki31     0K    64K RUN     4  67:00 40.97% idle{idle: cpu4}

   11 root       171 ki31     0K    64K RUN     5  66:46 38.09% idle{idle: cpu5}

   11 root       171 ki31     0K    64K RUN     2  66:43 37.16% idle{idle: cpu2}

   11 root       171 ki31     0K    64K RUN     3  66:48 36.77% idle{idle: cpu3}

   11 root       171 ki31     0K    64K RUN     1  66:56 30.47% idle{idle: cpu1}

   11 root       171 ki31     0K    64K RUN     7  66:50 25.68% idle{idle: cpu7}

    0 root       -68    0     0K   224K RUN     0   2:03 23.19% kernel{dummynet}

   12 root       -68    -     0K   320K CPU7    7   0:35 20.46% intr{irq271: igb1:que}

   12 root       -68    -     0K   320K CPU1    1   0:43 19.19% intr{irq265: igb1:que}

 

 

load averages: 18.92,  9.57,  4.11

Відредаговано 24 травня, 2014 BARVIT

[sanyadnepr]

 

load averages: 18.92,  9.57,  4.11

Что у вас там происходит ? Трафа гиг, два 

Відредаговано 24 травня, 2014 sanyadnepr

[BARVIT]

Саш да в том то и дело что нет трафика. может на 200 мбитах загнуться а может и на 20...

[sanyadnepr]

Про трафик это шутка поднимайте бордер, иначе гадать долго будете, i7 загнать сложно, пару гиг прожует и не поперхнется, а у тебя аплинк отваливается, полезной информации по диагностике мало, может таки сетевую заменить ? - 1шт 82574L интел для тестов пойдеть. 

[Al G]

Запсути скриптик в отдельном окне, что последнее то и посмотрим)

while :
do
ipfw nat show
sleep 1
done

[l1ght]

Про трафик это шутка поднимайте бордер, иначе гадать долго будете, i7 загнать сложно, пару гиг прожует и не поперхнется, а у тебя аплинк отваливается, полезной информации по диагностике мало, может таки сетевую заменить ? - 1шт 82574L интел для тестов пойдеть. 

Не советуйте 82574L.... У меня их две штуки. Никакие они, я так понял, их разве что на вебсервера да файлопомойки ставить. 

Никак не абонентов обслуживать.

Відредаговано 24 травня, 2014 L1ght

[BARVIT]

Про трафик это шутка поднимайте бордер, иначе гадать долго будете, i7 загнать сложно, пару гиг прожует и не поперхнется, а у тебя аплинк отваливается, полезной информации по диагностике мало, может таки сетевую заменить ? - 1шт 82574L интел для тестов пойдеть. 

у меня все отваливается, и аплинк и локалка.

[BARVIT]

Поменял сетевую при падении очередном, упал сразу после перезагрузки, при следующей пока рботает....

Відредаговано 24 травня, 2014 BARVIT

[major12]

2 BARVIT

Напишіть "для протоколу" вивід команди

ipfw nat show config

і чи ставили ви патчик про який я писав?

[BARVIT]

ipfw nat 1 config if igb0.1607 log same_ports reset

[major12]

Додайте deny_in бо воно дійсно мастхев.

І другий крок - не використовувати same_ports + патчик, про який я говорив на 3-й сторінці цієї теми.

[BARVIT]

del

Відредаговано 24 травня, 2014 BARVIT

[BARVIT]

ВОт что собрал скрипт nightfly

torture.txt

[major12]

Дуже подібно що таки LibAlias.

nat 1: icmp=14, udp=26044, tcp=14320, sctp=0, pptp=0, proto=0, frag_id=715 frag_ptr=0 / tot=41093

Навіть циферки майже ті самі - 40к-45к сесій і починаються проблеми. Тільки у мене frag_id завжди нулі.

 

Спробуйте те що я радив.

Ну і можливо mbuf clusters покрутіть, бо краще коли total < max.

[sanyadnepr]

Ну і можливо mbuf clusters покрутіть, бо краще коли total < max.

Можливо