Перейти к содержимому
Local
AoW

загрузка проца

Рекомендованные сообщения

сдрассте!

Ежедневно, по вечерам загрузка одного ядра из двух, на тачке на которой стоит СТГ, в пол. При этом растут пинги и уменьшаться пропускабельность канала. Трафик чуть более 250 Мб, сетевухи Dlink-530, 2 гб оперативки, в течении дня загрузка проца не более 2 %.

время такого трабла все время разная. захват трафика отключил, если днем трафик доростает в пол - то все гуд, а вот вечером - халепа! В чем может быть проблема? Версия газера stg-2.407-p1.. Кто с таким сталкивался? Может меня досят со стороны локалки? Билинг проходящий!

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Может просто сетевушки не справляются с количеством пакетов?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

до них была е1000 двухпортовая, ситуация особо не поменялась

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Таки сетевухи скорее всего. PPS какой?

А да, метод захвата чисто случайно не divert? =)

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

сбалансируй нагрузку между процами.

как?

Таки сетевухи скорее всего. PPS какой?

А да, метод захвата чисто случайно не divert? =)

уже нет захвата, отключил вчера

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

много ресурсов в такой момент забирает ksoftirqd

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

своими руками я такого не делал (присутствовал ток), но как основное это постивить яндексовые дрова на сетевую с пересборкой ядра

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
своими руками я такого не делал (присутствовал ток), но как основное это постивить яндексовые дрова на сетевую с пересборкой ядра

Яндексовые дрова на Dlink-530? под лЫнух? шутку понял :)

 

много ресурсов в такой момент забирает ksoftirqd

Оно еще и PCI же, правда? Купить нормальную сетевуху, с нормальным количеством очередей и нормально раскидать их по ядрам - помогает.

 

ksoftirqd is a per-cpu kernel thread that runs when the machine is under heavy soft-interrupt load. Soft interrupts are normally serviced on return from a hard interrupt, but it's possible for soft interrupts to be triggered more quickly than they can be serviced.

как-бы намекает

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Было такое у меня: дропались пакеты, "прыгали" пинги. Обсуждали тут где-то долго и упорно примерно с год назад. Были танцы с настройкой.

В итоге всё решилось переходом на ядерный NAT, IPFW2 с оптимизацией таблиц и всё такое: банальная перегрузка железа всякими лишними задачами.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Сколько я полазил и начитался - поглядев проблемы с ksoftirqd.

Это не проблема в одном месте, а сразу в нескольких.

Возможные причины:

1. Драйвер сетевой карты, как и вообще сама сетевая карта возможно не справляется со своей работой.

2. Это всякие там шейперы на Linux и правила фаервола. Где выход один использовать Фрю под такие вещи, как шейпер, полисер и т.п. Ну и есно при большом колличестве правил юзать ipset (был бы рад, если кто-то составил внятный ман и где-то разместил).

3. Внимательно изучить вывод команды sysctl -a | grep conntrack и принять решения о каждом пункте, вчитываясь в гугл о каждом параметре, для чего он нужен.

 

 

Потом еще AoW забыл вчера посоветовать вот это - http://notes.ghost.dn.ua/node/65

Что есть обезательным, где сервачок пропускает через себя траф.

 

ЗЫ: Ну это то, что мне принес домовой ночью под подушку, пока как бы идей больше нету.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Уперся однажды с таким же - забивание проца в потолок.

Небесный прав - сначала немного оптимизируем ядро, как в статье, а потом уменьшаем количество правил фаера.

Например начинаем активно использовать ipset - не думаю, что открою Америку, но - http://spider.bsyteam.net/1500

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Я не понял, загрузка CPU продолжается с отключенным захватом трафика?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
захват трафика отключил, если днем трафик доростает в пол - то все гуд, а вот вечером - халепа!

Угу. :)

Но шейп-то остался. Похоже тазик не справляется с кол-вом пакетов.

 

Кстати, советую автору темы поставить какой-нить мониторинг системы, вроде Zabbix - здорово помогает разобраться "откуда ноги растут" в таких ситуациях.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Я не понял, загрузка CPU продолжается с отключенным захватом трафика?

Раньше при включенном захвате и дет. стат. процес stargazer - отжирал 60-70% - ну как бы при таком колличестве абонентов и при таком трафике относитльно нормально.

Отключили захват, отключили дет. стат. - вылазит периодически процесс ksoftirqd, с нагрузкой на одно ядро в 100%.

Короче лечение одно, настроить ядро и сделать балансировку по ядрам. И смотреть дальше, пока как бы одно мне на ум приходит.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

ksoftirqd съедающий ресурсы намекает на проблемы с шейперами/NAT/firewall. Биллинг тут не при чем, скорее железо свое отжило и требует срочной модернизации(осенью хомячки ринулись в инет, pps ощутимо подрос).

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Да, 250мбит днем, когда активно 50 человек и 250мбит вечером, когда активно 200 - две большие разницы. Описанная вами ситуация с 5% и 100% практически нормальна.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Для заметочки на будущее другим, как сделать прерывания между ядрами на сетевых платах

http://habrahabr.ru/blogs/sysadm/108240/

Автору темы уже переданная сылка - работаем. )))

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

если использовать транк из двух сетевых карточек - как это отразится? будет ли разделение по нагрузке? или нагрузка будет только на одну? Есть возможномть интернет и скрипты онконнект - ондисконект перенести на отдельный нас, и хочу подготовится к этому более основательно

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

очередное сдрассте!

пока сделали только то что кидал Небесный, за что ему огромное спасибо! Результат на лицо, если раньше пинги росли на 60-70 мсек, а после тютинга только на 10 )))

В субботу ожидается переделка шлюза с использованием ipset: http://spider.bsyteam.net/1500

По завершении отпишусь!

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Всем сдрассте!

Наконец-то у меня получилось провести незабываемую ночь на работе и перейти на айписет+НАС+интеловские сетевухи. Пока все работает хорошо, загрузка проца упала в разы, в минуты загрузки ksoftirqd занимает только 7% мощей процессора. Переход можно назвать успешным! Остается открытым вопрос относительно сбора статистики с удаленного НАС-а. Кто-что знает - поделитесь если не жалко!

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

cap_nf + softflowd - установка/настройка меньше 5 минут.

 

stargazer.conf

<Module cap_nf>
  TCPPort = 42111
  UDPPort = 42111
</Module>

 

Пускаем на удаленном хосте softflowd

softflowd -i em0 -n хост_старгейзера:42111

 

В более подробном варианте тут: http://habrahabr.ru/blogs/sysadm/130937/

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

а

cap_nf + softflowd - установка/настройка меньше 5 минут. stargazer.conf
  TCPPort = 42111 UDPPort = 42111  

Пускаем на удаленном хосте softflowd

softflowd -i em0 -n хост_старгейзера:42111

В более подробном варианте тут: http://habrahabr.ru/blogs/sysadm/130937/

 

будет собирать только информацию об объеме или и информацию о том, кто куда ходит?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

softflowd собирает все. Старгейзер будет писать в зависимости от выставленного флага DisabledDetailStat.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Канал в 300 Мбит. Ночью 30-35 К Пакет. ждем что будет вечером!

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Создайте аккаунт или войдите в него для комментирования

Вы должны быть пользователем, чтобы оставить комментарий

Создать аккаунт

Зарегистрируйтесь для получения аккаунта. Это просто!

Зарегистрировать аккаунт

Войти

Уже зарегистрированы? Войдите здесь.

Войти сейчас

  • Сейчас на странице   0 пользователей

    Нет пользователей, просматривающих эту страницу.

×