Jump to content
Local
qwertys

Как с этим бороться?

Recommended Posts

После чистой установки месяц ubilling нормально проработал!

Но случилось ето в логах:

dhcpd: send_packet: Permission denied
dhcpd: dhcp.c:3222: Failed to send 304 byte long packet over fallback interface.

С етого момента система работает нестабильно вплоть до самостоятельной перезагрузки!

Конфигурация не менялась. Как ето устранить?

 

 

 

Share this post


Link to post
Share on other sites

А погуглить по тому куску лога, который вы же и привели, не судьба?

Первые же три ссылки из выдачи гугла, дают вполне четкое представление о причинах происходящего.

Share this post


Link to post
Share on other sites

Смотреть tcpdump-ом, чего у вас там на dhcp прилетает и все. Кстати такая же лажа может иногда происходить в случае наличия множественных левых dhcp серверов в сети. Включите dhcp snooping на доступе.

Share this post


Link to post
Share on other sites

dhcp snooping включен,

буду щас tcpdump-ом смотреть

Share this post


Link to post
Share on other sites

В общем проблему пока не решил. Полный лог такой 

dhcpd: send_packet: No buffer space available
send_packet: Permission denied
dhcp.c:1305: Failed to send 300 byte long packet over fallback interface.
dhcpd: send_packet: Permission denied
dhcpd: dhcp.c:3222: Failed to send 304 byte long packet over fallback interface.

Если кто знает как устранить эту проблему для меня могу оказать небольшую финансовую благодарнось.

 

Еще заметил когда в фаерволе правило

${FwCMD} add 65535 allow all from any to any

/etc/netstart

ipfw: getsockopt(IP_FW_ADD): Invalid argument

Share this post


Link to post
Share on other sites

Ставьте линуксы, BSD давно проклят.

Share this post


Link to post
Share on other sites

 

send_packet: No buffer space available

Кстати, может вполне себе намекать на кончившиеся mbufs (смотрим в  vmstat -z/vmstat -z) либо на периодический отвал сетевух (А не рылтек ли?  :) )

Share this post


Link to post
Share on other sites
KaYot

 

 

Ставьте линуксы, BSD давно проклят.

ок, уже побежал.

Share this post


Link to post
Share on other sites

 

 

send_packet: No buffer space available

Кстати, может вполне себе намекать на кончившиеся mbufs (смотрим в  vmstat -z/vmstat -z) либо на периодический отвал сетевух (А не рылтек ли?  :) )

 

vmstat -z


ITEM                     SIZE     LIMIT      USED      FREE  REQUESTS  FAILURES

UMA Kegs:                 208,        0,      189,       15,      189,        0
UMA Zones:                448,        0,      189,        3,      189,        0
UMA Slabs:                568,        0,     1523,        3,     3887,        0
UMA RCntSlabs:            568,        0,     3818,        4,     3818,        0
UMA Hash:                 256,        0,       78,       12,       81,        0
16 Bucket:                152,        0,      204,       21,      204,        0
32 Bucket:                280,        0,      280,        0,      280,        0
64 Bucket:                536,        0,      222,        2,      222,       71
128 Bucket:              1048,        0,     1049,        1,     1049,     1509
VM OBJECT:                216,        0,    12160,     2780,   925433,        0
MAP:                      232,        0,        7,       25,        7,        0
KMAP ENTRY:               120,   277636,       41,      517,    37528,        0
MAP ENTRY:                120,        0,     7348,    24520,  2610940,        0
DP fakepg:                120,        0,        0,        0,        0,        0
SG fakepg:                120,        0,        0,        0,        0,        0
mt_zone:                 2056,        0,      279,       26,      279,        0
16:                        16,        0,     2645,     1051,  3408693,        0
32:                        32,        0,     2646,     1293,   216900,        0
64:                        64,        0,     5730,     1494,   754133,        0
128:                      128,        0,   269950,    19876, 13863442,        0
256:                      256,        0,     6161,    12619, 348109367,        0
512:                      512,        0,     2502,     1481, 30942066,        0
1024:                    1024,        0,       51,      333,    55968,        0
2048:                    2048,        0,       96,      214,    29228,        0
4096:                    4096,        0,      468,      497,    26218,        0
Files:                     80,        0,      274,     1031,  1013636,        0
TURNSTILE:                136,        0,      721,      159,      721,        0
umtx pi:                   96,        0,        0,        0,        0,        0
MAC labels:                40,        0,        0,        0,        0,        0
PROC:                    1136,        0,      106,      218,    22673,        0
THREAD:                  1128,        0,      430,      290,    25135,        0
SLEEPQUEUE:                80,        0,      721,      236,      721,        0
VMSPACE:                  392,        0,       84,      356,    22655,        0
cpuset:                    72,        0,       88,      112,       88,        0
audit_record:             952,        0,        0,        0,        0,        0
mbuf_packet:              256,        0,     4147,     2125, 552460443,        0
mbuf:                     256,        0,     1033,     2040, 1014801367,                                                              0
mbuf_cluster:            2048,    65536,     6272,      902,    26605,        0
mbuf_jumbo_page:         4096,    32768,        0,      231,    46875,        0
mbuf_jumbo_9k:           9216,    16384,        0,        0,        0,        0
mbuf_jumbo_16k:         16384,     8192,        0,        0,        0,        0
mbuf_ext_refcnt:            4,        0,        0,     1008,      249,        0
g_bio:                    232,        0,        0,     3136,  1339317,        0
ttyinq:                   160,        0,      150,      186,      870,        0
ttyoutq:                  256,        0,       80,      100,      464,        0
ata_request:              320,        0,        0,       60,       18,        0
ata_composite:            336,        0,        0,        0,        0,        0
vtnet_tx_hdr:              24,        0,        0,        0,        0,        0
VNODE:                    472,        0,    10305,      199,    10756,        0
VNODEPOLL:                112,        0,        0,        0,        0,        0
S VFS Cache:              108,        0,    10906,      347,   182287,        0
STS VFS Cache:            148,        0,        0,        0,        0,        0
L VFS Cache:              328,        0,        1,       83,       23,        0
LTS VFS Cache:            368,        0,        0,        0,        0,        0
NAMEI:                   1024,        0,        0,      176,  3879761,        0
DIRHASH:                 1024,        0,      268,       88,      268,        0
NFSMOUNT:                 632,        0,        0,        0,        0,        0
NFSNODE:                  696,        0,        0,        0,        0,        0
pipe:                     728,        0,        4,      166,    14371,        0
ksiginfo:                 112,        0,      312,      744,     3341,        0
itimer:                   344,        0,        1,       21,        1,        0
KNOTE:                    128,        0,       27,      727,   116731,        0
socket:                   680,    65538,       99,      405,   192207,        0
unpcb:                    240,    65536,       57,      439,    49634,        0
ipq:                       56,     2079,        0,      315,      948,        0
udp_inpcb:                336,    65538,       18,      301,   120981,        0
udpcb:                     16,    65688,       18,     1494,   120981,        0
tcp_inpcb:                336,    65538,       26,      568,    13657,        0
tcpcb:                    944,    65536,       20,      252,    13657,        0
tcptw:                     72,    13150,        6,      844,     4535,        0
syncache:                 144,    15366,        0,      260,    10380,        0
hostcache:                136,    15372,        7,      189,       14,        0
tcpreass:                  40,     4116,        0,      504,       21,        0
sackhole:                  32,        0,        0,      808,       46,        0
sctp_ep:                 1320,    65538,        0,        0,        0,        0
sctp_asoc:               2288,    40000,        0,        0,        0,        0
sctp_laddr:                48,    80064,        0,      504,       13,        0
sctp_raddr:               696,    80000,        0,        0,        0,        0
sctp_chunk:               136,   400008,        0,        0,        0,        0
sctp_readq:               104,   400032,        0,        0,        0,        0
sctp_stream_msg_out:      104,   400032,        0,        0,        0,        0
sctp_asconf:               40,   400008,        0,        0,        0,        0
sctp_asconf_ack:           48,   400032,        0,        0,        0,        0
ripcb:                    336,    65538,        1,      131,     7147,        0
rtentry:                  200,        0,       26,      164,       39,        0
IPFW dynamic rule:        120,        0,        0,        0,        0,        0
selfd:                     56,        0,      425,     1276,  4581132,        0
SWAPMETA:                 288,   116519,        0,        0,        0,        0
Mountpoints:              752,        0,        5,       20,        5,        0
FFS inode:                168,        0,    10258,      346,    10704,        0
FFS1 dinode:              128,        0,        0,        0,        0,        0
FFS2 dinode:              256,        0,    10258,      242,    10699,        0
taskq_zone:                48,        0,        0,        0,        0,        0
space_seg_cache:           64,        0,        0,        0,        0,        0
zio_cache:                896,        0,        0,        0,        0,        0
zio_link_cache:            48,        0,        0,        0,        0,        0
zio_buf_512:              512,        0,        0,        0,        0,        0
zio_data_buf_512:         512,        0,        0,        0,        0,        0
zio_buf_1024:            1024,        0,        0,        0,        0,        0
zio_data_buf_1024:       1024,        0,        0,        0,        0,        0
zio_buf_1536:            1536,        0,        0,        0,        0,        0
zio_data_buf_1536:       1536,        0,        0,        0,        0,        0
zio_buf_2048:            2048,        0,        0,        0,        0,        0
zio_data_buf_2048:       2048,        0,        0,        0,        0,        0
zio_buf_2560:            2560,        0,        0,        0,        0,        0
zio_data_buf_2560:       2560,        0,        0,        0,        0,        0
zio_buf_3072:            3072,        0,        0,        0,        0,        0
zio_data_buf_3072:       3072,        0,        0,        0,        0,        0
zio_buf_3584:            3584,        0,        0,        0,        0,        0
zio_data_buf_3584:       3584,        0,        0,        0,        0,        0
zio_buf_4096:            4096,        0,        0,        0,        0,        0
zio_data_buf_4096:       4096,        0,        0,        0,        0,        0
zio_buf_5120:            5120,        0,        0,        0,        0,        0
zio_data_buf_5120:       5120,        0,        0,        0,        0,        0
zio_buf_6144:            6144,        0,        0,        0,        0,        0
zio_data_buf_6144:       6144,        0,        0,        0,        0,        0
zio_buf_7168:            7168,        0,        0,        0,        0,        0
zio_data_buf_7168:       7168,        0,        0,        0,        0,        0
zio_buf_8192:            8192,        0,        0,        0,        0,        0
zio_data_buf_8192:       8192,        0,        0,        0,        0,        0
zio_buf_10240:          10240,        0,        0,        0,        0,        0
zio_data_buf_10240:     10240,        0,        0,        0,        0,        0
zio_buf_12288:          12288,        0,        0,        0,        0,        0
zio_data_buf_12288:     12288,        0,        0,        0,        0,        0
zio_buf_14336:          14336,        0,        0,        0,        0,        0
zio_data_buf_14336:     14336,        0,        0,        0,        0,        0
zio_buf_16384:          16384,        0,        0,        0,        0,        0
zio_data_buf_16384:     16384,        0,        0,        0,        0,        0
zio_buf_20480:          20480,        0,        0,        0,        0,        0
zio_data_buf_20480:     20480,        0,        0,        0,        0,        0
zio_buf_24576:          24576,        0,        0,        0,        0,        0
zio_data_buf_24576:     24576,        0,        0,        0,        0,        0
zio_buf_28672:          28672,        0,        0,        0,        0,        0
zio_data_buf_28672:     28672,        0,        0,        0,        0,        0
zio_buf_32768:          32768,        0,        0,        0,        0,        0
zio_data_buf_32768:     32768,        0,        0,        0,        0,        0
zio_buf_36864:          36864,        0,        0,        0,        0,        0
zio_data_buf_36864:     36864,        0,        0,        0,        0,        0
zio_buf_40960:          40960,        0,        0,        0,        0,        0
zio_data_buf_40960:     40960,        0,        0,        0,        0,        0
zio_buf_45056:          45056,        0,        0,        0,        0,        0
zio_data_buf_45056:     45056,        0,        0,        0,        0,        0
zio_buf_49152:          49152,        0,        0,        0,        0,        0
zio_data_buf_49152:     49152,        0,        0,        0,        0,        0
zio_buf_53248:          53248,        0,        0,        0,        0,        0
zio_data_buf_53248:     53248,        0,        0,        0,        0,        0
zio_buf_57344:          57344,        0,        0,        0,        0,        0
zio_data_buf_57344:     57344,        0,        0,        0,        0,        0
zio_buf_61440:          61440,        0,        0,        0,        0,        0
zio_data_buf_61440:     61440,        0,        0,        0,        0,        0
zio_buf_65536:          65536,        0,        0,        0,        0,        0
zio_data_buf_65536:     65536,        0,        0,        0,        0,        0
zio_buf_69632:          69632,        0,        0,        0,        0,        0
zio_data_buf_69632:     69632,        0,        0,        0,        0,        0
zio_buf_73728:          73728,        0,        0,        0,        0,        0
zio_data_buf_73728:     73728,        0,        0,        0,        0,        0
zio_buf_77824:          77824,        0,        0,        0,        0,        0
zio_data_buf_77824:     77824,        0,        0,        0,        0,        0
zio_buf_81920:          81920,        0,        0,        0,        0,        0
zio_data_buf_81920:     81920,        0,        0,        0,        0,        0
zio_buf_86016:          86016,        0,        0,        0,        0,        0
zio_data_buf_86016:     86016,        0,        0,        0,        0,        0
zio_buf_90112:          90112,        0,        0,        0,        0,        0
zio_data_buf_90112:     90112,        0,        0,        0,        0,        0
zio_buf_94208:          94208,        0,        0,        0,        0,        0
zio_data_buf_94208:     94208,        0,        0,        0,        0,        0
zio_buf_98304:          98304,        0,        0,        0,        0,        0
zio_data_buf_98304:     98304,        0,        0,        0,        0,        0
zio_buf_102400:        102400,        0,        0,        0,        0,        0
zio_data_buf_102400:   102400,        0,        0,        0,        0,        0
zio_buf_106496:        106496,        0,        0,        0,        0,        0
zio_data_buf_106496:   106496,        0,        0,        0,        0,        0
zio_buf_110592:        110592,        0,        0,        0,        0,        0
zio_data_buf_110592:   110592,        0,        0,        0,        0,        0
zio_buf_114688:        114688,        0,        0,        0,        0,        0
zio_data_buf_114688:   114688,        0,        0,        0,        0,        0
zio_buf_118784:        118784,        0,        0,        0,        0,        0
zio_data_buf_118784:   118784,        0,        0,        0,        0,        0
zio_buf_122880:        122880,        0,        0,        0,        0,        0
zio_data_buf_122880:   122880,        0,        0,        0,        0,        0
zio_buf_126976:        126976,        0,        0,        0,        0,        0
zio_data_buf_126976:   126976,        0,        0,        0,        0,        0
zio_buf_131072:        131072,        0,        0,        0,        0,        0
zio_data_buf_131072:   131072,        0,        0,        0,        0,        0
sa_cache:                  80,        0,        0,        0,        0,        0
dnode_t:                  856,        0,        0,        0,        0,        0
dmu_buf_impl_t:           224,        0,        0,        0,        0,        0
arc_buf_hdr_t:            216,        0,        0,        0,        0,        0
arc_buf_t:                 72,        0,        0,        0,        0,        0
zil_lwb_cache:            192,        0,        0,        0,        0,        0
zfs_znode_cache:          368,        0,        0,        0,        0,        0

сетевые Broadcom BCM5708

Share this post


Link to post
Share on other sites

 

vmstat -z

Выглядит пристойно, но...

 

 

сетевые Broadcom BCM5708

...вы ошибаетесь - это не "сетевые", это что-то другое.

 

О выборе сетевух на доступ, вполне себе круто вещает dadv.

 

И да - попробуйте включить

net.inet.ip.fastforwarding=1

net.inet.ip.dummynet.io_fast=1

 

по дороге втыкая в top -SHP

Share this post


Link to post
Share on other sites

 Да ощибся на controller Broadcom BCM5708

net.inet.ip.fastforwarding=1

net.inet.ip.dummynet.io_fast=1

 

Включено

Share this post


Link to post
Share on other sites

top -SHP загрузка не метяеться как и была гдето 1.5 в среднем трафик который проходит сейчас 270/60 мбит

Share this post


Link to post
Share on other sites

 

top -SHP загрузка не метяеться как и была гдето 1.5 в среднем трафик который проходит сейчас 270/60 мбит

Многовато но спишем на неправославную сетевуху. Склоняюсь к мнению, что "No buffer space available" таки свидетельствует о периодических отвалах линка либо дедлоках драйвера.

У некоторых провайдеров такие вещи периодически наблюдаю, но только в случае выдергивания шнурка физически.

 

Линк в тему: http://it-talk.org/topic15408.html

Share this post


Link to post
Share on other sites

Попробовал переставить систему (теперь freebsd _32bit  8.4) на другой сервер (то что было под рукой: Penguin Computing Relion 140 ) более старый но с intel сетевыми ошибки те же, только поведение сервера другое. Пропускная способность поднимается до 190мбит работает от 30 до 60 мин потом в течении 10 мин падает  пропускная способность до 0 и сервак переходит в ребут сам, после тоже самое. 

Share this post


Link to post
Share on other sites

 

работает от 30 до 60 мин потом в течении 10 мин падает  пропускная способность до 0 и сервак переходит в ребут сам, после тоже самое.

Вообще нездоровая картина. По симптомам сильно похоже на старую нелюбовь libalias и tso/*sum.

Попробуйте подымать свои интерфейсы как:

ifconfig_iface="inet ...... netmask ..... -rxcsum -txcsum -tso"
Edited by nightfly

Share this post


Link to post
Share on other sites

 

 

работает от 30 до 60 мин потом в течении 10 мин падает  пропускная способность до 0 и сервак переходит в ребут сам, после тоже самое.

Вообще нездоровая картина. По симптомам сильно похоже на старую нелюбовь libalias и tso/*sum.

Попробуйте подымать свои интерфейсы как:

ifconfig_iface="inet ...... netmask ..... -rxcsum -txcsum -tso"

Это сделано с самого начала. Как здесь http://wiki.ubilling.net.ua/doku.php?id=ipfwnat.

 

Что заметил проблемы с падением начинаються когда

 netstat -m

5123/3967/9090 mbufs in use (current/cache/total)
4100/3074/7174/65536 mbuf clusters in use (current/cache/total/max)
4100/2172 mbuf+clusters out of packet secondary zone in use (current/cache)
0/263/263/32768 4k (page size) jumbo clusters in use (current/cache/total/max)
0/0/0/16384 9k jumbo clusters in use (current/cache/total/max)
0/0/0/8192 16k jumbo clusters in use (current/cache/total/max)
9488K/8191K/17680K bytes allocated to network (current/cache/total)
0/0/0 requests for mbufs denied (mbufs/clusters/mbuf+clusters)
0/0/0 requests for jumbo clusters denied (4k/9k/16k)
0/0/0 sfbufs in use (current/peak/max)
0 requests for sfbufs denied
0 requests for sfbufs delayed
154 requests for I/O initiated by sendfile
0 calls to protocol drain routines

9090 mbufs in use ---- начинает подиматься думаю что то с этим

Share this post


Link to post
Share on other sites

Дык увеличьте число mbuf, по-моему любой тюнинг БЗДи должен начинаться с этого.

Share this post


Link to post
Share on other sites

Дык увеличьте число mbuf, по-моему любой тюнинг БЗДи должен начинаться с этого.

 

Тогда как увеличить это значение грамотно чтоб не получить кирпичь. ОЗУ 8gb

Mem: 566M Active, 748M Inact, 731M Wired, 80K Cache, 827M Buf, 5859M Free

если проблема в этом за мной не заржавеет!

Share this post


Link to post
Share on other sites

 

Тогда как увеличить это значение грамотно чтоб не получить кирпичь. ОЗУ 8gb

Убедиться, в адекватном размере KVA_PAGES, чтобы не вылезти за пределы кернелспейса, и почитать статью dadv-а. Она действительно очень крута.

Share this post


Link to post
Share on other sites

sysctl -a | grep kmem

vm.kmem_map_free: 8257929216
vm.kmem_map_size: 30777344
vm.kmem_size_scale: 1
vm.kmem_size_max: 329853485875
vm.kmem_size_min: 0
vm.kmem_size: 8288706560

статью dadv-а читал. Пробовал виставлять, менять, увеличивать параметры. Пока решения нет

Share this post


Link to post
Share on other sites

Проблема как бы решена, нужно добавить в фаервол правила! Еще потестирую работу потом отпишусь! РЕШЕНИЕ :

#Allow DHCP SERVER
${FwCMD} add (№ правила) allow udp from any 67 to any
${FwCMD} add (№ правила) allow udp from any to any 67

Edited by qwertys
  • Like 1

Share this post


Link to post
Share on other sites

Если проблема в этом - то еще 68-й забыли.

Share this post


Link to post
Share on other sites

Если проблема в этом - то еще 68-й забыли.

68 для клиента если используеться! А так да работает без перезагрузок и ошибок.

Share this post


Link to post
Share on other sites

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now

  • Recently Browsing   0 members

    No registered users viewing this page.

×