LVS
lvs-users
Google
 
Web LinuxVirtualServer.org

RE: LVS performance bug

To: "LinuxVirtualServer.org users mailing list." <lvs-users@xxxxxxxxxxxxxxxxxxxxxx>
Subject: RE: LVS performance bug
From: "Rudd, Michael" <Michael.Rudd@xxxxxxxxxxx>
Date: Wed, 14 Mar 2007 07:41:08 -0500
Ran it again and here's what I see. We currently have 8 Gigs of memory
installed. It doesn't appear from the "free" command that we ran
completely out of memory. Heres what "free" and "slabinfo" say before
the test. This is sitting idle. 
[root@jackets-a upgrade]# free -m
             total       used       free     shared    buffers
cached
Mem:          8118       1508       6609          0        274
974
-/+ buffers/cache:        259       7858
Swap:         2000          0       2000
[root@jackets-a upgrade]# 

[root@jackets-a upgrade]# cat /proc/slabinfo
slabinfo - version: 2.1
# name            <active_objs> <num_objs> <objsize> <objperslab>
<pagesperslab> : tunables <limit> <batchcount> <sharedfactor> : slabdata
<active_slabs> <num_slabs> <sharedavail>
ip_vs_conn         39091  39105    256   15    1 : tunables  120   60
8 : slabdata   2607   2607      0
ip_fib_alias          18    113     32  113    1 : tunables  120   60
8 : slabdata      1      1      0
ip_fib_hash           18    113     32  113    1 : tunables  120   60
8 : slabdata      1      1      0
jbd_4k                 2      3   4096    1    1 : tunables   24   12
8 : slabdata      2      3      0
dm-snapshot-in       128    177     64   59    1 : tunables  120   60
8 : slabdata      3      3      0
dm-snapshot-ex         0      0     24  145    1 : tunables  120   60
8 : slabdata      0      0      0
dm_mpath               0      0     28  127    1 : tunables  120   60
8 : slabdata      0      0      0
dm_tio              1348   1421     16  203    1 : tunables  120   60
8 : slabdata      7      7      0
dm_io               1351   1521     20  169    1 : tunables  120   60
8 : slabdata      9      9      0
uhci_urb_priv          0      0     28  127    1 : tunables  120   60
8 : slabdata      0      0      0
jbd_1k                 0      0   1024    4    1 : tunables   54   27
8 : slabdata      0      0      0
ext3_inode_cache   12799  12816    600    6    1 : tunables   54   27
8 : slabdata   2136   2136      0
ext3_xattr             0      0     48   78    1 : tunables  120   60
8 : slabdata      0      0      0
journal_handle        68    169     20  169    1 : tunables  120   60
8 : slabdata      1      1      0
journal_head         381    864     52   72    1 : tunables  120   60
8 : slabdata     12     12      0
revoke_table          28    254     12  254    1 : tunables  120   60
8 : slabdata      1      1      0
revoke_record          0      0     16  203    1 : tunables  120   60
8 : slabdata      0      0      0
scsi_cmd_cache        59    100    384   10    1 : tunables   54   27
8 : slabdata     10     10      0
sgpool-128            32     33   2560    3    2 : tunables   24   12
8 : slabdata     11     11      0
sgpool-64             35     36   1280    3    1 : tunables   24   12
8 : slabdata     12     12      0
sgpool-32             36     36    640    6    1 : tunables   54   27
8 : slabdata      6      6      0
sgpool-16             47     50    384   10    1 : tunables   54   27
8 : slabdata      5      5      0
sgpool-8             128    180    256   15    1 : tunables  120   60
8 : slabdata     12     12      0
scsi_io_context        0      0    104   37    1 : tunables  120   60
8 : slabdata      0      0      0
UNIX                 223    246    640    6    1 : tunables   54   27
8 : slabdata     41     41      0
flow_cache             0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
cfq_ioc_pool         122    210     92   42    1 : tunables  120   60
8 : slabdata      5      5      0
cfq_pool             104    160     96   40    1 : tunables  120   60
8 : slabdata      4      4      0
crq_pool             156    252     44   84    1 : tunables  120   60
8 : slabdata      3      3      0
deadline_drq           0      0     44   84    1 : tunables  120   60
8 : slabdata      0      0      0
as_arq                 0      0     56   67    1 : tunables  120   60
8 : slabdata      0      0      0
mqueue_inode_cache      1      6    640    6    1 : tunables   54   27
8 : slabdata      1      1      0
isofs_inode_cache      0      0    452    8    1 : tunables   54   27
8 : slabdata      0      0      0
hugetlbfs_inode_cache      1      9    424    9    1 : tunables   54
27    8 : slabdata      1      1      0
ext2_inode_cache       0      0    584    7    1 : tunables   54   27
8 : slabdata      0      0      0
ext2_xattr             0      0     48   78    1 : tunables  120   60
8 : slabdata      0      0      0
dnotify_cache          0      0     20  169    1 : tunables  120   60
8 : slabdata      0      0      0
dquot                  0      0    256   15    1 : tunables  120   60
8 : slabdata      0      0      0
eventpoll_pwq          0      0     36  101    1 : tunables  120   60
8 : slabdata      0      0      0
eventpoll_epi          0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
inotify_event_cache      0      0     28  127    1 : tunables  120   60
8 : slabdata      0      0      0
inotify_watch_cache      1     92     40   92    1 : tunables  120   60
8 : slabdata      1      1      0
kioctx                 0      0    256   15    1 : tunables  120   60
8 : slabdata      0      0      0
kiocb                  0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
fasync_cache           0      0     16  203    1 : tunables  120   60
8 : slabdata      0      0      0
shmem_inode_cache    524    546    532    7    1 : tunables   54   27
8 : slabdata     78     78      0
posix_timers_cache      0      0    100   39    1 : tunables  120   60
8 : slabdata      0      0      0
uid_cache              5     59     64   59    1 : tunables  120   60
8 : slabdata      1      1      0
ip_mrt_cache           0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
tcp_bind_bucket      148    406     16  203    1 : tunables  120   60
8 : slabdata      2      2      0
inet_peer_cache        2     59     64   59    1 : tunables  120   60
8 : slabdata      1      1      0
secpath_cache          0      0     32  113    1 : tunables  120   60
8 : slabdata      0      0      0
xfrm_dst_cache         0      0    384   10    1 : tunables   54   27
8 : slabdata      0      0      0
ip_dst_cache          78    150    256   15    1 : tunables  120   60
8 : slabdata     10     10      0
arp_cache             11     15    256   15    1 : tunables  120   60
8 : slabdata      1      1      0
RAW                    5      6    640    6    1 : tunables   54   27
8 : slabdata      1      1      0
UDP                   35     36    640    6    1 : tunables   54   27
8 : slabdata      6      6      0
tw_sock_TCP           81     90    128   30    1 : tunables  120   60
8 : slabdata      3      3      0
request_sock_TCP       8     59     64   59    1 : tunables  120   60
8 : slabdata      1      1      0
TCP                   55     60   1280    3    1 : tunables   24   12
8 : slabdata     20     20      0
blkdev_ioc            71    254     28  127    1 : tunables  120   60
8 : slabdata      2      2      0
blkdev_queue          38     44   1016    4    1 : tunables   54   27
8 : slabdata     11     11      0
blkdev_requests      154    230    172   23    1 : tunables  120   60
8 : slabdata     10     10      0
biovec-256            11     12   3072    2    2 : tunables   24   12
8 : slabdata      6      6      0
biovec-128            15     15   1536    5    2 : tunables   24   12
8 : slabdata      3      3      0
biovec-64             23     30    768    5    1 : tunables   54   27
8 : slabdata      6      6      0
biovec-16             23    165    256   15    1 : tunables  120   60
8 : slabdata     11     11      0
biovec-4              23    118     64   59    1 : tunables  120   60
8 : slabdata      2      2      0
biovec-1             347    609     16  203    1 : tunables  120   60
8 : slabdata      3      3    180
bio                  601    720    128   30    1 : tunables  120   60
8 : slabdata     24     24    180
utrace_engine_cache      0      0     32  113    1 : tunables  120   60
8 : slabdata      0      0      0
utrace_cache           0      0     32  113    1 : tunables  120   60
8 : slabdata      0      0      0
sock_inode_cache     275    308    512    7    1 : tunables   54   27
8 : slabdata     44     44      0
skbuff_fclone_cache     96    120    384   10    1 : tunables   54   27
8 : slabdata     12     12     13
skbuff_head_cache   1302   1905    256   15    1 : tunables  120   60
8 : slabdata    127    127      0
file_lock_cache       68    108    108   36    1 : tunables  120   60
8 : slabdata      3      3      0
Acpi-Operand        1563   1656     40   92    1 : tunables  120   60
8 : slabdata     18     18      0
Acpi-ParseExt          0      0     44   84    1 : tunables  120   60
8 : slabdata      0      0      0
Acpi-Parse             0      0     28  127    1 : tunables  120   60
8 : slabdata      0      0      0
Acpi-State             0      0     44   84    1 : tunables  120   60
8 : slabdata      0      0      0
Acpi-Namespace       651    676     20  169    1 : tunables  120   60
8 : slabdata      4      4      0
delayacct_cache      330    756     60   63    1 : tunables  120   60
8 : slabdata     12     12      0
taskstats_cache       46    106     72   53    1 : tunables  120   60
8 : slabdata      2      2      0
proc_inode_cache    1748   1809    440    9    1 : tunables   54   27
8 : slabdata    201    201      0
sigqueue             262    297    144   27    1 : tunables  120   60
8 : slabdata     11     11      0
radix_tree_node    10462  10486    276   14    1 : tunables   54   27
8 : slabdata    749    749      0
bdev_cache            62     70    576    7    1 : tunables   54   27
8 : slabdata     10     10      0
sysfs_dir_cache     6280   6384     44   84    1 : tunables  120   60
8 : slabdata     76     76      0
mnt_cache             39     90    128   30    1 : tunables  120   60
8 : slabdata      3      3      0
inode_cache         2367   2367    424    9    1 : tunables   54   27
8 : slabdata    263    263      0
dentry_cache       21759  21866    148   26    1 : tunables  120   60
8 : slabdata    841    841      0
filp                2088   2460    192   20    1 : tunables  120   60
8 : slabdata    123    123    108
names_cache           53     53   4096    1    1 : tunables   24   12
8 : slabdata     53     53     12
avc_node               9     72     52   72    1 : tunables  120   60
8 : slabdata      1      1      0
selinux_inode_security    912   1008     60   63    1 : tunables  120
60    8 : slabdata     16     16      0
key_jar               10     30    128   30    1 : tunables  120   60
8 : slabdata      1      1      0
idr_layer_cache      143    145    136   29    1 : tunables  120   60
8 : slabdata      5      5      0
buffer_head       237877 237960     52   72    1 : tunables  120   60
8 : slabdata   3305   3305     60
mm_struct            196    196    512    7    1 : tunables   54   27
8 : slabdata     28     28      0
vm_area_struct      6078   6336     88   44    1 : tunables  120   60
8 : slabdata    144    144    144
fs_cache             230    413     64   59    1 : tunables  120   60
8 : slabdata      7      7      0
files_cache          175    220    384   10    1 : tunables   54   27
8 : slabdata     22     22      0
signal_cache         253    279    448    9    1 : tunables   54   27
8 : slabdata     31     31      0
sighand_cache        207    213   1344    3    1 : tunables   24   12
8 : slabdata     71     71      6
task_struct          250    270   1392    5    2 : tunables   24   12
8 : slabdata     54     54      6
anon_vma            1942   2175     24  145    1 : tunables  120   60
8 : slabdata     15     15      0
pgd                  192    452     32  113    1 : tunables  120   60
8 : slabdata      4      4      0
pmd                  323    329   4096    1    1 : tunables   24   12
8 : slabdata    323    329      6
pid                  354    808     36  101    1 : tunables  120   60
8 : slabdata      8      8      0
size-131072(DMA)       0      0 131072    1   32 : tunables    8    4
0 : slabdata      0      0      0
size-131072            0      0 131072    1   32 : tunables    8    4
0 : slabdata      0      0      0
size-65536(DMA)        0      0  65536    1   16 : tunables    8    4
0 : slabdata      0      0      0
size-65536             3      3  65536    1   16 : tunables    8    4
0 : slabdata      3      3      0
size-32768(DMA)        0      0  32768    1    8 : tunables    8    4
0 : slabdata      0      0      0
size-32768            16     16  32768    1    8 : tunables    8    4
0 : slabdata     16     16      0
size-16384(DMA)        0      0  16384    1    4 : tunables    8    4
0 : slabdata      0      0      0
size-16384             1      1  16384    1    4 : tunables    8    4
0 : slabdata      1      1      0
size-8192(DMA)         0      0   8192    1    2 : tunables    8    4
0 : slabdata      0      0      0
size-8192              9      9   8192    1    2 : tunables    8    4
0 : slabdata      9      9      0
size-4096(DMA)         0      0   4096    1    1 : tunables   24   12
8 : slabdata      0      0      0
size-4096            305    310   4096    1    1 : tunables   24   12
8 : slabdata    305    310      0
size-2048(DMA)         0      0   2048    2    1 : tunables   24   12
8 : slabdata      0      0      0
size-2048           1279   1306   2048    2    1 : tunables   24   12
8 : slabdata    653    653      0
size-1024(DMA)         0      0   1024    4    1 : tunables   54   27
8 : slabdata      0      0      0
size-1024            342    356   1024    4    1 : tunables   54   27
8 : slabdata     89     89     13
size-512(DMA)          0      0    512    8    1 : tunables   54   27
8 : slabdata      0      0      0
size-512             645    680    512    8    1 : tunables   54   27
8 : slabdata     85     85      0
size-256(DMA)          0      0    256   15    1 : tunables  120   60
8 : slabdata      0      0      0
size-256             602    675    256   15    1 : tunables  120   60
8 : slabdata     45     45      0
size-128(DMA)          0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
size-64(DMA)           0      0     64   59    1 : tunables  120   60
8 : slabdata      0      0      0
size-32(DMA)           0      0     32  113    1 : tunables  120   60
8 : slabdata      0      0      0
size-32             4492   4633     32  113    1 : tunables  120   60
8 : slabdata     41     41      0
size-128            1745   1890    128   30    1 : tunables  120   60
8 : slabdata     63     63      0
size-64             5104   6490     64   59    1 : tunables  120   60
8 : slabdata    110    110      0
kmem_cache           135    150    256   15    1 : tunables  120   60
8 : slabdata     10     10      0

Then we ran the test again and cranked up the traffic. It took a few
minutes and then it happened again. 
IPVS: ip_vs_conn_new: no memory available.
IPVS: ip_vs_conn_new: no memory available.
IPVS: ip_vs_conn_new: no memory available.
IPVS: ip_vs_conn_new: no memory available.
IPVS: ip_vs_conn_new: no memory available.
IPVS: ip_vs_conn_new: no memory available.
IPVS: ip_vs_conn_new: no memory available.
IPVS: ip_vs_conn_new: no memory available.
IPVS: ip_vs_conn_new: no memory available.

Heres what "free" and "slabinfo" say after the test. 
[root@jackets-a upgrade]# free
             total       used       free     shared    buffers
cached
Mem:       8313112    1371072    6942040          0      62200
334064
-/+ buffers/cache:     974808    7338304
Swap:      2048184          0    2048184
[root@jackets-a upgrade]# cat /proc/slabinfo
slabinfo - version: 2.1
# name            <active_objs> <num_objs> <objsize> <objperslab>
<pagesperslab> : tunables <limit> <batchcount> <sharedfactor> : slabdata
<active_slabs> <num_slabs> <sharedavail>
ip_vs_conn        2774925 2774925    256   15    1 : tunables  120   60
8 : slabdata 184995 184995      0
ip_fib_alias          18    113     32  113    1 : tunables  120   60
8 : slabdata      1      1      0
ip_fib_hash           18    113     32  113    1 : tunables  120   60
8 : slabdata      1      1      0
jbd_4k                 4      4   4096    1    1 : tunables   24   12
8 : slabdata      4      4      0
dm-snapshot-in       128    177     64   59    1 : tunables  120   60
8 : slabdata      3      3      0
dm-snapshot-ex         0      0     24  145    1 : tunables  120   60
8 : slabdata      0      0      0
dm_mpath               0      0     28  127    1 : tunables  120   60
8 : slabdata      0      0      0
dm_tio              1481   1624     16  203    1 : tunables  120   60
8 : slabdata      8      8      0
dm_io               1457   1521     20  169    1 : tunables  120   60
8 : slabdata      9      9      0
uhci_urb_priv          0      0     28  127    1 : tunables  120   60
8 : slabdata      0      0      0
jbd_1k                 0      0   1024    4    1 : tunables   54   27
8 : slabdata      0      0      0
ext3_inode_cache    1563   3936    600    6    1 : tunables   54   27
8 : slabdata    656    656    216
ext3_xattr             0      0     48   78    1 : tunables  120   60
8 : slabdata      0      0      0
journal_handle        84    169     20  169    1 : tunables  120   60
8 : slabdata      1      1      0
journal_head         365    864     52   72    1 : tunables  120   60
8 : slabdata     12     12      0
revoke_table          28    254     12  254    1 : tunables  120   60
8 : slabdata      1      1      0
revoke_record         16    203     16  203    1 : tunables  120   60
8 : slabdata      1      1      0
scsi_cmd_cache        84    140    384   10    1 : tunables   54   27
8 : slabdata     14     14      0
sgpool-128            32     33   2560    3    2 : tunables   24   12
8 : slabdata     11     11      0
sgpool-64             34     36   1280    3    1 : tunables   24   12
8 : slabdata     12     12      0
sgpool-32             39     48    640    6    1 : tunables   54   27
8 : slabdata      8      8      0
sgpool-16             39     40    384   10    1 : tunables   54   27
8 : slabdata      4      4      0
sgpool-8             225    225    256   15    1 : tunables  120   60
8 : slabdata     15     15      0
scsi_io_context        0      0    104   37    1 : tunables  120   60
8 : slabdata      0      0      0
UNIX                 187    246    640    6    1 : tunables   54   27
8 : slabdata     41     41      0
flow_cache             0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
cfq_ioc_pool         130    210     92   42    1 : tunables  120   60
8 : slabdata      5      5      0
cfq_pool             112    160     96   40    1 : tunables  120   60
8 : slabdata      4      4      0
crq_pool             287    336     44   84    1 : tunables  120   60
8 : slabdata      4      4      0
deadline_drq           0      0     44   84    1 : tunables  120   60
8 : slabdata      0      0      0
as_arq                 0      0     56   67    1 : tunables  120   60
8 : slabdata      0      0      0
mqueue_inode_cache      1      6    640    6    1 : tunables   54   27
8 : slabdata      1      1      0
isofs_inode_cache      0      0    452    8    1 : tunables   54   27
8 : slabdata      0      0      0
hugetlbfs_inode_cache      1      9    424    9    1 : tunables   54
27    8 : slabdata      1      1      0
ext2_inode_cache       0      0    584    7    1 : tunables   54   27
8 : slabdata      0      0      0
ext2_xattr             0      0     48   78    1 : tunables  120   60
8 : slabdata      0      0      0
dnotify_cache          0      0     20  169    1 : tunables  120   60
8 : slabdata      0      0      0
dquot                  0      0    256   15    1 : tunables  120   60
8 : slabdata      0      0      0
eventpoll_pwq          0      0     36  101    1 : tunables  120   60
8 : slabdata      0      0      0
eventpoll_epi          0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
inotify_event_cache      0      0     28  127    1 : tunables  120   60
8 : slabdata      0      0      0
inotify_watch_cache      1     92     40   92    1 : tunables  120   60
8 : slabdata      1      1      0
kioctx                 0      0    256   15    1 : tunables  120   60
8 : slabdata      0      0      0
kiocb                  0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
fasync_cache           0      0     16  203    1 : tunables  120   60
8 : slabdata      0      0      0
shmem_inode_cache    536    546    532    7    1 : tunables   54   27
8 : slabdata     78     78      0
posix_timers_cache      0      0    100   39    1 : tunables  120   60
8 : slabdata      0      0      0
uid_cache              5     59     64   59    1 : tunables  120   60
8 : slabdata      1      1      0
ip_mrt_cache           0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
tcp_bind_bucket      117    406     16  203    1 : tunables  120   60
8 : slabdata      2      2      0
inet_peer_cache       10     59     64   59    1 : tunables  120   60
8 : slabdata      1      1      0
secpath_cache          0      0     32  113    1 : tunables  120   60
8 : slabdata      0      0      0
xfrm_dst_cache         0      0    384   10    1 : tunables   54   27
8 : slabdata      0      0      0
ip_dst_cache          89    150    256   15    1 : tunables  120   60
8 : slabdata     10     10      0
arp_cache             11     15    256   15    1 : tunables  120   60
8 : slabdata      1      1      0
RAW                    5      6    640    6    1 : tunables   54   27
8 : slabdata      1      1      0
UDP                   19     36    640    6    1 : tunables   54   27
8 : slabdata      6      6      0
tw_sock_TCP           90     90    128   30    1 : tunables  120   60
8 : slabdata      3      3      0
request_sock_TCP       0      0     64   59    1 : tunables  120   60
8 : slabdata      0      0      0
TCP                   52     57   1280    3    1 : tunables   24   12
8 : slabdata     19     19      0
blkdev_ioc            89    254     28  127    1 : tunables  120   60
8 : slabdata      2      2      0
blkdev_queue          38     44   1016    4    1 : tunables   54   27
8 : slabdata     11     11      0
blkdev_requests      230    230    172   23    1 : tunables  120   60
8 : slabdata     10     10      0
biovec-256            11     12   3072    2    2 : tunables   24   12
8 : slabdata      6      6      0
biovec-128            15     15   1536    5    2 : tunables   24   12
8 : slabdata      3      3      0
biovec-64             23     30    768    5    1 : tunables   54   27
8 : slabdata      6      6      0
biovec-16             99    165    256   15    1 : tunables  120   60
8 : slabdata     11     11      0
biovec-4              48    118     64   59    1 : tunables  120   60
8 : slabdata      2      2      0
biovec-1             397    609     16  203    1 : tunables  120   60
8 : slabdata      3      3    204
bio                  594    690    128   30    1 : tunables  120   60
8 : slabdata     23     23    144
utrace_engine_cache      0      0     32  113    1 : tunables  120   60
8 : slabdata      0      0      0
utrace_cache           0      0     32  113    1 : tunables  120   60
8 : slabdata      0      0      0
sock_inode_cache     256    308    512    7    1 : tunables   54   27
8 : slabdata     44     44      0
skbuff_fclone_cache     75    120    384   10    1 : tunables   54   27
8 : slabdata     12     12      0
skbuff_head_cache   1273   1890    256   15    1 : tunables  120   60
8 : slabdata    126    126     30
file_lock_cache       90    108    108   36    1 : tunables  120   60
8 : slabdata      3      3      0
Acpi-Operand        1563   1656     40   92    1 : tunables  120   60
8 : slabdata     18     18      0
Acpi-ParseExt          0      0     44   84    1 : tunables  120   60
8 : slabdata      0      0      0
Acpi-Parse             0      0     28  127    1 : tunables  120   60
8 : slabdata      0      0      0
Acpi-State             0      0     44   84    1 : tunables  120   60
8 : slabdata      0      0      0
Acpi-Namespace       651    676     20  169    1 : tunables  120   60
8 : slabdata      4      4      0
delayacct_cache      390    756     60   63    1 : tunables  120   60
8 : slabdata     12     12      0
taskstats_cache       28    106     72   53    1 : tunables  120   60
8 : slabdata      2      2      0
proc_inode_cache     461   1656    440    9    1 : tunables   54   27
8 : slabdata    184    184     82
sigqueue             166    297    144   27    1 : tunables  120   60
8 : slabdata     11     11      0
radix_tree_node     3237   7420    276   14    1 : tunables   54   27
8 : slabdata    530    530    128
bdev_cache            62     70    576    7    1 : tunables   54   27
8 : slabdata     10     10      0
sysfs_dir_cache     6280   6384     44   84    1 : tunables  120   60
8 : slabdata     76     76      0
mnt_cache             39     90    128   30    1 : tunables  120   60
8 : slabdata      3      3      0
inode_cache         1252   1548    424    9    1 : tunables   54   27
8 : slabdata    172    172      0
dentry_cache        3909  15262    148   26    1 : tunables  120   60
8 : slabdata    587    587    480
filp                2084   2560    192   20    1 : tunables  120   60
8 : slabdata    128    128     60
names_cache           49     49   4096    1    1 : tunables   24   12
8 : slabdata     49     49      0
avc_node               9     72     52   72    1 : tunables  120   60
8 : slabdata      1      1      0
selinux_inode_security    912   1008     60   63    1 : tunables  120
60    8 : slabdata     16     16      0
key_jar               10     30    128   30    1 : tunables  120   60
8 : slabdata      1      1      0
idr_layer_cache      143    145    136   29    1 : tunables  120   60
8 : slabdata      5      5      0
buffer_head        17426  89712     52   72    1 : tunables  120   60
8 : slabdata   1246   1246    480
mm_struct            196    196    512    7    1 : tunables   54   27
8 : slabdata     28     28      0
vm_area_struct      6119   6336     88   44    1 : tunables  120   60
8 : slabdata    144    144    120
fs_cache             163    413     64   59    1 : tunables  120   60
8 : slabdata      7      7      0
files_cache          189    220    384   10    1 : tunables   54   27
8 : slabdata     22     22      0
signal_cache         262    279    448    9    1 : tunables   54   27
8 : slabdata     31     31      0
sighand_cache        210    210   1344    3    1 : tunables   24   12
8 : slabdata     70     70      0
task_struct          249    270   1392    5    2 : tunables   24   12
8 : slabdata     54     54     12
anon_vma            1965   2175     24  145    1 : tunables  120   60
8 : slabdata     15     15      0
pgd                  246    452     32  113    1 : tunables  120   60
8 : slabdata      4      4      0
pmd                  322    328   4096    1    1 : tunables   24   12
8 : slabdata    322    328     12
pid                  413    808     36  101    1 : tunables  120   60
8 : slabdata      8      8      0
size-131072(DMA)       0      0 131072    1   32 : tunables    8    4
0 : slabdata      0      0      0
size-131072            0      0 131072    1   32 : tunables    8    4
0 : slabdata      0      0      0
size-65536(DMA)        0      0  65536    1   16 : tunables    8    4
0 : slabdata      0      0      0
size-65536             3      3  65536    1   16 : tunables    8    4
0 : slabdata      3      3      0
size-32768(DMA)        0      0  32768    1    8 : tunables    8    4
0 : slabdata      0      0      0
size-32768            16     16  32768    1    8 : tunables    8    4
0 : slabdata     16     16      0
size-16384(DMA)        0      0  16384    1    4 : tunables    8    4
0 : slabdata      0      0      0
size-16384             1      1  16384    1    4 : tunables    8    4
0 : slabdata      1      1      0
size-8192(DMA)         0      0   8192    1    2 : tunables    8    4
0 : slabdata      0      0      0
size-8192              9      9   8192    1    2 : tunables    8    4
0 : slabdata      9      9      0
size-4096(DMA)         0      0   4096    1    1 : tunables   24   12
8 : slabdata      0      0      0
size-4096            298    304   4096    1    1 : tunables   24   12
8 : slabdata    298    304      6
size-2048(DMA)         0      0   2048    2    1 : tunables   24   12
8 : slabdata      0      0      0
size-2048           1284   1302   2048    2    1 : tunables   24   12
8 : slabdata    651    651      0
size-1024(DMA)         0      0   1024    4    1 : tunables   54   27
8 : slabdata      0      0      0
size-1024            351    356   1024    4    1 : tunables   54   27
8 : slabdata     89     89      0
size-512(DMA)          0      0    512    8    1 : tunables   54   27
8 : slabdata      0      0      0
size-512             631    680    512    8    1 : tunables   54   27
8 : slabdata     85     85      0
size-256(DMA)          0      0    256   15    1 : tunables  120   60
8 : slabdata      0      0      0
size-256             610    660    256   15    1 : tunables  120   60
8 : slabdata     44     44      0
size-128(DMA)          0      0    128   30    1 : tunables  120   60
8 : slabdata      0      0      0
size-64(DMA)           0      0     64   59    1 : tunables  120   60
8 : slabdata      0      0      0
size-32(DMA)           0      0     32  113    1 : tunables  120   60
8 : slabdata      0      0      0
size-32             4513   4633     32  113    1 : tunables  120   60
8 : slabdata     41     41      0
size-128            1728   1890    128   30    1 : tunables  120   60
8 : slabdata     63     63      0
size-64             4873   6490     64   59    1 : tunables  120   60
8 : slabdata    110    110     30
kmem_cache           135    150    256   15    1 : tunables  120   60
8 : slabdata     10     10      0

So the only thing I see shooting up higher in memory used is
buffers/cache used seems to grow. But in the slabinfo the ip_vs_conn
active objects grows fast. I watched it grow during the test from 39K
objects to over 2 million objects. Maybe something isn't being reset or
returned to the pool. We are running the OPS patch(one packet
scheduling) because we are using LVS for the udp service DNS. I'm sure
it treats connections differently than the regularly hashed connections
thing. 

If you need anything else let me know. I have a reproducer now that
makes it happen regularly. 

Mike


 

-----Original Message-----
From: lvs-users-bounces@xxxxxxxxxxxxxxxxxxxxxx
[mailto:lvs-users-bounces@xxxxxxxxxxxxxxxxxxxxxx] On Behalf Of Roberto
Nibali
Sent: Tuesday, March 13, 2007 5:26 PM
To: LinuxVirtualServer.org users mailing list.
Subject: Re: LVS performance bug

> I am running the 2.6.18 kernel on our servers with a directord and 2 
> realservers running LVS-NAT for DNS queries. Everything works great 
> but we cranked up the traffic to about 18000 queries sent to the 
> director. Each query is 91 bytes and each response is about 290 bytes 
> for a total of about 5.5 megabytes/second of data.

These numbers make sense ...

> It runs for awhile but then an error comes out "IPVS: ip_vs_conn_new: 
> no memory available."This error comes out about 5-6 times and then the

> server boots. Has anyone else seen this? I tested this back

What's your hardware configuration and how much RAM do you have (I guess
about 1GB?)?

Please send following information when this happens:

cat /proc/slabinfo

> with the 2.4 kernel and and was running 32000 queries and the director

> was up and stable.

Yeah, recently I've seen that the structure to hold the connection
template entries has increased from 128 to 256 bytes. This could be an
explanation.

Best regards,
Roberto Nibali, ratz
--
echo
'[q]sa[ln0=aln256%Pln256/snlbx]sb3135071790101768542287578439snlbxq' |
dc _______________________________________________
LinuxVirtualServer.org mailing list - lvs-users@xxxxxxxxxxxxxxxxxxxxxx
Send requests to lvs-users-request@xxxxxxxxxxxxxxxxxxxxxx
or go to http://www.in-addr.de/mailman/listinfo/lvs-users

<Prev in Thread] Current Thread [Next in Thread>