Проблема решилась изменением правил, чтобы они ставились вначало правил
/sbin/iptables -t filter -I INPUT 1 -s $ip -j QUEUE
/sbin/iptables -t filter -I FORWARD 1 -s $ip -j QUEUE
/sbin/iptables -t filter -I FORWARD 1 -d $ip -j QUEUE
/sbin/iptables -t filter -I OUTPUT 1 -d $ip -j QUEUE
/sbin/iptables -t nat -A POSTROUTING -s $ip -j SNAT --to-source $ip_out
Схема сети следующая
Comp1 -> ASUS -> VPN (IPSEC + Racoon) -> Server
Походу когда снимается трафик через libcap - stargazer его не видит, т.к. он инкапсулируется. Обычный трафик выглядит так TCP/IP, UDP/IP, ICM