Alguien tiene algún tutorial de como usar un vps(linux) como proxy para filtrar ataques?

Como proxy o firewall? Te recomiendo añadir reglas en IPtables para filtrar los DDos

Deberás de tener enrutada tu máquina: Post aquí o bien apuntar las DNS desde el cliente al proxy supongo que también valdría sería cuestión de probar.

Squid - Proxy

sudo aptitude install squid3

sudo gedit /etc/squid3/squid.conf

sudo /etc/init.d/squid3 start

Un post completo: Click aquí

Tienes que ver si tus máquinas están en la misma red LAN si las compras en la misma empresa las dos puede que te faciliten esa información:

Deberás de activar IP Foward:
echo 1 > /proc/sys/net/ipv4/ip_forward

Para verificar que está on utiliza el siguiente comando:
cat /proc/sys/net/ipv4/ip_forward

Luego deberás de crear una tarjeta virtual con una ip estática en el linux por ejemplo 192.168.0.1 siendo la de windows 192.168.0.2 para modificar las tarjetas de red es lo siguiente:
sudo nano /etc/network/interfaces

Último paso es crear el script de enrrutamiento -> Tutorial click!