Puedes empezar por lo que más vas a notar si sueles jugar a menudo: la tarjeta gráfica. HD5750 o 5770 son buenas opciones. Lo siguiente sería un procesador Phenom II x2 o x4 dependiendo de tus necesidades y al final cambiar placa+memorias por DDR3.

Upgradear memorias de DDR2800 a DDR21066 no vale la pena por el precio en las que están ahora.