tu monitor es crt o lcd? si es crt y estas en 1280x1024 solo usa el refresh lock.. editalo y en la opcion que sale 800x600 ponlo en 100hz.
Y si es lcd "si te soporta 100hz, hazlo igual" pero si no, como normalmente es 75hz, solo edita el refresh lock y en la opcion de 800x600 ponlo 75 "normalmente sale 75 por default