Por lo que has dicho no parece ser problema de codecs.
Podria ser un problema de configuracion de hardware o del reproductor. Para descartar el reproductor, bajate otro programa que reproduzca videos como el quick time, twins video player, divx player, power dvd, etc.
Verifica si tu hardware no comparte IRQs. Si lo hacen trata de que no lo hagan. Prueba intentar cambiar los IRQs manualmente en el device manager, o cambiando de PCIs a uno que no tenga un IRQ compartido o un IRQ distinto al que usa el AGP, puedes limitar tambien los IRQs desde la BIOS.
Por ultimo que mainboard tienes? Si es una basada en VIA, bajate los ultimos drivers VIA 4in1.