Estimado JP la placa nvidia es optima para capturas de tv o aparatos digitales, mas el vhs es analógico y esa es básicamente la falla para capturar con esa tarjeta debes ponerlo en configuración VCD MPEG1 352 x 288 que es la calidad original del vhs pues si lo pones como dvd sube automáticamente el bitrate o transferencia de datos de 1150 (VCD) a 6.000 (DVD) y te vienen esas complicaciones, una vez que lo pases como vcd MPEG-1 pues si quieres lo puedes editar en el pc a formato dvd pero no ganas calidad o nitidez, yo los paso con capturadora pinnacle creo es más segura que nvidia y trae su propio software puedes ver tutorial en
http://www.configurarequipos.com/doc300.html espero te sirva, saludos