Hola, si todavía tienes la maquina espero que esto te ayude, yo también tengo el mismo problema con el booteo con una usb de 4gbs, pero en la placa 775i65GV que son casi iguales (osea hay dos placas 775i65g y la 775i65gv tienes que leer la placa madre cual de las 2 tienes, en la parte central) , la mia es una versión más vieja y tiene mas problemáticas de fabrica como Agp es Agi que las hace incompatibles con algunas placas de video, la que mencionas si es Agp, solo he podio bootear con una 512mbs con el programa Universal USB Installer, para poder bootearlo e tenido que iniciar por medio de otro cd booteable o CMD y escribo D: luego D:\setup.exe incia todo normal hasta puedo borrar todas las porciones, sino vas a tener que grabar un DVD, si funciona.
En cuanto al windows, puedes usar w7 home premiun sp1 (es mas liviano que ultimate), w8.1 pro (van casi parejos) y w10 (gasta un pelo mas por hora), yo lo estado probado voy por 10061 mas o menos bien gasta algo de sistema, con respecto a tu placa de vídeo, si esta en buen estado, tu monitor esta conectado a la placa de video, no a la placa madre y el booteo de video esta en Agp/pci en la bios, solo instala windows de cualquier forma, anda a administrador de dispositivo en sistema y verifica si reconoce tu placa de video o 2 placa de video, osea puede aparecerte 2 en amarillo (que en tu placa lo solucionaron (en la miá esta activados los 2, solo en la tulla debería aparente una sola, ya que probe con un cliente), si son una o dos presionas en cada una actualizar controlador, una de ellas debe quedar en amarillo lo cual tienes que deshabilitar, para evitar conflictos y la que quede debe decir Tarjeta de video estándar, para que puedas instalar el controlador de video de Ati de la pag wed oficial
http://support.amd.com/es-xl/download buscándolo en modo manual solo All radeon HD series AGP, de todas formas esté es tu controlador para w7 de 32bits (es el de 104mbs)
http://support.amd.com/es-xl/download/desktop/legacy?product=legacy2&os=Windows%207%20-%2032 recuerda solo debes tener un solo dispositivo de vídeo, si te quedas sin controlador, solo usa el mas nuevo que encuentres en su pag, los de vista, w7, w8 sirve en w10, son la misma arquitectura, son compatibles deben activar todos los efecto como el aero y peek, claro teniendo mínimo 128mbs recomendado 256mbs ATI o Nvidia (en mi caso uso Fx5200 con los de vista en w10 jeje xD), no sirven los de xp son diferentes, solamente sirve para reconocer la memoria de vídeo en caso extremo, bueno espero que te sea de ayuda y cualquier duda nos comentas, esta pc la uso para pruebas solamente, Suerte en todo y feliz fin de semana.