El 7805 con un par de capacitores de 100uF a la entrada y 470 o 1000 a la salida debería andar sin problemas para alimentar esos componentes de audio. si con eso te hace ruido probá el modulo usando 3 pilas alcalinas, si aun tiene ruido es un problema del modulo, de esos módulos bluetooth económicos he probado varios y ninguno me ha funcionado correctamente, unos pocos han funcionado luego de agregarle filtrado extra al propio modulo, pero soldar esos diminutos componentes no es para cualquiera, otros no he podido acomodarlos, por mas filtrado que se le agregue hacen un ruido de fondo parecido a los antiguos modem telefónicos. Probá con filtrado en el 7805, pero no creo que eso lo solucione.
Saludos