Por el bajo consumo, en vez de utilizar los LM7805 (encapsulado TO-220), se utilizan los LM78L05 (encapsulado TO-92), que son mas pequeños.
Por otro lado, si usas la placa de Arduino, alimentala desde el conector jack con una fuente igual/superior a 9V.
Si lo vas a utilizar por fuera de la placa de Arduino, entonces coloca lo mas cerca de la alimentacion del microcontrolador un capacitor de 100nF y uno de 10uF.
Ya si quieres algo mas elaborado, puedes emplear capacitores, diodos y bobinas, pero ya es demasiado eso