porque no prueba con un regulador 7805 o cualquier fuente que de 5vcc bien filtrada y prueba el comportamiento como si fuese una pila. Quizas la pila no soporta el consumo.
Que mas tienes conectado al arduino? Me parece que el consumo del BT te hace reiniciar el arduino