Hola,
No es ningun defecto o problema, simplemente ese pin esta por default como OUTPUT y HIGH, mientras que todos los otros pines estan por default como INPUT. Si deseas que no encienda cambialo a LOW en el setup y listo, no hay que darse mala vida por eso.
Saludos.