Il LED del Pin 13 viene pilotato da un amplificatore operazionale in configurazione inseguitore di tensione. QUesto circuito ha un altissima impedenza di entrata che vuol dire che basta una corrente bassisima (certi modelli anche un millonesimo di µA). La corrente parasita di un pin, anche se configurato come entrata puó bastare perche il Amplificatore operazionale lo veda come HIGH e percui pilota il LED.
Nel Tuo caso il LED acceso puó essere fastidioso ma come funzionamento non disturba.
Se Ti disturba metti il Pin come uscita LOW oppure una ressitenza Pulldown (tra pin e massa) di 1MOhm.