Du hast den falschen Teil Deines Codes geändert. Im ISR reicht es, das "volatile" zu streichen, die Abschaltung der Interrupts muß vor
Serial.print(counter);
erfolgen.
Zudem schließe ich mich der Meinung an, daß Du garkeinen BLDC hast, sondern einen DC Motor mit eingebautem Encoder.