Ci ho perso un'ora la prima volta, prima di capirlo 
Non conosco benissimo quella libreria, hai provato a vedere se da qualche parte puoi impostargli il microstepping?
Di quanto hai variato la velocità ? A freddo ti direi che per mantenere una velocità di 100 step/sec in modalità full step, con un microstepping 1/8 devi impostare 800 step/sec.
Hai provato a impostare dei range di tolleranza sui segnali analogici?