pinMode(myStepper, OUTPUT); // weiß nicht ob das hier so stimmt oder überhaupt nötig ist
myStepper ist ein Zeiger, also stimmt der pinMode - Aufruf sicher nicht. Gibt das keine Fehlermeldung?
digitalWrite(myStepper->(5,FORWARD,SINGLE),HIGH);
sieht mir auch seltsam aus.
Was wäre mit myStepper->step(5,FORWARD,SINGLE);
Adafruit liefert doch üblicherweise ordentliche libraries mit Beispielen. Die solltest du doch erstmal unverändert ans Laufen kriegen, und dann möglichst verstehen und (wenn nicht) nur vorsichtig verändern.
Um deine if - Bedingungen hab ich mich jetzt noch gar nicht gekümmert 