surbyte:
Que te parece un esquema de como has conectado motor y enconder.
Quien los alimenta? El Arduino? Si es el arduino, el enconder puede ser pero el motor no.
Tu dirás.
este es el diagrama de mi conexión 
los 5V del encoder estan conectados al arduino al igual que la tierra del encoder.