Was ist mit den Analogeingängen? 6 von denen haben auch Funktion als digitale I/Os. Verwendest du die schon anderweitig? Nicht vergessen, ein ATmega*8, zu denen auch der Chip der gängigen Arduinos gehört, hat nicht nur 14, sondern 20 I/Os.
Für das Display (falls es ein paralleles LCD a la HD44780 ist) würde sich ein Schieberegister besser eignen als ein Multiplexer.
Das Quadratursignal eines Drehgebers verhält sich wie ein Gray-Code, daher ist zeitliche Parallelisierung nur dann notwendig, wenn die Abtastrate nur unwesentlich schneller als die maximale Drehgeschwindigkeit ist. Ein serielles Auslesen der beiden Kanäle ist also kein Problem, wenn der Encoder gerade während eines Übergangs abgetastet wird wird er einen der beiden Zustände annehmen. Da dein Multiplexer aber sowieso zwei Leitungen parallel durchleitet, ist das relativ egal, da kannst du ruhig die zwei Encoderkanäle parallel durchjagen.