Das kann ich so nicht bestätigen. Der Arduino ist in der Lage, den Multiplexer mehrere zehntausend Mal pro Sekunden umzuschalten und den (digitalen) Eingang zu lesen. Da alle Bedienelemente vom Menschen ausgelöst werden, genügen bereits 1000 Checks pro Sekunden vollauf, um die Bedienelemente auszulesen. Auch das Multiplexen des Displays sollte möglich sein, da Du ja genau weisst, wann die Pins benötigt werden (wenn etwas geschrieben wird) und wann nicht. Allerdings müsstest Du dort 2-Weg-Multiplexer haben, was der von Dir genannte Chip aber sein sollte.
Ich würde also 2 Multiplexer-Chips nehmen (damit je ein Dreh-Encoder wirklich gleichzeitig ausgelesen werden kann). Mehr Leitungen brauchst Du nicht, da die Pins der Adressleitungen auf beide Multiplexer geführt werden können. Damit brauchst Du 5 Pins (3 Adressleitungen und 2 Common-Pins) und kannst damit 10 Pins aus Deiner Liste ablösen.