Scrivo solo questo e poi vado a nanna, ci ho gli occhi a pampinedda. 
Il 23017 dovrebbe essere idendico al quello che usi tu, con la differenza che il tuo dialoga tramite ISP, mentre il "017" tramite I2C.
Leggendo il manuale del 23017 ho notato che è possibile farlo funzionare in due modalità, 8 bit o 16 bit, ora non ho la lucidità per indagare e i risultati sarebbero pessimi, ma vado per intuito, cioè se è impostato per 16 bit ed invii 16 bit di cui riempi solo i meno significativi, gli altri non si accenderanno, se invece è in modo 8 bit devi inviare due byte distinti, ma qui c'è di mezzo la libreria, io al tuo posto avrei estrapolato il codice sensibile da quella lib e scritto uno sketch con le istruzioni indispensabili per eccitare tutti i 16 relè così da vedere cosa cambia tra modo 8 bit e 16 bit.
Ciao.