Posta anche una foto del modulo che stai usando. L'ENC, come l'ESP8266, va alimentato a 3.3V ma consuma parecchio, più di quanto il regolatore montato su Arduino è in grado di fornire. Probabilmente il regolatore dell'Arduino originale è di qualità migliore e riesce a fornire più corrente degli altri, per cui la scheda "funzionicchia", ma la soluzione vera è una di quelle che si usano sull'ESP, vedi la mia guida in firma, solo per la parte di alimentazione.
Non è invece necessario adattare i segnali, in quanto l'ENC è 5V-tolerant.