Allora, intanto continuo a non capire perché tu voglia mettere un alimentatore esterno per un semplice potenziometro, e non usare i 5V di Arduino. Un potenziometro diciamo da 10k ohm collegato tra 5V e GND consuma solo 0.5 mA quindi accettabilissimo. A quel punto il polo centrale lo mandi ad A0 e stai a posto (il tuo problema iniziale era la mancanza di massa comune).
Ora torniamo al tuo problema. A me non è (fortunatamente) mai capitato quel messaggio, ma "a naso" direi che c'è qualche problema con il tuo Arduino Nano, o di bootloader o hardware.
Se fai una ricerca dell'errore puoi trovare varie pagine e topic dove se ne parla, ad esempo vedi qui:
https://forum.arduino.cc/index.php?topic=431294.0
Purtroppo non mi sembra che sia in buona salute, comunque guarda il post #9 di quel thread. Nel frattempo al tuo posto ordinerei un altro Arduino.