Potresti provare con del cavo schermato con fili da 0.22, calza a massa e fili come comandi ... ma 5 metri mi lasciano un po perplesso, se dovessi farlo io, e non potessi usare una seconda MCU come "scheda rele' intelligente" da far comunicare in RS485, probabilmente userei dei buffer o dei driver (transistor open-collector filtrati o roba simile) anche lato arduino ... perche' 5 metri di cavo che passano in un muro, sono pur sempre una discreta antenna, anche usando cavetto schermato, la stessa calza schermo potrebbe captare disturbi e trasferirli alla logica, se la logica non avesse un'ottima connessione a massa ...
Certo, se poi la Mega e' in una scatola metallica murata e la scatola fa anche da massa a cui collegare la calza della schermatura, il problema si riduce di molto ...