GH_Blackout:
ho capito
quindi avrdude.conf serve solo per compilare l'HEX dello sketch
mentre boards.txt serve x sapere quali signature e configurazioni per il caricamento del bootloader
Si, hai capito esattamente l'opposto 
Boards.txt contiene informazioni che definiscono il modello di Arduino, il micro utilizzato, il clock, i fuse, viene usato esclusivamente dall'IDE, alcune informazioni sono poi trasmesse, dall'IDE, a gcc per la compilazione e avrdude per la programmazione.
Avrdude.conf contiene informazioni solo sul micro ed utili esclusivamente alla sua programmazione, viene usato esclusivamente da avrdude.
come si compila il bootloader?
Utilizzando la sua make oppure da AVRStudio, quest'ultima richiede padronanza di AVRstudio e le sue toolchain.
devo prepararmi una toolchain come si fa per l'n800?
La toolchain è inclusa nell'IDE di Arduino, hai a disposizione avrgcc e la libreria avrlibc che sono utilizzati per compilare gli hex per Arduino, in alternativa puoi usare AVRstudio e relativi addon/toolchain.