Ach, ich doof! 
Mach statt
out = out*10 + in[t];
out = out*16 + in[t];
und out sollte zur sicherheit eine unsigned int sein...
Ach, ich doof!
Mach statt
out = out*10 + in[t];
out = out*16 + in[t];
und out sollte zur sicherheit eine unsigned int sein...