Da bist du aber vollkommen mit deinen Datentypen verwirrt. Das mit dem String ist einfach nur falsch.
Hexadezimal ist nur für dich als Programmierer gedacht, damit Zahlen lesbarer werden. Für den Controller ist es egal. Für den ist alles Binär.
Das ist das gleiche:
byte test[] = { 100, 200, 10 };
byte test[] = { 0x64, 200, 0b00001010 };
Du kannst Dezimal, Binär und Hex beliebig mischen. Da muss man nichts umrechnen