Hyperterminal siempre envía ASCII, por lo que estás enviando en hexadecimal:
0x30 '0'
0x78 'x'
0x46 'F'
0x37 '7'
Para enviar los valores hexadecimales, tienes que enviar el carácter correspondiente a dicho valor y es bastante lío.
Lo más fácil sería enviarlo desde el Arduino como te he dicho, aunque para leer la respuesta tendrías que tener un puerto serie conectado al pc y otro (el software serial) al sensor y lo que te envíe el sensor redireccionarlo al PC para poder verlo sin complicaciones.
xon/xoff es un rts/cts pero por software en vez de hardware, en la wikipedia hay un explicación:
http://en.wikipedia.org/wiki/Software_flow_controlUn saludo