Понятно что в современных системах финальный УОЗ считается сложно. Но не об этом речь
Они подставили коэффициент, в том-то и прикол. Это не просто хекс значения переведённые в бин.
В том виде, в котором данные лежат в прошивке, они представляются в совершенно в другом виде при переводе из хекса в бин.
ЗЫ
Печально, что заплатив 10 000 рублей за модуль приходится допиливать его напильником.
В саппорт написал, посмотрим что ответят.