По возврату решил наконец эту задачу. Причиной является несоответствие версий калибровок. У автомобиля:
SW upg.: BH52-12K532-VCE
SW ver.: 4338
Тюны доступны на BH52-12K532-VBE и BH52-12K532-VBG версии 4336. В описании тюнов про это ни слова. Если залить калибровки этих версий (даже оригинал!), машина не заведётся с ошибкой P0602.
Были проанализированы оригинальные калибровки разных версий и выработано работающее решение.
1) В дампах затираем 0xFF область 000000-2FFFFF, чтобы работать только с калибровками (Kess по OBD читает и пишет только их)
2) По оригиналу считанных калибровок и оригиналу калибровок, по которым был сделан тюн, создаём дифф
3) Применяем этот дифф как патч на соответствующую тюненую калибровку - т.е. по сути меняем версию до требуемой. Различия между версиями и различия оригинала и тюна не пересекаются, я проверил. Можно было бы создать патч между оригиналом и тюном, но там изменений больше, отслеживать неудобно.
4) Контрольные суммы. Не знаю, пересчитывает ли их Kess, поэтому я сделал на компьютере WinOLS-ом. Галочку Calculate compatibility test checksum ставить не надо.
5) Файл готов, можно заливать.