А вы какие цели преследуете? bin файл откуда взяли? У каждого производителя роутера своя структура образа прошивки. Если вы говорите о прошивке для обновления через WebUI, то такой файл может быть даже зашифрован и чтобы найти ключ, придется потратить достаточное количество времени.
Это все очень затратно. Но если вы достаточно отважный, то вот примерные шаги:
1) Сначала необходимо узнать формат прошивки, найти по какому смещению в ней лежит rootfs
2) определить тип файловой системы (Если флешка SPI - то скорее всего squashfs, если NAND - jffs2, ubifs )
3) Распаковать фс
4) Найти конф. файл (при условии что он лежит в фс, а не генерируется каким-нибудь скриптом или программой) и изменить его
5) Запаковать обратно в ФС
6) Возможно, что есть проверка контрольной суммы rootfs, то найти где хранится КС и обновить ее.
7) Сформировать новый образ и прошить
Любой программой "категории" Hex Editor, только что вам это даст? Врядли вы можете анализировать машинные коды под неизвестно какой процессор, если пытаетесь открыть файлы прошивок программой UltraISO.
Простой