Несколько вопросов по компьютерным сетям: как заставить видеть друг друга две windows машины? Как именно инкапуслируется реализация OSI?

Во первых, кабель эзернет, но не суть важно. Важно то, что микрософтовский протокол SMB, очень плохо работает с несколькими сетевыми адаптерами.
1) настройте на одном компьютере адрес например 192.168.142.41, а на втором 192.168.142.42.
2) и делатель в настройках сети вырубить на остальных адаптерах протокол Microsoft share чего-то там.

Вы назадавали вопросов на пару тройку глав книги.

Простейшее для понимания https://www.ibm.com/developerworks/ru/library/l-li...
Для более глубокого понимания

Исходный код Linux — прекрасный способ узнать о конструкции драйверов для множества типов устройств, включая драйверы сетевых устройств. Вы обнаружите различия в конструкции и использовании доступных API ядра, но каждый будет полезен либо инструкциями, либо как отправная точка для нового драйвера.

Вопрос - как настроить соединение, чтобы компы (с вин7 и вин10) видели друг друга (не только пинг, но и просмотр папок) без всяких проблем?

Компьютеры не видят друг друга при помощи протоколов. При помощи протоколов могут обмениваться данными разные программы.

Нужно понимать, чем служба "Брэндмауэр Windows" отличается от "Браузер компьютеров", что такое shared resource. Собственно, в одноранговой windows-сети именно от "браузера компьютеров" и зависит видимость в проводнике. Но вместо этого, можно просто напрямую обращаться к сетевому ресурсу по его wins имени (\\сервер\ресурс)

Опять же, нельзя просто включать-выключать DHCP и ждать результата, если вы не понимаете чем занимается DHCP и на что это влияет.

2. Не раз слышал выражение "если протоколы изменятся, не нужно менять всю систему". Объясню свое понимание. Возьмем протокол tcp, изменим его.

Не лезьте в дебри, пока не поняли основы. Модель OSI содержит уровни для того, чтобы изолировать одни, и связать другие. Именно поэтому, протокол TCP работает не только поверх ethernet, но и поверх pptp и поверх кучи других протоколов. Поэтому и можно интернет получить и по ethernet кабелю и по спутнику и по модему, и так далее.

читаю, но не дошел еще пока до материала, который бы ответил на мои вопросы

Олиферы

Так как у вас нет контроллера домена и других сервисов (например WINS сервер) то значит у вас используется режим Рабочая группа, список компьютеров сети машины с windows собирают самостоятельно, т.е. они будут появляться/исчезать в списке не сразу. Имя рабочей группы для компьютеров должно совпадать, настраивается в свойства Компьютер -> Дополнительные параметры системы -> закладка Имя компьютера -> кнопка Изменить.

Чтобы пользователи имели доступ к папкам на другом компьютере в рабочей группе их имена и пароли должны совпадать, иначе будет появляться запрос пароля. По умолчанию, пользователи без пароля доступа к удаленной машине не имеют (это можно изменить в политиках этой удаленной машины). Так же в настройках общего доступа к папке необходимо прописать соответствующего пользователя (или 'Все') и права доступа. Права на файлы и каталоги для файловой системы NTFS так же должны учитывать доступ для этого пользователя.

Компьютеры должны быть подключены в одну локальную сеть, и у них должны быть IP адреса из одной и той же сети, например 192.168.0.1 - 192.168.0.255 при использовании маски 255.255.255.0. Обычно, при использовании роутера все адреса выдаются автоматически (там есть dhcp сервер), кстати windows 7+ могут использовать ipv6 адреса,..

p.s. совет, на windows 7 не выбирайте тип сети 'Домашнаяя', выбирайте 'Сеть предприятия'.

p.p.s. еще совет, исключите русскоязычные имена пользователей (и пробелы в именах), даже если локальная сеть будет работать, проблемы будут вылезать в играх и сторонних программах, не готовых к этому.
-----------
Для приложений в коде почти нет разницы при подключении tcp или udp, это просто флаг в методе, но нужно понимать что udp не дает гарантии что данные поступят в том порядке, в котором они ушли, в т.ч. могут вообще какие то пакеты не прийти,.. это вынуждает разработчиков контролировать это (это цена за более высокую 'производительность' udp по сравнению tcp).

Вам нет никакой необходимости создавать свой ip протокол. Я не знаю, кто вам сказал "если протоколы изменятся, не нужно менять всю систему", но возможно имелись в виду протоколы и форматы общения приложений, например в windows машины передают файлы по протоколу smb а в сетях linux администраторы могут выбрать nfs (поддержка которого в windows прекращена, да и ранее была ограниченной с багами, полагаю намеренно), эти протоколы не совместимы, грубо говоря это то как именно файлы будут передаваться по сети.

wifi и проводной ethernet - имеют различия на канальном уровне, это уровень ниже ip-протоколов, и не имеет никакой разницы для них и выше, данные могут передаваться как угодно, хоть на голубях (в rfc как я помню даже этот вариант был описан), хотя приложения могут учитывать особенности радио канала (скорость и пинги, например).