Как динамически загрузить DLL из памяти в QT?

Есть способ: выделяете память, эмулируете работу загрузчика Windows, передаете управление. Только так делать плохо.

Все эти функции необходимы чтобы отобразить образ файла в адресное пространство и провести динамическую линковку. Если у вас уже образ DLL находится в памяти, вам не нужно его отображать и эти функции просто не нужны. Необходимо слинковать таблицу импорта (если там что-то есть), это не сложная операция, и пометить память как исполняемую через VirtualProtect. Но место, разумеется, надо выделять так, чтобы библиотека была загружена по границе страницы, например через VirtualAlloc.

с QT это никак не связано.

Было найдено решение данного вопроса: https://github.com/fancycode/MemoryModule
Есть только один нюанс, библиотека не загружается если имеются чисто виртуальные функции.