Это возможно.
Делите видео на две части (длительность каждого должны соотноситься приблизительно как соотносятся производительность кодирования на cpu и gpu), и запускайте их кодирование сразу двумя процессами, с разными настройками использования cpu и gpu соответственно. По окончанию их работы, сливайте результат без перекодирования в один файл (некоторые контейнеры это позволяют делать простым копированием, например ts).
Как вы ведите, таким образом можно распараллелить обработку видео не только в пределах одной машины и ее видеокарт (если софт не может или к примеру gpu разных производителей), но и нескольких. Замечание - каждая часть должна быть длиннее и кратна расстоянию между ключевыми кадрами (обычно это порядка 4-10секунд), это не обязательное но желательное для эффективности результата.
Средний
Средний
