Как реализованы параллельные вычисления в многоядерных процессорах?

Многоядерность сама по себе никак не связана с вычислительным конвейером. На каждом ядре свой конвейер и его работа не зависит от других ядер.

Суть многоядерности в том, что каждое ядро выполняет свой вычислительный поток. На N-ядерном процессоре в каждый момент времени параллельно выполняются N потоков.

Поэтому количество ядер процессора может влиять на производительность только многопоточных программ. Любая программа, в которой не предусмотрена многопоточность и распараллеливание нагрузки между потоками, не получит никакого преимущества в скорсти при апгрейде одноядерного процессора до 16-ядерного (при той же тактовой частоте).