Как пересобрать и добавить диск в raid?

А может стоит их оставить отдельными сущностями, а второй винт использовать под резервные копии?
Или используя LVM отпилить от винта 2ГБ, а вторые 2ГБ пустить на бекап?
Вариантов много.

переходите на "железные" реализации RAID

Кажется, используя ZFS/MDADM/LVM, можно создать страйп (RAID0) из двух дисков по 2ТБ, создать страйп из диска 4 ТБ и объединить эти страйпы в миррор. Объем будет 4ТБ.
С тем же успехом можно создать Raidz в ZFS (zpool create poolname raidz uuid1 uuid2 uuid3) из трех дисков, где диск на 4TБ будет уравнен к 2ТБ, но суммарный объем рейда будет всё те же 4ТБ.
2ТБ * 3 - 2ТБ = 4ТБ
Это всё выше в том случае, если вам необходима отказоустойчивость.

Зачем вообще нужен сей массив? Объединять RAID0 в еще RAID1 поверх изначально проигрышная затея - ни скорости, ни надежности, только лишняя трата времени. Такое ощущение что просто хочется "все файлы в одной папке", ну так это и без RAID'а вообще можно сделать. Если нужна скорость - пляшите от объема, наверняка SSD купить да бекапить её на какие-то из этих винтов будет самым выгодным решением. Если надо порядка 4Тб данных на быстром доступе то как минимум купить еще 2 таких винта хотя бы под RAID5 тоже проблемой быть не должно.