Возможно ли реализовать картинку в картинке (ffmpeg \ rtmp потоки) только при активности второго потока?

Если реализовано через NGINX, то через использование stub статистики. У нас задача была другая, заглушку поставить в случае обвала потока с камеры. Но вам тоже подойдет.

[LIVE] rtmp://*/live - Вещание
[CAM1] rtmp://*/cam1 - Камера основная << cam >> ffmpeg >> /live
[CAM2] rtmp://*/cam2 - Камера вторая << cam2 >> ffmpeg >> [ожидание]
[PIP] rtmp://*/pip - Где делается сплит >> ffmpeg cam1 + cam2 >> /live

Вот как оно в вашем случае на словах будет:
Скрипт каждую секунду проверяет на stub наличие и скорость потока cam2. При появлении потока и скорости делается kill процесса ffmpeg [CAM1] и запускается [PIP]
Другого способа пока не нашли, в живую выглядит резкое смена изображения. У нас заглушка, поэтому есть промежуточная точка на ffmpeg pull. Но в вашей задаче она не нужна.

Интересное решение, но у меня 10 потоков, встраивание которых друг в друга может варироваться в любом виде.
Пришел к решению аналогично вашему, только через python/screen/ffmpeg, спасибо.