Чем проще всего отсортировать файлы в папке по формату а не расширению?

Если у вас Windows 10 и вы не против извращений, то можно использовать подсистему Windows для Linux:

user@DESKTOP:/mnt/d/TEMP$ find .
.
./archive.zip
./document.pdf
./picture.jpg

user@DESKTOP:/mnt/d/TEMP$ for F in *; do T=`file -b --mime-type "$F"`; mkdir -p "$T"; mv "$F" "$T/$F"; done

user@DESKTOP:/mnt/d/TEMP$ find .
.
./application
./application/octet-stream
./application/octet-stream/archive.zip
./application/pdf
./application/pdf/document.pdf
./image
./image/jpeg
./image/jpeg/picture.jpg

Можно в самом проводнике в поиске вбить .jpg он отобразит все файлы с таким расширением, нажать ctrl+A, это выделит все файлы и дальше переносите их в другую папку.
Если хотите более автоматизировано делать это, то гуглите BAT-файлы:
copy *.jpg D:\oldfiles\*.jpg - копирование всех файлов с расширением jpg из текущего каталога в каталог D:\oldfiles

Total Commander или Far.
Это же классика.