JMeter позволяет тестировать не только веб-приложение. В JMeter можно создавать очень сложные по логике тесты. JMeter позволяет запускать распределенные тесты, про Танк я либо такую возможность не заметил, либо её нет. С Танком легче работать стороннему коду. Из минусов, имхо, это Java в одном случае и Python в другом, соответственно, "цена" нагрузки у JMeter выше.