Как возможно захешировать любой файл, если количество комбинаций самой хеш-суммы ограничено?

количество комбинаций хеш-суммы для каждого алгоритма огромное, но ведь файлов (или даже простых строк) еще больше

Возможных файлов больше. Реально использованных -- гораздо меньше. Т.е. если мы возьмём 10⁹ компьютеров перебирающих 10⁹ файлов в секунду, то чтобы перебрать все возможные значения sha1 потребуется 2¹⁶⁰/10¹⁸ = 10³⁰ секунд, т.е. 4 * 10²² лет, что существенно больше возраста Вселенной.

Действительно, в общем случае коллизий не избежать. Однако, на практике вполне достаточно того что коллизии маловероятны.
Можно посмотреть на примеры использования хешей:
* контрольная сумма — проверка того что большой файл не испорчен или не изменен. Вероятность коллизии ~= 1/2^HASH_LENGTH при случайных изменениях. Хорошие криптографические хеш функции предполагают, что подобрать данные с заданым хешом очень сложно.
* hash map. Коллизия в этой структуре данных это нормальная ситуация. Коллизии отслеживаются и обрабатываются различными способами, и если их становится слишком много пространство хешей расширяют.