Какую базу данных использовать?

Какую БД использовать зависит от того, как Вы собираетесь использовать эту БД.

Преимущественно выборка/чтение или обновление/добавление записей?
Выборка/Чтение: по одному или нескольким полям?
Есть ли общие свойства записей из которых можно делать группы/деревья (домен, линк, размер изображения и т.д.)?

Откуда (как) насчитали 150 000 RPS?!
Может проще всё в оперативку закинуть и/или haproxy подключить для горизонтального шардинга?

Пока - задача полностью абстрактна...

По текущей информации:
Использование базы mysql на быстром SSD будет вполне достаточно. (лимиты на таблицу)

Связь с БД будет осуществлять через API сайта. База должна выдерживать огромные нагрузки, ориентировочное количество строк в базе: 5-10 млрд, число обращений в сек.: около 150к.

Предлагали использовать BigTable от Гугл, но информация о нем есть только на сайте, поэтому хотелось бы услышать мнение людей кто использовал ее на практике. Есть еще вариант использовать Firebase Firestore, но там ограничение на размер документов, что мне не подходит.

Все ж зависит от того, нужно вам искать или нет.
Так то - достаточно просто в текстовые файлы писать.

СУБД - это про поиск.

Вполне себе рядовая нагрузка для какого нибудь банального PostgreSQL.
Если же простой поиск по строкам - лучше Elastic.
Если же большая нагрузка на запись и хочется меньше железа - InfluxDB, Aerospike, Tarantool (с vinyl, не memtx)