Какой формат данных в sql нужен для хранения json целиком?

text, longtext, blob
UPD Это если Вы согласны с ограничением что вы этот json читаете и перезаписываете целиком.
Если хочется работать с ним как со структурой данных - Вам придется либо использовать к примеру postgresql где есть собственно тип данных json, либо какие нибудь nosql решения.

Во-первых, так ли необходимо хранить именно Json?
Во-вторых, что предполагается делать с этим набором данных.
Ну и соответственно Json - машинно читаемый формат данных и соответственно лучше пихать его в BLOB (бинарное хранилище).

Можете посмотреть еще не jsonb в postgresql www.postgresql.org/docs/9.4/static/datatype-json.html если нужно индексировать json поля