Какие критерии ТЗ для дизайнера?

Сразу disclaimer: я не дизайнер, но достаточно часто принимаю их работу. Все что ниже - моё imho.

Хотелось бы узнать как правильно составить ТЗ именно с технической точки зрения, то есть что бы потом дизайн/PSD макет можно было отдать верстальщику и он не сказал, а где здесь...?

Главное что должно быть в ТЗ - описание функционала и бизнес сценариев.
Есть мнение что лучше не использовать размытие шрифтов, т.к идеально их сверстать кроссбраузерно невозможно.

Например был такой вопрос от дизайнера: Какую ширину контента делать ? 960 или 1000?

Правильный ответ 960 или 990, т.к 1000 в некоторых старых браузерах может не вписаться на экран 1024x768 при наличии вертикальной прокрутки. Впрочем вопрос достаточно холиварный.

Какие критерии должны быть к обычным фиксированным макетам?

Кроме очевидных вещей (должен быть реализован весь запрошенный функционал) - крайне полезно посмотреть как ведет себя макет в случаях:
a) если контента нет вообще (к примеру как выглядит лента новостей если новостей нет) - очень часто забывают отрисовать.
b) если контент есть, но строковые величины крайне велики (заголовок новости 1000 символов) - очень часто рисуют все красиво, но в реальности контента на порядки больше и все едет, либо появляется обрезка, там где её быть не должно.
c) если контент есть, но строковые значения крайне малы. (заголовок новости 5 символов)

Какие критерии должны быть к адаптивным макетам/мобильным?

Все изложенное выше + по сути нужны N вариантов дизайна под N разрешений которые Вы считаете нужным поддерживать.
Делая адаптивный дизайн - нужно понимать что сделать качественный адаптив - это примерно x2-x4 к стоимости услуг дизайнера. Адаптив сделанный тяп-ляп бесполезен и даже вреден.
Отдельно про мобильную версию: изучите свою аудиторию. Если Ваши клиенты пользуются современными смартфонами - мобильная версия нафиг не нужна, лучше сделайте мобильные приложения под ios/android.

Что касается элементов дизайна, эффект кнопок? вдавливание кнопок что бы оно выглядело как кнопка а не как картинка. Это чья работа? дизайнера или верстальщика?

Дизайнер обязательно отрисовывает состояния кнопок, ссылок, пунктов меню итд.
Делать это в каждом макете не нужно, обычно это делается отдельно.