По-моему android и iphone прекрасно понимают media queries

Так почему бы не использовать их?
Что-то вроде:

@media only screen and (min-width: 240px), only screen and (min-device-width: 240px) {

#more-than-240px {
background:red;
}

}

До момента, когда не умел писать сам - использовал плагин Fancybox.

Сейчас для всех нестандартных анимаций, в том числе и для модальных окон использую Greensock Animation Platform. Ооочень гибкая платформа для работы с анимациями. Вот пример простого модального окна: jsfiddle.net/y6snnwua