Можно сделать как-то так:

ps -eo uid,pmem | grep "UID требуемого пользователя" | awk '{ SUM += $2 } END { print SUM }'

Эта несложная комбинация покажет суммарное использование ОЗУ конкретным пользователем.
Дальше можно написать простенький скрипт, который перебирал бы всех пользователей и записывал результат в файл, для последующего разбора.
PS. Есть, как минимум, одно "но!". Если искомый uid будет меньше сотни (какой-нибудь системный пользователь), то grep может дать погрешность (возможно даже сильную) при выборке.