скорее всего оттого, что какая-то зараза ресурсы типа битмапов отжирает.
убивай по очереди приложения и смотри, которое из них козлит и после которого ресурсы обратно вернутся в иксы (и от них в систему)

@gour, Понял. Сейчас так попробую. Спасибо!

@gour, Убивал процессы постепенно. Когда убил gnome-settings-daemon память течь перестала. Поменял тему на mist. Теперь все нормуль. Еще раз спасибо!