Плюнул, поставил на домашнем сервере, с AMD e350 и 2 гб. Запустилось, завелось. Судя по логам, инициализация системы происходит при первом обращении к вебморде. Система выжирает примерно 700-800мб при инициализации, а затем откатывается на 250-300 Мб на которых и держится.
Выжирать 800мб для инициализации пустой(!) системы баг-трекинга... Первый признак тырпрайзной джавы. Как обычно говорят: "Если будешь себя плохо вести, то придёт Java и съест всю твою память". По возможности избегайте.