Когда усилились слухи о закрытии Глинской пустыни, о.Серафим поехал на Кавказ. Вернувшись в Глинскую пустынь, о.Серафим решает направить на Кавказ брата Виталия. После рясофорного пострига он отправился в Сухуми, а оттуда в горную местность — Барганы. Кроме старцев об этом тогда не знал никто

В то время в горах подвизался один старый монах по имени Самон, бывший насельник Ново-Афонского монастыря. Узнав о твердом намерении брата Виталия и брата В., пришедшего из Москвы, подвизаться в пустыне, он по-братски принял их, предоставив им на первое время часть своей келии, а также снабдил на зиму картошкой. Они купили в городе по мешку пшеницы и овсянки, высушили две ноши груш и с таким запасом продуктов начали свое пустынническое житие. Келейное их правило начиналось в 4 часа утра и продолжалось до 11. Затем исполняли необходимые дела, обедали, и около 4-х часов начинали вечернее правило. В течение суток прочитывалось: Псалтирь, две главы Евангелия и две главы Апостольских посланий, акафисты Спасителю и Божией Матери, по четкам читали Пятисотницу. О.Виталий отличался крайней нестяжательностью — никогда не носил хорошей одежды, размера обуви не знал — носил, что было. Если монастырские друзья присылали хорошую одежду, он при первом же случае кому-нибудь ее дарил. Это его качество часто создавало неудобства и раздражало тех, кто жил с ним рядом, но не вошел еще в его меру нестяжания. После двухлетнего пребывания в пустыне создались некоторые неизвестные обстоятельства, по которым отец Серафим вызвал брата Виталия в Глинскую пустынь, срочно собрав деньги на его дорогу. Видимо, ему угрожала какая-то серьезная опасность