О.Иосифа забрали на Лубянку, но отпустили: его вид, красота голоса при разговоре, его необыкновенная дикция — только это помогло выйти оттуда. Вообще его скромность, строгость и непринужденность до конца жизни производили на окружающих большое впечатление. Весной 1935г. на его квартиру снова пришли из органов НКВД, чтобы арестовать, но он уже ушел на работу. Тогда отобрали паспорт у его жены. Старшая дочь предупредила отца не приходить домой. О.Иосиф переночевал у друзей (его прихожан Пискуновых), живших в Лялином переулке, а утром с женой и двумя младшими детьми (Людмилой и Ниной) уехал в Эмбу (Средняя Азия), это спасло его от ареста