По преставлении блаженного многие стали приходить ко гробу его. Блаженный Иоанн жил в городе Ростове в дни царя Ивана Васильевича Грозного. Откуда он был родом, неизвестно. В Ростове он жил в образе юродивого Христа ради, не имел постоянного пристанища и только иногда заходил для отдыха к одной благочестивой вдове или к своему духовному отцу, всехсвятскому священнику Петру. В дни его находился в Ростове и беседовал с ним, как и со знаменитым борисоглебским подвижником святым Иринархом, блаженный юродивый Иоанн, по прозванию Большой Колпак, ушедший потом в Москву и погребенный здесь у Покрова на рву.

Блаженный Иоанн Ростовский всегда носил с собой и читал пергаменную книгу - Псалтирь на латинском языке. Неизвестно когда и где он изучил этот язык.
Кончина блаженного Иоанна последовала 3 сентября 1580 года. Тело его, заботами упомянутой благочестивой вдовы и духовного отца его священника Петра, погребено было подле церкви святого Власия за алтарем. Погребение сопровождалось знамениями: поднялась сильная буря, засверкали молнии и загремел гром.

По преставлении блаженного многие стали приходить ко гробу его, пели в церкви молебны Господу Богу, Пресвятой Богородице и Предтече Иоанну, просили святить воду и пили ее, смешивая с песком от гробницы блаженного Иоанна, иные мазали ею свое болящее тело и по своей вере получали исцеление от различных болезней.
Слыша о чудесах при гробе блаженного Иоанна, Ростовский митрополит Кирилл, удрученный старостью и пораженный тяжкой болезнью, не владея рукой и ногой, повелел нести себя во Власьевскую церковь к образу святого Иоанна и ко гробу блаженного Иоанна Власатого. Во время молебна, при чтении святого Евангелия, больной святитель сразу почувствовал исцеление от болезни, стал владеть рукой, так что получил возможность вновь священнодействовать и править Ростовской митрополией, и прожил еще год и пять месяцев.

При гробе блаженного Иоанна совершалось много чудесных исцелений с верой притекавших  больных. Чудеса эти записывались и о них сообщалось царю Михаилу Феодоровичу.

Одним благочестивым купцом, видевшим над собой и над домом своим милость Божью и многие исцеления, над гробом блаженного поставлена была церковь.
В настоящее время мощи блаженного Иоанна почивают под спудом за левым клиросом в каменной церкви Толгской иконы Божией Матери с приделом во имя святого Иоанна Предтечи и священномученика Власия, построенной в XVIII столетии.
При гробнице издавна находится большой кипарисный крест блаженного и пергаменная Псалтирь, писанная красивым готическим письмом. В одной из записей в рукописи значится, что святитель Димитрий Ростовский, обозревая по вступлении на Ростовскую митрополию в 1702 году ростовские храмы, остановил свое внимание на этой Псалтири, заметил ее ветхость, повелел вновь переплести и хранить по-прежнему на гробе блаженного. Другая запись на латинском языке гласит: "С величайшим почтением держал я эту книгу в своей руке и целовал. Нил, архиепископ Ярославский. Мая 14 дня, 1856 года".