Иоанн был сыном благочестивых родителей и получил христианское воспитание и образование. Когда мать и отец его умерли, Иоанн на оставшееся наследство устроил монастырь и сам сделался его настоятелем. Ему было всего 18 лет, но он был уже опытным в подвигах, добрым и искусным игуменом. По прошествии десяти лет Иоанна посвятили в епископа города Колонии в Армении, и он хорошо управлял христианами, являя для всех пример строгой добродетельной жизни.
Однако душа Иоанна стремилась к совершенному очищению себя от страстей: Богу это было угодно, и Иоанн тайно сел на корабль и уплыл в Палестину. Там под видом нищего он прожил несколько дней, усердно моля Бога наставить его. И Господь послал ангела Своего, который привел Иоанна в монастырь Саввы Освященного. Преподобный принял его и, не зная, что Иоанн епископ, направил его на низкие работы. Бог скрыл от прозорливого Саввы, что новый инок – архиерей, ибо благоволил смирению Иоанна и его стремлению к совершенству.
Иоанн с покорностью и усердием предал себя в полное послушание настоятелю и несколько лет провел в тяжких трудах: варил пищу, работал на стройке, носил на плечах различные грузы и прислуживал странникам. Наконец святой Савва благословил его на безмолвие. Иоанн проводил в своей келье пять дней, ничего не вкушая и никому не показываясь, а только молитвенно беседуя с Богом. По субботам же и воскресеньям он являлся на церковную службу и обедал в эти дни с братией.
Три года проведя в таком подвиге, Иоанн стал поистине достоин священства, хотя и имел уже сан епископа. Тогда Савва отвел Иоанна к патриарху в Иерусалим, чтобы посвятить его в священника, и пришлось Иоанну поневоле раскрыть свою тайну. Но он упросил преподобного Савву никому о том не рассказывать опять стал безмолвствовать, но теперь уже никуда не ходил и ни с кем не общался, кроме Бога, Которому непрестанно молился.
Прожив после этого много лет, преподобный Иоанн Молчальник сподобился величайших дарований от Бога и совершил замечательные чудеса. Незадолго до своей смерти он призвал учеников своих, Иоанна и Феодора, положил на голый камень семя смоковницы и сказал: „Если по Божией благодати семя это на камне даст ростки, пустит ветви и принесет плод, то знайте, что Бог меня примет в Царство Небесное". И на голом камне выросло дерево и принесло плод.
После этого святой Иоанн вскоре скончался, и душа его отошла ко Христу, Спасителю нашему, Ему же слава вовеки. Аминь.