他年輕時便削髮為僧，生命中的大部分時光是在謝爾吉聖三一修道院中度過的。
歷史上關於“安德烈·魯布廖夫修士”的最早記載出現於1405年，文中寫道，當時他正與來自戈羅傑茨的費奧凡·格列克和普羅霍爾—道，“書寫”(即繪聖像和壁畫)莫斯科克里姆林宮的報喜教堂。安德烈的名字被列在畫師的最末，因為他在眾人中神職最低(只是個普通修士)，年齡最小。
在修道院中，他潛心鑽研了同時代進步思想家，如修道院創始人謝爾蓋及其弟子的哲學著作，並有機會與他們直接交流。
或許，安德烈·魯布廖夫在聖三一修道院期問，趕上了謝爾蓋·拉多涅日斯基去世(1392年)，尼孔·拉多涅日斯基繼任院長。史料表明，他與好友及一直的合作夥伴丹尼爾·喬爾內一道，在1408年為弗拉基米爾的聖母安息教堂繪過聖像和壁畫。當時最珍貴的作品，包括3幅禱告聖像畫以及1幅節日遊行專用聖像畫，被收藏在特列季亞科夫畫廊中。
教堂西牆上以“可怕庭審”為主題的圖案，氣勢恢宏，部分壁畫得以保存至今。
安德烈·魯布廖夫流傳至今的節日遊行聖像畫共7幅：“報喜”、“洗禮”、“耶穌誕生”、“奉獻節”、“主易聖容”、“乞丐復活”、“進入耶路撒冷”。與其他畫師的作品相比，魯布廖夫的作品筆法綿軟、構圖和諧。在描繪福音場面時，他加入了個人的特殊理解，賦予了畫作靈性和人性的溫暖。
據推測，禱告儀式聖像畫都是由魯布廖夫統一構思並在學生幫助下完成的。聖徒形象都是一群睿智長者、心平氣和、品德高尚。其中以耶酥、先知約翰、聖徒保羅的形象最為豐滿。顯然，他們是魯布廖夫親自完成的。而節日遊行聖像畫中，他只創作了一幅——“升天”。
由此看來，魯布廖夫在這—時期創作的聖像畫，是對東正教拜占庭“弗拉基米爾聖母”形象進行的自由式模仿。聖母懷抱聖嬰，色調柔和，嫻靜纖美，流露出母性的光輝，她因為預感到愛子命運多舛而心生哀愁。
1918年，茲韋尼哥羅德發現了三幅禱告儀式聖像：“救主”、“天使長米哈伊爾”和“聖徒保羅”，估計是魯布廖夫在15世紀10年年代的作品，尤其出色的是“茲韋尼哥羅德救主”。
據推測，畫家參與了茲韋尼哥羅德郊外薩維諾一斯托羅熱夫斯基修道院基督誕生教堂的裝飾工作。留傳至今的少量聖堂壁畫很有魯布廖夫的風格。
1424-1427年期間，魯布廖夫應修道院院長尼孔的邀清，與丹尼爾·喬爾內以及若干不知名的助手一道，在謝爾吉聖三—修道院的聖三一教堂工作。他是教堂彩繪及聖像壁工程的負責人。教堂壁畫已經無跡可尋，只留下來3層高的聖像壁。
在此期間，魯布廖夫創作了三位一體聖像，它堪稱十五世紀世界繪畫藝術的瑰寶。這一聖像是魯布廖夫為紀念謝爾蓋·拉多涅日斯基而創作的。在庫利科夫戰役期間．謝爾蓋·拉多涅日斯基從精神上鼓舞了俄羅斯人民的士氣。在他的不懈努力下，內訌得以避免，俄羅斯大公們同仇敵愾，抗擊韃靼軍隊。這幅聖像畫珍藏在1411年建成的聖三一教堂中。
在丹尼爾死後，安德烈來到莫斯科安德羅尼科夫修道院，1428年以前，他—直在完成自己的最後作品一一救主教堂的彩繪工作(如今只保留下很少部分)。1430年1月19日，他在安德羅尼科夫修道院與世長辭。
古俄羅斯的傑出畫師，包括季奧尼西，都深受魯布廖夫作品的影響。
在1551年召開的百條宗教會議上，魯布廖夫的聖像畫被定為范仁。
20世紀，為修復魯布廖夫作品、考證其藝術生平，人們做了大量工作。也因而形成了極具浪漫色彩的“魯布廖夫神話”。人們從瀰漫著匿名、禁慾、超個人主義之風的中世紀創作中，挖掘出這位具有英雄主意義色彩的畫家。這一神話最完美的體現是塔爾科夫斯基拍攝的電影《安德烈·魯布廖夫》(1971年出品)。影片中。當年歷史的極端嚴酷與畫家形象的溫和形成廠強烈的反差。
自17世紀起，魯布廖夫在地方上被當作聖者崇拜。如今，他已正式成為全俄羅斯的聖徒，俄羅斯東正教會於1988年宣布他為聖徒，每年7月4(17)日，教會都會紀念他。
1959年，安德羅尼科夫修道院開設了安德烈·魯布廖夫紀念館，展出與畫家同時代的藝術品。
