據《大唐西域記》卷九載,有一大長者迦蘭陀,時稱豪貴,以大竹園布諸外道。見到釋迦牟尼佛後,深起信心,乃將外道逐出,在竹園中建立精舍,請佛居住。
精舍在王舍城北門一里余,用石頭砌成,門向東開。佛陀在世時,經常在此居住,並說了數部經典,以導凡拯俗。佛寂滅後,弟子在此塑造了與佛真身一樣大小的佛像。精舍東面有佛舍利塔。佛涅槃後,未生怨王分得舍利,持歸後式遵崇建,而修供養。阿育王時,為舍利起塔,供養於內。附近還有迦蘭陀池塘。至今,竹林仍然生長茂密。精舍遺址是一個小土丘,考古人員已經發掘出迦蘭陀地毯,以及其它一些少量的文物,但學者現還不能確認。
另說竹林精舍是頻婆娑羅王為佛陀捐施建造的。
另據說是當年佛陀帶了三迦葉兄弟和徒眾千人,到摩竭陀國去,頻婆娑羅王恭敬迎接,虔誠皈依,並且在王舍城建築了竹林精舍,獻給佛陀。
佛陀在竹林精舍安居的初期,有舍利弗與目犍連來皈依,成為座下高足,追隨佛陀弘揚佛法。他們原本都是六師外道之一的刪闍耶的弟子,無意間聽到五比丘中的阿說示誦偈:“諸法因緣生,諸法因緣滅,我佛大沙門,常作如是說。”知道有佛陀在世,隨即到竹林精舍,聽聞佛陀說法後,就帶領弟子二百五十人同來皈依佛陀。這件事不但成為佛陀時代的一樁美談,更傳誦至今。
除了供養護持佛陀與僧團之外,頻婆娑羅王經常到精舍請示佛法。如在《方廣大莊嚴經》卷十二中記載,佛陀對國王宣說五蘊虛妄、三界不實,與一切無常的道理;頻婆娑羅王當下證得法眼淨,欣然請佛傳授五戒。朝中的文武百官以及一般老百姓也都爭相來皈依佛陀,求受五戒。
此外,如《持世經》、《佛說光明童子因緣經》、《佛說轉有經》、《佛說般舟三昧經》、《持人菩薩經》、《私呵昧經》、《佛說大方等修多羅王經》等,都是佛陀在竹林精舍時所說。
在印度苦行林修行的沙門,平常多半散居於各處,一到雨季,他們就得各自尋找安居場所;等到雨季過了,大家又回到樹林去。當佛陀的教團越來越龐大後,就有必要為上千弟子找個安身辦道之處,因此竹林精舍的闢建,實在是佛教僧團發展過程中的一大盛事。