在南印度的摩揭陀国，离首都王舍城大约有二三里的路程，有一个迦罗臂拏迦的村庄，茂林修竹，山明水秀，是个很幽静的地方，这是智慧第一的舍利弗尊者的故乡。
舍利弗诞生在婆罗门种姓的家庭，父亲提舍是婆罗门教中负有盛名的论师，当母亲怀他的时候，他母亲的智慧，就异于寻常的妇女，据说这是受胎儿的影响。
母亲的弟弟拘稀罗，也很善于议论，但每当他和怀孕的姊姊议论时，总是辞穷力拙，不支而退。拘稀罗因此惭愧得离家出走，他知道姊姊所怀的胎儿，一定是一位大智慧的人，自己若再不求进步，将来不如外甥，岂不给人笑话!因此他就到处参访明师，研究学问，连指甲都没有时间剪，当时的人都叫他长爪梵志(后来因舍利弗的皈依佛陀，他也皈依做了比丘。)
舍利弗八岁的时候，就能通解一切书籍，当时的摩揭陀国，有长者兄弟二人，兄名吉利，弟名阿伽罗，设宴招待国王太子，大臣论师，作乐歌舞，谈古论今。宴会中规定什么身分的人坐什么位置，但八岁的舍利弗，却坐上论师的宝座，旁若无人，一点都不畏惧。很多的大臣论师起初都觉得他年少无知，不屑与语。他们都派年少的弟子和他酬答，但舍利弗言词清晰，义理周详，语惊四座，诸大论师此时才都佩服赞叹，国王也很欢喜，当即将一个村庄赏赐给舍利弗。
八岁的幼童，在这样的场合里出风头，名学者的父亲，也常常感叹自己的聪明才智不及他的爱子。
