大乘佛教是在部派佛教以後興起，部派佛教是由原始佛教而發展的，大乘佛教是由原始佛教而發展的，大乘佛教乃是繼部派佛教的發展，再回到佛陀的根本精神的復興。
大乘佛教的興起，時間大約是在西元元年左右開始，一直進行到佛教在印度滅亡，即西元第十三世紀為止。大乘佛教的興起原因，有許多不同的看法；其中一種說法認為，大乘佛教的興起和釋迦佛入滅之後的第一結集有關。在王舍城舉行的第一結集，乃由大迦葉所召集。結集後，遠在外地的富蘭那，不滿保守迦葉結集的內容說：「我親從佛聞，內宿、內熟、自熟、自持食、從人受、自取果食、就池水受無淨人淨果除核食之。」並說：「我忍餘事，於此七條不能行之。」這七條的制定，按《五分律》卷三十的說法，是在一次飢饉的時候，有關食物的取得方式或烹煮方法的規定。大迦葉堅持地説：「若佛所不制，不應妄制；若已制，不得有違！如佛所教，應謹學之。」由於第一結集是在王舍城郊外的山窟〝七葉巖〞中舉行，因此傳說這些不滿分子所舉行的另一結集，就稱為「窟外結集」。結集出來的佛教文獻，傳說除了和第一結集所整理出來的《三藏》相同之外，還有屬於大乘佛教獨有的《雜〈集〉藏》和《禁咒藏》。
窟外結集集一般相信是一不可靠的傳說，但是傳說卻有傳說的歷史原因和背景。這一原因和背景，即是越來越多的佛教徒，不滿第一結集集所整理出來的《三藏》。因此，這些不滿分子透過各種可行旳方式，開始結集另外一些和《三藏》的內容有所不同的經典。其中，《雜〈集〉藏》和《禁咒藏》只不過是當中的兩種而已。這些不同於《三藏》內容的佛教文獻，玄奘大師的《西域記》，曾說和大眾部有關。這不但是因為大乘佛教的教義和大眾部的教義之間有著相同之處，而且還因為傳說大眾部的領導者大天，採用了許多大乘經典做為傳教的張本。
大乘佛教興起之淵源及其與部派佛教之關係
(a) 大乘佛教兴起的渊源
佛灭后，大乘的暗流尚在潜移默化中，而促成大乘兴起的原动力，乃是般若思想。般若思想导源于大众部的「现在有体」之因缘生法的基础。大众部主张「世出世法，悉为假名」，据南传《论事》192记载：制多山部（案达罗大众部自由派）主张「空性含于行蕴」说，此即缘起空性的教理。
般若思想为大乘的先河，《般若经》出于南印案达罗地方。《小品般若经》卷4说：「般若波罗蜜，当流布南方，从南方流布西方，从西方流布北方。」这已暗示了大乘佛教发展的路向，由南而西而北，生于南印而成熟于北印。
(b) 大乘佛教与部派佛教之关系
大乘佛教乃是继部派佛教的发展，再回到佛陀的根本精神，原始佛教的复兴。因此，大乘佛教既是小乘佛教（大众部）的延伸，也是对于小乘佛教（有部） 的反抗，它使被说一切有部僵化的佛法理论，重返佛陀本怀而复活起来。大乘佛教以发菩提心为宗旨，放弃枝末问题的分析，把握三法印原则，使佛法回归人间，成为实用性及生活化的佛法，这即是《本生谭》的利他菩萨精神。因此，部派佛教（小乘）是保守的分析的学问佛教，而大乘佛教是开放的、 原则的生活佛教。
大乘佛教站在出类拔萃的立场，即以小乘（Hinayana）之名贬低部派佛教的地位。自认为是正统根本佛教的部派佛教(有部)，还击新兴的大乘佛教，而唱出“大乘非佛说”的口号。后来，无著菩萨的《大乘庄严经论》、《显扬圣教论》、《摄大乘论》竭力为「大乘是佛说」辩护。到了《法华经》出世，把三乘汇归一乘，便调和了大小之诤。其实，大乘佛教的圆熟，得助于有部的思想基础者很多，有部对于《唯识》的成熟尤其有功。