中华人民共和国成立后,中国人民解放军进行革命化、现代化、正规化建设,经中央人民政府人民革命军事委员会主席毛泽东批准,在原华北、华东军事政治大学的基础上创办中国人民解放军军事学院,培养中、高级指挥员。
1950年10月23日,毛泽东主席电令中共中央西南局第二书记、西南军政委员会主席刘伯承主持陆大的筹备工作。周总理告诉刘伯承同志,为了办好陆大,毛主席已聘请了一批苏联顾问帮助工作。国家领导视察中国人民解放军军事学院
11月中旬,筹委会拟定并上报《关于创办军事学院的意见书》,校名由“陆军大学”改为“军事学院”,校址选定了南京原华东军大所在地,房舍原系国民党政府国防部和中央军事政治学校大院。

完成系学制三年,速成系学制一年,先开办高级速成科、上级速成科、基本科、情报科四个学员培训单位。接收军、师、团、营级干部入学深造。以团以上干部为主。
1950年11月30日,中央军委任命刘伯承为中国人民解放军军事学院院长兼政治委员。陈士榘为训练部部长,陈伯钧、陶汉章为训练部副部长,钟期光为政治部主任兼干部管理部部长,刘忠为院务部部长。

军委从全军抽调了一批领导干部,以原华东军大和华北军大部分干部与教员为骨干,吸收一批具备教学条件的起义与俘虏的原国民党军官为教员,依托华东军区组建起军事学院的训练部、政治部、院务部、干部管理部和战役战术等15个教授会,以及学术研究室和翻译室。
1951年1月15日,“中国人民解放军军事学院”正式宣告成立。毛泽东主席亲笔题词:“努力学习,保卫国防”;朱德总司令的亲笔题词是:“为建设近代化的强大国防军而奋斗。”
建院初期,学院机关设训练部、政治部、院务部等部门;教学科研机构和学员培训管理机构分设11个教授会和4个系。
中国人民解放军军事学院在中国人民志愿军抗美援朝、中国人民解放军保卫社会主义建设的战斗洗礼中成长壮大。从最初的高级速成科、上级速成科、基本科、情报科(后改称系)逐渐发展成立政治系、炮兵系、装甲兵系、函授系、战役系、战史系、化学兵系。
既有陆军专业,又有海空军专业;既有军事系、又有政治系;既有速成,又有完成;既有面授,又有函授,是全军最高综合性军事学府,学员累计3125人。还培养了高级兵团战术、合同战术和军兵种战役战术等新中国第一批军事学研究生23人。
毛泽东主席曾风趣地说:“孔子三千门徒就是军事学院”。这些学员大都是我军的主要高级干部,是全军的一代栋梁。为了适应军事科学的发展和人民解放军正规化现代化建设急需训练大批高级、上级干部的新形势,军事学院党委曾多次研究人民解放军军事教育体系的完善与发展问题,向中央军委提出建议。
1953年3月,学院向军委建议创办高等军事学院,并具体起草了该院的简要章程呈报军委审批。
1954年12月27日,刘伯承同志代表院党委向军委扩大会议报告,建议以军事学院为基础,在全军分建六个高级指挥学院。

1956年,以军事学院海军系为基础,在南京成立中国人民解放军海军学院;以军事学院战役系、战史系为基础,在北京成立中国人民解放军高等军事学院;以军事学院炮兵系为基础,在河北宣化成立中国人民解放军炮兵学院;以军事学院装甲兵系为基础,在山西大同成立中国人民解放军装甲兵学院;以军事学院空军系为基础,在北京成立中国人民解放军空军学院。

军事学院剩下部分与南京总高级步校合并,在南京继续开办中国人民解放军军事学院,培养合成军队中、上级指挥人员和参谋人员。军事学院仍设在南京,廖汉生、刘浩天、张震先后任院长,钟期光、王平先后任政治委员。
1966年10月起,“文化大革命”开始,高等军事学院和南京军事学院停止了教学活动。
1969年,高等军事学院、南京军事学院和政治学院、后勤学院被撤销,合并组建中国人民解放军军政大学。
1970年8月6日,军政大学在北京成立,黄永胜兼任校长,张秀川任政治委员。主要轮训团以上干部,只进行政治教育,取消了军事课教学。
1972年5月,中央军委任命萧克为军政大学校长,唐亮为政治委员,开始治理“文化大革命”给学校造成的严重破坏,逐步建立起军事、政治、后勤3个系和所属的军事、政治、后勤教研室,恢复了军事、后勤课教学,初步改造了政治教学。
1977年12月,中央军委决定以军政大学军事系、政治系、后勤系为基础,分别组建军事、政治、后勤学院。
1978年1月,军事学院重新成立,萧克任院长兼第一政治委员,段苏权、刘兴元任政治委员。
1985年12月,国务院、中央军委决定,将军事学院和政治学院、后勤学院合并,组建中国人民解放军国防大学。
