琵琶湖的历史最早可追溯至南朝萧梁时期(公元502年—557年),当时称“燕雀湖”或“太子湖”,因纪念梁武帝长子萧统早逝而得名。1366年,明太祖朱元璋为建造明皇宫,组织数十万民工填埋古燕雀湖,民间至今有“移三山,填燕湖”的说法。填湖后古燕雀湖残留水域形成了今天的琵琶湖。该湖与前湖、梅花湖等共同构成紫金山南麓水系,发挥错峰调蓄功能,保护山下富贵山庄等小区免受行洪冲击。
以前,琵琶湖所处区域属于明孝陵外郭城范围,是皇家禁地的一部分,普通百姓不能随意进入。如今,清幽静谧的琵琶湖成为免费的城市公园,向所有市民开放。