八年后,朱元璋病逝,解缙赴南京奔丧,但因“赴临非诏旨”而被建文帝遣为河州(今兰州)卫吏。不久“靖难之役”爆发,朱棣夺位后,提拔解缙等七人入直文渊阁,参预机务。因才华出众,解缙不到一年又被提为首辅。朱棣曾说:“天下不可一日无我,我则不可一日少解缙。”
解缙学识渊博,吟诗联句对答如流,朱棣常喜欢和他开玩笑。一次,朱棣对他说:“朕有位后妃昨夜生了个孩子,你替朕作一首诗吧。”解缙即刻吟咏恭喜道:“吾皇昨夜降金龙。”朱棣忙说:“是个公主,不是皇子。”解缙马上改口:“但作嫦娥下九重。”不料朱棣又说:“可惜已经死了。”解缙不慌不忙接口道:“料是人间留不住。”可朱棣又说:“已命太监抛入金水河里去了。”解缙续吟道:“翻身跳入水晶宫。”朱棣听了哈哈大笑:“你真会随机应变啊!”
朱棣有次在殿上阅书,问及文渊阁藏书情况,解缙说尚缺很多。朱棣遂下令访购图书,使文渊阁藏书达两万多部。在此基础上,朱棣命解缙主编,广收各类图书,辑为一编。解缙率147人,一年编成《文献大成》。朱棣觉得它过于简陋,下令重修。解缙推荐姚广孝监修,历经艰辛,于永乐五年(1407)定稿,共计22877卷,赐名《永乐大典》,并命复写一部。
《永乐大典》被誉为世界上最早、最大的百科全书,编纂过程中汇聚全国英才,以南京文渊阁为中心,遍览馆藏与征集之书,按韵编排,包罗万象。这是解缙一生中最辉煌的功绩,也是为南京留下的不朽文化遗产。