1900年冬，吕增祥受袁世凯之邀担任山东开州（今河南省濮阳县）知州，1901年5月，在处理一宗民事案件时，不幸被刺身亡，年仅50岁出头。吕增祥去世后，严复视吕增祥的儿女如己出，主动安排吕家年幼的孩子读书学习和生活。1902年在严复的安排下，未满8岁的吕彦直跟随二姐吕静宜到巴黎读书，二姐夫严璩时为驻法参赞，吕彦直不但刻苦读书，还利用课余时间到停车场擦汽车赚些零花钱。1908年严璩卸任回国，吕彦直也回到天津，3年后的1911年吕彦直以优异成绩考入清华学堂，1913年吕彦直考取了庚款公费生，前往美国康奈尔大学深造，攻读建筑专业，毕业后他在纽约的墨菲建筑师事务所入职，经过几年的努力而小有名气，于是他决定回国效力。

1923年吕彦直回到祖国以后，与黄檀甫创办了真裕建筑公司，承接房屋设计、租赁修缮等业务。白天忙于业务，晚上吕彦直还要潜心钻研西洋建筑和东方建筑，特别是中国古建筑，如何将其与西洋建筑融合一体，是吕彦直经常思考的课题。

当孙中山先生葬事筹备委员会发布《征求陵墓图案条例》以后，吕彦直更是茶不思饭不想，整天研究他的画作，为了体现效果，每画完一稿，他就会用桐油灰捏造设计模型，然后看着模型再修改画作，直到满意再捏造新的模型，如此反复无数，直到完成。1925年9月20日，中山陵墓图案评奖结果揭晓，获得第一名的吕彦直立刻名声大振。

作为中山陵的建筑师和工程监理，他事事亲力亲为，既是设计师建筑师，还是绘图员经济师甚至审计师，也就是说一个大项目的全部，他一个人儿全干了。他闭门谢客不分昼夜的埋头苦干，脑力体力严重透支。忘我的精神和拼命式的劳作，和几乎等于零的休整时间，终于使年轻的吕彦直病倒了。以至于不能参加中山陵奠基典礼，然而吕彦直又以病体参加了广州中山纪念堂和纪念碑的应征设计，在28份应征设计方案中，吕彦直再夺魁首，从此蜚声海内外。在当年一个这么年轻的设计师同时承担了国家的量大纪念性大型建筑，真是举世罕见。

中山陵被誉为中国近代建筑史上第一陵，其依山势而建，空中俯视，整个陵区恰好像一口大钟，寓意警钟长鸣；从底下往祭堂上看，看到的全是台阶，看不到平台，而且越往上走越陡，寓意着革命道路的艰辛；当你登上祭堂往下看去却看不到一个台阶，看到的全是平台，寓意为胜利以后的平坦幸福。吕彦直的设计思想“公共建筑，为吾民建设精神之主要的表示，必当采取中国特有之建筑式，加以详密之研究，以艺术思想设图案，以科学原理行构造”，南京中山陵的设计和建造完全体现了他的设计思想。

在他得知身患不治之症后，仍强忍病痛，在医院绘制“规划首都都市图案”和“国民政府建筑设计鸟瞰图”留下一生中的最后遗作。在最后的日子里，他写了两封信，一封给他的未婚妻，严复的女儿严璆，嘱咐严璆不要再等自己，另配新君，再觅幸福吧。另一封信写给他的合伙人黄檀甫，谆谆教诫同事，继承他建设祖国之遗志，完成好两大建筑的建设，保存图纸和资料。

1929年3月18日，吕彦直英年早逝年仅35岁，当严璆接到吕彦直信的时候，她已经从报纸上看到吕彦直去世的噩耗，她悲痛欲绝。不久，28岁的严璆在北京西郊出家，削发为尼，法名秋妙。1950至1951年间，秋妙经香港辗转去了台湾，终生未嫁，香消海峡彼岸。

中华民国政府为了表彰吕彦直在建造中山陵和中山纪念堂的贡献，在同年6月以《国民政府公报》颁发了189号《褒扬令》，以政府的名义褒奖一位建筑设计师，这在中国历史上绝无仅有。1929年4月孙中山先生葬事筹备委员会的决定，将在奠基室内为吕彦直建纪念碑。为此，黄檀甫亲自请捷克雕刻家高琦，为吕彦直雕刻了大理石半身浮雕像，浮雕像下面刻有于右任书写的一段碑文：“总理陵墓建筑师吕彦直监理陵工，积劳病故。总理陵园管理委员会于十九年五月二十八日决议立石纪念。”