吕余庆，幽州安次人，本名胤，犯太祖名讳，因此以字行世。他的祖父吕兖，任横海军节度判官。他的父亲吕琦，在后晋任兵部侍郎。吕余庆因先代官爵补任千牛备身，历任开封府参军，升户曹掾。后晋少帝的弟弟石重睿兼任忠武军节度时，任命余庆为推官。从后汉到后周一直任官，升濮州录事参军。太祖任同州节制时，听说余庆的才干，上奏任命为从事。世宗问说“：难道不是曾经任濮州纠曹的那个人吗？”就任命他为定国军掌书记。世宗曾经镇守澶渊，濮州是属郡，所以知道他的为人。
太祖历任滑、许、宋三州节度，吕余庆一直任宾佐。太祖即位后，把他从宋、亳观察判官任上召入朝，任命为给事中，充任端明殿学士。后唐清泰年间，吕琦也任此职，官阶都相同，当时人认为他家很荣幸。不久，任知开封府。太祖征讨潞州及扬州时，他都兼任上都副留守。建隆三年(962)，升任户部侍郎。遭母丧。荆湖平定后，出朝任知潭州，改任知襄州，升任兵部侍郎、知江陵府。召他回朝，以本官参知政事。
攻灭南唐后，任命他为知成都府。当时盗贼四起，军队士兵恃功骄纵，大将王全斌等人不能收敛部下。一天，药市刚刚开集，街吏驰报有军校喝醉酒持刀抢夺商贩货物。吕余庆立即派人捕捉来杀头示众，军中畏服，百姓安宁。加任吏部侍郎。回到朝廷后，兼任剑南、荆南等道都提举、三司水陆发运等使。开宝六年(973)，与宰相交替执掌政事印，不久因病上表请求解除处理机务之任，授任他为尚书左丞。开宝九年，去世，终年五十岁。追赠镇海军节度使。
余庆为人厚重简约，太祖历任藩镇节度，余庆任元僚。太祖受禅即位后，赵普、李处耘都先被提升任用，余庆丝毫不在意。不久，处耘被贬镇守淄州，余庆从江陵回朝，太祖委婉地向他问起处耘的事，余庆以理替他辩护解释，太祖认为符合实情，于是任命他为参知政事。正好赵普忤逆圣旨，大臣们倾轧赵普，只有余庆替赵普辩明，太祖怒意稍微缓解，当时人们称余庆为长者。至道年间，朝廷任命他的弟弟吕端为宰相，特诏追赠余庆为侍中。