吕惠卿，字吉甫，宋明道元年(1032年)生于晋江县开建乡仁孝里西垵村(今属安海镇)，幼随父居泉州相公巷。父吕□，精明廉能，不畏权贵，历官光禄寺卿。
嘉祐二年(1057年)，惠卿登进士第，授真州推官。秩满入京，枢密院使曾公亮荐为集贤殿校勘，时王安
石直集贤院，两人经常研讨经义，遂为莫逆之交。熙宁二年(1069年)，王安
石当权，极力举荐惠卿。他对神宗说：“惠卿之贤，岂特今人，虽前世儒者，未易比也。学先王之道而能用之者，独惠卿而已。”是年，设置“制置三司条例司”，以惠卿为检详文字。事无大小，王安石都与惠卿商量计议，有所建请，章奏都请惠卿起草。不久，升太子中允，历任崇政殿说书、集贤殿校理、判司农寺等职。惠卿主管司农寺时，施行常平、农田水利、免役、保甲诸法，成绩显著，进对明辩，得到神宗的赞赏。神宗说：惠卿言农事甚善，然只司农寺，管理的面太小，如果让他司理农司，天下事就大定了。
惠卿初露锋芒，便遭到保守派代表司马光的极力攻击，司马光要神宗“徐察之”，要王安石“提防之”。适惠卿父吕□去世，惠卿回家守制，居太湖山。服除，召为天章阁侍讲，-起居注，进知制诰，判国子监。
惠卿主持监务期间，积极建议学校挑选贡举，应选通经术、谙政事的人主判大学，以有学行艺术者为教授；自京师至诸州皆建学校，取以经义，策以时务，殿试专用策问。王安石接受他的意见，罢停制举，整顿学校，从中央至地方，学官、教授全改由经过中书或国子监选择的人充任。
惠卿判国子监期间，又与王安石之子、太子中允王雱-《三经新义》，兼知谏院，为翰林学士。当时正大力推行新法，保守派抓住河北推行青苗法时有强配现象，大加指责。神宗对新法产生怀疑，发生动摇。王安石也因新法屡遭阻碍，称疾家居。惠卿一面辩明得失，一面发动监司、郡守，向朝廷奏明-。使神宗决定继续推行新法，支持王安石继续执政。
熙宁七年，保守派掀起一场全面围攻变法活动。四月，神宗在太皇太后、皇太后及朝野的压力下，罢王安石相，让王安石出知江宁府。拜同中书门下平章事韩绛为宰相，惠卿仍参知政事，遵行新法。保守派讽刺韩绛为“传法沙门”，吕惠卿为“护法尊神”。
熙宁八年二月，王安石复相，以其子王雱为龙图阁直学士。王雱辞，惠卿劝神宗允其请。王雱由此怨恨惠卿。八月，御史中丞蔡承禧罗织惠卿罪状上疏。惠卿自请居家待查，听候处理。王雱趁机暗示御史中丞邓绾弹劾惠卿兄弟借秀州富民钱购买田地，与华亭县张若济以非法手段牟利。惠卿被贬，出守陈州。
华亭之事，经置狱讯问，不能成案。王雱背着王安石，私下与门客吕嘉问、练亨甫共议，取邓绾所罗织惠卿罪状，参杂其他书信，交给鞠讯官。省使至陈州讯问，惠卿如实驳辩，以为此事是王安石所为，因上 书自辩云：安石尽弃所学，变成纵横家之流，欺君罔上，并指摘王安石曾书“无使上知者”为证。守旧派抓住这一点，用最恶毒语言毒骂惠卿。王安石自知过失在自己，当神宗把惠卿的辩辞交给他看时，罔然不知，归家责问王雱，始知实情。王安石严词责斥。王雱羞愤，背疽暴发而死。王安石揭发邓绾奉迎巴结，替他子弟求官，又荐婿蔡卞于朝等罪。于是，-大白，邓绾与练亨甫皆被罢斥。
案情澄清后，惠卿以资政殿学士转知延州。延州常受西夏侵扰，而镇边帅臣都“养威持重”，采取错误的治军方法，如把汉兵和蕃兵分开，各自为军，每次战斗都以蕃兵为先锋，而留汉兵守城，等待有利时机出战争功。惠卿废除这一做法，把汉蕃兵合一，先补充兵员，再从中挑选精锐出战，同时定立规约，坚持在驻扎地就地选拔守将。因此遭到那些因循守旧老将极力反对。西夏军屈全乜将侵犯边境，惠卿亲率将兵巡视边防，从东郊出师，经绥德，抵无定河，前后18日而还，稳定边境。
元丰五年(1082年)，加惠卿大学士，知太原府。入朝晋见，神宗本想命他仍镇守鄜延，惠卿事先探知，见面时奏说：陕西的军队，不但不可以攻，也不可以守，关键在大造形势。神宗听罢大为不满，斥责惠卿“轻躁矫诬”，令其出知单州，改派徐禧至鄜延。结果西夏大举进攻，徐禧死，神宗始悟。惠卿复知太原。
元丰八年，神宗薨，哲宗即位。保守派主国政，敕令边疆官吏不得侵扰外界。时西夏屯兵聚星湖，准备犯边，惠卿遣步骑2万袭之，斩首600级。保守派乘机攻击惠卿挑起边衅。元祐元年(1086年)，贬惠卿为光禄卿，分司南京，再贬为建宁军节度副使，建州安置。
元祐八年，太皇太后高氏薨，十月，哲宗亲政。十二月，复惠卿官。绍圣元年(1094年)入为资政殿学士，本当预政，却为时相章惇及蔡京等人百计阻挠，遂转徙外任，先知大名府，后加观文殿学士，再知延州。
惠卿复知延州，道出西都。著名学者程颐见其行状，感叹道：“从者数百人，马数十，能使悄然无声，驭众如此，可谓整肃矣。在朝虽多可议，而才调亦何可掩也！”
惠卿至延州，修米脂诸寨，坚壁清野，加强守备。夏人复入寇，欲攻则城不可近，欲掠则一无所得，欲战则诸将按兵不动，欲南下则恐腹背受敌，围城二日，拔栅离去。惠卿加筑威戎、羌姜二城以御边。旋加封银青光禄大夫，授保宁、武胜两军节度使。
建中靖国元年(1101年)，徽宗即位，易惠卿为镇南节度使。因惠卿与时相曾布有宿憾，遂转徙杭州。崇宁元年(1102年)，曾布罢相，惠卿迁武昌节度使，知大名府。
崇宁四年，蔡京当政，排斥惠卿，命致仕。崇宁五年，重新起用为观文殿学士，知杭州府。大观元年(1107年)，蔡京利用“妖人”张怀素谋反狱事，陷害惠卿子吕渊。吕渊被发配沙门岛，惠卿被贬为祁州团练副使，宣州安置。大观三年，蔡京罢相。大观四年，宰相张商英荐为观文殿学士，充醴泉观使。时朝臣何执中、郑居中联合攻击张商英。政和元年(1111年)，张商英罢相，出知河南。惠卿也以本官致仕。不久去世。赠开府仪同三司，谥文敏。
惠卿才思敏捷，学识精深。著作有《孝经传》1卷、《道德经注》4卷、《论语义》10卷、《庄子义》10卷、《吕吉甫文集》100卷、《新修吏部式》2卷、《吕吉甫奏议》170卷、《县法》10卷、《弓试》1部、《建安茶记》2卷等。
