仕途迁升
曾公亮为刑部郎中曾会次子。公亮少时很有抱负，且器度不凡，为人“方厚庄重，沈深周密”。
乾兴元年（1022年），曾公亮受父命奉表晋京祝贺仁宗登基。仁宗任命其为大理评事。公亮立志从正途登官，不愿斜封，未赴调。
天圣二年（1024年）中进士，授越州会稽知县。
天圣六年（1028年）他治理镜湖，立斗门，泄水入曹娥江，使湖边民田免受水涝之苦。由于父亲在会稽境内买田而犯有过失，贬官监湖州酒。
为官有能
数年后，入京任国子监直讲，后改任诸王府侍讲。不久，升任集贤殿校理、天章阁侍讲、知制诰兼史馆修撰。一年后，应当按照旧例考试馆职，单独进献自己所写的文章，授集贤校理、天章阁侍讲、修起居注。提升天章阁待制，赐予金紫衣。
在此之前，待制不改变服装。仁宗当面赐给曾公亮金紫衣，说：“朕于讲席赏赐你，是由于尊重宠爱儒臣。”于是主管制诰兼史馆修撰，为翰林学士、判三班院。三班院的属吏都很鄙陋，不贿赂就辞谢不可，贵族子弟，大多依靠势力请求拜见。曾公亮选取前后章程，依据情况办事，属吏不能插手。
后以端明殿学士身份知郑州，他治理政事有才能因而声名在外，盗贼全部逃窜到其他州县，以至于晚上不关闭大门。曾经有过客丢失橐中财物，发布文书诘查盗贼，曾公亮上报：“我所辖境不窝藏盗贼，恐怕是同行的人隐藏起来了吧。”进行搜查，果然如此。
主持朝政
皇祐三年（1051年），曾公亮升翰林学士、知开封府。嘉祐六年 （1061年），升任吏部侍郎，同中书门下平章事，集贤殿大学士，与宰相韩琦共同主持朝中政事。
曾公亮明练文法，任职以后，熟悉懂得了朝廷台阁的规章，韩琦经常咨询访问他。仁宗末年，韩琦请求立储，与曾公亮等共同商定大计。密州民田盛产银子，有人偷取银子，大理寺把他们当作强盗。曾公亮说：“这是禁物，偷取银子虽然是强盗行为，与从百姓家中盗取财物有区别。”为此事展开争论，于是就下达给有司议论，比照抢劫盗窃财物的法律，盗取银子不判死刑。起初，东州人大多因此法被处死刑，从这以后就没有死刑了。
契丹指使人在界河捕鱼，又多次开通盐船，官吏不敢禁止，都说：和他们较量，将要生事。曾公亮说：“刚开始时不禁止，以后将怎么办呢？雄州赵滋勇敢有计谋，能够胜任。”派人告诉赵滋，边境祸害终于平息了。
英宗即位，任中书侍郎兼礼部尚书，不久兼任户部尚书。之前，仁宗身体不适，辽国使者到来不能接见，让曾公亮在馆中设宴，使者不愿赴宴。曾公亮质问使者说：“赐宴不赴，这是对君主的不恭敬。君主有病，却一定要让他亲自设宴，能处之安然吗？”使者于是赴宴。宋神宗即位后，曾公亮加职门下侍郎兼吏部尚书。
晚年生活
熙宁二年（1069年），任昭文馆大学士，累封为鲁国公。由于年老请求离职。
熙宁三年（1070年）九月，授职司空兼侍中、河阳三城节度使、集禧观使。
熙宁四年（1071年），曾公亮起判永兴军。在此之前，庆州士兵叛乱，被诛杀，但余党到处逃跑，从陕西以西都警惕戒备。检阅义勇，增加边境守兵，移内地租赋，人情骚动。曾公亮镇静对待，依次上奏罢免，专门裁减抑制多余的费用。长安豪强喜欢制造谣言，声称士兵埋怨削减费用，打算在元宵夜勾结其他军队发动叛乱，邦人十分恐慌。有人劝曾公亮不要出游，曾公亮不为所动，张灯尽情观赏，和宾客佐僚直到傍晚才回来。任职一年后回到京师，不久就以太傅致仕。
去世
元丰元年（1078年），曾公亮逝世，享年八十岁，神宗临丧哭泣，为他辍朝三日，追赠太师、中书令，得以配享英宗庙廷，谥号“宣靖”。到下葬时，神宗亲自篆写碑首名为“两朝顾命定策亚勋之碑”。
北宋曾公亮一生居官，致力于革弊兴利，为富国强兵奋斗。天圣年间，西夏叛宋，朝议兴兵讨伐，皇上拿不定主意。曾公亮上奏《征怀书》，书中奏说，治天下之根本，当采取先怀柔后征伐的策略，否则，师出无功，敌寇益炽而累军。仁宗采用怀柔政策，西夏率服。庆历年间，曾公亮针对时弊提出“择将帅”以加强武备的主张。他认为：择将之道，唯审其才之可用，不以远而遗，不以贱而弃，不以诈而疏，不以罪而废。他认为造成将不称职的原因，并非世无将才，而是选之不得其要，或用人不能尽其才。他建议选将必先试其才，所试有效，方给显官厚禄以重其任，然后委其命而勿制约，用其策而无怀疑。同时他又提出裁减冗兵的方案，以减轻国家财政支出。针对北宋吏治混乱之弊，他提出废除“磨勘法”，对各级官的任用和升迁采取考课督察的办法，即“三考有善政者，则升其官资，两任有善改者，则升其任使，无成绩者则罢黜。”
曾公亮对邻国的无端生衅，总是针锋相对，寸步不让。英宗时候，契丹贺正使在馆，朝廷按例赐宴紫宸殿。当时英宗有疾不愈，命宰臣曾公亮就馆宴之。契丹使者认为这样是破坏惯例，有失他们的尊严，因此不愿即席。曾公亮毫不客气地说：“赐宴不赴，是对君命的不诚！人主不愈，要求其必亲临，居心何在？”使者听了这入情入理的话，无言可答，只好乖乖就席。熙宁七年（公元1074年）春，契丹遣使萧禧来言：“代北对境有侵地，请遣使来共同分画。”神宗皇帝得报，即以手诏赐韩琦、文彦博、曾公亮。手诏言，朝廷与北虏通好已将八十年，近岁以来，生事愈多，代北之地，素无定封，设造衅端，妄来理辩……曾公亮在给神宗的疏奏中说道：“乞选将帅，整兵以待敌。”准备随时给挑衅者以迎头痛击。