宋白字太素，河北大名人，十三岁的时候，就已经善做文章了。他常游历于..、杜之地，曾借宿于张琼家，张琼乃一武将，他钦佩宋白的才华，所以对宋白招待得十分周到。宋白性情豪爽刚直，崇尚气节，注重友情，在词坛上颇有名声。
建隆二年(961)，窦仪负责贡举，宋白应考且擢升进士甲科。乾德初年(963)，宋白向朝廷献上文章百卷。考试高等，步入仕途，被授予著作佐郎，并被赐予袭衣、犀带。蜀国平定后，宋白被授玉津县令。开宝年间(968～976)，阎丕和王洞交相荐举宋白入朝，但宋白以双亲年迈，请求仍留州县做官，于是，宋白又先后知蒲城、卫南二县。
太宗为太子时，宋白曾经献文于他，并有袭衣之赏赐，太宗即位后，擢升宋白为左拾遗，权知兖州，一年后召回朝廷。泰山上有唐玄宗所留刻铭，宋白特摹本以献太宗，且向太宗陈述了山东之人希望皇帝亲幸的愿望。之后，宋白参与修撰《太祖实录》，不久，宋白以直史馆、判吏部南曹，跟随太宗征伐太原，判行在御史台。刘继元受降后的第二天，宋白上《平晋颂》，太宗当夜召宋白至行宫以示褒慰，并且对宋白说：“待朕回还京师，当以玺书授职予你。”宋白表达了感激之情。不久，皇帝拜宋白为中书舍人，并赐金紫之服于宋白。
太平兴国五年(980)，宋白与程羽同知贡举，不久充史馆修撰，判馆事。太平兴国八年，宋白再次典贡部，改集贤殿直学士，判院事。未几，宋白被召为翰林学士。雍熙年间(984～987)宋白受召与李窻集诸文士同纂《文苑英华》一百卷。端拱初年(988)，宋白升为礼部侍郎，又知贡举。宋白前后三次典掌贡举，因而引来不少微词，然朝廷所得文士如苏易简、王禹翶、胡宿、李宗谔等人，皆出宋白其门。此时，皇上令恢复旧制，特委任职官，予以处置，宋白只录取了四十八人，罢免辞退的人很多，众人议论纷纷。太宗于是召已罢黜的人到朝廷复试，连录马国祥、叶齐等八百余人。
宋白曾拜访何承矩家，正碰上歌舞酒宴。有一叫赵庆的进士，平素品行欠佳，巴结在何承矩门下，于是便悄然而出叩拜宋白，求宋白推荐自己。等到宋白典掌贡部之时，赵庆竟得以被推举，许多人因此对宋白议论纷纷。宋白又将自己的妹妹许配王沔，淳化二年(991)，王沔被罢参知政事。当时寇准正以攻讦他人之短的做法求得自身荣进，王沔因而被罢黜，寇准又说宋白家里的黄金器皿都是举人们所贿赂的，其实宋白曾奉诏撰写钱惟浚碑，得到涂金器皿而已。
张去华与宋白同年考生，因尼姑道安之事而坐罪遭贬。宋白一向与张去华友情深厚，于是也受到牵连而出为保大军节度行军司马。过了一年，宋白上书自陈无罪，有“来日苦少，去日苦多”之语，太宗读后很同情宋白，将宋白召回做卫尉卿，不久又拜为礼部侍郎、编修国史。至道初年(995)，宋白为翰林学士承旨。第二年，擢升户部侍郎，不久又兼秘书监。宋真宗即位时，改任吏部侍郎，判昭文馆。
起初，宋白将唐代陆贽的《榜子集》献给真宗，真宗觉察宋白此举的用意在于求任用，遂命宋白知开封府以试其才，然而，宋白任此职不久，就厌倦了整天听讼断事的烦琐工作，请求罢任。咸平四年(1001)，朝廷擢升王钦若、冯拯、陈尧叟入掌机要，因宋白资格老，又是宿旧而拜其为礼部尚书。
宋白学问宏博，文思敏捷，但其词作大多放荡肆意，不拘章法。他久居内署，十分厌烦平直言语，所起草的词疏简略曲回，多不合圣意。景德二年(1005)，宋白与梁周翰同时被罢，而拜为刑部尚书、集贤院学士、判院事。旧三馆学士限五天在内殿起居，当钱易上言后致使朝廷令学士皆赴外朝。宋白年老体弱行动不便，在上朝时足跌坏。不久，上表求退，皇上因眷恋宋白乃旧臣未应允，宋白于是又上表请退，就以兵部尚书之职而退休。于是派遣宰臣访问他家的资产，担心他的家里匮乏，当时宋白的继母还很健康，皇上东封泰山，宋白坐在肩舆上由人抬着到北苑向皇上辞行，两人谈了很久，宋白升为吏部尚书，赐帛五十匹。
大中祥符三年(1010)，遭母丧。大中祥符五年正月，宋白去世，终年七十七岁，赠官左仆射。录用其孙宋懿孙为将作监主簿，宋孝孙试秘书省校书郎，从子宋唐臣试秘书省正字。
宋白诙谐幽默，喜欢开玩笑，不拘小节，赡济亲族，抚恤孤幼，世人称其和睦。聚书数万卷，图画有很多堪称奇古。曾分门别类纂集故事千余门，号《建章集》。唐贤士编集遗漏者，宋白大多收集补齐。后辈有文艺才能的，必极力加以称赞鼓励，当时才德杰出人士多以他为师，如胡旦、田锡都出自他的门下。陈彭年举进士，轻率不稳重，喜欢嘲笑别人，宋白厌恶他的为人，黜除了他，陈彭年感到不满，后居近侍，制定贡举条制，多有互相制约的内容，大概是因为宋白那件事而设置的。恰逢有关部门定宋白谥号为“文宪”，内朝发出密奏说宋白一向没有严格要求自己，于是改谥号为“文安”。有文集一百卷。