廉悌臣出身世家大族，祖父廉承益是
高丽忠烈王时的宰相，父亲廉世忠官至监门卫大护军，娶宰相
赵仁规之女，在大德八年（1304年）十月三十日生下了廉悌臣。他六岁丧父，由母家抚养。十一岁时到元大都，在姑父元朝大臣旭迈杰（又作“末吉”，
木华黎后裔）家中长大，由元朝儒生授业。至治三年（1323年）与旭迈杰到漠北
和林迎接
泰定帝，泰定帝“一见奇之”，让他进入
怯薛。泰定帝命旭迈杰惩治弑杀
元英宗的
铁失一党，准备将铁失之妹赐给廉悌臣，廉悌臣说：“臣虽无知，不愿近逆党。”泰定帝便对他更加赏识。
天历二年（1329年），他作为元朝使者来到高丽，赐国王衣酒。期间两次奉旨降香
金刚山，以便回国探母。至顺四年（1333年），他以奉养老母为由，请求元廷让他回国任职，元廷便任命他为
征东行省郎中。他尽可能不干涉高丽事务，将田民（土地、奴婢）词讼交由高丽官府处理，忠肃王称赞他“清简”，并称叫他为“吾郎中”而不叫名字，以示亲信。忠肃王死后，元廷召还廉悌臣，任
中政院翊正司丞，官阶奉训大夫。至正三年（1343年）赴江浙行省办理中政院钱货，不收地方官任何贿赂。丞相
别儿怯不花（别哥不花）向
元顺帝奏请委以重任，不久他听到母亲病重的消息，并申请回国。他虽然在元朝生活了三十年，但并未染上好猎的习气，一直具备“风流潇洒”的文人气质。
至正六年（1346年）六月十七日，
高丽忠穆王超授廉悌臣为匡靖大夫、三司右使、上护军，翌年加重大匡，赐输诚翊戴功臣之号，并奉使元朝谢恩。十二月，拜都佥议赞成事，成为宰相。至正八年（1348年）判版图司事。至正九年（1349年），政丞
王煦出使元朝，将政务托付给他。
高丽忠定王即位后，于十月再次任命他为都佥议赞成事，仍判版图司事。至正十年（1350年）十二月被派到元朝
贺正。
高丽恭愍王即位后，打算重用廉悌臣，但廉悌臣的亲戚
赵日新和他有私怨，故阻止他被任用。等赵日新叛乱伏诛后，恭愍王恢复了他的赞成事之位。至正十四年（1354年）正月，拜左政丞，判军簿司事。二月进右政丞，判典理司事，成为首相。同年夏，原任政丞蔡河中挟元丞相
脱脱之势来高丽征兵围剿
张士诚，顺便想恢复他在高丽的官位。廉悌臣不得已辞职，恭愍王封廉悌臣为曲城
府院君。同时，他也被征入元朝。行至鸭绿江，康允忠不愿去元朝送死，号召率五十精骑返回开京，诛杀蔡河中，廉悌臣说：“非计也。吾君，天也，天可逃乎？且忠臣义士岂宜有
反侧之言乎？”于是同柳濯快马加鞭奔赴元大都。等到了大都后，恭愍王派人驰赴元朝，请求归还廉悌臣，元顺帝同意，并在
徽政院赐宴饯行。
至正十六年（1356年），恭愍王诛
奇辙等亲元派，担心元朝报复，便在九月任命廉悌臣为西北面都元帅，防备元军。西北面兵马使印珰擅杀副使姜仲卿，恭愍王害怕他叛逃，所以没有讨伐，而是让廉悌臣伺机杀了他。他不仅顺利完成了这个任务，而且还从容应对了元使的诘责，他治兵“
刍粮为先，城堡次之，器械次之”，将边境打理得井井有条，恭愍王将他誉为“吾之万里长城也”，于是十二月任命他为开府仪同三司、上柱国、守门下侍中、上将军、判兵部事。翌年，改判吏部事。门下侍中
李齐贤辞职后，他于至正十八年（1358年）二月出任门下侍中，再次成为首相。到至正二十一年（1361年）十一月，他“以
满盈辞位”，封曲城侯。辞位不久，红巾军就攻入高丽，他扈从恭愍王南逃，但被台谏弹劾“驮妻孥财贿，车马甚盛，弃母而去”的不孝之行。至正二十三年（1363年）二月，右政丞（即之前的门下侍中）
洪彦博在兴王之变中遇害，廉悌臣于三月拜右政丞，第三次出任首相。然而不到一个月，主谋
金镛倒台，他因与金镛有姻亲关系而罢相，旋即
丁母忧，由柳濯接替其职。至正二十四年（1364年），领都佥议。己酉年（1369年），进三重大匡，封曲城伯。其时权臣
辛旽反复诋毁廉悌臣，但恭愍王不为所动，并让廉悌臣主持两次东宁府征伐。恭愍王同时让廉悌臣的儿子和女婿和辛旽搞好关系，但廉悌臣始终不理会辛旽。洪武四年（1371年），辛旽倒台，恭愍王更加重用他，亲自画了他的肖像画，并纳他的女儿为妃。洪武七年（1374年）四月，拜门下侍中，第四次出任首相。但两个月后，因伺候明使蔡斌的官妓没戴好蔡斌帽子上的簪花，惹怒了蔡斌，恭愍王便让廉悌臣为此事负责，流放
广州。
廉悌臣被流放三个月后，恭愍王遇弑，
王禑即位，廉悌臣被召还，任领门下事，又领书筵，以“为君难、为臣不易、亲贤远佞”等道理规劝新王。洪武八年（1375年），获赐“忠诚守义同德论道辅理功臣”号，领三司事。洪武九年（1376年）十月，
北元礼部尚书翟钦来到高丽，奉
元昭宗之旨，授予廉悌臣资德大夫、
将作院使的官位。廉悌臣拜受后对使臣说：“臣老矣，乃蒙圣恩，末由图报，区区之情，有如天地！”
此后，廉悌臣历任判都总都监事、判门下事、领三司事，洪武十三年（1380年）冬以曲城府院君的身份致仕，但国家有大事还是会来咨询他。洪武十五年（1382年）三月十八日去世，享年七十九岁，谥号忠敬。
廉悌臣之子
廉兴邦在王禑时期与
林坚味弄权，于洪武二十一年（1388年）伏诛，另外两个儿子也被杀。其孙廉致庸获得
朝鲜太宗拔擢，官至工曹参议、黄州牧使，后因造李芳远的谣言而被贬为官奴。
廉悌臣在扈从恭愍王避红巾军期间在忠清道报恩元岩驿与其他元老一起唱和，他所作的七绝为“笔落珠玑字字香，遏云歌里引杯长。半酣更觉君恩重，坐到深更冷欲霜”，此诗被收录于《
东国舆地胜览》中。