丰臣秀吉就任关白后的1585年（天正十三年）设立，但亦有说是1598年秀吉卧病在床时，随
五大老制度成立而跟着设置的。起初丰臣政权多以
大谷吉继与
小西行长等人做行政奉行工作，后来从这些人里挑出五个做年寄，职位大致和
镰仓幕府的「
连署」、
室町幕府的「
管领」相当。后被
德川家康方面称为
奉行，而家康称自己为年寄。相同的在桃山安土年代并没有「五大老」的称谓，德川家康这五位有力大名应该相当于「武家清华家」，所以家康为「丰臣朝臣羽柴武藏大纳言」，前田利家为羽柴加贺中纳言，毛利辉元为羽柴安芸中纳言，或类似室町里「三管四职」里的四职，
江户幕府亦对外样大名设有相同的「清华成」。
1600年（庆长五年）五奉行里的石田三成拥立五大老之一的
毛利辉元发动关原之战，长束正家跟随三成，而浅野长政则从属东军的
德川秀忠军。前田、增田两位则停留在大阪城。