武则天长安(701年)中，尹知章选为定王府文学，官至太常博士。唐中宗时，有人提议将李渊七世祖凉武昭王
李暠为七庙始祖，尹知章认为昭武凉王距今遥远，与李唐王业关系不大，上书论其事，乃止。不久，尹知章外任陆浑县令，因事牵连，弃官在野。时有散骑常侍解琬也罢官归乡，与尹知章磋商经学。心情喜悦，乐而忘天下之事。后来在张说的极力推荐下，尹知章又被选为礼部员外郎，转国子博士。马怀素为秘书，奏尹知章为正字。
尹知章终生专心学问，热衷于教育事业。他未任官前，就以讲授为止。任官期间，利用节假日讲授，从未停止过。尹知章以讲授《周易》、《老子》、《庄子》三书著名，弟子有贫穷者，常给予接济。尹知章一生从不问产业多少，儿子建议在集市上购买一年中的柴米，他谴责是与民争利，说：“如而计，则贫人何以取资?且吾尚应夺民利邪?”
尹知章卒于秘书省正字，一生所著书传流行于天下。门徒
孙季良为了悼念他，在东都国子监门外刻石，以颂其德。
尹知章，绛州翼城人。少勤学，尝梦神人以大凿开其心，以药内之，自是日益开朗，尽通诸经精义，未几而诸师友北面受业焉。长安中，驸马都尉武攸暨重其经学，奏授其府定王文学。神龙初，转太常博士。中宗初即位，建立宗庙，议者欲以凉武昭王为始祖，以俻七代之数知章。以为武昭逮世非王业所因特奏议以为不可。当时竟从知章之议。俄拜陆浑令，以公玷弃官。时散骑常侍解琬亦罢职归田园，与知章共居汝、洛间，以修学为事。
睿宗初即位，中书令张说荐知章有古人之风，足以坐镇雅俗，拜礼部员外郎。俄转国子博士。后秘书监马怀素奏引知章就秘书省与学者刊定经史。知章虽居吏职，归家则讲授不辍，尤明《易》及庄、老玄言之学，远近咸来受业。其有贫匮者，知章尽其家以衣食之。性和厚，喜愠不形于色，未尝言及家人产业。其子尝请并市樵米，以备岁时之费，知章曰：“如汝所言，则下人何以取资？吾幸食禄，不宜夺其利也。”竟不从。开元六年卒，时年五十有余。所注《孝经》、《老子》、《庄子》、《韩子》、《管子》、《鬼谷子》，颇行于时。门人孙季良等立碑于东都国子监之门外，以颂其德。