法国汉学研究所IHEC创立于1920年3月，当时由
法兰西共和国和
中华民国总统最高层赞助。它于1921年被承认为公益性组织之前，曾获得过普通民事社团的地位。它的创建在很大程度上应归功于保罗·潘勒维（Paui Painleve）部长。 其目的是发展法中之间的多种文化关系，为此而要通过多种手段，包括组织对古代和近代中国的高等研究、创办一座汉学图书馆和出版重要的汉学著作。
如比利时汉学研究所一样，法国的这个社团也是借助出自中国在义和团事件之后每年支付的
庚子赔款为基金。
法国汉学研究所最早由保罗·潘勒维主持，其第一任所长是葛兰言(Marcel Granet)，直到他于1940年逝世为止。伯希和(Paul Pelliot) 继任了他，直到1945年为止。在
第二次世界大战期间以在此后数年间，由于巴黎大学的资助，汉学研究所才得以运行。战后，戴何都(Robert des Rotours)领导该所的工作。在戴密微 (paul Demieville)的帮助下，他力求获准将该所正式归并巴黎大淡。直到1959年，这种归并才被获准。该所享有一笔正常预算，当时设在巴黎索邦大学（Sorbnne，即巴黎大学），该所的领导职务被委托给了韩百诗 (Louis Hambis)。1968年，经过对法国大学的广泛调整之后，汉学研究所被置于法兰西学院的监护之下，设立在亚洲会馆那比较宽敞的场所。它与其他同类机构共享这一设施，诸如日本学研究所和印度文明研究所，它们同样也附属于法兰西学院；但那裹也有各种亚洲研究机构，如法兰西远东学院。法国汉学研究所此后又相继由吴德明（Yves Hervouet）和侯思孟(Donold Holzman)主持。这种局面一直维持到1989年，汉学研究所于这一时间与其他亚洲研究所一并被安置于它今天所处的新所址。当时由施舟人（Kristofer Schipper）主持到1992年，然后将其位置传给了魏丕信（Pierre-Etienne Will）和戴仁（Jean-Pierre Drege）。
法国汉学研究所自创立到60年代末，其主要活动之一便是在多种领域中教学，诸如语言、文学、宗教、艺术和历史。汉学研究所获得了法国与中国最优秀专家们的协作。汉学研究在大学范围内取得了发展，先在巴黎大学，后在波尔多和普罗旺斯地区的埃克斯（Aix-En Provence）设立专门讲座；汉学在重要的高级教育机构的范围内也获得了发展，诸如高等实验研究学院、社会科学高等学院，或者是国立现代东方语言学院。这种发展导致了汉学教学活动向新结构的方向发展。
汉学研究所的另一项活动是出版学术著作。自1934年以来，该所于其《汉学研究所文库》中，共出版了大批法文汉学著作，至今已出版29卷，其中列有沙畹（Edouard Chavannes）、白乐日（Etienne Balazs）、戴密微、戴何都或石泰安（Rolf·A·Stein）的著作。此外还有一套《通检和书目》丛书。自1975年以来，又出版了一套叫作《汉学研究所论丛》的丛书，旨在发表优秀博士论文或同等水平的著作，现已出版了6卷。现在的出版进度是每年两卷。在最新出版的著作中，我们可以提及以下几种。
汉学研究中心一次就向法国汉学研究所赠送1000多部著作。法国或外国的私立基金会也时而帮助增加其藏书量。该图书馆共拥有600多名注册读者经常出入。如果说其古籍藏量不非常丰富的话（因为那裹未收藏任何明代之前的著作），那么其藏书中却包括相当多的一批方志。尽管预算有限，使它无法获得范围更大的系列图书，但法国汉学研究所图书馆仍为欧洲最重要的汉学图书馆之一。