开远门建于隋初。隋代称开远门，唐代改名安远门。名为“开远”，可能意在表明隋唐帝国有向西拓展领土的需要。开远门下有3门道，唐永徽五年（公元654年）门洞上建城楼。《唐代长安辞典》载，开远门故址在西安西郊原大土门村。大土门村位置在今大庆路与西二环交界处南，而开远门遗址位于此村中心。

开远门是隋唐长安郭城西城墙最北的一座城门，也是隋唐丝绸之路的起点。门内有我国最早的基督教教堂景教寺。作为隋唐长安郭城西面的通衢大门，开远门见证过许多重要的历史事件。

西北大学教授张永禄说，开远门是隋唐长安丝绸之路的起点，距长安城的国际贸易市场西市仅有两坊的距离，门外竖有里程碑“立堠”，上题“西极道九千九百里”，不言万里，表示远游之人不为万里之行。尽管立堠不言万里，但据《资治通鉴》记载，“是时中国盛强，自安远门西尽唐境万二千里”，说明开远门外有直通西域的大道。当时，只要提起从长安到西域去的里程，大多从开远门计起。唐天宝八年（749年），在开远门外建“振旅亭”，用以表示等待西征的战士归来。

唐长安城作为当时的国际大都市，对外交通尤为便利，外郭城门作为进出都城的主要通道，成为长安对外交通的关节点。开远门就是连接丝绸之路和城内的通衢上的节点。隋唐时期，以长安为起点的丝绸之路，从开远门出发西行，经河西走廊，出敦煌再西行，通往中亚、西亚和欧洲。就是通过这条丝绸之路，从长安开远门以驼队将中国大批的瓷器、丝绸等运往西域各国及地区，而西域的“胡商”，也通过这条丝路带了香料、珠宝、药物等运往长安，这些货物主要集中在离开远门不远的西市售卖。

开远门内南侧是义宁坊，北侧是普宁坊。其中，普宁坊西街曾是西汉“辟雍”旧址。北宋人宋敏求所著《长安志·普宁坊》记载，坊西街“次东，汉辟雍”。辟雍也作璧雍，本为西周天子为教育贵族子弟设立的大学，取四周有水，形如璧环为名。汉代的辟雍已经由西周时的教育场所，变为“行礼乐，宣教化”的礼制建筑。西汉辟雍建于汉平帝元始四年（公元4年），位于汉长安城南的安门外以东，建筑形制为外圆内方型，四周环绕水沟。

开远门外建有夕月坛、白帝坛。史载，隋开皇初置夕月坛于开远门外，每逢秋分祭月，唐代延续这一制度，夕月坛在开远门外一里半道北。史载白帝坛在开远门外道南，每年立秋时祭白帝。

开远门内还有一座波斯胡庙。张永禄教授说，这座胡庙位于义宁坊内十字街的东北角，是可考的基督教传入我国后最早建立的教堂。贞观十二年（638年），唐太宗为从波斯来的大秦国（罗马）僧人阿罗本在长安义宁坊建立景教寺，天宝四年（745年）改称大秦寺。这是基督教在中国的最早流传。由于当时把波斯人、大食（阿拉伯帝国）人称为“胡人”，又因为景教是从波斯传入，故称其为波斯胡寺。唐德宗建中二年（781年），在该寺立有著名的《大秦景教流行中国碑》，碑中详细记载了景教的教义，以及阿罗本来长安布道受唐太宗优遇与景教在中国流传的情况。《大秦景教流行中国碑》现存于西安碑林博物馆。

开远门内南侧义宁坊南门之东，有隋代宰相高颎的居所。高颎（？~607年），字昡玄，隋渤海蓨县（今河北景县）人。他为人精明强干，文武兼备。隋初，他官拜尚书左仆射，曾兼任营建新都（大兴城）大监。开皇初年，高颎与裴政、杨素修制定刑律，废除诸多残忍酷刑。高颎任宰相长达20年之久，并辅佐当时的晋王杨广灭陈国，并因为功勋卓著，被封上柱国，并封齐国公。大兴城建好之后，他的居所就在开远门内义宁坊。

唐长安普宁坊西南隅靠近开远门处，有唐初名将李勣宅。李勣（594~669），曹州离狐（今山东东明东南）人。本姓徐，名世勣，字懋功。唐武德初年，赐姓李，永徽年间，为避太宗讳，改单名勣。贞观时以战功封英国公，任兵部尚书、同中书门下三品。唐高宗永徽年初，任开府仪同三司、同中书门下、尚书左仆射等职。

开远门作为隋唐长安城郭城西门中最繁华的一座，见证过许多重大历史事件。唐太宗贞观十九年（643年），一代名臣魏征去世，他的公葬日那天，太宗勅令京官文武九品以上及计吏，送魏征灵柩至开远门外，而太宗则登临苑日楼远远观望，哀伤不已。

张永禄教授说，由于开远门接近宫城和皇城，皇帝来去常经过这里。唐中宗曾在开远门外迎接高僧实叉难陀。唐代高僧实叉难陀是于阗（今新疆和田）人，对大乘和小乘佛教都很擅长。武则天时曾携带梵本《华严经》至东都洛阳，住在大遍空寺，与菩提流志、义净等高僧翻译了《华严经》八十卷。武则天长安四年（704年），因母疾请归。唐中宗景龙二年（708年），中宗李显遣使征召，实叉难陀奉召到达长安时，长安僧众倾城出迎，中宗皇帝也亲自到开远门外迎接他。据记载，当时场面非常壮观，有万年、长安两县法仪旌幢鼓吹，一路引导实叉难陀，并用青象载着他，仪式极为隆重，最后将实叉难陀送入大荐福寺。实叉难陀在长安荐福寺共译出《大乘入楞伽经》《文殊师利授记经》等佛典共十九部，一百零七卷。实叉难陀于景云元年(710年)十月圆寂，寿五十七岁。

有关开远门的重要历史事件，文献中记载很多，比如，唐玄宗天宝九年（750年），唐安西四镇节度使，执突骑施石国王，在开远门献俘。至德二年（757年）十二月，太上皇李隆基自蜀返都，即由此门而入。唐懿宗皇帝在咸通十四年（873）四月八日举行了迎佛骨仪式，其中佛骨就是从开远门进入长安城的。

安史之乱平定之后，朝中百官曾在开远门迎接大将郭子仪。郭子仪是华州郑县人，因考中武举而做官，天宝八年（749年）时，官职左卫大将军。后安史之乱爆发，郭子仪因平定安史之乱及收复两京有功，唐肃宗任命他为兵部尚书、同平章事。唐代宗广德二年（764年），郭子仪被封为朔方节度使，当时，仆固怀恩与其子仆固瑒起兵反唐，率领回纥、吐蕃、党项数十万人寇，京师震恐。郭子仪奉召到泾阳说服回纥酋长，并联合共破吐蕃，叛军与蕃军自溃，京师解严，郭子仪成功地化解了一次危机。《旧唐书·代宗纪》记载，当年十一月丁未（12月11日），郭子仪自泾阳入觐，唐代宗诏令，命宰相以及百官在开远门迎接郭子仪，唐代宗则在皇城安福门等待郭子仪。

开远门见证了唐代的兴盛，目睹了唐王朝危机的化解，也亲历了唐的衰败。唐僖宗广明元年（880年）十一月十七日，黄巢领导的农民起义军攻克洛阳，接着挥师西进，渡过黄河，于十二月一日攻克潼关，长安城岌岌可危，在此情况下，《旧唐书·黄巢传》载，唐僖宗连夜自开远门出城，逃往骆谷，诸王官属，都跟着他逃命，置国家的安危于不顾。

公元904年，朱温挟唐昭宗迁都洛阳，佑国军节度使韩建以唐长安皇城为基础建新城，放弃了宫城和外郭城，从此，郭城和宫城成为郊野，逐渐演变为村落。

清嘉庆时的《长安县志》载，当时这里有土门北村，即后来的大土门村。据当地住户回忆，解放初时，大土门村还有高出地面的夯土台遗迹。地图上标注的开远门遗迹，在大庆路与西二环十字西南，土门坊中段街东。记者看到，这里是一片工地，工人们告诉记者，在建的高层建筑是“开远门广场”，但没有见到过开远门遗址的石碑。而西二环与大庆路交界处的立交桥名为“开远门桥”，同时，地铁1号线还有开远门站，在开远门站西不远处，则是象征着开远门是丝绸之路起点的丝绸之路群雕。