907年，契丹族傑出的政治家和軍事家耶律阿保機被推舉為遙輦氏部落聯盟首領，他四處征戰，開疆拓土。916年，耶律阿保機在龍化州即位，廢除可汗稱號，改用漢制，稱為“大聖大明天皇帝”，史稱遼太祖，建元“神冊”，定國號“契丹”。947年，遼太宗改國號為“大遼”。
918年，阿保機決意興建政治中心，他看準了契丹故地“西樓”地區。這一帶背靠大興安嶺余脈的崇山峻嶺，面臨廣闊無垠的草原，土地肥沃，河水豐沛，宜牧宜耕，難攻易守，是建都的好地方。阿保機令漢人康默記負責營建工程。後遼太宗又數次加以擴建，上京城才成為真正意義上的都城。上京城的出現標誌著契丹族社會形態開始向封建制過渡。
上京城的營建，主要採用了中原漢地都城的建造經驗，同時在建築設計上沿襲了契丹族的大量舊俗。上京城分南、北兩城，平面呈“日”字形，總周長8839米。除北城南城墻被河水沖毀外，其餘城墻和城門遺址現保存尚好。
北城，謂之皇城，位於全城的北部，東、南、北三面城墻呈直線，西墻南北兩端向內曲折，周長6399米。城墻均為夯土板築，原高三丈，有樓櫓和馬面。城墻外有一壕塹。北城有四座城門：東曰安東門，南曰大順門，西曰乾德門，北曰拱辰門。除大順門外，其餘三門均建有甕城。北城中北部為皇帝居住的宮廷大內，有城門三座：南曰承天門，上有樓閣；東曰東華門；西曰西華門。由於契丹人尚東喜左，阿保機時以東門為北城正門，遼太宗時改大順門為正門。北城是上京城的政治、軍事中心，只允許契丹人居住。城內遍設官衙與寺廟，如有北面官衙、南面官衙、留守司衙、鹽鐵司、臨潢府、臨潢縣衙、國子監、綾錦院、內省司、曲院、瞻國倉、省司倉、八作司、長泰縣衙、日月宮、齊皇后宮、元妃宅及御用作坊等。寺廟有安國寺、孔廟、天長寺、崇孝寺、天雄寺、節義寺、聖尼寺等。
南城位於上京城南半部，為遼太宗即位後在北城南面另築的新城垣。由於漢族人多居於此，故俗稱漢城。南城以北城的南城墻為其北城墻，城墻原高兩丈。南城共有四座城門：東曰迎春門，南曰順陽門，西曰金鳳門，北門即北城南門大順門。南城內也有許多官衙，如易俗縣衙、遷遼縣衙、宣化縣衙、保和縣衙、路縣縣衙、興仁縣衙、定霸縣衙，還有臨潢驛、同文驛、回鶻營和福先寺。諸縣衙分管漢、渤海等族事務，回鶻營專供回鶻等中亞商人居住，同文驛專門接待宋朝的使臣。南城商業十分發達，城中廣設商店市肆。
上京的形制不守中原“前朝後市”的傳統佈局，而是結合契丹民俗，設計為“前市後朝”的佈局。這裡既有面南背北的漢式建築，又有“門皆東向”的宮殿樓閣，二者相互烘托，形成了草原京城的獨特風格。所謂遼朝文化的二元性，就是既有濃厚的契丹族文化內涵，又有中原漢族文化的特點，這在上京城的建築與佈局上得到了充分的體現。
經文物工作者對上京城的數次發掘，發現地面散佈和出土文物極為豐富，主要有各類建築材料、鐵質生活器皿、陶質生活用品、骨器和各種錢幣。
