“直辖”在古代称为“直隶”。直隶制始于宋朝，北宋设“路”作为省级行政区划，在二十三路之外，还有中央政府直接管辖的府，如北宋京师所在开封府。
1927年，国民政府定都南京后，开始设置特别市（后改为行政院直属的院辖市，即直辖市）。到1947年，一共设立了12个直辖市，分别如下：
1、南京
1927年5月，设南京特别市。1930年6月，改称南京市，为行政院院辖市。
2、上海
1928年8月，设上海特别市。1930年7月，改称上海市，为行政院院辖市。
3、北平
1928年6月，设北平为特别市，1930年6月，降为河北省辖市，11月，又改称北平市，为行政院院辖市。
4、天津
1928年6月，设天津为特别市，1930年11月，降为河北省辖市。1935年6月，又改称天津市，为行政院院辖市。
5、汉口（武汉）
1929年4月，设武汉为特别市（含武汉、武昌、汉阳三镇）。1936年5月，降为湖北省辖市。1947年，又升为汉口市，为行政院院辖市。
6、青岛
1929年7月，以日本交还的胶澳商埠设立青岛特别市。1930年9月，改为青岛市，为行政院院辖市。
7、广州
1930年1月，设立广州特别市。8月降为广东省辖市。1947年，又改为广州市，为行政院院辖市。
8、西安（西京）
1932年1月，决定以陕西长安为陪都，定名西京，直属行政院。但当时只是设立了筹备委员会，并没有成立市政府。1943年3月，批准成立西安市，隶属于陕西省。1947年，改为西安市，为行政院院辖市。
9、重庆
1939年5月，设重庆市，为行政院院辖市。
10-11、大连、哈尔滨
1945年9月，抗日胜利后，国民政府收回了在1905年先由沙皇俄国、后为日本占领的旅顺口、大连湾地区，改置为大连院辖市。同时还另外设有哈尔滨院辖市。不过当时是苏联红军占领了大连、哈尔滨（随后是东北抗日民主联军进驻该市），国民政府实际上并没有能够在这两个城市行使管辖权。
12、沈阳
1947年6月，设立沈阳市，为行政院院辖市。
