清光绪二十四年（1898年），由即墨县划入胶澳租界的区域，自南窑半岛偏东海岸处起立第一号界石，经聚仙宫西、砖塔岭之脊立第二号界石，然后沿狗皮岭、茶涧、蔚竹庵北、棒（磅）石北、北窝落（卧龙）村北，顺白沙河北岸，抵南港村之西，沿海岸折而北，经李家女姑东北上，越洪江河、抵铁家庄北端，折下崖南，经程哥庄南等立第三号至六十四号界石，抵大沽河东岸立第六十五号、六十六号界石。其中，现崂山区中韩、沙子口、北宅3个街道的区域划入租界内。

　　民国24年（1935年）7月1日，青岛市郊扩大，将属即墨县的崂山东部地区划归青岛市。界线划分自马家古镇东南沙河与白沙河合流之处起，沿沙河北岸经曹村之西、纸房之南、大小后寨之间，经后金沟东北至铁骑山后分水岭，更越岭沿山沟至西葛家夼，仍循沙河而至大河会流处，更沿大道折而东南，越南北岭，经大桥村、蛤蟆石村之南至峡口庙，由此再循沙河向东，经东西上庄南、张家、王家、江家土寨等南至沙河口入于海，直至沿直线正东之广大海域。沿新界以南区域设立青岛市乡区，辖李村、崂东、崂西、夏庄、阴岛5个区，直属青岛市管辖。

1949年6月，南海专署崂山行政办事处设立。

1951年4月，崂山行政办事处划归青岛市，将青岛市李村区、浮山区、四沧区的5个村、即墨县的10个村、即东县的4个村划入崂山行政办事处。

1953年6月，崂山行政办事处更名崂山郊区人民政府。1961年10月，崂山县设立。

1988年11月，经国务院批准，撤销崂山县，设立青岛市崂山区，原崂山县的行政区域为崂山区的行政区域。

1994年4月，青岛市市区行政区划进行重大调整。其中，将原崂山区的一部分设立新崂山区，一部分设立城阳区，一部分与沧口区合并设立李沧区。

1998年5月，崂山区撤镇设街道，辖中韩、沙子口、王哥庄、北宅4个街道。2017年4月，调整原中韩街道行政区划，析出并新设立金家岭街道。