在高丽王朝时期（十世纪至十四世纪末），釜山被称为Busanpo，Busan的意思为“釜状的山”这是根据城市后面山的形状而得名。而po，则是“海湾”或“海港”的意思。
釜山原为渔村，新罗时代称东莱。公元1368年（高丽恭愍王17年）因该地山形似釜（锅）而改称为釜山。1443年辟为商港，1876年辟为国际贸易港。1929年定为庆尚南道首府。1949年8月改称釜山市，1963年1月升格为直辖市。1991年韩国实行地方自治，1995年改称釜山广域市。
三韩时代的釜山地区势力区处于居漆山国、苌山国等几个小国形成鼎立态势。特别是在新罗吞并伽倻的6世纪中叶之后，釜山地区的居漆山国被改为居漆山郡，757年又将居漆山郡改为东莱县，这是使东莱在历史记录中首次出现。这一时期大甑县被改为东平县，受辖于东莱县。
高丽时代，983年釜山地区属于尚州牧，995年属于岭东道。1018年被属于蔚州，后来任命县令。此外，在高丽末期，倭寇日益猖獗南海岸，釜山地区被强调为军事重要据点。
朝鲜时期，太祖年代设置了兵马使镇，太宗年代将其改为佥节制使。1547年由于这一地区的重要新而被升格为东莱都护府，1655年设置了独镇。特别是设置了作为对日贸易及外交中心地区的倭馆，如釜山浦倭馆（1407-1592年）、豆MAO浦倭馆（1604-1678年）、草梁倭馆（1678-1876年）等。
1592年后，釜山被日本人侵入并沦为日本殖民地，1607年战争以后恢复了外交关系，釜山并得以重建。18世纪后叶，日本的势力大肆膨胀，吞并韩半岛及大陆，朝鲜予以顽强的抵抗。
1876年，釜山成为朝鲜第一个港口，以后与日本重新定位了睦邻友好关系和建立了外交关系，并从1883年开始恢复了与日本的一般商贸往来。
1910以后，朝鲜被日本吞并，釜山成为日本殖民地城市，城市中心成为商阜。在日本统治时期（1910-1945）也发展成现代化的港口城市，轮船可从釜山码头开往日本的下关。
1950年至1953年，朝鲜战争时期，釜山是联合国运送装备和供给到朝鲜的唯一港口。城市周围还保留着很多当年联合国军队建造的防御工事和设施。在当时釜山也是接受从海外返回的难民最多的城市。
