約于公元前2000年夏少康時，封此地為任國。 秦稱任城縣。後周廣順二年（952年）置濟州，設治于巨野，任城縣屬濟州。北宋仍之。金天德二年（1150年）遷濟州治所于任城。後或在任城或在巨野幾經變遷，終因任城地勢高亢可防水患，遂得安寧，而于元至正八年（1348年）定治于此，是為濟寧得名之由來。明洪武元年（1368年）改濟寧路為府，仍治任城。後降濟寧府為州，任城遂廢名入濟寧州。清雍正二年（1724年）改為直隸州，領三縣直屬山東省。1913年改直隸州為濟寧縣，先後屬岱南道、濟寧道等，至抗戰勝利後，屬第二督察專員公署。 1946年1月濟寧第一次解放，以城區和郊區劃為濟寧市。同年9月被國民黨軍隊佔領，又復為縣。1948年7月重獲解放，仍稱濟寧市。此後屢經變遷。1983年10月濟寧地區撤銷，濟寧市升為省轄地級市。
