沂源縣發(fā)現(xiàn)的距今四五十萬(wàn)年前更新世的“沂源人”化石，為直立人在中國(guó)的例子之一。山東石器時(shí)代文明包括距今7300年－6100年前的“北辛文化”，以及公元前4300年－前2500年的大汶口文化與龍山文化。漢字的較早發(fā)掘品目前追溯到濟(jì)南市章丘市龍山街道（原濟(jì)南市歷城縣龍山鎮(zhèn)）龍山文化的陶片。[3]

夏禹分九州時(shí)，山東屬于青州。

商朝建立之前，山東西、北部曾是商部落的活動(dòng)中心，也是商王朝統(tǒng)治的中心區(qū)域之一；對(duì)山東東部未華夏化的東夷人，商王朝通過(guò)盟國(guó)奄國(guó)、薄姑國(guó)等對(duì)其進(jìn)行統(tǒng)治。

公元前1046年，周武王滅商紂，天下更始。武王首封輔佐有功的姜太公于齊（侯國(guó)）；武王之弟周公則封于魯（公國(guó)）。

齊國(guó)定都營(yíng)丘，后改名臨淄，據(jù)《左傳·僖公四年》，其疆域“東至于海、西至于河（黃河）、南至于穆陵（今沂水與臨朐交界處）、北至于無(wú)棣（今河北鹽山）”。齊國(guó)“通商工之業(yè)、便魚(yú)鹽之利，而人民多歸”，融合“東夷文化”、“因其俗，簡(jiǎn)其禮”，“舉賢而尚功”，務(wù)實(shí)革新、兼容并包，國(guó)力相當(dāng)鼎盛。齊國(guó)的工商業(yè)與技術(shù)如紡織業(yè)也非常發(fā)達(dá)，有“冠帶衣履天下”的美譽(yù)。

魯國(guó)都于曲阜，其疆域在《詩(shī)·魯頌·宮》中描述為“泰山巖巖、魯邦所詹。奄有龜蒙、遂荒大東。至于海邦、淮夷來(lái)同”。魯國(guó)秉承周朝禮樂(lè)典儀，是尊尚仁義、傳統(tǒng)、倫理、人和的“禮儀之邦”。

齊魯文化對(duì)中華文化的形成和發(fā)展有大量貢獻(xiàn)及深遠(yuǎn)影響。生于魯都曲阜的孔夫子在這里開(kāi)創(chuàng)了儒家思想，成為后來(lái)中國(guó)社會(huì)框架與價(jià)值觀的基石。蚩尤（中華先祖之一）、孔子、孟子等都是齊魯兩國(guó)對(duì)中華文明多方面貢獻(xiàn)的杰出代表。

山東境內(nèi)還有其他許多小一些的諸侯國(guó)，僅見(jiàn)于《左傳》的就有55國(guó)之多，其中疆域及影響較大的有萊、莒、鄒、滕、曹等國(guó)，他們后來(lái)多被齊、魯兩國(guó)并吞。進(jìn)入戰(zhàn)國(guó)時(shí)代，齊國(guó)成為七雄之一；而今日山東的大部分地區(qū)都由齊、魯兩國(guó)擁有。及至公元前221年，齊國(guó)成為最后被秦國(guó)吞并的諸侯國(guó)。

山東素有“膏壤千里”的美譽(yù)，早期就有發(fā)達(dá)的農(nóng)業(yè)與手工業(yè)，秦漢為中國(guó)的經(jīng)濟(jì)中心。山東的糧食不斷沿黃河西溯，供應(yīng)關(guān)中。是漢代“絲綢之路”的重要源頭，臨淄、定陶、亢父是全國(guó)的三大紡織中心，大量精致的紡織品自此源源不斷地輸往西域。

秦并天下，分天下為36郡，其中在山東地區(qū)設(shè)置了齊郡、東郡、薛郡、瑯邪郡。

漢武帝劃分天下為十三州，其中在山東地區(qū)設(shè)置了北部的青州和南部的徐州、兗州。及至東漢、曹魏、西晉。

晉室大舉南遷，東晉十六國(guó)北朝時(shí)期，至少幾百萬(wàn)華北人民遷徙往南方、東方，大量北方、西方游牧民族進(jìn)入山東、山西、河北、河南等北方等地，北方的民系出現(xiàn)巨大變化，山東地區(qū)先后被后趙、前燕、前秦占領(lǐng)。淝水大戰(zhàn)過(guò)后，山東回歸東晉，東晉設(shè)置幽州于廣固，不久被慕容德攻占。義熙六年（410），劉裕平定南燕，復(fù)置青州和兗州。

南北朝時(shí)期，爭(zhēng)戰(zhàn)頻仍，經(jīng)濟(jì)破壞。劉宋時(shí)，增置冀州治歷城。其后入于北魏，改冀州置齊州。北魏亡，屬北齊，不久為北周所并。

山東恢復(fù)發(fā)展。當(dāng)時(shí)主要屬于河南道（河濟(jì)以南屬河南道，以北屬河北道）。開(kāi)元天寶年間，每年都有幾百萬(wàn)石的粟米運(yùn)至關(guān)中，而青、齊等地的物價(jià)仍遠(yuǎn)低于中國(guó)其他地方。唐代兗州的鏡花綾、青州的仙紋綾，都是馳名全國(guó)的精美織品。至唐后期，戰(zhàn)亂又起。

宋初，山東隸屬于京東路和河北路，后又增置京東西路，曹州、鄆州屬京東西路。

金人分山東東路及山東西路，東路治益都，西路治東平。金朝剝削嚴(yán)重，加上受到不斷的外來(lái)侵?jǐn)_及野蠻統(tǒng)治，社會(huì)與經(jīng)濟(jì)處于滯退狀態(tài)。金代人口約144萬(wàn)戶。

到元代，只有126萬(wàn)人、38萬(wàn)戶，與金代相比，人數(shù)減少約87%、戶數(shù)減少約75%。山東地界置益都路、濟(jì)南路等。

明朝開(kāi)始設(shè)立山東布政使司（當(dāng)時(shí)包括遼東、北京、天津及河北）。明初光復(fù)時(shí)，山東“多是無(wú)人之地”，政府獎(jiǎng)勵(lì)人民墾荒。南直隸的徐州道、太倉(cāng)道、潁州道，由山東管理。至洪武二十六年（1393年），耕地面積有7240余萬(wàn)畝，是北宋時(shí)期的2.4倍，居全國(guó)第三位。1421年永樂(lè)皇帝遷都北京以后，京杭大運(yùn)河沿線的濟(jì)寧和臨清由于漕運(yùn)的發(fā)展而繁榮起來(lái)。

清初設(shè)置山東省，“山東”才成為本省的專名。到康熙年間，耕地達(dá)到9000余萬(wàn)畝。1860年代，煙臺(tái)成為山東第一個(gè)開(kāi)放口岸。1895年，在甲午戰(zhàn)爭(zhēng)中，日軍攻占威海，北洋海軍全軍覆沒(méi)。1898年，青島和威海分別租借給德國(guó)和英國(guó)。德國(guó)修筑了從青島通往濟(jì)南的膠濟(jì)鐵路（1905年）與津浦鐵路北段（1911年），把山東當(dāng)作自己的勢(shì)力范圍。1899年，義和團(tuán)從山東興起，攻擊遍布山東省的西方傳教士。清末，面對(duì)俄國(guó)和日本的威脅，東北終于向漢族移民開(kāi)放，加上民國(guó)初年張作霖的鼓勵(lì)措施，在100年間有為數(shù)上千萬(wàn)的農(nóng)民闖關(guān)東謀生，成為今天東北人中的重要組成部分。

1914年，日軍從德國(guó)手中奪取青島。1922年華盛頓會(huì)議后歸還中國(guó)。1930年，國(guó)民政府從英國(guó)手中收回威海。

1937年－1945年抗日戰(zhàn)爭(zhēng)，日軍占領(lǐng)山東鐵路和城市，中國(guó)共產(chǎn)黨則在山東建立起沂蒙等解放區(qū)。山東省政府主席何思源早在1945年6月便秘密入魯，并在9月1日返回濟(jì)南。

1946年10月下旬，何思源調(diào)任北平市長(zhǎng)，10月23日，王耀武正式上任山東省政府主席，11月1日，王耀武宣誓就職。在王耀武主魯之初，蔣介石三次蒞濟(jì)巡視，并進(jìn)行頻繁接見(jiàn)與視導(dǎo)，與王耀武長(zhǎng)時(shí)間私談。1949年6月2日，美軍從青島撤退后，解放軍進(jìn)駐該城。

1949年8月，華北人民政府通令，山東部分地區(qū)劃出，與河南、河北的部分地區(qū)成立平原省。

中華人民共和國(guó)成立后，設(shè)立平原省，由中央直接領(lǐng)導(dǎo)，今山東的菏澤、聊城等地區(qū)劃歸平原省管轄。

1952年撤銷平原省，菏澤、聊城、湖西3專區(qū)劃歸山東省。

1953年6月，滕縣專區(qū)駐地遷往濟(jì)寧，成立濟(jì)寧專區(qū)。7月，撤銷湖西專區(qū)和沂水專區(qū)，將其所屬縣市分。別劃歸濟(jì)寧、菏澤和臨沂專區(qū)。

1954年12月，撤銷淄博工礦特區(qū)，設(shè)立淄博市。

1958年，萊陽(yáng)專區(qū)更名為煙臺(tái)專區(qū)。

1960年，撤銷嶧縣，設(shè)立棗莊市。

1963年，河南省東明縣劃歸山東。

1964年，范縣劃歸河南。

1965年1月，館陶劃歸河北，河北省的寧津縣、慶云縣劃歸山東。

1967年，專區(qū)更名為地區(qū)，山東轄9個(gè)地區(qū)，4個(gè)省轄市，5個(gè)縣級(jí)市，107個(gè)縣。

1981年5月，昌濰地區(qū)更名為濰坊地區(qū)。

1982年11月，設(shè)立省轄東營(yíng)市。

1983年，撤銷煙臺(tái)地區(qū)、濰坊地區(qū)、濟(jì)寧地區(qū)，設(shè)立地專級(jí)煙臺(tái)市、濰坊市、濟(jì)寧市。

1985年，撤銷泰安地區(qū)，設(shè)立地專級(jí)泰安市。

1987年，威海升為地專級(jí)市。

1989年，日照升為地專級(jí)市。

1992年，惠民地區(qū)更名為濱州地區(qū)，萊蕪升為地專級(jí)市。

1994年，撤銷臨沂地區(qū)、德州地區(qū)，設(shè)立地專級(jí)臨沂市、德州市。

1997年，撤銷聊城地區(qū)，設(shè)立地專級(jí)聊城市；

2000年，撤銷濱州地區(qū)、菏澤地區(qū)，設(shè)立地專級(jí)濱州市、菏澤市。

2018年12月，國(guó)務(wù)院批復(fù)同意山東省調(diào)整濟(jì)南市萊蕪市行政區(qū)劃，撤銷萊蕪市，將其所轄區(qū)域劃歸濟(jì)南市管轄；設(shè)立濟(jì)南市萊蕪區(qū)，以原萊蕪市萊城區(qū)的行政區(qū)域?yàn)槿R蕪區(qū)的行政區(qū)域；設(shè)立濟(jì)南市鋼城區(qū)，以原萊蕪市鋼城區(qū)的行政區(qū)域?yàn)殇摮菂^(qū)的行政區(qū)域。