早在四五十万年前的更新世（旧石器时代），山东就有古人类活动[12]。山东省沂源县发现的沂源猿人被认为是最早的山东人。山东是华夏文明的发祥地之一[8][14]，新石器时代的文明有距今8400-7700年前的后李文化、距今7300年-6100年前的北辛文化、距今6300年-4500年前的大汶口文化、距今4900年-4100年前龙山文化等[17]。山东龙山文化遗址被发现于济南，出土的农具、陶器、陶文显示山东地区已进入文明时代[18]。少昊为传说中的五帝之一，活动于山东西南部一带。
距今3950-3500年前的岳石文化属于青铜时代的早期，处于中原夏代，其分布以泰山、沂蒙山为中心，北起鲁北冀中，向南越过淮河，西自山东最西部、河南的兰考、杞县、淮阳一线，东至黄海之滨[22]。东夷人在山东东部建立众多方国，而商族则在山东西部活动[8]。商朝自商王中丁后，连续发生王位纷争，又屡次迁都，历经了九世之乱，其中祖乙曾将商都迁至庇（山东郓城），南庚又迁到奄（山东曲阜），直到盘庚迁至殷（河南安阳）才稳定下来。商王朝通过奄、薄姑（山东博兴）等国对山东东部未华夏化的东夷人进行统治。
#深度好文奖励计划#
周朝建立初期，三监贵族、纣王子武庚联合东夷反叛，武王的弟弟周公旦遂发动东征，消灭奄、薄姑等国。武王把原奄地封给周公建立鲁国，把原薄姑地盘封给姜太公建立齐国。鲁定都曲阜，农业发达；齐定都临淄，工商业发达，国力相当鼎盛。春秋时期，山东境内还有其它许多小一些的诸侯国，其中疆域及影响较大的有莒、徐、郯、宋、莱等国。
齐桓公通过“尊王攘夷”成为春秋五霸之首。公元前567年，齐国消灭了最后一个东夷方国莱国，将势力扩张至胶东半岛，但时任齐国国君的姜子牙秉持“因其俗，简其礼“的理念，尊重原住民（莱夷）文化，为齐国后来的强盛奠定了基础。进入战国时代，齐国（田齐）成为战国七雄之一；而今日山东的大部分地区都由齐、鲁两国占有。
公元前249年，楚国攻灭鲁国；公元前223年，秦国攻灭楚国。公元前221年，秦灭齐国，建立了统一的封建王朝。秦末民变中，田儋自立为齐王，被秦将章邯所杀。前203年，汉王刘邦派使者郦食其游说齐王田广停战，被烹杀；韩信攻陷齐都临淄。田广逃亡中病死，田横在海岛上（山东即墨田横岛）自立为王，被刘邦逼降，不堪受辱，自刎而死。
秦汉以来，山东成为中国的农业中心。山东的粮食不断沿黄河西溯，供应关中。山东是汉代“丝绸之路”的重要源头，临淄、定陶、亢父（山东任城）是全国的三大纺织中心，大量精致的纺织品自此源源不断地输往西域。东汉末年，山东地区争战频仍，先后有曹操、刘岱、臧霸、张邈于此起兵。五胡乱华纷战时期，山东西部也成为兵家必争之地，发生了多次大的战役。五胡乱华后期，慕容部鲜卑建立的南燕割据于山东，定都广固（山东益都），前后共十余年。在二百年的战乱中，山东地区经济生产受到极大破坏，中西部尤甚。
