早在武王伐纣建立西周之初，分封天下之时，在今山东一带主要分封了两个诸侯国，一个是鲁国、一个是齐国。
鲁国的首任诸侯王是周武王弟弟周公旦之子伯禽，为诸侯五等级：公、侯、伯、子、男的第二等级，侯爵。比较显贵。
春秋时期，在鲁国诞生了我国的古代著名的政治家、思想家和教育家，被称为“至圣先师”的儒家学派创始人孔子。而儒家思想从汉朝开始对中华文化影响极为深远。
而齐国的首任封君则为周武王的国师、军师姜尚，也为侯爵。春秋时期，齐桓公姜小白“尊王攘夷”、九合诸侯，为“五霸“之首。战国时期，虽有田氏代齐，又为“七雄”之一。
这样，由于齐国和鲁国在中国历史文化中的深远影响，而今山东之地与齐国、鲁国的区域大体相同，所以 ，山东之地也就被称为齐鲁大地了。