对于山东地区游击战争的开展，毛泽东极为关注，1937年9月25日曾指出：在山东应普遍的但是有计划的组织游击队。中共北方局也号召每一个优秀的共产党员，脱下长衫到游击队去。

中共山东省委根据中共中央和北方局的指示，于1937年10月在济南秘密召开了省委会议，制定了分区发动武装起义的计划。会议要求各地党组织迅速发动群众，抓紧在日军开始入侵但尚未全面占领山东、国民党军溃退、人民群众抗日情绪高昂的时机，及时领导人民举行武装起义；要团结一切不愿做亡国奴的人们起来参加部队，并争取和改造一些掌握在爱国人士手中的地方武装。省委决定，各地武装起义后，可用“山东人民抗日救国军”或“山东人民抗日游击队”的名义。山东各地党组织，根据省委会议精神，深入进行了政治动员，派代表到各地去恢复和发展党的组织，为发动抗日武装起义，进行了思想上和组织上的准备。

1937年10月初，日军侵入山东，逼近济南。山东人民在中共各地组织的领导下，先后在冀鲁边、鲁西北、天福山、黑铁山、鲁东、徂徕山、泰西、鲁东南、鲁南、湖西等地区举行了武装起义，抗日烽火在山东大地迅速燃烧。

在冀鲁边区，“七 七”事变之后，中共冀鲁边区工委于文彬、马振华就在盐山组织了“华北民众抗日救国会”。

11月，日军侵占盐山等地，冀鲁边工委即在盐山之旧镇、乐陵之黄夹镇及宁津、庆三、无棣等地，领导人民举行了抗日武装起义，建立了“人民抗日救国军第1军”。起义武装先后数次袭击盐山之敌，1938年1至4月，曾攻克盐山、解放无棣、收复庆云县城，部队发展到2000余人。同时，成立了乐陵、庆云、南皮三县民主政权。

在鲁西北地区，全国抗战爆发后，中共山东省委即对第6区专员兼保安司令范筑先进行统战工作。在中共党组织的帮助和推动下，范筑先于11月19日通电全国，宣布誓死留鲁西北地区坚持抗战，并将第6区保安司令部改为“山东省第6区抗日游击司令部”。随后，陆续收编了大批游杂武装，编成35个支队，并在10多个支队中建立了共产党的组织。此外，鲁西北特委还在堂邑县组建了第1游击大队，不久以此为基础扩编成范部的第10支队。

鲁西南工委在曹县组织了一支3000余人的武装，使用范部第35支队的名义。

在胶东地区，1937年12月24日，中共胶东特委书记理琪在文登县天福山领导武装起义，组成“山东人民抗日救国军第3军”。翌年1月中旬，胶东待委又在威海卫组织了一支武装，扩大了起义部队。2月上旬，正式成立了山东人民抗日救国军第3军司令部，辖两个大队。起义武装曾夜袭牟平城，收复福山县城。在天福山起义的同时，中共掖县、蓬莱、黄县、莱阳等地党组织也相继举行起义，组织了抗日武装，并建立了掖县、蓬莱抗日民主政府。第3军于4月间将起义部队分别编为第1、第2、第3、第4路，每路下辖若干大队；掖县起义武装则编为第3军第3支队。全军共发展到7000余人。

在清河地区，中共山东省委于1937年10月即派姚仲明、廖容标、赵明新等与长山中学校长马耀南密切合作，开办游击训练班，准备发动游击战争。

长山失陷后，他们于12月26日在长山、临淄间之黑铁山举行抗日武装起义，成立了“山东人民抗日救国军第5军”。该军于1938年1月袭入长山县城，在小清河伏击日军，击沉日军汽艇一艘，2月间，又于周村西白云山之三官庙击退日伪军400余人的进攻。与此同时，中共淄川矿区及章丘、益都、临淄等地党组织，也组织了抗臼武装，并相继编入第5军，部队迅速发展到6000余人。

在鲁东地区，1937年12月29日，寿光县委的马保三和红军干部韩明柱在寿光城北牛头镇发动武装起义，成立了“八路军鲁东游击第8支队”。翌年1月27日，鲁东工委书记鹿省三又在潍县北之蔡家央子等地发动武装起义，组成“八路军鲁东游击第7支队”。3月，第7、第8支队于昌邑县瓦城会合，台编为八路军鲁东游击指挥部，后转移到胶东掖县、黄县地区开展抗日游击战争。部队发展到5000余人。7月，该部又西返清河地区开展抗日斗争。

徂徕山武装起义，是在中共山东省委直接领导下进行的。1938年1月1日，在省委书记黎玉、宣传部长林浩和红军干部洪涛、赵杰等人的领导下，于泰安东南徂徕山之华光寺举行抗日武装起义，组成“八路军山东人民抗日游击队第4支队”。接着，中共莱芜、新泰等地党组织领导的抗日武装先后编人第4支队。部队组成后，相继在大汶口至新泰公路、泰安至新泰公路优击日军。此后，第4支队乓分两路：一路向新泰、蒙阴、费县、泗水一带活动；一路向莱芜、博山、淄川一带发展。中共博山、泗水、临沂等地方组织发动领导的抗日武装相继与第4支队会合。4月，第4支队南北两路会师莱芜城，部队发展到4000余人，编为3个团。

在泰（山）西地区，中共山东省委于1937年12月即派张北华、远静沧等到此地开辟工作。1938年1月1日，他们在夏张镇举行武装起义。11日，起义武装与中共肥城地方组织发动的抗日武装会合，组成“山东西区人民抗敌自卫团”，先后于1～4月间攻克肥城，夜袭津浦铁路上的界首村敌据点。

此间，中共长清、太安地方组织发动的部分抗日武装先后编人自卫团，使泰西起义部队发展到2000余人。

在鲁东南（后称滨海）地区，中共沂水县地方组织于1938年初在沂水以西公家疃一带组建了“八路军山东人民抗日游击第4支队第6大队”，4月间，中共莒县地方组织在浮来山一带组织的“高房乡民众抗敌自卫团”，开赴沂水西南之泉庄与第6大队合编，使第6大队的力量得到加强。8月间，第6大队发展到两个营、改编为“八路军山东抗日游击第2支队”，坚持滨海地区抗日斗争。

在鲁南地区，1938年3月，日军逼近徐州，?