蒋介石因鉴于国民革命军在历次战役中，工事构筑、阵地、阻绝与破坏等影响工作甚巨，及工兵于国军中之价质，乃爰令林伯森将军于民国十九年秋，着手筹办陆军工兵学校，以培养陆军工兵干部。民国二十一年八月十六日，由蒋介石手创于南京光华门外，并由林伯森将军担任本校首任校长，而民国二十四至三十六年，蒋介石亲自担任本校校长。
自抗战期间起，本校历迁江西清江、湖南零陵，后又迁至重庆，胜利后迁往安徽蚌埠，三十六年奉令成立初级班。为适应抗战的需要,该校举办军官召集教育，成立军士大队，抽调优秀上等军士，施以严格训练，另外，受陆军军官学校委托，代训军官学校所属干训班、特别班、特科教育班等。抗战八年该校共毕业7726人。校长仍由蒋介石兼任，教育长仍为林伯森。
1937年11月淞沪失陷，南京危机，兵工学校奉令由南京迁到湖南株洲，1938年1月又迁至重庆，6月第四期学生27人毕业，7月奉准补招第五期学生17人，8月招收军械技术班第三期学生49人。
1939年2月奉准招收特别训练班1个班50人，5月因日机对重庆轰炸猖狂，奉准迁至重庆郊外疏散上课，7月奉准招收大学部第六期造兵学系、应用化学系两系学生共100人。同月又奉兵工署训令，由署招收大学毕业生50人为练习员，在本校设补习班，补充兵工教育，期限1年。同月军械技术班第二期学生54人毕业。又奉令将军械人员训练班附设本校，召集第七期管理班学员100人。10月奉令设立初级军械技术班1个班，将前雷电大队艺徒85人施以训练，期限2年。
1939年12月奉令改名为军政部兵工学校。1940年1月军械人员训练班第七期管理班学员72人毕业，5月特别训练班学生21人毕业，6月奉令召集军械人员训练班第八期管理班学员100人，同月在南京招考的第五期学生15人毕业，在重庆补招的第五期学生17人，送泸州学兵队补受军训，8月奉命招考大学部第七期造兵学系及应用化学系学生共71人。
1941年1月练习技术员补习班29人毕业，7月第五期后补学员15人毕业，9月招考大学部第八期造兵、应化两系学生共45人，军械技术班第五期43人于是月毕业。
1942年3月初级军械技术班34人毕业，9月招收大学部第九期造兵、应化两系学生72人。
1943年9月招收大学部第十期造兵、应化两系学生共53人。1944年9月大学部第六期学生50人毕业，同月招收大学部第十一期造兵、应化两系学生共52人。
1945年9月招收大学部第十二期造兵、应化两系学生23人。10月大学部第七期学生43人毕业。其后又因战乱，历迁南京、零陵以迄贵州遵义。民国三十八年十月奉令迁台，祁驻凤山、楠梓。
民国四十年元月先在万华，以龙山国校为班址，成立工兵训练班，民国四十一年元月奉令于内湖复校，按新制设立军官高、初级班及士官班次，复于民国六十一年改制设立正规班、分科班及高级专长班次，民国七十一年十二月迁至高雄燕巢。
