李维俊中学毕业后回乡，被聘为高塘小学教员，1926年被群众推选为高塘小学校长。他聘请中共党员陈述善和思想进步的教师吉维庚等人任教，大力宣传新文化，改革旧的教育制度和教学方法，使高塘小学成为当时华县地区最有生气的学校。其后，中共西安地方和陕甘区执委会陆续派马文彦、霍世杰到该校工作，高塘小学成为中共组织的重要活动据点。同年，经陈述善介绍，李维俊加入中国共产党。
1927年李大钊被军阀杀害。当时，高塘小学正在修建校舍道路，李维俊发动师生从一里路外的河谷中挑选洁白的鹅卵石运回来，在学校礼堂前的大道上，用砖石镶嵌了“同志们赶快踏着先烈的鲜血前进啊”15个大字，激励师生继承革命先烈的遗志，永远奋斗不息。大革命失败后，白色恐怖笼罩陕西，师生们用泥土把这15个大字覆盖掩埋，使其得以保存下来。直到新中国成立后，人民政府才加以修整，使其重放光彩。
渭华起义前，李维俊参加了对高塘民团恶霸头子孙景福的斗争，带领群众拆了“孙霸天”的三层楼房，建立了高塘民众的公民会。1928年春，渭华起义开始后，李维俊领导群众首先镇压了国民党华县党部常委李激石和土豪劣绅高明礼的父亲，接着又斗争了为富不仁、作恶多端的恶霸郭宝玉、王佐、刘青藜、庞玉堂等人。渭华起义中，西北工农革命军司令部就设在高塘小学。刘志丹、唐澍、许权中、王泰吉等领导人在这里指挥战斗。起义失败后，宋哲元部包围了高塘小学，搜捕共产党人和革命师生，逼李维俊讲出已分散转移的革命师生的下落。李维俊愤怒地抗议道:“你们非法包围学校，撵走教师，破坏教育，罪责难逃！我是学校校长，一切事情由我负责。”敌人对他无可奈何，恶狠狠地打了他几枪托，把他押送到西安关押。敌人活埋他时，他挣扎着用尽最后的力气大喊:“你们只能埋葬我的肉体，却埋不了我所信仰的共产主义!”