仍须加试一些战事急需的武备科目。
他平日留心时局，“慷慨好论兵事”，故周围的人们对他更加敬重。
顺治二年（南明弘光元年、1645年），清军大举南下，连破扬州、南京、嘉定（今上海市嘉定区）、杭州等城。
宁波城中文武官员有的仓惶出逃，有的策划献城投降。
二十五岁的张煌言，挺身而出，投笔从戎。
当时，刑部员外郎钱肃乐等率众集会于府城隍庙，张煌言毅然参加，倡议勤王，集师举义。
并奉表到天台（今浙江台州天台县）请鲁王朱以海北上监国。
授翰林修撰。后清军破杭州，张煌言随鲁王逃至浙闽沿海，入据舟山。
顺治三年（隆武二年、1646年）五月。
大清征南大将军贝勒博洛乘虚突破钱塘江，绍兴、杭州、义乌、金华等城相继失守。
南明宗室乐安郡王、楚亲王、晋平郡王在金华殉国。
鲁王则在石浦守将张名振护卫下自台州出海到达舟山。
张煌言随即赶回鄞县故里，与老父、继母、妻儿子女诀别，追随鲁王一行至舟山。
但舟山总兵、隆武帝所封肃虏侯黄斌卿却拒绝接纳，鲁王只得逃往福建长垣。
不久，鲁王去厦门，张名振留舟山待机。
张煌言与张名振待局势稍定后，重返浙东与舟山地区，组织招募义军。
而张煌言被鲁王加授右佥都御史之官职。
顺治四年（永历元年、1647年）。
清苏松提督吴胜兆欲在苏州反正，起事前联络定西侯张名振支持。
张煌言劝张名振援吴胜兆，张名振遂命张煌言为监军，徐孚远副之。
于四月六日自岑江（即浙江舟山岑港）出发。
不料四月十三日在崇明岛外遇风暴而大败。
总督浙直水师户部左侍郎沈廷扬、总兵蔡聪（黄斌卿之妻舅）等将领十余人上岸后被清军俘获，于七月三日就义。
而张煌言也因飓风吹翻船舶，陷入清军之手七天，找到机会逃出到了海上。
在途经黄岩时，又被追赶的清军包围并以箭射之。
张煌言率领数骑突出包围，自此他更加努力练习骑射。
并在浙东招募集结义军于上虞县平冈寨屯田拒守。
其时，当地的多个山寨经常劫掠民众，唯独张煌言与王翊让他们的部下不要扰民，深得民众拥护。
顺治八年（永历五年、1651年）七月。
清将张天禄出崇安（今福建武夷山市）分水关，马进宝出台州海门，闽浙总督陈锦全军出定海，分路进攻舟山。
张名振、张