嘉靖二十九年初，浙江倭犯猖獗，谭纶受命台州知府，他募乡兵千人“教以荆楚剑法及方圆行阵”严格训练了一劲旅。
嘉靖三十六年五月倭寇侵扰台州一带谭纶率兵大挫倭犯，嘉靖三十七年四月倭寇再次聚集数万人窜扰台、温、福、泉、漳等州谭纶亲率精兵与寇大战，三战三捷军威大振，升浙江按察司副使巡视海道转右参政使兼治兵事。
此时他与浙江佥都司、参将戚继光、浙江总兵官俞大猷等联合转战于浙江沿海屡战皆捷至嘉靖四十年浙江倭患得以平息，谭纶改任福建参政。
嘉靖四十四年十二月改调四川，不久即以兵部右侍郎兼右佥都御史总督两广军务。