他是“黠桀渠憸，僭妄自大。淫刑痡毒，快其恶正丑直之私。衣冠填于狴犴，善类殒于刀锯……”直接叫他自行解除兵权，回京认罪伏法。
裁撤江北马步军衙门的诏书送到了高阳镇守使司，但是派谁送过去呢？由于北府军以前有过扯诏书，打皇差的前科，而且胡隐之这个人又喜怒无常，嗜杀成性，见了这样的诏书哪里有不恼之理？他若恼羞成怒，只怕送诏书之人就要人头落地，小命不保了。
大家商量过来，商量过去，都觉得解铃还须系铃人，这事儿还得着落在杨义的身上。诏书送到了苏家寨，令其持朝廷诏书引数十人到太子河畔的北府军中军大营，收捕胡隐之。杨义听说要他去给胡隐之送诏书，当场倒是答应的挺痛快。
待高阳镇守使司的人离开，袁文才、王佐纷纷劝阻他道：“此是高阳镇守使衙门令胡隐之杀大人，以夺大人之功。切不可行。”
杨义却笑道：“吾自有计。”遂先发檄文二三十道，命人往北府军营内外张贴。其檄曰：“奉诏收胡，其余各无所问。若早来归，爵赏如先，敢有不出者，灭三族。”并在檄文后面抄录朝廷裁撤江北马步军衙门的诏书。
不出一日，朝廷裁撤江北衙门的消息就传遍了太子河东西两岸直到孤山六堡。这一封诏书实在出乎胡隐之的预料，他自认为凭着自己这么能砍能杀得本事，孙全怎么着也得对他礼敬有加吧。没有想到的是诏书里面竟然把他置于叛贼奸佞的地位而大加挞伐。胡隐之当场就把檄文撕了个粉碎，随即传令全军饱餐痛饮，明日一早即可出兵东进，击破高阳镇守使司。
可是，他不知道北府军的很多将领都在杨义的游说下倒戈了，均无心再战，而存心投降。其他被他收编的杂牌军也都因受杨义的策动，接到檄文的那一刻都改换成宋军的旗号。
比及第二日鸡鸣时分，杨义骑着高头大马，带着一辆槛车并数十名士兵往胡隐之的中军大帐疾行而来。胡隐之的部将都带着檄文，投拜于杨义马前。
胡隐之夜饮大醉，这时还高卧榻上未起。
杨义引数十人突入帐内，大呼：“奉诏收捕胡隐之！”
胡隐之大惊，滚下床来，还要伸手取挂在床边的腰刀，早被杨义叱武士缚于地上，随即押出帐外。
胡隐之手下的亲兵见主帅被擒，正欲待动手抢夺，早望见营外尘头大起，哨马报说高阳镇守使司的大兵到了。众人于是各自四散奔走。
马万里与胡烈下马入营，扈辄、庞曦等人皆伏地迎接。胡烈见胡隐之已被缚在当场，骂一句“妈妈的”，挥鞭望着胡隐之的脑壳子上面一阵就是猛打，一边打一边骂道：“狗奴才，何敢如此！”
马万里亦用鞭子戳着他的鼻子，骂道：“贼匹夫行险徼幸，亦有今日耶！”