岳飞不顾位卑言轻，于六月上书数千言，反对京师南迁。执政者以“小臣越职言事”的罪名，将其革职，削除军籍。岳飞只好第四次投军，在河北招抚使张所帐下当了一名效用士。张所爱其才，补其为修武郎，任中军统领；旋张大人又超擢岳飞三级，补为从七品武经郎（第39阶）。九月，张所组织了一支七千人的先遣军，命名将王彦率领岳飞等十一员偏将西渡黄河，收复卫州（今河南卫辉市）等失地。
王彦率军西征没几天，张所因主战而被革职。岳飞率领所部数百士兵出战，激战中，岳飞勇夺金军大帅旗，在友军配合下一举收复卫州新乡，生擒敌一个千户。金军一位万户率军来战，宋军迎击，大破之。金军连遭失败，遂集结重兵围攻王彦军营。王彦领着残部转进太行山抗战。岳飞率部突围后，没有追随王彦，自成一军独立作战。岳飞屯扎于侯兆川，与金重兵激战，身“被十余创”，最终大破金军，缴获无数。
数日后，岳飞复与大队金军遭遇。岳飞命士兵守住险要，自己挺丈八蛇矛单骑冲阵，连挑带刺，径直杀向大帅旗，将金帅黑风大王刺杀于马下。三万金军为之胆寒，以为遭遇伏击，仓皇败退。当年冬，岳飞率领所部千余人南下，来到东京留守司报到，成为宗泽部下。十二月，金军来犯。宗泽命岳飞率领五百骑兵前往汜水关（今河南荥阳市汜水镇西）方向侦察。
岳飞在汜水关与金军相遇，大败之，同时摸清敌情凯旋而归。宗泽予以嘉奖，提升岳飞为统制官，岳飞“由是知名”。1128年正月，岳飞奉命与友军同金军战于胙城县（今河南延津县东北），大败之。随即又转战于黑龙潭、龙女庙侧之官桥，皆获大捷，生擒女真李千户及俘获众多敌军，保持了“每出必捷”的全胜纪录。七月初一日，老将军宗泽病逝，朝廷命杜充为开封府尹、东京留守。
八月，岳飞奉命率部前去汜水关御敌。两军于汜水关前摆开阵势，金军一骑将于阵前往来驰突，煞是勇悍。岳飞跃马驰射，骑将应弦毙命，金军大乱，宋军趁势杀出，大破之。旋即岳飞施巧计惊溃金军，挥师掩杀，又获大捷。岳飞以奇功转为从七品的武功郎（第34阶），品级虽未变，但提升五阶。1129年正月，岳飞奉命讨“贼”，因功连升三级，擢为正七品的武经大夫（第31阶）；不久又进一阶为武略大夫，借（非实受，遥领）英州刺史；旋又因功转为武德大夫（第27阶），实授英州刺史。
七月，杜充慑于金军的凌厉攻势，留下副将守东京，自己率领大军南下建康（今南京市），岳飞被迫随军南去。十月，金兀术（完颜宗弼）大举攻宋。十一月中旬，金军于马家渡（在今南京市江宁区西南）渡过长江，进逼建康。都统制陈淬率领岳飞等十七员将领及二万士兵前去迎敌。双方大战十数合，杀伤相当。激战至日暮，负责接应的将领卖阵先遁，宋军士气大泄而溃散，陈淬力战捐躯、岳飞率部突破重围，夜屯于建康城东北十五里的钟山。
次日天明，岳飞复率部下山与金军大战，斩首千百级。几天后，杜充渡江北逃，建康降金。主将逃遁，皇帝赵构被金兀术撵得四处逃命，岳飞遂失去“组织”成为孤军。当时抗金处于最低潮，被打散的数万宋军士气极为低落，军心浮动，不少将士或打算叛降，或打算聚众为盗贼。岳飞以忠义激励之，并晓以大义，不少士兵投奔了岳飞。十二月，金兀术急于活捉赵构，率军直驱临安（今杭州市）。
岳飞闻讯立即率部邀击金后军，前后六战六捷，斩首一千二百余级，生擒将领七十余人。随后又收复溧阳（今江苏溧阳市），俘杀金军五百余，生擒官佐十二位。岳飞兵寡粮缺，无力同金军正面作战，只能以游击战术袭扰金军后方。1130年春，金兀术没能活捉赵构便收兵回撤，顺便攻陷常州。岳飞闻讯，当即提师北上，夺回常州，并对金军进行邀击，前后四战四捷，生擒金万户长等十一人。
四月，岳飞在建康城南三十里的清水亭大败金军，敌尸横遍野绵延十五里。五月，岳飞率领骑兵三百、步兵二千大破金军，斩杀女真将士三千余级，收降金兵千余人，俘获万户、千户等将领二十余人，胜利收复建康。高宗拔擢岳飞为武功大夫（第26阶）、昌州防御使、通泰二州镇抚使兼泰州知州。镇抚使掌管一方军政事务，权力颇大；知州为地方长官，通掌一州兵民之政，权亦不小。
升任镇抚使，是岳飞仕途上的一次重要升迁，表明其开始独当一面，算是朝廷重要将领了。八月，金大军攻打楚州（今江苏淮安市楚州区）。岳飞奉旨会同友军驰援楚州，金军“围点打援”。岳飞以寡击众，转战一个月，三战三捷，斩杀的不算，只擒获的金军将领就有七十余人。然岳家军孤军奋战，无补大局，楚州城还是失陷了。二十万金军趁势南下，岳飞仅有数千屡战疲惫之师，实难支撑，遂按照朝廷旨意保护百姓撤回江阴。
