黄蓉对丈夫道：“咱们定个规矩，你不能教过儿，我也不能教他们三人。这四个孩子之间，更加不得互相传授，否则错乱了功夫，有损无益。”郭靖道：“这个自然。”黄蓉道：“过儿，你跟我来。”杨过厌憎郭芙与武氏兄弟，听黄蓉这么说，得以不与他们同场学艺，正合心意，当下跟着她走向内堂。
    黄蓉领着他进了书房，从书架上拿下一本书来，道：“你师父有七位师父，人称江南七怪，大师父就是柯公公，二师父叫作妙手书生朱聪，现下我先教你朱二师祖的功夫。”说着摊开书本，朗声读道：“子曰：学而时习之，不亦说乎？有朋自远方来，不亦乐乎？”原来那是一部《论语》。杨过心中奇怪，不敢多问，只得跟着她诵读识字。
    一连数日，黄蓉只教他读书，绝口不提武功。这日读罢了书，杨过独自到山上闲走，想起欧阳锋现下不知身在何处，思念甚殷，不禁双手撑地，倒转身子，学着他样子旋转起来。转了一阵，依照欧阳锋所授口诀逆行经脉，只觉愈转愈顺遂，翻身跃起，咕的一声叫喊，双掌拍出，登觉遍体舒泰，快美无比，立时出了身大汗。他可不知只这一番练功，内力已有进展。欧阳锋的武功别创一格，原是厉害之极的上乘功夫，杨过悟性甚高，虽那日匆匆之际所学甚少，但如此练去，内力也有进益。
    自此之后，他每日跟黄蓉诵读经书，早晨晚间有空，自行到僻静山边练功。他倒不是立志习武，想从此练成一身惊人武艺，只每练一次，全身便说不出的舒适，到后来已不练不快。
    他暗自修练，郭靖与黄蓉毫不知晓。黄蓉教他读书，不到三个月，已将一部《论语》教完。黄蓉教书早感烦厌，但想：“此人聪明才智似不在我下，如他为人和他爹爹一般，学了武功，将来为祸不小，不如只让他学文，习了圣贤之说，于己于人都好。”当下耐着性子教读，《论语》教完，跟着再教《孟子》。杨过记诵极速，对书中经义却往往不以为然，不住提出疑难。黄蓉常自觉得：“这孩子读圣贤书，有些想法跟我爹爹十分相似，如我爹爹教他，二人谈起来倒必投机。”
    几个月过去，黄蓉始终不提武功，杨过也就不问。自那日与郭芙、武氏兄弟打架之后，再不跟他们三人在一起玩耍，独个儿越来越孤僻，心知郭靖虽收他为徒，武功是决计不肯教的了。自己本就不是武氏兄弟对手，待郭靖教得他们一年半载，再有争斗，非死在他们手里不可，打定主意，一有机会，便偷上一艘船去，设法逃离桃花岛。
    这日下午，杨过跟黄蓉读了几段《孟子》，辞出书房，在海边闲步，望着大海中白浪滔滔，心想不知何日方能脱此困境，眼见海面上白鸥来去，好生欣羡它们的来去自在。正自神往，忽听桃树林外传来呼呼风响。他好奇心起，悄悄绕到树后张望，原来郭靖正在林中空地上教武氏兄弟拳脚，教的是一招擒拿手“托梁换柱”。郭靖口中指点，手脚比划，命武氏兄弟跟着照学。杨过只看了一遍，早就领会到这一招的精义所在，但武氏兄弟学来学去始终不得要领。郭靖本性鲁钝，深知其中甘苦，毫不厌烦，只反覆教导。
    杨过暗暗叹气，心道：“郭伯伯若肯教我，我岂能如他们这般蠢笨。”闷闷不乐，自回房中睡了。晚饭后读了几遍书，但感百无聊赖，又到海滩旁边，学着郭靖所授的拳脚，使将开来，一招反覆使得几遍，便感腻烦，忽想：“我如去偷学武功，保管比武氏兄弟强得多，就不怕他们来打死我了。”一喜之后，傲心登生：“郭伯伯既不肯教，我又何必偷学他的？哼，这时他就是来求我去学，我也不学的了。最多给人打死了，好希罕么？”想到此处，傲气登长，又感凄苦，倚岩静坐，竟在浪涛声中迷迷糊糊的睡着了。
    次日清晨，杨过不去吃早饭，也不去书房读书，在海中捞了几只大蚝，生火烧烤来吃，心想：“不吃你郭家的饭，也饿不死我。”瞧着岸边的大船和小艇，寻思：“那大船我开不动，小艇却又划不远，怎生逃走才好？”烦恼了半日，无计可施，便在一块巨岩之后倒转了身子，练起了欧阳锋所授的内功来。
    正练到血行加速、全身舒畅之际，突然间身后有人大声呼喝，杨过一惊之下，登时摔倒，手足麻痹，再也爬不起来，原来是郭芙与武氏兄弟三人适于此时到来。这巨岩之后本来十分僻静，向无人至，但桃花岛上道路树木的布置皆按五行生克之变，郭芙与武氏兄弟不敢到处乱走，来来去去只在岛上道路熟识处玩耍，碰巧见到了他练功情状。幸好杨过此时功力甚浅，否则给三人齐声吆喝，惊得经脉错乱，非当场瘫痪不可。
    郭芙拍手笑道：“你在这里捣什么鬼？”杨过扶着岩石，慢慢支撑着站起，向她白了一眼，转身走开。武修文叫道：“喂，郭师妹问你哪，怎得你这般无礼，也不理睬？”杨过冷冷的道：“你管得着么？”武敦儒大怒，说道：“咱们自管玩去，别去招惹疯狗。”杨过道：“是啊，疯狗见人就咬，人家好端端的在这里，三条疯狗却过来乱吠乱叫。”武敦儒怒道：“你说三条疯狗？你骂人？”杨过笑道：“我只骂狗，没骂人。”
    武敦儒怒不可遏，扑上去拔拳便打，杨过一闪避开。武修文想起师父曾有告诫，师兄弟不可打架，这事闹了起来，只怕为师父责备，忙拉住兄长手臂，笑吟吟的对杨过道：“杨大哥，你跟师娘学武艺，我们三个跟师父学。这几个月下来，也不知是谁长进得快了。咱们来过过招，比划比划，你敢不敢？”
    杨过心下气苦，本想说：“我没你们的运气，师娘可没教过我武功。”但一听到他说“你敢不敢”四字，语气中充满了轻蔑之意，那句泄气的话登时忍住了不说，只哼了一声，冷冷的斜睨着他。武修文道：“咱们师兄弟比试武功，不论谁输谁赢，都不可去跟师父、师娘说，就是打破了头，也说是自己摔的。谁打输了向大人投诉，谁就是狗杂种、王八蛋。杨大哥，你敢不敢？”
    他这“你敢不敢”四字第二次刚出口，眼前一黑，左眼上已重重着了杨过一拳，武修文一个踉跄，险些摔倒。武敦儒怒道：“你这般打冷拳，好不要脸。”施展郭靖所教的拳法，向杨过腰间打去。杨过不识闪避，登时中拳，眼见武敦儒又飞脚踢来，脑海中灵光一闪，想起昨天郭靖传授武氏兄弟的招数，当即右腿微蹲，左手在武敦儒踢来的右脚小腿上一托。这正是“闹市侠隐”全金发所擅擒拿手法中的一招“托梁换柱”，虽非极精深的武功，临敌之时却也颇切实用。昨日郭靖反覆叫两兄弟试习，武氏兄弟本已学会，但当真使将出来，却远不及杨过偷看片刻的机巧灵活。武敦儒给他这么使力一托，登时远远摔了出去。
    武修文眼上中拳，本已大怒，见兄长又遭摔跌，当即扑将上来，左拳虚晃，杨过向左避让，却不知这是拳术中甚为浅近的招数，先虚后实，武修文跟着右拳实击，砰的一声，杨过右边颧骨上重重中拳。武敦儒爬起身来，上前夹击，他两兄弟武功本有根柢，杨过先前就已抵敌不过，再加上郭靖这几个月来的教导，他如何再是敌手？厮打片刻，头脸腰背已连中七八下拳脚。杨过发了狠：“就是给你们打死了，我也不逃。”发拳直上直下的乱舞乱打，全然不成章法。
    武修文见他咬牙切齿的拚命，心下倒也怯了，反正已大占上风，不愿再斗，叫道：“你已经输啦，我们饶了你，不用再打了。”杨过叫道：“谁要你饶？”冲上去劈面猛击。武修文伸左臂格开，右手抓住他胸口衣襟向前急拉，便在此时，武敦儒双拳同时向杨过后腰直击下去。杨过站立不稳，向前摔倒。武敦儒双手按住他头，问道：“你服了没有？”杨过怒道：“谁服你这疯狗？”武敦儒大怒，将他脸孔向沙地上直按下去，叫道：“你不服，就闷死了你。”
    杨过眼睛口鼻中全是沙粒，登时无法呼吸，又过片刻，全身如欲爆裂。武敦儒双手用力按住他头，武修文骑在他头颈之中，杨过始终挣扎不脱，窒闷难当之际，这些日子来所练欧阳锋传授的内力突然崩涌，只觉丹田中一股热气激升而上，不知如何，全身蓦然间精力充沛，他猛跃而起，眼睛也不及睁开，双掌便推了出去。
    这一下正中武修文的小腹，武修文“啊”的一声大叫，飞摔而出，仰跌在地，登时晕去。这掌力是欧阳锋的绝技“蛤蟆功”，威力固不及欧阳锋神功半成，杨过又不会运用，但他于危急之间自发而生的使将出来，武修文却也已抵受不起。
    武敦儒抢将过去，见兄弟一动也不动的躺着，双眼翻白，只道已给杨过打死，大骇之下，大叫：“师父，师父，我弟弟死了，我弟弟死了！”连叫带哭，奔回去禀报郭靖。郭芙心中害怕，也急步跟去。
    杨过吐出嘴里沙土，抹去眼中沙子，只觉全身半点气力也无，便欲移动一步也艰难无比，见武修文躺着不动，又听得武敦儒大叫：“我弟弟死了！”心下一片茫然，不知到底出了什么事，明知事情大大不妙，却无力逃走。
    也不知过了多少时候，见郭靖、黄蓉飞步奔来。郭靖抱起武修文，在他胸腹之间推拿。黄蓉走到杨过身边，问道：“欧阳锋呢？他在那里？”杨过茫然不答。黄蓉又问：“这蛤蟆功他什么时候教你的？”杨过似乎听见了，又似没有听见，双眼失神落魄的望着前面，嘴巴紧紧闭住，生怕说了一个字出来。黄蓉见他不理，抓住他双臂，连声道：“快说！欧阳锋在那里？”杨过始终一动不动。
    过不多时，武修文在郭靖内力推拿下醒转，接着柯镇恶也随郭芙赶到。柯镇恶听郭芙说了杨过倒转身子的情状，又听得他如何“打死”武修文，想到这小子原来是欧阳锋的传人，满腔仇怨登时都转到了他身上，听得黄蓉连问：“欧阳锋在那里？”而杨过全不理睬，当即走上前去，高举铁杖，厉声喝道：“欧阳锋这奸贼在那里？你不说，一杖就打死了你！”
    杨过此时已豁出了性命不要，大声道：“他不是奸贼！他是好人。你打死我好了，我一句话也不说。”柯镇恶大怒，挥杖怒劈。郭靖大叫：“大师父，别……”只听啪的一声，铁杖从杨过身侧擦过，击入沙滩。原来柯镇恶心想打死这小小孩童毕竟不妥，铁杖击出时准头略偏。
    柯镇恶厉声道：“你一定不说？”杨过大声道：“你有种就打死我，我怕你这老瞎子吗？”郭靖纵身上前，重重打了他个耳光，喝道：“你胆敢对师祖爷爷无礼！”杨过也不哭泣，只冷冷的道：“你们也不用动手，要我性命，我自己死好了！”反身便向大海奔去。
    郭靖喝道：“过儿回来！”杨过奔得更加急了。郭靖正欲上前拉他，黄蓉低声道：“且慢！”郭靖当即停步，只见杨过直奔入海，冲进浪涛之中。郭靖惊道：“他不识水性，蓉儿，咱们快救他。”又要入海去救。黄蓉道：“死不了，不用着急。”过了一会，见杨过竟不回来，也不禁佩服他的傲气，纵身入海，游了出去。她精熟水性，在近岸海中救个人自是视作等闲，潜入水底，将杨过拖回，将他搁在岩石之上，任由他吐出肚中海水，自行慢慢醒转。
    郭靖瞧瞧师父，又瞧瞧妻子，问道：“怎么办？”黄蓉道：“他这功夫是来桃花岛之前学的，欧阳锋如来到岛上，咱们决不能不知。”郭靖点点头。黄蓉问道：“小武的伤怎么样？”郭靖道：“只怕要将养一两个月。”
    柯镇恶道：“明儿我回嘉兴去。”郭靖与黄蓉对望了一眼，自都明白他的意思，他决不愿跟欧阳锋的传人同处一地。黄蓉道：“大师父，这儿是你的家，你何必让这小子？”
    当天晚上，郭靖把杨过叫进房来，说道：“过儿，过去的事，大家也不提了。你对师祖爷爷无礼，不能再在我门下，以后你只叫我郭伯伯便是。你郭伯伯不善教诲，只怕反耽误了你。过几天我送你去终南山重阳宫，求全真教长春子丘真人收你入门。全真派武功是武学正宗，你好好在重阳宫中用功，修心养性，盼你日后做个正人君子。”
    杨过应了一声：“是，郭伯伯！”当即改了称呼，不再认郭靖作师父了。
    郭靖这日一早起来，带备银两行李，与大师父、妻子、女儿、武氏兄弟别过，带着杨过，乘船到浙江海边上岸。郭靖买了两匹马，与杨过晓行夜宿，一路向北。杨过从未骑过马，但他手脚灵便，习练数日，已控辔自如。他少年好事，常驰在郭靖之前。
    不一日，两人渡过黄河，来到陕西。此时大金国已为蒙古所灭，黄河以北，尽为蒙古人天下。郭靖少年时曾在蒙古军中做过大将，只怕遇到蒙古旧部，招惹麻烦，将良马换了两匹极瘦极丑的驴子，身穿破旧衣衫，打扮得就和乡下庄汉相似。杨过也穿上粗布大褂，头上缠了块青布包头，跨在瘦驴之上。这驴子脾气既坏，走得又慢，杨过在道上整日就是与之拗气。
    这一天到了樊川，已是终南山所在，汉初开国大将樊哙曾食邑于此，因而得名。沿途冈峦回绕，松柏森映，水田蔬圃连绵其间，宛然有江南景色。
    杨过自离桃花岛后，心中气恼，绝口不提岛上之事，这时忍不住道：“郭伯伯，这地方倒有点像咱们桃花岛。”郭靖听他说“咱们桃花岛”五字，不禁怃然有感，道：“过儿，此去终南山不远，你在全真教下好好学艺。数年之后，我再来接你回桃花岛。”杨过头一撇，道：“我这一辈子永远不回桃花岛啦。”郭靖不意他小小年纪，竟说出这等决绝的话来，心中一怔，一时无言可对，隔了半晌才道：“你生郭伯母的气么？”杨过道：“侄儿那里敢？不过侄儿惹郭伯母生气罢啦。”郭靖拙于言辞，不再接口。