29 февраля миссис Байрон отнесла сына в ближайшую приходскую церковь Мэрилбоун, где его окрестили. Отца ребенка не смогли найти, и она дала сыну имя своего отца, Джордж Гордон. Несчастную женщину постоянно преследовали финансовые проблемы. Ее супруг задолжал 1300 фунтов и, «расплачиваясь по старым долгам, только приобретал новые».
Наконец в марте было подписано соглашение, согласно которому 4222 фунта оставшегося капитала миссис Байрон защищались от дальнейших посягательств кредиторов. Из этой суммы 3000 фунтов переходили в распоряжение опекунов с выделением 5 процентов для миссис Байрон, а оставшиеся 1222 фунта были вложены в поместье с ежегодными процентами 55 фунтов 11 шиллингов. Поместье перешло в пожизненную аренду к бабушке миссис Байрон, Дафф. Летом 1789 года миссис Байрон уехала из Лондона в Абердин, где они с ребенком могли безбедно жить на 150 фунтов, выплачиваемых ей по соглашению.
Вскоре после этого преследуемый кредиторами капитан Байрон снова бежал в Шотландию и в августе переехал в маленькую квартирку, которую снимала его жена на Куин-стрит. В этой тесной квартире и жили Байроны вместе с Агнес Грей, набожной служанкой пресвитерианской веры, которая ухаживала за хромым ребенком. В семье были натянутые, холодные отношения. Капитан уже не являлся хозяином поместья Гайт, где можно было скоротать промозглую шотландскую зиму под пение волынок до полуночи и за стаканом пунша. Самый дружелюбный и бесшабашный человек стал озлобленным и раздраженным. Наконец он успокоился тем, что снял квартиру на другом конце Куин-стрит, иногда заходил к жене и вполне мирно пил с ней чай. Хотя миссис Байрон могла прийти в бешенство, стоило ему лишь заикнуться о деньгах, она порой начинала изображать смехотворные приступы любви к своему Джонни. Такими же вспышками гнева и демонстративной любви впоследствии отличалось ее отношение к сыну, который унаследовал характер своей матери. Когда однажды она отругала его за испачканный костюм, который он только что надел, минуту он молча стоял бледный от бешенства, а потом разорвал одежду на куски.
Часто капитан испытывал родственные чувства к своей сестре, миссис Ли, особенно когда мог получить от нее чек. Если он уезжал, миссис Байрон тосковала. Она находила отдушину в смешанном чувстве ненависти и любви к сыну, который напоминал ей мужа. Поэт вспоминал: «Моя мать, рассердившись на меня (и надо признаться, я давал ей для этого немало поводов), говорила: «Ах ты, щенок, ты настоящий Байрон, такой же дурной, как твой отец!» Но уже в следующее мгновение она покрывала его поцелуями.
Содержание миссис Байрон уменьшилось до 135 фунтов, потому что пришлось заплатить 300 фунтов – долг, который успел сделать ее супруг, находясь в Шотландии. И по-видимому, он вернулся туда еще в сентябре 1790 года, чтобы вытянуть очередную сотню фунтов из суммы, идущей от оплаты аренды поместья бабушкой миссис Байрон. Эти деньги были ему необходимы для возвращения во Францию. После этого его видели в Валансьене, в доме сестры, когда он волочился за служанками и актрисами. Жена и сын больше не увидели его.
Письма капитана Байрона к сестре похожи на те, что его ставший знаменитым сын впоследствии написал из Венеции, где вовсю развлекался на карнавале: «И в кого, ты думаешь, я влюблен? В новую актрису, приехавшую из Парижа. Наверное, я уже влюблялся в треть женского населения Валансьена, особенно меня очаровала девушка из «Красного орла», местного постоялого двора. Я как-то заглянул туда, потому что шел сильный дождь. Очень красивая и высокая, и мне все эти любовные дела еще не наскучили».
В отчаянии миссис Байрон настолько забыла гордость, что обратилась к миссис Ли с просьбой одолжить ей 40 фунтов, потому что ее имущество было описано кредиторами, «все из-за долгов, которые мне пришлось оплатить по вине его расточительности». По-видимому, миссис Ли была тронута этой жалобной просьбой, которая была прислана в конверте, запечатанном красным сургучом с девизом гордых Байронов. Но Джеку Байрону нужны были только деньги для удовлетворения своих прихотей. В письме к сестре 16 февраля 1791 года он высокомерно отзывался о своей супруге и лишь однажды упомянул о сыне: «Что касается миссис Байрон, я рад, что она пишет тебе. Когда находишься далеко от нее, она кажется приятной дамой, но я клянусь всеми апостолами, что ты не проживешь с ней и двух месяцев, потому что если кому и удалось притерпеться к ней, так это мне. Что до моего сына, я рад слышать, что он здоров. Но ходить он не может, потому что нога его искривлена».
Летом Джек Байрон погрузился в трясину распутства и долгов. Трагедия, виновником которой стал он сам, подошла к концу 2 августа 1791 года. Возможно, это было самоубийство. Он оставил завещание, иронично назначая Джорджа Гордона «наследником моего личного недвижимого имущества, ответственным за оплату моих долгов и похорон».
Когда миссис Байрон получила весть о смерти мужа, даже на улице были слышны ее рыдания. Она написала миссис Ли: «Не верю, что когда-нибудь смогу справиться с горем; необходимость, а не намеренное желание разлучило нас, по крайней мере с моей стороны, и я лелею надежду, что так же чувствовал себя мой муж. Невзирая на его слабости, которые не заслуживают худшего имени, я всегда искренее любила его». Мальчику было три с половиной года, когда умер его отец. Позже он говорил Томасу Медвину: «Я прекрасно помню его, и с раннего детства у меня появился страх перед семейными узами от вида домашних ссор».
Миссис Байрон потребовалось все мужество, чтобы продолжать жить и воспитывать сына на жалкий доход, оставшийся после смерти мужа. Она всю себя отдала воспитаню своего больного ребенка. В письме к миссис Ли в Лондон она просила «помочь достать специальную обувь для Джорджа». Позднее она более подробно поведала о физическом недостатке сына: «Правая нога Джорджа повернута вовнутрь, так что он при ходьбе опирается на ребро ступни».
Мальчик с самого раннего детства очень болензненно относился к своей хромоте, возможно, потому, что часто мать в раздражении напоминала ему об этом, так же как и окружающие. Чужая няня, встретившая мальчика с Агнес Грей на прогулке, заметила: «Какой красивый ребенок! Жаль, что у него такая нога». Глаза Байрона вспыхнули от гнева, он ударил ее своим маленьким хлыстиком и крикнул: «Не смей так говорить!»
Миссис Байрон оказалась в состоянии обставить квартиру на первом этаже дома по Броуд-стрит, 64, в престижном районе в самом центре молодого города, и шла на любые жертвы, лишь бы ее сын ни в чем не нуждался, насколько этого позволяли их скудные средства. Крайне отрывочные и смутные сообщения о ранних годах жизни Байрона оставляют впечатление, что его мать била его каминными щипцами или разбивала о его голову тарелки. Однако эти семейные сцены больше свойственны бурной юности Байрона в Англии. В детстве Джордж был любящим сыном, хотя и отличался шаловливым, чувствительным и крайне мнительным нравом.
Необычному сочетанию аристократической гордости и либеральных воззрений Байрон обязан матери. Позднее он писал Джону Меррею: «Моя мать (с ее сатанинской гордостью по поводу восхождения рода Гордонов к Стюартам) постоянно подчеркивала превосходство Гордонов над англичанами Байронами». С другой стороны, она сочувствовала Французской революции. В 1792 году она написала миссис Ли: «Полагаю, что наши взгляды резко отличаются, потому что я разделяю воззрения демократов и не думаю, что следует возрождать монархию после всех предательств и клятвопреступлений, совершенных королем».
Сама обстановка, окружавшая Байрона в его ранние отроческие годы, проведенные в Абердине, обусловила его приверженность взглядам шотландцев среднего класса, с которыми он постоянно встречался на улицах, а потом и в школе. Миссис Байрон ощущала себя бедной родственницей, хотя и была связана кровными узами с лучшими семьями в северных графствах.
В первой школе, где учился Байрон, не было ничего аристократического. На узкой улочке, известной под названием Лонг-Эйке, неподалеку от их дома на Броуд-стрит, мистер Джон Боуэрс держал смешанную школу для среднего класса, расположенную в мрачном, похожем на склад доме с плохо освещенными комнатами, низким потолком и пыльным полом. Именно здесь маленький мальчик в красной курточке и нанковых брюках провел бесцельно весь год с щеголем Боуэрсом. Вспоминая об Абердине, Байрон напишет: «Я ничему не научился в этой школе, кроме как повторять односложные высказывания, вроде «Бог создал человека, возлюбим же его», узнавая их на слух и не имея понятия о буквах». В течение следующего года под руководством более опытного преподавателя он научился читать и начал изучать латынь по «Грамматике» Раддимана.
В 1794 году, когда Байрону было шесть лет, произошло событие, которое в корне изменило всю его