Другому любимому времяпрепровождению, которому оставался верен всю жизнь — коллекционированию марок, — герцог Йоркский был обязан своему коллеге-моряку. Второй из четырех сыновей королевы Виктории принц Альфред, герцог Эдинбургский, в четырнадцатилетием возрасте поступил на службу в Королевский военно-морской флот и благодаря собственным усилиям дорос до должности командующего Средиземноморским флотом. Принц Георг служил на флагмане своего дяди младшим офицером, пользовался его гостеприимством на Мальте, где увидел и восхитился его коллекцией марок. Именно тогда ему пришла в голову мысль создать собственную коллекцию. Когда в 1890 г. герцог Эдинбургский открывал в Лондоне первую филателистическую выставку, то упомянул, что его племянник сейчас находится в Атлантике на корабле ее величества «Дрозд», и выразил надежду, что тот «вернется, изрядно пополнив свою коллекцию за счет почтовых выпусков Северной Америки и Вест-Индии». В библиотеке Букингемского дворца хранится принадлежавший принцу экземпляр каталога Стэнли Гиббонса за 1891 г. в сафьяновом переплете; все имеющиеся у него марки отмечены в нем. Скоро об этом увлечении принца стало широко известно; неудивительно, что среди свадебных подарков 1893 г. насчитывается около 1500 марок. На следующий год он пригласил дядю стать крестным отцом его первенца.
Привязанность Георга к герцогу Эдинбургскому разделяли, однако, немногие. Говорили, что тот слишком много пьет, что плохо ведет себя в семье, грубо обращаясь со своей русской женой, дочерью царя Александра II. В курительной комнате Балморала, королевского замка в Шотландии (королева с большой неохотой допустила ее существование), он мог часами говорить о самом себе, так что его зять принц Генрих Баттенберг в конце концов был вынужден отказаться от вечерней сигары. Еще одним увлечением герцога была игра на скрипке, однако в этом деле можно отметить разве что его энтузиазм, но не мастерство. «Нестройное пиликанье и неприятный шум» — так сэр Генри Понсонби охарактеризовал сольное выступление герцога Эдинбургского после званого обеда, устроенного принцем Уэльским. Даже этот весьма снисходительный человек вынужден был несколько раз прерывать солиста: «По-моему, здесь не совсем правильно». А когда виртуоза Джоакима спросили, сможет ли герцог добывать себе пропитание игрой на скрипке, тот уверенно ответил: «Да, на пляже».
В 1893 г. герцог Эдинбургский унаследовал от дяди Эрнеста, брата принца-консорта, как герцогство Саксен-Кобург-Готское, так и долги его покойного правителя (принц Уэльский избежал этого двойного бремени, ранее отказавшись от права наследования). Тем не менее он по-прежнему оставался в своей лондонской резиденции Кларенс-Хаус и вскоре стал сам испытывать финансовые трудности. Чтобы успокоить своих лондонских кредиторов, герцог Эдинбургский пообещал сократить расходы на охоту на 2750, а на театры — на 1250 фунтов в год, что, однако, составляло меньшую часть того, что он продолжал тратить на эти удовольствия. И все же он пошел на одну значительную жертву: в 1900 г., незадолго до смерти, он продал коллекцию почтовых марок своему брату принцу Уэльскому, который, в свою очередь, подарил ее герцогу Йоркскому.
На этой прочной основе герцог Йоркский сумел создать самую обширную в мире коллекцию марок Великобритании. Он радовался каждому новому поступлению, особенно богатый урожай собирая во время своих поездок по империи. Придворных тоже заставляли этим заниматься. «Король всегда рад слышать, что вы во время поездок стараетесь нахапать для него как можно больше марок», — писал один из них другому в 1920 г. Губернаторы колоний и разные комиссары по его поручению следили за выходом в свет новых выпусков. Подвели они его только однажды. На Ближнем Востоке один британский дипломат, прослышав, что в местной типографии кто-то из рабочих заболел оспой, испугался за царственный язык и, прежде чем отправить в Букингемский дворец партию из 400 марок, долго варил их в кастрюле.
Хотя герцог Йоркский любил покупать все по дешевке, шифром указывая стоимость каждого нового приобретения, он вскоре вынужден был платить за раритеты весьма высокую цену. С 1901 г. его годовой доход как наследника трона равнялся 100 тыс. фунтов: 60 тыс. составляли доходы от герцогства Корнуоллского и 40 — парламентская субсидия. «Слышало ли Ваше Королевское Высочество, что какой-то круглый дурак только что уплатил 1450 фунтов за одну-единственную марку?» — со смехом спросил его как-то утром придворный. «Я и есть тот самый круглый дурак», — ответил будущий король.