Георгий Карлович был потомком древнего рода авантюристов: когда-то его предки переселились из Швеции в высокогорную местность Шотландии, где стали частью клана под названием Доннхайд (Робертсон). В 1818 году Старки получили русское подданство и переехали в Санкт-Петербург, где занялись коммерцией.
Георгий Старк родился в Санкт-Петербурге в 1878 году. Его отец Карл Старк окончил Военно-юридическое училище и открыл собственную нотариальную контору. Какое-то время семья Старков жила в Петербурге, позже они переехали в США и присоединились к большой шотландской диаспоре. После нескольких лет, проведённых в Америке, Старки переехали в Германию под Дрезден, и уже оттуда вернулись в Россию. Под Новороссийском Карл Старк организовал собственную ферму и начал вести хозяйство, но был убит грабителем.
Смерть отца предопределила будущее Георгия. Семья вернулась в Петербург и под влиянием дяди — адмирала Оскара Викторовича Старка — юноша поступил в Морской кадетский корпус. В 1898 году он его окончил, а через шесть лет получил назначение минным офицером на крейсер «Аврора». На этом корабле Георгий Старк во время Русско-японской войны участвовал в походе 2-й Тихоокеанской эскадры из Петербурга во Владивосток. В Цусимском проливе эскадра столкнулась с японским флотом. Это сражение стало одной из чёрных страниц истории Военно-морского флота России.
Получив ранение в Цусимском сражении, Старк не оставил военную карьеру, и в период с 1904 по 1917 годы зарабатывал всё новые награды и звания. Во время Первой Мировой войны он участвовал в организации создания в Балтийском море минных полей, которые защитили Петербург от прорыва немецких эскадр. В июле 1917 Старка произвели в контр-адмиралы, а с августа 1918 он воевал в белых армиях, командуя Волжской и другими речными флотилиями белых.