Iz rojstnega Starega trga odide leta 1848 na gimnazijo v Novo mesto, kjer prijateljuje s Simonom Jenkom, ki je leto pred njim in maturira 1856. Nato do leta 1860 nadaljuje študij prava na Dunaju in promovira 1862.
Leta 1861 vstopi v ljubljansko bogoslovje, kjer s študijem hitro napreduje in je posvečen v duhovnika 1863. Nato službuje kot kaplan v Kranju do 1867, potem 1867 v Ljubljani pri sv. Petru, od 1868 – 1874 pri sv. Jakobu. Leta 1874 je imenovan za podravnatelja semenišča in ekonoma. 1878 postane župnijski upravitelj in krajevni šolski nadzornik v Hrenovicah pri Postojni. Od leta 1886 do smrti 1899 je župnik, dekan in šolski nadzornik v Leskovcu pri Krškem.
Njegovi edini objavljeni deli sta etnografski članek »Bajdnek v Poljanah ob Kolpi« (Novice, gospodarske, obertnijske, narodske 1856) ter Šmarnice leta1877. Jenko mu je ob rojstnem dnevu tudi voščil s priložnostno pesmijo.
Sterbenc je omenjan predvsem kot lastnik edine rokopisne zbirke pesmi prijatelja Simona Jenka, v katero mu avtor napiše tudi posvetilo. Nekje po letu 1864 je Šterbenc dobil s črnilom pisano, v rjavo polplatno vezano knjižico s 150-imi pesmimi:
Poezije
Zložil Simon Jozipovič Jenko
Podarjene dr. Sterbencu
V to knjižico je Jenko pisal od leta 1853 in skoraj vse pesmi tudi natančno datiral. Knjižica je po Jurijevi smrti ostala pri njegovi služkinji, od nje jo prevzame 1902 leta dijakinja učiteljišča Marija Bučar, pozneje poročena Lamut.
V kratkem članku »Bajdnek v Poljanah ob Kolpi«, ki ga Novicam pošlje iz Dunaja (iz Beča kot sam napiše), opiše običaj na badnik – dan pred Božičem, za katerega meni, da je enkraten in ga ne poznajo drugod po svetu. Navade kako otrokom ne pustijo ta dan sedeti na mizi, ali obiskovati sosedov (ker kure ne bi valile…) je mogoče poseben; priprava prazničnega kruha – kolača okrašenega z živalskimi figurami, posebno ptiči imenovanega badnik, božičnik, poprtnik pa ni bila kakšna posebnost, saj je bila ta navada poznana ne le po drugih krajih v Beli krajini, pač pa tudi v drugih delih Slovenije.
