Można przyjąć, że w miastach takich jak Tarnowskie Góry herby pojawiły się wraz z rozwojem administracji. Potrzebne były bowiem charakterystyczne wizerunki symbolizujące władze miejską (lub inną), które umieszczano na pieczęciach potwierdzających prawdziwość dokumentu.
Tarnogórski Urząd Górniczy otrzymał swój herb nadaniem księcia Jana Opolskiego w 1529 roku. Znak podzielony jest poziomo na dwie części z których górna przedstawia skrzydło orła, a dolna – górnicze narzędzia: pyrlik i żelazko. Symbolizuje on więc – zgodnie ze wszystkimi prawidłami heraldyki – górniczy charakter urzędu (narzędzia górnicze); ponieważ zaś Tarnowskie Góry podległe były księciu Janowi Opolskiemu, w herbie znalazł się motyw orła piastowskiego. Skrzydło orła na herbie miało barwę złotą na niebieskim tle, żelazko i pyrlik także są złote, ale na tle czerwonym.
Kiedy Tarnowskie Góry dostały się w 1534 roku pod panowanie brandenburskie, władca państwa bytomskiego, margrabia Jerzy Fryderyk w 1562 roku nadał herb miastu. Jak pisze przedwojenny tarnogórski kronikarz Jan Nowak, w herbie umieszczono: „W lewej połowie tarczy pół czarnego (śląskiego) orła na białem (srebrnem) tle z dziobem i udami żółtemi (złotemi); druga połowa tarczy przedzielona na dwie części, z których górna część mieści złote (żółte) skrzydło orła w czarnem polu, a dolna dwa młotki na krzyż zlożone.”
W całej historii miasto skłaniano się kolejno ku jednemu lub drugiemu z wzorów bo model piastowski z czasem zaczęto utożsamiać z całym miastem; o zmianach decydowały względy polityczne: herb był więc albo piastowski, albo brandenburski. Podobne zjawisko wystąpiło i w czasach nam bliższych. Do 1950 roku używano trójdzielnego herbu brandenburskiego, później zastąpił go piastowski, dwudzielny.
7 sierpnia 2002 roku historia zatoczyła kolejne koło. W 440 rocznicę nadania miastu herbu przez księcia Jerzego Fryderyka von Ansbach, uchwałą Rady Miejskiej nr XLIX/533/2002 przywrócono wersję brandenburską. Uchwała Rady była jednomyślna.
