Podstawą do ustalenia herbu miasta Ostródy są, zachowane do dziś choć ułamkowo, odciski najstarszej pieczęci miejskiej z 1348 r., które odnalazł w Archiwum Państwowym w Toruniu prof. Marian Gumowski. Według prof. Gumowskiego ów rycerz na koniu może wyobrażać postać księcia Brunszwiku Lutera, gdyż najczęściej założyciel miasta nadawał mu herb, w jakiś sposób upamiętniający własną osobę.
Wizerunek rycerza w herbie funkcjonował od początków założenia miasta, wyłączając okres od 1811 - 1904 roku, kiedy to do postaci rycerza dodano smoka.
Na przestrzeni siedmiu wieków Ostródy podobizna rycerza w herbie przedstawiana była w różnoraki sposób. Jednakże na początku XIX postanowiono zmienić jego wygląd.
Nie wiemy dziś co spowodowało, że w 1811 roku Rada Miasta Ostródy zmieniła herb, który od tego momentu przedstawiał Świętego Jerzego zabijającego smoka. Wiesław Skrobot, historyk i archeolog, w swoim artykule "Herb Ostródy według Johannesa Müllera" zamieszczonym w Nr 1 Raptularza Ostródzkiego, zastanawiał się nad przyczyną zmiany herbu: "Johanes Müller przypuszcza, że wprowadzenie do herbu smoka i uczynienie z rycerza Świętego Jerzego było efektem rozwoju nauk filozoficznych u schyłku XVIII wieku. (...) Powiedziawszy szczerze trudno zrozumieć przyczynę wprowadzenia takich zmian do herbu Ostródy. Herb powinien być opoką, na której kultywuje się tradycje i buduje pomyślność miasta - pisze Wiesław Skrobot."
W 1904 roku Ostróda otrzymała nowy herb autorstwa profesora Adalberta Hlidebrandta z Berlina, który przedstawiał rycerza krzyżackiego, z tarczą z krzyżem oraz kopią w drugiej ręce, siedzącego na kroczącym koniu, wzdłuż murów z trzema basztami i bramą. Herb ten używany był do 1945 roku (zachował się do dziś w witrażu na klatce schodowej budynku Urzędu Miejskiego w Ostródzie).
Postać rycerza na koniu wykorzystywana była na pieczęciach miejskich także po 1945 roku. Z atrybutów rycerza zniknął tylko krzyż na tarczy. Takie przedstawienia rycerza na koniu wykorzystywane były jako herb Ostródy do 1974 roku, kiedy to Miejska Rada Narodowa uchwaliła oficjalny herb przedstawiający rycerza na koniu ale bez tarczy (według Jacka Wysockiego, który do 2004 roku był Konserwatorem Zabytków, trudno kogoś nazwać rycerzem, kogo na rysunku przedstawia się bez tarczy, ponieważ tarcza jest nieodzownym atrybutem odzianego w zbroję rycerza a rycerz bez traczy wymagałby specjalnego uzasadnienia). Herb ten obowiązywał do 1994 roku, choć zdarza się go spotkać na pocztówkach Ostródy jeszcze dziś.
Ciekawostką jest, że na początku lat dziewięćdziesiątych XX wieku, Burmistrz Miasta Ostróda w swoich dokumentach używał herbu miasta przedstawiającego rycerza krzyżackiego na koniu, nad którym znajdował się orzeł w koronie.
Obecny herb Ostródy, został ustalony uchwałą Rady Miasta Nr XLI/286/94 z dnia 30.03.1994 roku. Przedstawia rycerza na koniu zabijającego smoka. Takie wyobrażenie naturalnie nawiązuje do postaci Świętego Jerzego oraz do herbu Ostródy, który obowiązywał w latach 1811 - 1904.
W uzasadnieniu do Uchwały Rady Miasta w sprawie ustalenia herbu miasta Ostródy czytamy, że "przywracając herb kierowano się zarówno przesłankami historycznymi jak i tym, że jest on do przyjęcia do zarówno przez obecnych i byłych mieszkańców miasta, jako najmniej kontrowersyjna i nawiązującą do tradycji". W powyższym uzasadnieniu zapisano, że Rada Miasta przeprowadzała konsultacje z Państwową Służbą Konserwacji Zabytków w Olsztynie oraz z Polskim Towarzystwem Heraldycznym a także z prof. dr hab. Tadeuszem Orackim z Uniwersytetu Gdańskiego.
Istotnie w sprawie herbu Ostródy w 1992 roku wydane były dwie pisemne opinie, w odpowiedzi na przesłane przez Urząd Miejski projekty herbu miasta ale przedstawiające rycerza krzyżackiego.
Jacek Wysocki (w 1992 r. Wojewódzki Konserwator Zabytków w Olsztynie) w opinii w sprawie herbu miasta Ostródy napisał m.in.: "Herb w wersji autentycznej, tj. z postacią rycerza krzyżackiego, nie powinien w niczym ubliżać godności mieszkających dziś w Ostródzie Polaków. Krzyżak w herbie jest elementem nie tylko historii zakonu krzyżackiego, czy historii Niemiec, ale też historii Polski, bo przecież to Polacy sprowadzili tutaj Zakon Krzyżacki i uposażyli go z myślą o własnym, polskim interesie politycznym."
Dr hab. Stefan K. Kuczyński Prezes Polskiego Towarzystwa Heraldycznego w odpowiedzi na pismo Rady Miasta w sprawie herbu miasta Ostródy, napisał m.in.: "Godło herbu miasta Ostródy (zbrojny krzyżak na koniu) odpowiada źródłom sfragistycznym i heraldycznym i jest historycznie uzasadnione."
W powyższych opiniach nie konsultowano herbu przedstawiającego Świętego Jerzego zabijającego smoka. Dlaczego więc ostatecznie wybrano herb nawiązujący do postaci Świętego Jerzego?
W uzasadnieniu do uchwały Rady Miasta z dnia 30.03.1994 roku w sprawie ustalenia herbu miasta Ostródy napisano, że "powyższą wersję herbu ustalono na spotkaniu w dniu 9.03.1994 roku z udziałem prof. dr hab. Tadeusza Orackiego, radnych, przedstawiciela gminy Ostróda oraz prasy lokalnej."
Jacek Wysocki (wówczas Wojewódzki Konserwator Zabytków), w wyżej wymienionej opinii w sprawie herbu miasta Ostródy napisał: "Nie da się obejść bokiem tradycji historycznej, nawet wtedy, gdy otrzymuje się ją w spadku po kimś innym i jest ona nieco obca w swych początkach (polskość pojawiła się w Ostródzie odrobinę później), co nie znaczy też, że musi się ją koniecznie kochać - wystarczy, gdy się ją umie rozsądnie objaśnić. Wszak tradycja krzyżacka była nienawistna i dla tutejszych mieszkańców - zarówno Niemców jak i Polaków - którzy w 1454 roku wypowiedzieli posłuszeństwo Zakonowi i dobrowolnie oddali się opiece króla polskiego. Ale nawet wtedy ci sami mieszkańcy Ostródy nie uznali za stosowne by pozbyć się pierwotnego herbu miasta, ponieważ w ówczesnej mentalności tkwiło przekonanie, że jest on niezbywalny. Z tych samych powodów miasto nie zmieniło herbu, choć mogło to uczynić, po likwidacji Zakonu i sekularyzacji Prus w 1525 roku. Zmiana herbu bowiem byłaby równoznaczna z utratą tożsamości ukształtowanej historycznie, a to mogłoby prowadzić do zagrożenia nabytych praw i przywilejów. Prawdopodobnie też treść herbu była wolna od jakichkolwiek interpretacji politycznych, a traktowana była jako znak rozpoznawczy. (...)
Wszelkie manipulacje z herbami zdarzają się z powodów politycznych, nie innych. Uważano więc zapewne, że byłoby obrazą dla mieszkańców Ostródy, jako dla Polaków, że ich miasto nie dość że ma pochodzenie krzyżackie (bo temu nie da się zaprzeczyć), ale w dodatku fakt ów specjalnie demonstruje się pod postacią herbu, w którym jest rycerz krzyżacki".
W przeszłości, szczególnie za czasów PRL, dokonywano wielu manipulacji z herbem Ostródy, z rycerzem krzyżackim, którego jednym z atrybutów była tarcza z krzyżem. Pozbawiony krzyża na tarczy lub samej tarczy był już tylko rycerzem. Nie budził więc kontrowersji. W 1974 roku Miejska Rada Narodowa ustanowiła herb Ostródy przedstawiająca rycerza na koniu, z kopią i bez tarczy. Szerzej o tym napisano w artykule "O Polskości i herbie Ostródy" zamieszczonym w jednym z numerów czasopisma "Ziemia Ostródzka":
"Zgodnie z ustaleniami prof. Mariana Gumowskiego herb miasta Ostródy winien wygladać nastepująco: "Na czerwonym polu przedstawiony jest rycerz w lekkiej zbroi polskiej jazdy. Rycerz siedzi na białym koniu, który jest w kłusie. Kopia trzymana przez rycerza wysunięta jest do ataku na wysokości wzroku konia. Rycerz siedzi w pozycji wyrównanej z kopią w prawej ręce. W lewej ręce trzyma lejce uździennicy". Dalej w artykule dodaje się: "Od czerwca 1974 roku nie mogą być rozpowszechniane herby, które wprowadził pruski germanizator w przeszłości historycznej. Dotyczy to pojawiającego się w niektórych wydawnictwach herbu z jeźdźcem w ciężkiej zbroi i pióropuszem jak również jeźdźca, który kopią dobija smoka. Oba herby niemieckie były w dość powszechnej produkcji w pierwszych latach po wyzwoleniu na proporczykach sprzedawanych w kioskach "Ruchu".
Jak widać na przedstawionych przykładach herb Ostródy na przestrzeni blisko siedmiuset lat zmieniał się wielokrotnie.
W 2004 roku mija 10 lat od momentu kiedy to Ostróda otrzymała swoje godło nawiązujące do postaci Świętego Jerzego oraz do herbu, który obowiązywał w latach 1811 - 1904. Dołączyliśmy do wielu europejskich miast mających za patrona tego świętego. Święty Jerzy jest patronem wielu krajów, miast i zawodów (szerzej o tym w artykule "Kim był Święty Jerzy?").
Co roku w okolicach 23 kwietnia w Ostródzie odbywają się hucznie Dni Świętego Jerzego, podczas których barwne pochody rycerzy, harcerzy, wojska i muzyków orkiestry miejskiej defilują ulicami miasta. W ten sposób mieszkańcy grodu nad Drwęcą upamiętniają patrona Ostródy.