Das östliche Masuren wurde erst im 16. Jahrhundert besiedelt.
Am 15. Mai 1570 wurde die Stadt Goldap durch Caspar Nostiz gegründet. Bis zum 17. Jahrhundert hatte Stadt an der Ostgrenze Preußens ständig durch Überfälle aus dem Osten zu leiden.
Seit 1887 diente die Rominter Heide als Jagdrevier für Kaiser Wilhelm II. der dort ein Haus im norwegischen (Jagdhaus Rominten) und eine Stabkirche (die Hubertuskapelle)
Zu Beginn des 1. Weltkrieges 1914 wurde Goldap von der russischen Armee und besetzt. Nach Abzug der russischen Armee die Stadt im Stil der " Neuen Sachlichkeit " wiederaufgebaut.
Am 21. Oktober 1944 wurden die deutschen Bewohner der Stadt am folgenden Tag wurde die Stadt von sowjetischen Armee besetzt.