El nombre se deriva de la palabra Margrabia el título del duque como margraviato del príncipe de Brandeburgo-Ansbach, añadiendo el sufijo, que es típico en Polonia para los topónimos derivados de nombres y títulos propios. El escudo de armas de la ciudad todavía refleja el águila roja de Brandeburgo y el blanco y negro de los Hohenzollern, que se remontan al duque Alberto.
Desde la década de 1540, había un pabellón de caza en el río Lega, pronto se amplió hasta convertirse en un castillo y un asentamiento, ambos llamados Olecko, Margrabowa fue fundada como ciudad por Alberto, duque de Prusia, vasallo de Polonia, el 1 de enero de 1560.