Romański kościół parafialny przy Rynku miasta Krakowa został ufundowany, jak zapisał Jan Długosz, przez biskupa krakowskiego Iwona Odrowąża w latach 1221–1222. W latach 1290–1300 wzniesiono, częściowo na jego fundamentach, nowy kościół w stylu wczesnogotyckim, poświęcony w 1320 roku.
Obecny kształt budowli jest wynikiem kolejnych przebudów. W latach około 1355–1365 wzniesiono wydłużone jednoprzestrzenne prezbiterium z oknami wypełnionymi w latach ok. 1360–1400 wielobarwnymi witrażami. U schyłku wieku XIV powstał bazylikowy korpus wzorowany na części zachodniej katedry na Wawelu. Przekryty on został w latach 1395–97 sklepieniem krzyżowo-żebrowym przez mistrza Mikołaja Werhnera z Pragi. W latach 1435–1446 przy zewnętrznych murach naw bocznych dobudowano kaplice. W tym też czasie podwyższona została wieża północna, przystosowana do pełnienia funkcji strażnicy miejskiej. W roku 1478 cieśla Maciej Heringk nakrył wieżę charakterystycznym wielobocznym hełmem. Hełm ten ozdobiony został złoconą koroną maryjną w roku 1666.