Die Gebäude der Johannes-der-Täufer-Kirche stellen den kulturellen Kern der Altstadt von Plungė dar. Die neoromantische Kirche mit ihrem kreuzförmigem, römischem Grundriss und zwei Türmen wurde ab achtzehnhundertneunundneunzig gebaut, aber erst neunzehnhundertdreiunddreißig fertiggestellt, da kurz nach Baubeginn der Hauptstifter, Fürst Mykolas Oginskis, verstarb.
Zu Beginn des zwanzigsten Jahrhunderts wurde auf Initiative der Ehefrau von Oginskis, Marija Skuževskė-Oginskienė, in der Nähe eine Imitation der Lourdesgrotte mit einer Skulptur der Jungfrau Maria errichtet. Ein Teil davon wurde während der Sowjetzeit zerstört oder beschädigt. Obwohl diese restauriert wurde, konnte die einstige Bedeutung für die Gläubigen nicht wiedererlangt werden.