В данной местности издревле строились различные католические костелы, и первым из них стал костел Святого Яна Крестителя, который был построен в 1387 году. Именно он был одним из первых храмов, которые были построены в Литовском княжестве. В 1636 году костёл был перестроен, в результате чего он получил жестяную крышу, однако сохранил деревянное основание. Уже тогда внутри здания было три алтаря, а крыша имела купол с характерным крестом. Недалеко от костела, кстати, располагались дом священника, а также больница и школа. В 1850 году храм был перестроен полностью, однако буквально через пятнадцать лет его закрыли. Спустя некоторое время его снова освятили, однако это была православная церковь, так что в районе не осталось ни одного католического храма. 
 В 1906 году, после достаточно долгих попыток, местным католикам удалось добиться возвращения себе полноценного прихода. К сожалению, вернули им не сам храм, а один из складов, который был расположен неподалеку.