Ulica powstała w XVIII wieku po połączeniu dwóch ulic: Bey der Obermühle, czyli przy górnym młynie oraz Unterm Kirchberge, czyli przy wzgórzu kościelnym. Po połączeniu nowa ulica otrzymała nazwę Zapfenstraße. Obecna nazwa Jana Kilińskiego obowiązuje od 27.07.1945.