Het Pijpplein is genoemd naar de Farmsumerpijp, een stenen brug die lag over het toenmalige Farmsumerdiep.

Links op het plein voor de kerk staat de hardstenen gerechtspaal of geselpaal. Hier werden misdadigers openlijk ten schande gezet, gegeseld en gebrandmerkt. Vanaf 1854 is dit verboden. Ook de uitdrukking ´aan de kaak stellen´ komt hier vandaan.
Op de vaasvormige top staan de rechtssymbolen weegschaal, zwaard en korenschoven.
De weegschaal is een oud symbool van rechtspraak, in het bijzonder over de ziel van een gestorvene. Het zwaard staat voor kracht, gezag en rechtvaardigheid. De korenschoven zijn universele attributen van de talrijke graangoederen van o.a. Europa. Het verbouwen van graan is, als symbool van het vermogen van het gewas om leven in stand te houden, vaak afgebeeld in de Egyptische grafschilderkunst. Deze voorstelling moest het voortbestaan van de gestorvene waarborgen.

Tegenover de geselpaal, op de huisnummers 1 en 2, zijn de voormalige gevangenis en het beulshuis gevestigd.