Uitgeverij De Geiten Pers dankt haar naam aan het schilderij Jonge witte geit (1914) van de schilder Jan Mankes (1889-1920). Het eerste boekje van de uitgeverij gaat over Mankes en bevat een gedicht van Willem de Mérode. Het is uitgegeven in 1989.
Mankes wordt ook wel Hollands meest verstilde schilder genoemd. Naar zijn schilderij van een jonge geit is in 1992 een bronzen beeld gemaakt door Marijke Ladage. Op de sokkel van het beeld, dat in Eerbeek aan de Derickxkamp te vinden is, staat een passage uit een gedicht van Willem de Mérode.
Uitgevers van De Geiten Pers zijn Sander Grootendorst, Heidi Touw en Marguerite Tuijn. Vanaf de herfst van 2023 hebben Jan Arend en Christine Teunissen zich bij het uitgevers-drietal gevoegd. De boekjes worden vormgegeven door Annemarie Zijl, gedrukt bij Hilarius Brummen en sinds 2024 worden ze gebonden – met de cahiersteek – bij Boekbinderij Voetelink in Haarlem.
Bedenker en oprichter van De Geiten Pers is Leen van Weelden. In 2014, na het uitgeven van 25 boekjes, heeft Van Weelden de uitgeverij overgedragen aan Hans Broer en Marguerite Tuijn. Vanaf zomer 2016 beheerde Marguerite Tuijn de uitgeverij in haar eentje vanwege het onverwachte overlijden van Hans Broer. Sinds voorjaar 2017 zijn Sander Grootendorst en Heidi Touw als mede-uitgevers bij stichting De Geiten Pers gekomen. Heidi verlaat de uitgeverij aan het eind van 2024.