Die Kleine Bibernelle ist charakteristisch für trockene Magerwiesen an Südhängen über kalkhaltigem Boden. Bei intensiver landwirtschaftlicher Nutzung (mit vielen Schnitten pro Jahr) oder Düngung verschwindet sie jedoch rasch. Weiter kommt sie auf Weiden nur bei extensiver Nutzung vor, bzw. verschwindet auch da bei zu häufigem Tritt. Die Art kommt zwar auch im Tiefland vor, dies jedoch eher selten, nicht zuletzt, weil magere Standorte eher rar geworden sind. In den Bergen (Jura, Alpen) hingegen, da findet man die Kleine Bibernelle an Kalksüdhängen teils massenhaft. Im Gebirge sind die Blüten teils etwas rötlich ausgebildet.

Als Heilpflanze für Probleme im Bereich der Atemwege, wird die Wurzel der Kleinen Bibernelle bereits in der Antike erwähnt. Neuere Untersuchungen sind jedoch rar und auch eine moderne Bearbeitung durch HMPC oder ESCOP liegt bisher nicht vor. Es sind stattdessen bei Husten andere schleimlösende Arten, wie Efeu, Schlüsselblume oder Thymian welche in der evidenzbasierten Phytotherapie dominieren. Die anisartig schmeckende Wurzel ist auch kulinarisch interessant. Diese ist jedoch faserig-verholzt und kann nicht direkt roh zerkaut werden. Stattdessen wird sie vermahlen und als Gewürz genutzt oder es wird damit Tee aufgebrüht, bzw. damit Likör aromatisiert.