Początki kabaretu sięgają połowy lat 50. XX wieku, kiedy Piotr Skrzynecki wraz z kilkoma studentami znaleźli na krakowskim rynku piwnicę, którą zaadaptowali na potrzeby sceny. Lokal znajdował się w Pałacu pod Baranami, należącym do Krakowskiego Domu Kultury, i stąd wzięła się nazwa kabaretu.
Początkowe miejsce spotkań studentów uczelni artystycznych szybko przekształciło się w kabaret. Z Piwnicą współpracowało wielu muzyków, aktorów, pisarzy i poetów, jak: Leszek Herdegen, Tadeusz Śliwiak, Krzysztof Litwin, Jan Kanty Pawluśkiewicz, Marek Grechuta i Zbigniew Wodecki. Teksty pisał między innymi Wiesław Dymny.
W latach 60. i 70. powstały najsłynniejsze utwory Piwnicy, zespół zaś zyskał opinię jednej z najlepszych grup artystycznych w kraju. Za teksty służyły dzieła o najróżniejszej tematyce i nastroju, od "Pieśni nad pieśniami", poprzez utwory Zygmunta Koniecznego wykonywane przez Ewę Demarczyk - "Czarne anioły", "Karuzela z madonnami", aż po ...opis rozmnażania ślimaków, zaczerpnięty ze starej encyklopedii.
Barwną postacią Piwnicy i krakowskiego życia kulturalnego był Piotr Skrzynecki, zmarły w 1997 roku, kierownik artystyczny, konferansjer i lider kabaretu, reżyser przedstawień, a także autor scenariuszy. Ubrany w pelerynę i czarny kapelusz z piórkiem, nosił ze sobą mały dzwonek, z którym występował na scenie, a często spacerował z nim po krakowskich ulicach.
Pod koniec lat 50. Piwnica stała się centrum jazzu w Polsce. Występowali w niej: Krzysztof Komeda, Andrzej Kurylewicz, Jan "Ptaszyn" Wróblewski, Wojciech Karolak, śpiewała Wanda Warska. Środowisko jazzowe wspierali Jerzy Skarżyński i Leopold Tyrmand.
Artyści Piwnicy w czasach PRL mieli problemy z władzami, które kilkakrotnie zamykały lokal. Niepokorni twórcy nie chcieli poddawać się cenzurze, a ich groteskowe teksty wprowadzały krakowskich urzędników w zakłopotanie.
"Jesteśmy wysepką w morzu: bestialstwa, szarzyzny, głupoty, łajdactwa, cynizmu i nietolerancji" - mówił Piotr Skrzynecki.
Dziś w Piwnicy pod Baranami odbywają się koncerty, recitale i występy kabaretowe.