Carroll war am bekanntesten für ihre Rolle als Ursula, die Bösewichtin mit einem unverwechselbaren Lachen im Animationsfilm von 1989 Die kleine Meerjungfrau. Sie hat in Interviews gesagt, dass es ihr „lebenslanger Ehrgeiz“ war, in einem Disney-Film mitzuspielen.
„Sie ist körperlich überlebensgroß, aber sie ist überlebensgroß in ihrem Kopf, in ihrer Stimme, in ihrem Lachen und in ihrer Gemeinheit“, sagte sie über Ursula in einem Interview mit Disney-Parks. „Sie ist ein gemeines altes Ding. Ich denke, die Leute sind fasziniert von gemeinen Charakteren … Ich bin sogar fasziniert von ihr, wenn ich sie mir ansehe.“
Aber sie hatte schon lange vorher eine erfolgreiche Karriere, besonders in den frühen Jahrzehnten des Fernsehens. Carroll wurde 1927 in Shreveport, Louisiana, geboren und zog mit ihrer Familie nach Los Angeles, als sie 5 Jahre alt war. Nach ihrem College-Abschluss buchte sie Auftritte in Comedy-Clubs und spielte dann in Theatershows. Für ihr Broadway-Debüt wurde sie 1956 für einen Tony Award nominiert Fang einen Stern.
Carroll war Stammgast in der Sitcom Mach Platz für Papa und hatte eine wiederkehrende Rolle auf Die Danny-Thomas-Show. 1957 gewann sie einen Emmy für die beste Nebenrolle in der Sketch-Comedy-Show Cäsars Stunde. Sie trat auch oft als Gast in Spiel- und Varietéshows auf.
Ende der 70er führte sie ein Ein-Frau-Stück auf, Gertrud Stein, Gertrud Stein, Gertrud Stein, die 14 Monate in New York lief, bevor sie damit auf Tour ging. Die Show brachte ihr 1980 einen Drama Desk Award als beste Schauspielerin und den Outer Circle Drama Critics Award für die beste Off-Broadway-Produktion ein.
Damals, sagte sie der Washington Post dass ihre Kinder merkten, wie vertieft sie in die Rolle war.
„Ich wusste, dass etwas passierte, als meine Kinder mir sagten: ‚Mama, du wiederholst alles dreimal'“, sagte sie. „Dann bemerkte ich, dass ich beim Sprechen nicht sehr viel Kontraktionen verwendete – im ersten Akt von überhaupt keine Kontraktionen Gertrud Stein, Gertrud Stein, Gertrud Stein.“
Carroll gewann 1981 auch einen Grammy für die beste Aufnahme von gesprochenem Wort, Dokumentarfilm oder Drama für eine Aufnahme des Stücks.