Pamela Miller och Linda Parker träffades runt 1966 när de gick på Cleveland High School i Los Angeles. Christine Frka reste till Los Angeles från San Pedro tillsammans med Sandra Rowe och båda bodde 1968 i källaren till Frank Zappas Log Cabin på 2401 Laurel Canyon Boulevard i Hollywood Hills. Frka var barnflicka som bodde hos Zappas äldsta barn Moon Unit innan Miller tog över året därpå. Judith Peters hade emigrerat från Haight Ashbury till Los Angeles på grund av ”tristess” och hävdade att hon ”inte kunde vara hippie för alltid”. Cynthia Wells togs in i gruppen av Peters efter att kärnan i gruppen hade bildats. Detta förklarar miss Cynderellas närvaro i vissa, men inte alla, av GTO:s reklambilder. Lucy Offerall var inte heller en ursprunglig medlem utan anslöt sig efter inspelningen av Permanent Damage.

Gruppen kallade sig till en början Cherry Sisters men bytte snart namn till Laurel Canyon Ballet Company. Frank Zappa ändrade senare deras namn till GTOs, som han beskrev som ”en akronym som, som Stanley Booth skrev, skulle kunna betyda Girls Together Outrageously, Orally eller något annat som börjar på O”. På deras skivas inneromslag definieras akronymen också som ”Girls Together Occasionally”, ”Girls Together Often” och ”Girls Together Only”. Miss Lucy uppgav i en intervju att det sistnämnda namnet var vad det stod för, även om de flesta förstår att namnet på albumet, Girls Together Outrageously, är gruppens namn.

Medlemmarna var sammankopplade genom sitt umgänge med Zappa, som uppmuntrade deras konstnärliga strävanden trots deras begränsade sångförmåga. Gruppen uppträdde live ”endast fyra eller fem gånger”, även om de skapade ett starkt intryck vid sitt framträdande i december 1968 på Shrine Auditorium som öppning för The Mothers of Invention, Alice Cooper och Wild Man Fischer. En blandning av teater, sång, dans, vilda kostymer och ovanligt textinnehåll var en del av deras nummer. Deras enda album, Permanent Damage (Straight Records), producerades 1969 av Zappa med hjälp av Lowell George och Russ Titelman på spåren 7 och 11. På det sistnämnda spåret medverkar även Titelmans svåger, gitarristen Ry Cooder, och båda finns med på Captain Beefhearts album Safe as Milk. Spår 5 ”The Captain’s Fat Theresa Shoes” är en GTO-kommentar om Beefhearts smak när det gäller skor (hans kusin Victor Hayden hade presenterat honom för Pamela Des Barres). Låtarna blandas med samtal mellan gruppens medlemmar, vänner och andra, bland annat Cynthia Plaster Caster och Rodney Bingenheimer. Albumet innehåller bidrag till låtskrivandet från Lowell George, Jeff Beck, Craig Doerge och Davy Jones. En ung Rod Stewart är med på spår 14. Permanent Damage återutgavs på CD 1989 av Enigma Retro.