Pamela Miller i Linda Parker poznały się około 1966 roku podczas uczęszczania do Cleveland High School w Los Angeles. Christine Frka podróżowała do Los Angeles z San Pedro wraz z Sandrą Rowe, i obie mieszkały w piwnicy Log Cabin Franka Zappy przy 2401 Laurel Canyon Boulevard w Hollywood Hills w 1968 roku. Frka była nianią dla najstarszego dziecka Zappy, Moon Unit, zanim Miller przejął ją w następnym roku. Judith Peters wyemigrowała z Haight Ashbury do Los Angeles z powodu „nudy”, twierdząc, że „nie może być hipiską na zawsze”. Cynthia Wells została wprowadzona do grupy przez Peters już po uformowaniu się jej zalążka. To tłumaczy obecność panny Cynderelli na niektórych, ale nie wszystkich, zdjęciach reklamowych GTO. Lucy Offerall również nie był oryginalnym członkiem, ale dołączył po nagraniu Permanent Damage.

Grupa początkowo nazywali siebie Cherry Sisters, ale wkrótce zmienił się na Laurel Canyon Ballet Company. Frank Zappa później zmienił ich nazwę na GTOs, którą opisał jako „akronim, który, jak napisał Stanley Booth, może oznaczać Girls Together Outrageously, Orally, lub cokolwiek innego zaczynającego się na O.” Na wewnętrznej okładce ich albumu, akronim jest również zdefiniowany jako „Girls Together Occasionally”, „Girls Together Often” i „Girls Together Only”. Panna Lucy stwierdziła w wywiadzie, że ta ostatnia nazwa jest tym, co oznaczała, choć większość rozumie, że nazwa na albumie, Girls Together Outrageously, jest nazwą grupy.

Członkowie byli połączeni przez ich związek z Zappą, który zachęcał ich do artystycznych przedsięwzięć pomimo ich ograniczonych umiejętności wokalnych. Grupa wystąpiła na żywo „tylko 4 lub 5 razy”, chociaż stworzyli silne wrażenie na ich występie w grudniu 1968 roku w Shrine Auditorium otwierając dla The Mothers of Invention, Alice Cooper i Wild Man Fischer. Mieszanka teatru, śpiewu, tańca, dzikich kostiumów i niezwykłych tekstów była podstawą ich występów. Ich jedyny album, Permanent Damage (Straight Records), został wyprodukowany w 1969 roku przez Zappę z pomocą Lowella George’a i Russa Titelmana w utworach 7 i 11. W tym ostatnim utworze pojawia się również szwagier Titelmana, gitarzysta Ry Cooder, i obaj pojawiają się na albumie Captain Beefheart’s Safe as Milk. Utwór 5 „The Captain’s Fat Theresa Shoes” jest komentarzem GTO na temat gustu obuwniczego Beefhearta (kuzyn Victor Hayden zapoznał go z Pamelą Des Barres). Piosenki przeplatają się z rozmowami członków grupy, przyjaciół i innych osób, w tym Cynthii Plaster Caster i Rodneya Bingenheimera. Na płycie znaleźli się Lowell George, Jeff Beck, Craig Doerge i Davy Jones. W utworze 14 pojawia się młody Rod Stewart. Permanent Damage został ponownie wydany na CD w 1989 roku przez Enigmę Retro.