Pääartikkeli: Ryhmäteoria Rubikin kuution mahdolliset siirrot muodostavat (hyvin suuren) ryhmän. Ryhmäteoria on käyttökelpoinen symmetrian abstraktina käsitteenä, minkä vuoksi sitä voidaan soveltaa monilla eri aloilla: polynomin juurien välinen suhde (kuten Galois-teoriassa) ja Rubikin kuution ratkaisumenetelmät ovat molemmat näkyviä esimerkkejä.

Informaalisesti ryhmä on joukko, joka on varustettu binäärioperaatiolla ∘\circ∘ siten, että operoimalla mitä tahansa kahta ryhmän alkiota saadaan myös ryhmän alkio. Esimerkiksi kokonaisluvut muodostavat ryhmän yhteenlaskussa, ja nollasta poikkeavat reaaliluvut muodostavat ryhmän kertolaskussa. ∘\circ∘-operaation on täytettävä joukko ominaisuuksia, jotka ovat analogisia niiden ominaisuuksien kanssa, jotka se täyttää näissä ”normaaleissa” lukujärjestelmissä: sen on oltava assosiatiivinen (mikä tarkoittaa lähinnä sitä, että operaatioiden järjestyksellä ei ole väliä), ja siinä on oltava identtinen alkio (0 ensimmäisessä edellä mainitussa esimerkissä ja 1 toisessa esimerkissä). Muodollisemmin ryhmä on joukko, joka on varustettu operaatiolla ⋅\cdot⋅ siten, että seuraavat aksioomat pätevät; huomaa, että ⋅\cdot⋅ ei välttämättä viittaa kertolaskemiseen, vaan sitä tulisi tarkastella funktiona kahdelle muuttujalle (itse asiassa ⋅\cdot⋅ voi viitata jopa yhteenlaskuun):

Ryhmän aksioomat

1) Assosiatiivisuus. Kaikille x,y,z∈Gx, y, z \ in G x,y,z∈G, on (x⋅y)⋅z=x⋅(y⋅z) (x \cdot y) \cdot z = x \cdot (y \cdot z) (x⋅y)⋅z=x⋅(y⋅z).
2) Identiteetti. On olemassa e∈G e \ G:ssä e∈G, niin että e⋅x=x⋅e=x e \cdot x = x \cdot e = x e⋅x=x⋅e=x mille tahansa x∈Gx \ G:ssä x∈G. Sanomme, että eee on GGG:n identiteettielementti.
3) Käänteisluku. Kaikille x∈Gx \ in Gx∈G on olemassa y∈Gy \ in Gy∈G siten, että x⋅y=e=y⋅xx \cdot y = e = y \cdot x x⋅y=e=y⋅x. Sanomme, että yyy on xxx:n käänteisluku.

Korostuksen vuoksi on syytä huomioida myös sulkeutumisaksiomi, sillä sulkeutumisen todentaminen on tärkeää, kun työskennellään alaryhmien (kokonaan toisen sisällä olevien ryhmien) kanssa:

4) Sulkeutuminen. Kaikille x,y∈Gx, y \ G:ssä x,y∈G, x∗yx*y x∗y on myös GGG:ssä.

Lisäesimerkkejä ryhmistä ovat

• Zn\mathbb{Z}_nZn, kokonaislukujen {0,1,…,n-1}\{0, 1, \ldots, n-1\}{0,1,….,n-1} operaatiolla yhteenlasku modulo nnn
• SnS_nSn, joukko permutaatioita {1,2,…,n}\\{1, 2, \ldots, n\}{1,2,…,n} operaatiolla koostaminen.

S3S_3S3 kannattaa erityisesti huomioida esimerkkinä ryhmästä, joka ei ole kommutatiivinen, eli a⋅b=b⋅aa \cdot b = b \cdot aa⋅b=b⋅a ei yleensä päde. Muodollisesti S3S_3S3 ei ole abeliaaninen ryhmä (abeliaaninen ryhmä on ryhmä, jossa operaatio on kommutatiivinen). Kun operaatio ei selviä asiayhteydestä, ryhmät kirjoitetaan muodossa (set,op)(\text{set}, \text{op})(set,op); esim. kertolaskulla varustetut nollasta poikkeavat reaalit voidaan kirjoittaa muodossa (R∗,⋅)(\mathbb{R}^*, \cdot)(R∗,⋅).

Suuri osa ryhmäteoriasta (ja abstraktista algebrasta yleensä) keskittyy ryhmähomomorfismin käsitteen ympärille, joka tarkoittaa lähinnä sellaista kuvausta yhdestä ryhmästä toiseen, joka säilyttää ryhmän rakenteen. Toisin sanoen, kahden alkion tulon kartoituksen pitäisi olla sama kuin kahden kartoituksen tulo; intuitiivisesti ottaen kahden alkion tulon ei pitäisi muuttua kartoituksen alla. Muodollisesti homomorfismi on funktio ϕ:G→H\phi: G \rightarrow Hϕ:G→H siten, että

ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),\phi(g_1) \cdot_H \phi(g_2) = \phi(g_1 \cdot_G g_2),ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),

jossa ⋅H\cdot_H⋅H on operaatio HHH:lle ja ⋅G\cdot_G⋅G on operaatio GGG:lle. Esimerkiksi ϕ(g)=g(modn)\phi(g) = g \pmod nϕ(g)=g(modn) on esimerkki ryhmähomomorfismista Z\mathbb{Z}Z:stä Zn\mathbb{Z}_nZn:ään. Mahdollisesti erilaisten operaatioiden käsite on välttämätön; esimerkiksi ϕ(g)=eg\phi(g)=e^gϕ(g)=eg on esimerkki ryhmähomomorfismista (R,+)(\mathbb{R},+)(R,+)(R∗,⋅)(\mathbb{R}^{*},\cdot)(R∗,⋅)(R∗,⋅).