Főcikk: Csoportelmélet A Rubik-kocka lehetséges lépései egy (nagyon nagy) csoportot alkotnak. A csoportelmélet a szimmetria absztrakt fogalmaként hasznos, ami számos területen alkalmazhatóvá teszi: a polinomok gyökei közötti kapcsolat (mint a Galois-elméletben) és a Rubik-kocka megoldási módszerei egyaránt kiemelkedő példák.

Informálisan a csoport egy olyan halmaz, amely egy ∘\circ∘ bináris művelettel van ellátva, így a csoport bármely két elemével végzett művelet a csoport egy elemét is eredményezi. Például az egész számok összeadással, a nem nulla valós számok pedig szorzással alkotnak egy csoportot. A ∘\circ∘ műveletnek számos olyan tulajdonságnak kell megfelelnie, amelyek analógok azokkal, amelyeknek e “normál” számrendszerek esetében megfelel: asszociatívnak kell lennie (ami lényegében azt jelenti, hogy a műveletek sorrendje nem számít), és kell lennie egy azonossági elemnek (a fenti első példában 0, a másodikban 1). Formálisabban, a csoport egy olyan halmaz, amely olyan ⋅\cdot⋅ művelettel van ellátva, hogy a következő axiómák érvényesek; vegyük észre, hogy ⋅\cdot⋅ nem feltétlenül szorzásra utal; inkább két változóra vonatkozó függvénynek kell tekinteni (sőt, ⋅\cdot⋅ akár összeadásra is utalhat):

Group Axioms

1) Asszociativitás. Bármely x,y,z∈Gx, y, z \in G x,y,z∈G, akkor (x⋅y)⋅z=x⋅(y⋅z) (x \cdot y) \cdot z = x \cdot (y \cdot z) (x⋅y)⋅z=x⋅(y⋅z).
2) Azonosság. Létezik egy olyan e∈G e \in G e∈G, hogy e⋅x=x⋅e=x e \cdot x = x \cdot e = x e⋅x=x⋅e=x bármely x∈Gx \in G x∈G. Azt mondjuk, hogy eee a GGG azonossági eleme.
3) Inverz. Bármely x∈Gx \in Gx∈G létezik olyan y∈Gy \in Gy∈G, hogy x⋅y=e=y⋅xx \cdot y = e = y \cdot x x⋅y=e=y⋅x. Azt mondjuk, hogy yyy az xxx inverze.

A hangsúly kedvéért érdemes megjegyezni a zártsági axiómát is, hiszen a zártságot akkor is fontos igazolni, ha alcsoportokkal (egy másik csoporton belül teljes egészében szereplő csoportokkal) dolgozunk:

4) Zártság. Bármely x,y∈Gx, y \in G x,y∈G, x∗yx*y x∗y is GGG-ben van.

A csoportok további példái közé tartozik

• Zn\mathbb{Z}_nZn, az egész számok {0,1,…,n-1}\{0, 1, \ldots, n-1\}{0,1,…,n-1\} halmaza.,n-1} az összeadás modulo nnn művelettel
• SnS_nSn, a {1,2,…,n}\{1, 2, \ldots, n\}{1,2,…,n} permutációinak halmaza az összetétel művelettel.

S3S_3S3 külön említést érdemel, mint olyan csoport példája, amely nem kommutatív, azaz a⋅b=b⋅aa \cdot b = b \cdot aa⋅b=b⋅a általában nem érvényes. Formailag az S3S_3S3 nem abéliumos (abéliumos csoport az, amelyben a műveletek kommutatívak). Ha a művelet nem egyértelmű a kontextusból, a csoportokat (halmaz,op)(\text{halmaz}, \text{op})(halmaz,op) formában írjuk; pl. a szorzással ellátott nemnulla valós számok a következőképpen írhatók: (R∗,⋅)(\mathbb{R}^*, \cdot)(R∗,⋅).

A csoportelmélet (és általában az absztrakt algebra) nagy része a csoporthomomorfizmus fogalma köré épül, ami lényegében egy olyan leképezést jelent egyik csoportból egy másikba, amely megőrzi a csoport szerkezetét. Más szóval, két elem szorzatának leképezésének meg kell egyeznie a két leképezés szorzatával; intuitívan szólva, két elem szorzata nem változhat a leképezés alatt. Formálisan a homomorfizmus egy ϕ:G→H\phi függvény: G \rightarrow Hϕ:G→H olyan, hogy

ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),\phi(g_1) \cdot_H \phi(g_2) = \phi(g_1 \cdot_G g_2),ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),

hol ⋅H\cdot_H⋅H a HHH-n végzett művelet és ⋅G\cdot_G⋅G a GGG-en végzett művelet. Például ϕ(g)=g(modn)\phi(g) = g \pmod nϕ(g)=g(modn) egy példa a Z\mathbb{Z}Z-ből Zn\mathbb{Z}_nZn-be történő csoporthomomorfizmusra. A potenciálisan eltérő műveletek fogalma szükséges; például ϕ(g)=eg\phi(g)=e^gϕ(g)=eg egy példa az (R,+)(\mathbb{R},+)(R,+)-ból (R∗,⋅)(\mathbb{R}^{*},\cdot)(R∗,⋅) csoporthomomorfizmusra.