Główny artykuł: Group theory Możliwe ruchy na kostce Rubika tworzą (bardzo dużą) grupę. Teoria grup jest użyteczna jako abstrakcyjne pojęcie symetrii, co sprawia, że ma zastosowanie w wielu dziedzinach: związek między korzeniami wielomianu (jak w teorii Galois) i metody rozwiązywania kostki Rubika są wybitnymi przykładami.

Informalnie, grupa jest zbiorem wyposażonym w operację binarną ∘circ∘, tak, że działanie na dowolne dwa elementy grupy również produkuje element grupy. Na przykład, liczby całkowite tworzą grupę na podstawie dodawania, a niezerowe liczby rzeczywiste tworzą grupę na podstawie mnożenia. Operacja ∘crc∘ musi spełniać kilka własności analogicznych do tych, które spełnia dla tych „normalnych” systemów liczbowych: powinna być asocjacyjna (co zasadniczo oznacza, że kolejność operacji nie ma znaczenia) i powinien istnieć element tożsamości (0 w pierwszym przykładzie powyżej i 1 w drugim). Bardziej formalnie, grupa jest zbiorem wyposażonym w operację ⋅cdot⋅ taką, że następujące aksjomaty zachodzą; zauważ, że ⋅cdot⋅ niekoniecznie odnosi się do mnożenia; raczej, powinno być postrzegane jako funkcja na dwóch zmiennych (rzeczywiście, ⋅cdot⋅ może nawet odnosić się do dodawania):

Aksjomaty grup

1) Asocjatywność. Dla dowolnych x,y,z∈Gx, y, z w G x,y,z∈G mamy (x⋅y)⋅z=x⋅(y⋅z) (x ⋅cdot y) ⋅cdot z = x ⋅cdot (y ⋅cdot z) (x⋅y)⋅z=x⋅(y⋅z).
2) Tożsamość. Istnieje e∈G e w G e∈G, takie, że e⋅x=x⋅e=x e ⋅cdot x = x ⋅cdot e = x e⋅x=x⋅e=x dla dowolnego x∈Gx w G x∈G. Mówimy, że eee jest elementem tożsamościowym GGG.
3) Odwrotność. Dla dowolnego x∈Gx w Gx∈G, istnieje y∈Gy w Gy∈G takie, że x⋅y=e=y⋅xx ∈ y = e = y ∈ x x⋅y=e=y⋅x. Mówimy, że yy jest odwrotnością xxx.

Warto też dla podkreślenia odnotować aksjomat domknięcia, gdyż przy pracy z podgrupami (grupami zawartymi całkowicie w innej) ważne jest sprawdzenie domknięcia:

4) Domknięcie. Dla dowolnych x,y∈Gx, y w G x,y∈G, x∗yx*y x∗y jest również w GGG.

Dodatkowe przykłady grup obejmują

• Zn, zbiór liczb całkowitych {0,1,…,n-1} z operacją dodawania {0,1,…,n-1} z operacją dodawania modulo nnn
• SnS_nSn, zbiór permutacji liczb {1,2,…,n} {1,2,…,n} z operacją kompozycji.

S3S_3S3 jest warte szczególnej uwagi jako przykład grupy, która nie jest komutatywna, co oznacza, że a⋅b=b⋅aa ⋅cdot b = b ⋅cdot aa⋅b=b⋅a na ogół nie zachodzi. Formalnie rzecz biorąc, S3S_3S3 jest nieabelowa (grupa abelowa to taka, w której operacja jest komutatywna). Gdy operacja nie wynika jasno z kontekstu, grupy zapisuje się w postaci (set,op)(\tekst{set}, \tekst{op})(set,op); np. niezerowe reale wyposażone w mnożenie można zapisać jako (R∗,⋅)(\mathbb{R}^*, \cdot)(R∗,⋅).

Większość teorii grup (i ogólnie algebry abstrakcyjnej) skupia się wokół pojęcia homomorfizmu grupowego, co w zasadzie oznacza odwzorowanie z jednej grupy na drugą, które zachowuje strukturę grupy. Innymi słowy, odwzorowanie iloczynu dwóch elementów powinno być takie samo jak iloczyn dwóch odwzorowań; intuicyjnie rzecz biorąc, iloczyn dwóch elementów nie powinien się zmieniać pod wpływem odwzorowania. Formalnie rzecz biorąc, homomorfizm jest funkcją ϕ:G→Hphi: G figura Hϕ:G→H taka, że

ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),ἀphi(g_1) ἀphi(g_2) = ἀphi(g_1 ἀG g_2),ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),

gdzie ⋅H jest operacją na HHH, a ⋅Gϕ_G⋅G jest operacją na GGG. Na przykład, ϕ(g)=g(modn)\\phi(g) = g \pmod nϕ(g)=g(modn) jest przykładem homomorfizmu grupowego od ZZ do Zn\mathbb{Z}_nZn. Pojęcie potencjalnie różnych operacji jest konieczne; na przykład ϕ(g)=eg =e^gϕ(g)=eg jest przykładem homomorfizmu grupowego od (R,+)(\mathbb{R},+)(R,+) do (R∗,⋅)(\mathbb{R}^{*},\cdot)(R∗,⋅).