Hlavní článek: Teorie grup Možné tahy na Rubikově kostce tvoří (velmi velkou) grupu. Teorie grup je užitečná jako abstraktní pojem symetrie, díky čemuž je použitelná v celé řadě oblastí: významným příkladem je vztah mezi kořeny polynomu (jako v Galoisově teorii) a způsoby řešení Rubikovy kostky.

Informativně je grupa množina vybavená binární operací ∘\circ∘, takže operace na libovolných dvou prvcích grupy vytváří také prvek grupy. Například celá čísla tvoří grupu při sčítání a nenulová reálná čísla tvoří grupu při násobení. Operace ∘\circ∘ musí splňovat řadu vlastností analogických těm, které splňuje pro tyto „normální“ číselné soustavy: měla by být asociativní (což v podstatě znamená, že na pořadí operací nezáleží) a měl by existovat prvek identity (0 v prvním příkladu výše a 1 ve druhém). Formálněji řečeno, grupa je množina vybavená operací ⋅\cdot⋅ tak, že platí následující axiomy; všimněte si, že ⋅\cdot⋅ nemusí nutně znamenat násobení; spíše bychom se na ni měli dívat jako na funkci na dvou proměnných (⋅\cdot⋅ může dokonce znamenat sčítání):

Group Axioms

1) Asociativita. Pro libovolné x,y,z∈Gx, y, z \v G x,y,z∈G máme (x⋅y)⋅z=x⋅(y⋅z) (x \cdot y) \cdot z = x \cdot (y \cdot z) (x⋅y)⋅z=x⋅(y⋅z).
2) Identita. Existuje e∈G e \v G e∈G, takové, že e⋅x=x⋅e=x e \cdot x = x \cdot e = x e⋅x=x⋅e=x pro libovolné x∈Gx \v G x∈G. Říkáme, že eee je identitní prvek GGG.
3) Inverzní. Pro libovolné x∈Gx \v Gx∈G existuje y∈Gy \v Gy∈G takové, že x⋅y=e=y⋅xx \cdot y = e = y \cdot x x⋅y=e=y⋅x. Říkáme, že yyy je inverzí xxx.

Pro zdůraznění stojí za zmínku také axiom uzavřenosti, protože při práci s podgrupami (skupinami obsaženými zcela uvnitř jiné) je důležité ověřit uzavřenost:

4) Uzavřenost. Pro libovolné x,y∈Gx, y \v G x,y∈G, x∗yx*y x∗y je také v GGG.

Dalšími příklady grup jsou

• Zn\mathbb{Z}_nZn, množina celých čísel {0,1,…,n-1}\{0, 1, \ldots, n-1\}{0,1,….,n-1} s operací sčítání modulo nnn
• SnS_nSn, množina permutací {1,2,…,n}\{1, 2, \ldots, n\}{1,2,…,n} s operací složení.

S3S_3S3 stojí za zvláštní zmínku jako příklad grupy, která není komutativní, což znamená, že a⋅b=b⋅aa \cdot b = b \cdot aa⋅b=b⋅a obecně neplatí. Formálně vzato je S3S_3S3 neabelová (abelová grupa je taková, ve které je operace komutativní). Pokud není operace z kontextu jasná, zapisují se grupy ve tvaru (množina,op)(\text{množina}, \text{op})(množina,op); např. nenulové reály vybavené násobením lze zapsat jako (R∗,⋅)(\mathbb{R}^*, \cdot)(R∗,⋅).

Velká část teorie grup (a abstraktní algebry obecně) je soustředěna kolem pojmu homomorfismus grupy, což v podstatě znamená mapování z jedné grupy do druhé, které zachovává strukturu grupy. Jinými slovy, mapování součinu dvou prvků by mělo být stejné jako součin dvou mapování; intuitivně řečeno, součin dvou prvků by se při mapování neměl měnit. Formálně je homomorfismus funkce ϕ:G→H\phi: G \pravá šipka Hϕ:G→H taková, že

ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),\phi(g_1) \cdot_H \phi(g_2) = \phi(g_1 \cdot_G g_2),ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),

kde ⋅H\cdot_H⋅H je operace na HHH a ⋅G\cdot_G⋅G je operace na GGG. Například ϕ(g)=g(modn)\phi(g) = g \pmod nϕ(g)=g(modn) je příkladem skupinového homomorfismu ze Z\mathbb{Z}Z na Zn\mathbb{Z}_nZn. Pojem potenciálně odlišných operací je nezbytný; například ϕ(g)=eg\phi(g)=e^gϕ(g)=eg je příkladem homomorfismu grupy z (R,+)(\mathbb{R},+)(R,+) na (R∗,⋅)(\mathbb{R}^{*},\cdot)(R∗,⋅).

.