Huvudartikel: Gruppteori De möjliga dragen på en Rubiks kub bildar en (mycket stor) grupp. Gruppteorin är användbar som ett abstrakt begrepp för symmetri, vilket gör den tillämpbar på ett stort antal områden: förhållandet mellan rötterna i ett polynom (som i Galois-teorin) och lösningsmetoderna till Rubiks kub är båda framträdande exempel.

Informellt sett är en grupp en mängd utrustad med en binär operation ∘\circ∘, så att en operation på två element i gruppen också ger ett element i gruppen. Exempelvis bildar helheterna en grupp under addition och de reella tal som inte är nollor bildar en grupp under multiplikation. ∘\circ∘-operationen måste uppfylla ett antal egenskaper analogt med dem som den uppfyller för dessa ”normala” talsystem: den bör vara associativ (vilket i huvudsak innebär att operationsordningen inte spelar någon roll), och det bör finnas ett identitetselement (0 i det första exemplet ovan och 1 i det andra). Mer formellt sett är en grupp en mängd utrustad med en operation ⋅\cdot⋅ så att följande axiom gäller; observera att ⋅\cdot⋅ inte nödvändigtvis hänvisar till multiplikation; snarare bör det ses som en funktion på två variabler (i själva verket kan ⋅\cdot⋅ till och med hänvisa till addition):

Gruppaxiom

1) Associativitet. För alla x,y,z∈Gx, y, z \in G x,y,z∈G har vi (x⋅y)⋅z=x⋅(y⋅z) (x \cdot y) \cdot z = x \cdot (y \cdot z) (x⋅y)⋅z=x⋅(y⋅z).
2) Identitet. Det finns ett e∈G e \in G e∈G, så att e⋅x=x⋅e=x e \cdot x = x \cdot e = x e⋅x=x⋅e=x för varje x∈Gx \in G x∈G. Vi säger att eee är ett identitetselement i GGG.
3) Invers. För varje x∈Gx \in Gx∈G finns det ett y∈Gy \in Gy∈G så att x⋅y=e=y⋅xx \cdot y = e = y \cdot x x x⋅y=e=y⋅x. Vi säger att yyy är en invers av xxx.

Det är också värt att notera stängningsaxiomet för att betona, eftersom det är viktigt att verifiera stängningen när man arbetar med undergrupper (grupper som helt och hållet ingår i en annan):

4) Stängning. För varje x,y∈Gx, y \in G x,y∈G, x∗yx*y x∗y är också i GGG.

Andra exempel på grupper är

• Zn\mathbb{Z}_nZn, mängden av heltal {0,1,…,n-1}\{0, 1, \ldots, n-1\}{0,1,….,n-1} med operationen addition modulo nnn
• SnS_nSn, mängden permutationer av {1,2,…,n}\{1, 2, \ldots, n\}{1,2,…,n} med operationen komposition.

S3S_3S3 är värd en särskild notering som ett exempel på en grupp som inte är kommutativ, vilket innebär att a⋅b=b⋅aa \cdot b = b \cdot aa⋅b=b⋅a i allmänhet inte gäller. Formellt sett är S3S_3S3 icke-abelisk (en abelisk grupp är en grupp där operationen är kommutativ). När operationen inte framgår av sammanhanget skrivs grupper i formen (set,op)(\text{set}, \text{op})(set,op); t.ex. kan de icke nollställda reella talen utrustade med multiplikation skrivas som (R∗,⋅)(\mathbb{R}^*, \cdot)(R∗,⋅).

En stor del av gruppteorin (och abstrakt algebra i allmänhet) är centrerad kring begreppet grupphomomorfism, vilket i huvudsak innebär en avbildning från en grupp till en annan som bevarar gruppens struktur. Med andra ord bör avbildningen av produkten av två element vara densamma som produkten av de två avbildningarna; intuitivt sett bör produkten av två element inte förändras under avbildningen. Formellt sett är en homomorfism en funktion ϕ:G→H\phi: G \rightarrow Hϕ:G→H så att

ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),\phi(g_1) \cdot_H \phi(g_2) = \phi(g_1 \cdot_G g_2),ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),

där ⋅H\cdot_H⋅H är operationen på HHH och ⋅G\cdot_G⋅G är operationen på GGG. Till exempel är ϕ(g)=g(modn)\phi(g) = g \pmod nϕ(g)=g(modn) ett exempel på en grupphomomorfism från Z\mathbb{Z}Z till Zn\mathbb{Z}_nZn. Begreppet potentiellt olika operationer är nödvändigt; till exempel är ϕ(g)=eg\phi(g)=e^gϕ(g)=eg ett exempel på en grupphomomorfism från (R,+)(\mathbb{R},+)(R,+) till (R∗,⋅)(\mathbb{R}^{*},\cdot)(R∗,⋅).