Main artikel: Groepentheorie De mogelijke zetten op een Rubik’s kubus vormen een (zeer grote) groep. Groepentheorie is nuttig als abstract begrip van symmetrie, waardoor het toepasbaar is op een groot aantal gebieden: het verband tussen de wortels van een polynoom (zoals in de Galoistheorie) en de oplossingsmethoden voor de Rubik’s kubus zijn beide prominente voorbeelden.

Informeel is een groep een verzameling voorzien van een binaire operatie ∘circ∘, zodat een bewerking op twee willekeurige elementen van de groep ook een element van de groep oplevert. Zo vormen de gehele getallen een groep onder optelling, en de reele getallen zonder nul een groep onder vermenigvuldiging. De ∘circulatie moet voldoen aan een aantal eigenschappen die analoog zijn aan die waaraan ze voor deze “normale” getallenstelsels voldoet: ze moet associatief zijn (wat in wezen betekent dat de volgorde van de bewerkingen er niet toe doet), en er moet een identiek element zijn (0 in het eerste voorbeeld hierboven, en 1 in het tweede). Meer formeel is een groep een verzameling met een operatie ⋅⋅ zodanig dat de volgende axioma’s gelden; merk op dat ⋅⋅⋅ niet noodzakelijk verwijst naar vermenigvuldiging; het moet eerder gezien worden als een functie op twee variabelen (inderdaad, ⋅⋅⋅ kan zelfs verwijzen naar optelling):

Groepsaxioma’s

1) Associativiteit. Voor elke x,y,z∈Gx, y, z in G x,y,z∈G, geldt (x⋅y)⋅z=x⋅(y⋅z) (x \cdot y) \cdot z = x \cdot (y \cdot z) (x⋅y)⋅z=x⋅(y⋅z).
2) Identiteit. Er bestaat een e∈G e \in G e∈G, zodanig dat e⋅x=x⋅e=x e \cdot x = x \cdot e = x e⋅x=x⋅e=x voor elke x∈Gx \in G x∈G. We zeggen dat eee een identiteitselement is van GGG.
3) Inverse. Voor elke x∈Gx \in Gx∈G bestaat er een y∈Gy \in Gy∈G zo dat x⋅y=e=y⋅xx \cdot y = e = y \cdot x⋅y=e=y⋅x. We zeggen dat yyy een inverse is van xxx.

Het is ook de moeite waard om het sluitingsaxioma voor de nadruk te vermelden, want het is belangrijk om sluiting te verifiëren als je werkt met subgroepen (groepen die volledig binnen een andere groep vallen):

4) Sluiting. Voor elke x,y∈Gx, y in G x,y∈G, x∗yx*y x∗y is ook in GGG.

Extra voorbeelden van groepen zijn

• Zn\mathbb{Z}_nZn, de verzameling van gehele getallen {0,1,…,n-1}{0, 1, \ldots, n-1}{0,1,…,n-1} met de operatie optellen modulo nnn
• SnS_nSn, de verzameling permutaties van {1,2,…,n}{1, 2, \ldots, n}{1,2,…,n} met de operatie samenstelling.

S3S_3S3 is een speciale vermelding waard als voorbeeld van een groep die niet commutatief is, dat wil zeggen dat a⋅b=b⋅aa \cdot b = b \cdot aa⋅b=b⋅a in het algemeen niet geldt. Formeel is S3S_3S3 niet-abellisch (een abeliaanse groep is een groep waarin de operatie commutatief is). Wanneer de operatie niet duidelijk is uit de context, worden groepen geschreven in de vorm (set,op)(\text{set}, \text{op})(set,op); bijv. de niet nul realen voorzien van vermenigvuldiging kunnen geschreven worden als (R∗,⋅)(\mathbb{R}^*, \cdot)(R∗,⋅).

Veel groepentheorie (en abstracte algebra in het algemeen) draait om het begrip groepshomomorfisme, dat in wezen een afbeelding van de ene groep in de andere betekent die de structuur van de groep behoudt. Met andere woorden, de mapping van het product van twee elementen moet hetzelfde zijn als het product van de twee mappings; intuïtief gesproken mag het product van twee elementen niet veranderen onder de mapping. Formeel is een homomorfisme een functie ϕ:G→H G→HG→H zodanig dat

ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),\phi(g_1) \cdot_H \phi(g_2) = \phi(g_1 \cdot_G g_2),ϕ(g1)⋅Hϕ(g2)=ϕ(g1⋅Gg2),

waar ⋅H\cdot_H⋅H de operatie op HHH is en ⋅G\cdot_G⋅G de operatie op GGG is. Bijvoorbeeld, ϕ(g)=g(modn)\phi(g) = g \pmod nϕ(g)=g(modn) is een voorbeeld van een groepshomomorfisme van Z\mathbb{Z}Z naar Zn\mathbb{Z}_nZn. Het concept van potentieel verschillende operaties is noodzakelijk; zo is ϕ(g)=egϕ(g)=e^gϕ(g)=eg een voorbeeld van een groepshomomorfisme van (R,+)(\mathbb{R},+)(R,+) naar (R∗,⋅)(\mathbb{R}^{*},\cdot)(R∗,⋅).