Slovo „algoritmus“ pochází ze zkomoleného jména perského matematika jménem Abú Abd Alláh Muhammad ibn Músá al-Chwárizmí (otec Abdulláha, Mohameda, syn Mojžíšův, pocházející z města Chórézm). Od počátku 20. století se termín „algoritmus“ používá ve smyslu univerzálního návodu či postupu pro řešení určité třídy úloh, který se skládá z konečné posloupnosti jednoznačně definovaných kroků.
Efektivitu algoritmů pro řešení stejné třídy úloh na stejném výpočetním modelu můžeme vzájemně porovnávat pomocí matematického aparátu, který se nazývá asymptotická složitost. Tento aparát umožňuje u některých algoritmů aproximovat funkce popisující závislosti mezi velikostí vstupu a potřebnými nároky algoritmu na časové či systémové zdroje (především paměť). Tyto funkce jsou konstruovány na základě znalosti vnitřní struktury algoritmu.