Už ve starověku si lidé uvědomovali potřebu zjednodušit si počítání nějakou pomůckou,nejlépe nějakým mechanickým zařízením. Za primitivní způsoby počítání se dá považovat počítání pomocí prstů na ruce nebo počítání pomocí kamínků a jamek v písku. Z tohoto způsobu potom vznikly počítací desky. Byly to desky s prohlubněmi do kterých se vkládaly oblázky. Desky se vyráběli se dřeva, z kamene, později i z kovu.
Nejstarší objevená deska pochází z ostrova Salamis z doby přibližně 300 let před naším letopočtem. Římané neměli počítadla. Ti používali asi 100 let př.n.l kamenné destičky, kde si dělali čárky pomocí kamínku. Dá se říct, že tyto destičky byly první předchůdci hospodských účtenek. Velkou nevýhodou všech těchto vynálezu byla neexistence symbolu nuly. Tento nedostatek si nejvíce uvědomovali Mayové a zavedli tento symbol jako první. Arabové kolem roku 200 vymysleli, a také začali používat první kalkulačku s trigonometrickými funkcemi. Ve stejné době v Řecku byla k vidění hvězdářská kalkulačka. Nikdo si však neuvědomoval, že je potřeba nejen vymýšlet vynálezy, ale i vydávat publikace.Ve stejném roce, kdy Arabové počítali sliny a Řekové polohy hvězd a bůh ví čeho ještě, vychází v Indii vědecká práce s názvem "Pojem nula", která se zabývá používáním nuly a jejich výhodách.Z této desky vychází další počítací pomůcka, která se v některých částech světa používá dodnes – kuličkové počítadlo, neboli abacus.
Abacus , tak jak ho známe dnes, pochází přibližně z roku 1200 našeho letopočtu z Číny. V Číně říkali tomuto počítadlu suan-pan. V 16. století se tento vynález dále rozšířil do Japonska a na Koreu. Abacus měl více variant, v Číně se používalo počítadlo se 13 sloupci a dvěma kuličkami nahoře a pěti dole, v Japonsku 21 sloupců s 1 kuličkou nahoře a 4 dole a v například v Rusku 10 sloupců s deseti kuličkami.
Vedle abacusu existovali i jiné počítací pomůcky, například logaritmické pravítko. První vynález mechanického počítacího stroje je připisován Blaise Pascalovi roku 1642. Přestože historické prameny naznačují, že mechanický počítací stroj sestrojil již roku 1623 němec Wilhelm Schickard, prvenství se přesto přisuzuje Pascalovi.
Pascal jako mladý pomáhal svému otci, daňovému úředníkovi, připravovat dokumenty, kde se muselo sčítat několik sloupců čísel. Pascal věřil, že existuje způsob, jak si tuto náročnou práci zjednodušit a tak ve svých 19-ti letech sestrojil mechanický počítací stroj, který byl schopný sčítání a odčítání. Přístroj se jmenoval Pascalina a přestože práci velice zjednodušil, tak kvůli strachu lidí ze složité práce s tímto přístrojem prodal pouze 50 kusů tohoto zařízení. Další mechanický počítací stroj vytvořil německý matematik G. W. von Leibniz v roce 1673. Byl to předchůdce moderní kalkulačky a oproti Pascalině uměl násobit, dělit a počítat s odmocninami. Dalším krokem ve vývoji k moderním počítačům má vynález, který s počítači na první pohled nemá mnoho společného. Na počátku 19. století vytvořil Joseph Marie Jacquard tkalcovský stroj, který vytvářel tkaný vzor pomocí děrných kartiček. Jehly procházeli systémem děr v kartonových kartách, tudy protahovali nitě a tkali látku. Právě umístěním děr byl dán tkaný vzor. Tkalců stačilo pro nový vzor vytvořit pouze novou soupravu karet. Souvislost s počítači je právě analogie s programy – máme universální stroj a pro různé činnosti vytvoříme různé programy (kartičky) a náš stroj bude vždy dělat to, co má ve svém programu. Jacqardův stroj se ve světě prosadil, v roce 1801 ho představil průmyslníkům v Paříži a podobná technika tkaní se používá dodnes. U Jacqardova stroje se ukázal problém těchto objevů. Stejně jako u Pascaliny se projevil strach lidí z nových technologií a obava o práci, kdy tato technologie nahradila většinou mechanickou práci mnoha lidí. Snaha zjednodušit a zpřesnit výpočty vedla k práci na vývoji mechanického počítacího stroje anglického matematika Charlese Babbage.
Jednou z jeho myšlenek byl postup výpočtu logaritmu s libovolně velkou přesností. Tuto myšlenku rozpracoval v roce 1819, kdy se věnoval astronomii a chtěl zmechanizovat sestavování astronomických tabulek metodou diferencí. Mechanický stroj by tak prováděl složitější výpočty pouze za pomocí sčítání. Babbage tento stroj nakonec v roce 1822 dokončil a říká se mu malý diferenční stroj. Při práci na tomto stroji vypracoval i myšlenku, jak získané výsledky tisknout, ale nakonec ji nezrealizoval.
Poté ho velice zaujal projekt francouzské vlády na sestavování logaritmických a trigonometrických tabulek. Vypracoval projekt, ve kterém uváděl, že sestavení velkého diferenčního stroje by nahradilo celý tým lidí a stroj by se navíc nedopustil žádné chyby. Babbage svým projektem na velký diferenční stroj přesvědčil francouzskou vládu a dostal první grant. Chtěl sestavit stroj pracující s diferencemi až šestého řádu s dvaceti číslicemi. Stroj měl snadno spočítat všechny tabulky, které vláda požadovala a navíc je měl i tisknout. Při práci na projektu ale nastali problémy, které ale nesouvisely s vlastním vynálezem. V roce 1834 musel práce na projektu zastavit, hlavně z důvodu finančního. Vláda se nemohla rozhodnout, zda projekt bude dále podporovat. V té době už měl Babbage první výkresy analytického stroje, který byl předchůdcem moderních elektronických počítačů. K této myšlence ho vedla právě práce na diferenčním stroji. Analytický stroj obsahoval logické komponenty, které jsou známé z dnešních počítačů – ukládací prostor, výpočetní mechanismus, řízení, vstup a výstup. Ukládací prostor měl obsahovat všechny proměnné, s nimiž měl stroj pracoval a dále také mezivýsledky výpočetních operací. Prostor měl být schopný udržovat až 1000 čísel o 50 cifrách. Babbage šel ještě dál a uvažoval dokonce, že by se obsah ukládacího prostor přepsal na děrné štítky. Výpočetní mechanismus zhruba odpovídal dnešní centrální procesorové jednotce mikroprocesoru. Řízení ovládalo posloupnost operací pomocí děrných štítků. na nichž byly zaznamenány instrukce výpočtu. Babbage svůj analytický stroj nakonec nesestrojil a jedním z důvodů byla i požadovaná mechanická přesnost u tohoto zařízení, kterou technologie v 19. století neumožňovali. Nicméně myšlenkové koncepty z tohoto projektu se ukázali jako správné a pozdější vývoj počítačů to dokázal. Požadavek ke zrychlování počítání vedl ke vzniku dalších počítacích strojů. V USA vypsali soutěž na počítací stroj pro potřeby sčítání lidu. Tuto soutěž vyhrál se svým strojem H.Hollerith, který je považován za jednoho z otců IBM. Jeho stroj se jmenoval tabelátor.Jednalo se o stroj pracující s děrnými štítky, na která zaznamenával data. Z tohoto štítku mohltato data později kdykoli opět vyvolat. Stroj umožňoval třídění dat podle daného hesla, prováděl jednoduché početní operace a popřípadě výsledek vytisknul nebo znovu naděroval. Tyto stroje se nakonec staly pomocníky nejen při sčítání lidu, ale i při hromadném zpracování dat ve státní správě, v bankách, v průmyslových podnicích, ... Vedle zařízení, které počítali s diskrétními hodnotami vznikaly analogové stroje. Příkladem je například elektromechanický diferenciální analyzátor, který sestrojil v roce 1930 Vennevar Bush. Tento člověk stál i u myšlenek, které vedli k hypertextovým dokumentům, později i myšlence www stránek a dalších věcí ze světa moderních počítačů. Dalším člověkem, jehož myšlenky ovlivnili konstrukce počítačů byl Alan M. Turing, který v roce 1937 publikoval svoji myšlenku Turingových strojů. Významným počítačem ve vývoji, který byl zkonstruován byl v roce 1944 počítač MARK 1.Základním prvkem tohoto počítače byla elektromechanická součástka – relé. Počítač MARK 1 nebyl prvním počítačem založeným na něm, předcházel mu počítač Z1 konstruktéra Konrada Zuse a v roce 1942 počítač Z2. Ten měl v sobě 2600 relé. Počítač MARK 1 zkonstruovali Howard Aiken a Grace Hopper. Použití elektřiny umožnilo těmto strojům, abybyly podstatně rychlejší než čistě mechanické stroje. Počítač vznikl za spolupráce s firmou IBM, skládal se z 9000 relé, 497 mil drátů a celý vážil 5 tun. Jeho výpočetní výkon byl tři operace sčítání za sekundu a jeho nasazení bylo jasné – výpočet atomové bomby. Nakonec stroj pracoval plných 15 let. Na něj dále navázal MARK II., sestrojený firmou IBM, který obsahoval 13000 relé. K dalšímu vývoji přispělo několik faktorů, především rozvoj elektroniky, konkrétně použití elektronek místo relé a vynález tranzistoru v roce 1947, dále především nová koncepce, kterou prezentoval John von Neumann v roce 1947, tzv. Neumannovo schéma. Von Neumann také prosadil dvojkovou soustavu. Aby byla historie počítačů přehlednější, začal se vývoj počítačů rozdělovat na jednotlivé etapy – generace počítačů. Každá etapa je charakteristická nejen použitým hardwarem, ale i způsobem obsluhy, programováním počítače, vlastním softwarem, atd.
První počítačová generace je charakteristická tím, že počítače byly především vyvíjeny školami a nebo na základě grantů od vlády. Většinou se samotní tvůrci počítačů stávali její obsluhou. Co se týče konstrukce, tak počítače první generace byly založené na elektronkách, které nahradily dříve používané relé.
Elektronka měla podobnou funkci, jakou má tranzistor, jejich problém byl, že byly oproti tranzistorům značně poruchové. Počítače měly často výpadky i přesto, že počítače byly v klimatizovaném prostředí. Vstup a výstup se na těchto počítačích realizoval pomocí děrných štítků a měly magneticko bubnovou paměť. Typicky tyto počítače obsluhovali velké týmy operátorů, programování probíhalo ve strojovém kódu. Významným jevem této etapy je i pozvolné pronikání počítačů i do komerční sféry. Typickým zástupcem této éry je počítač ENIAC (Electronic Numerical Integrator And Computer) sestrojený v Bellových laboratořích. Počítač se skládal 18 000 elektronek, 10 000kondenzátorů, 7000 odporů, 1300 relé), byl chlazen dvěma leteckými motory, zabíral plochu asi 150m2 a vážil okolo 40 tun. Byl neskutečně pomalý. K jeho pospojování bylo použito více než 500 000 letovaných spojů. Násobení na něm trvalo 2,8 ms. O rok později v roce 1945 sestavil a uvedl do provozu John von Neumann do provozu počítač MANIAC (z angl. Mathematical Analyser Numerical Iintegrator And Computer). Tento počítač by mimo jiné použit k vývoji vodíkové bomby. První sériovým počítačem byl v roce 1951 elektronkový Univac firmy Remington.
Druhá počítačová generace začalo kolem roku 1959 a její hlavní charakteristikou je použití tranzistorů na místo elektronek. Tranzistory byly menší, rychlejší, levnější a spolehlivější. Nejen díky tomu vzrostla výpočetní rychlost až na 230 000 operací za sekundu. Dalším rysem bylo zmenšování počítačů a zlevnění jejich výroby. Přesto tyto počítače měli velice omezené možnosti, na které úlohy se daly používat – hlavní charakteristikou u programů je dávkové zpracování dat. Paměti se začali používat feritové, na ukládání se používala magnetická páska a začalo se na vývoji magnetických disků. V programování se začali objevovat programovací jazyky, což zpřístupnilo práci s počítačem více lidem. Začali se objevovat i skutečné operační systémy, jak je chápeme z dnešního hlediska. Typickým zástupcem této éry byl počítač IBM 650, který byl první počítačem, vyráběným hromadně, celkem se ho prodalo 1500 kusů.
Třetí počítačová generace spadá do let 1964 až 1970. Jejím hlavním znakem je použití integrovaného obvodu, který byl vynalezen roku 1959. Integrovaný obvod se skládal z tisíců tranzistorů umístěných na ploše pár centimetrů čtverečních. Opět se snížila cena a spotřeba počítačů a vzrostla rychlost a spolehlivost. Počítače dosahovali rychlosti 2 500 000 operací za sekundu. K ukládání dat se používal magnetický disk. Z hlediska programů byl výrazný rozvoj operačních systémů a hlavně možnost práce více uživatelů na jednom počítači zároveň.
Čtvrtá generace počítačů, která probíhá od roku 1970 až dodnes by se dala charakterizovat neustálou miniaturizací integrovaných obvodů, v komerční oblasti hlavně rozšiřování i do oblastí, kde se dříve počítače vůbec nepoužívali. Jako začátek této éry se uvádí vyrobení prvního mikroprocesoru firmou Intel. Jednalo se o typ 4004 a měl se původně používat do kalkulaček. Jednalo se o integrovaný obvod, který obsahoval 2300 tranzistorů a jeho cena byla kolem 100 USD. Celý obvod prováděl matematické operace a instrukce, které dostával z dalších obvodů. Ke zkompletování počítače stačilo připojit paměť a vstupy/výstupy. Ukázalo se, že to je vhodné nejen do kalkulaček, ale i do mnoha jiných zařízení. Obvod 4004 je považování za vůbec první mikroprocesor, který kdy vzniknul. Tímto krokem byl v podstatě zvolen směr, jakým se počítače dnes ubírají.
Pátá generace počítačů – budoucnost. Umělá inteligence - myšlenkové postupy člověka, konverzace s člověkem a automatická oprava programu. Samostatné rozhodování a paralelní zpracování, multiprocesing, podobnost s biologickými neuronovými sítěmi. Nová součástková základna (balistické tranzistory, supravodivé Josephsonovy obvody?), kvantové počítače a neuronové sítě. Vznik počítačů "non von" - opuštění von Neumannovy koncepce - paralelní počítače (paralelním zpracováním procesů).