توجد أمثلة على أجهزة الحساب البدائية والتي تمثل الأسلاف الأوائل للحاسوب، منها المعداد وآلية أنتيكيثيرا وهو جهاز يوناني قديم كان يستخدم لحساب حركات الكواكب والتأريخ منذ سنة 87 ق.م. تقريباً. شهدت نهاية العصور الوسطى نشاطاً أوروبياً في علمي الرياضيات والهندسة وكان ويلهلم شيكارد الأول من عدد من العلماء الأوروبيين الذي أنشئ آلة حاسبة ميكانيكية. دُون المعداد على أنه حاسوب بدائي وذلك لأنه كان يشبه الآلة الحاسبة في الماضي. وفي عام 1801 قام جوزيف ماري جاكار بعمل تحسين للأشكال النولية الموجودة والتي تستخدم مجموعة متتالية من البطاقات الورقية المثقوبة وكأنها برنامج لنسج أشكال معقدة. والنتيجة كانت أن نول جاكوارد لم يتم اعتباره حاسوبًا حقيقيًا ولكنه كان خطوة هامة في تطوير الحواسيب الرقمية الحديثة. كان تشارلز باباج أول من فكر وصمم حاسوبًا مبرمجًا بالكامل وذلك في بداية عام 1820 ولكن بسبب مجموعة من الحدود التقنية في ذلك الوقت والمحدودية المالية، إضافة إلى عدم القدرة على حل مشكلة الإصلاح غير الجيد في تصميمه فإن الجهاز لم يتم بناءه فعلياً في حياته. ظهرت عدد من التقنيات التي أثبتت فائدتها لاحقًا في الحوسبة، مثل البطاقة المثقوبة وأنبوب الصمام بنهاية القرن التاسع عشر، ومعالجة البيانات أوتوماتيكياً ذات التدرج الكبير بإستخدام البطاقات المثقوبة صُنٍعت بإستخدام آلات جدولة والتي صممها هيرمان هولليريث.

إن نجاح الحواسيب القوية والمريحة بدأ في الثلاثينيات والأربعينات من القرن العشرين، وأضيفت بالتدريج المميزات الرئيسية في الحواسيب الحديثة مثل استخدام الإليكترونيات الرقمية (أخترع معظمها كلود شانون عام 1937) والقدرة على البرمجة بطريقة أكثر سلاسة. إن تحديد نقطة واحدة خلال هذا المشوار على أنها «أول حاسوب اليكتروني رقمي» أمر صعب جدا.

من الإنجازات الأساسية، حاسوب أتانوس بيري Atanasoff-Berry 1937، وهي آلة ذات غرض مخصص والتي كانت تستخدم الحوسبة المقادة بالصمامات (أنبوب الصمام) والأرقام الثنائية والذاكرة المجددة. حاسب كولوسس البريطاني السري (1944) والذي كان يملك قدرة محدودة على البرمجة ولكنه قدم جهازًا يستخدم الآلاف من الصمامات من الممكن أن يكون موثوقا وإعادة برمجته إلكترونيا.هارفرد مارك الأول Harvard Mark I 1944 حاسوب إلكتروميكانيكي ذو تدرج كبير ولديه قدرة محدودة على البرمجة.

الحاسوب الأمريكي المبني على نظام العد العشري (1946-إينياك) وكان أول حاسوب إلكتروني ذو أغراض عامة ولكن في الأساس فإن بنيته غير سلسة مما يعني أن إعادة برمجته أساسا تتطلب إعادة توصيله. وآلات زي Z الخاصة بـكونراد سوزه، مع الإليكتروميكانيكي Z3)1941) يكون أول آلة عاملة تقدم ميزة الحساب الأوتوماتيكي للأرقام الثنائية والقدرة على البرمجة بطريقة عملية وملائمة.

إن فريق العمل الذي قام بتطوير إينياك ENIAC أدرك عيوب جهازه وجاء بتصميم أكثر مرونة وروعة والذي صار يعرف ببنية فون نويمان (أو «بنية البرنامج المخزن»). أصبحت بنية البرنامج المخزن افتراضيا القاعدة لكل الحواسيب الحديثة. بدأ عدد من المشاريع لتطوير حاسوب يعتمد على بنية البرنامج المخزن في منتصف إلى آخر الأربعينات من القرن العشرين. إن أول حاسوب من هولاء تم الانتهاء منه في بريطانيا. أول هؤلاء الذي يعتبر أفضل وعامل كان ما يعرف بالآلة المصغرة التجريبية (Small-Scale Experimental Machine) ولكن EDSAC ربما كان أول نسخة عملية تم تطويرها.

إن تصميمات الحاسوب المقاد بأنبوب الصمام أصبحت قيد الاستخدام خلال الخمسينات من القرن العشرين، ولكن مع الوقت تم إستبدالها بالحواسيب الترانزستورية حيث أنها أصغر وأسرع وأرخص وأكثر موثوقية، كل ذلك أتاح لها أن يتم إنتاجها على المستوى التجاري وذلك في الستينات من القرن العشرين. في سبعينات القرن العشرين، ساعد اختيار تكنولوجيا الدائرة المتكاملة في إنتاج الحواسيب بتكلفة قليلة كافية لأن تسمح للأفراد بامتلاك حاسوب شخصي من الأنواع المعروفة حاليا.