Určitým předchůdcem dnešního muzea byly i sbírky císaře Rudolfa II., který kromě umění sbíral i rozmanité technické přístroje, z nichž některé jsou zde vystaveny. O technické sbírky se také zasloužili jezuité, kteří r. 1722 založili Museum Mathematicum nebo Vojta Náprstek, zakladatel Českého průmyslového muzea z r. 1873, které mělo zvýšit úroveň technického vzdělání a informovat o technických novinkách ve světě, avšak později se zaměřilo spíše na etnografii.
Největší expozicí techniky u nás tehdy byla Všeobecná zemská jubilejní výstava v r. 1891. Exponáty zde byly ještě dlouho po jejím skončení a tehdy vznikl výbor Muzea vynálezů, který se snažil získat stálou budovu pro tyto výstavní exponáty. Od r. 1907 se hovořilo o vybudování technického muzea v Praze. Výstava obchodní a živnostenské komory konaná v roce 1908 představila další řadu modelů staveb, přístrojů a technických zařízení, další sbírkový fond pro budoucí muzeum. Impuls ke shromáždění sbírek dali profesoři Vysoké školy technické a ještě v roce 1908 se konala zakládací schůze Technického muzea království českého, pozdějšího Spolku technického muzea.
Díky velkorysosti knížete Schwarzenberka byly v r. 1910 zpřístupněny dosavadní sbírky ve Schwarzenberském paláci na Hradčanském náměstí. Byly zde expozice strojírenství, sklářství, vodárenství, letectví, textilního průmyslu, cukrovarnictví, geodézie, dopravy, archiektury aj. V roce 1921 byly zahájeny peněžní sbírky na novou muzejní budovu, pražský magistrát poskytl pozemky u vodárenské věže na Letné a v roce 1935 byla vyhlášena architektonická soutěž na společnou stavbu budov pro sbírky Technického a Zemědělského muzea. Byl vybrán projekt architekta prof. Milana Babušky a rozhodnuto, že obě budovy budou od sebe odděleny novou ulicí.
Budova je postavena v tzv. internacionálním slohu, který je pozdní fází funkcionalismu. Pro tento styl se také používá termín individualistický funkcionalismus. Budova muzea byla vystavěna v letech 1938 – 1941. Objekt Technického muzea měl tvar otevřeného písmene U, jehož základna byla hlavním průčelím směrem k Letenským sadům. Mezi oběma kratšími křídly, která vybíhala kolmo z okrajů průčelí, byla hlavní dvorana o rozměrech 70 x 25 m. Její výška byla 14 m a měla tři galerie. Byla určena pro největší exponáty z oblasti dopravy, letadla, lokomotivy, auta.
Sbírky muzea čítají přes 50 000 inventárních jednotek, z nichž asi desetina je vystavena. Jsou zde takové unikáty jako astronomické přístroje, s nimiž pracoval Tycho de Brahe a Jan Kepler, první u nás vyrobený automobil, nejstarší dochovaný vůz Bugatti, zkušební turbína Viktora Kaplana, koněspřežná hasičská stříkačka z roku 1795, která hasila požár Národního divadla, salonní železniční vůz Františka Josefa či T. G. Masaryka, Kašparův slavný letoun Blériot, s nímž podnik první let z Pardubic do Prahy, či jedny z nejstarších daguerrotypií na světě. Ve sbírce psacích strojů je např. nejmenší psací stroj na světě, německý Taurus, který má rozměr kapesních hodinek.
Za okupace obsadilo nově dokončenou budovu ministerstvo pošt a navíc musel Spolek technického muzea vyklidit i dosavadní prostory ve Schwarzenberském paláci. Tehdy byly sbírky uloženy prozatímně v karlínské Invalidovně, kde byla ostatně až do současnosti uložena architektonická sbírka, jedna z nejbohatších a nejstarších v Evropě. Čtvrt milionů plánů, projektů, studií a na dvě stě ucelených fondů staveb, jako např. kompletní plány Jana Kotěry, Josefa Gočára či Josefa Zítka zde byly v r. 2002 při katastrofální povodni zaplaveny vodou. Teprve v r. 1990 se z části objektu muzea na Letné odstěhovaly různé úřady a muzeum může využívat celou svou budovu, zapsanou do Státního seznamu nemovitých kulturních památek.
Po náročné rekonstrukci, prováděné od září 2006 pod vedením Ing. arch. Zdeňka Žilky, bylo muzeum 15. února 2011 slavnostně otevřeno.