1919'da Altay Kray'daki Kuriya'da doğdu. Lise öğreniminden sonra demiryollarında teknik sekreter olarak çalışmaya başladı. 1938'de Kızıl Ordu'ya girdi ve silah uzmanı olarak yetiştirildi. II. Dünya Savaşı sırasında Eylül 1941'de bir tank uzmanı olarak katıldığı Bryank Savaşı'nda ağır yaralandı. İyileşmeye başladığı sırada Moskova'daki Havacılık Araştırma Dairesi'nde AK-47 üzerinde çalışmaya koyuldu. Dzerşinski Akademisi'nin yöneticisi, tasarımını çok karmaşık bularak reddetti; ancak onu doğru yönlendirmeyle gelecekte birinci sınıf bir mühendis olabileceğini de belirtti. Bunun üzerine tasarımlarına devam etti.
1944 yılında tasarımına başladığı silahın 1946'da prototipinin yapımını tamamladı. 1948 yılında AK-47'nin Kızıl Ordu'nun donanımı için kabul edildiği bildirildi ve Kızıl Ordu'nun ana piyade tüfeği seçidi. Yine 1948 yılında Stalin Ödülü verildi; silahın ordu silahı olarak kabul edilmesinden bir yıl sonra da Sosyalizm Kahramanı ilan edildi. Daha sonra rütbesi Korgeneral rütbesine terfi ettirildi. 1966 yılında Yüksek Sovyet halk vekilliğine seçildi. 10 Kasım 2009 tarihinde yani 90. doğum gününde Rusya Devlet Başkanı Dmitri Medvedev tarafından Rusya Federasyonu Kahramanlığı ödülü aldı. Son yıllarında Rusya'ya bağlı Udmurtya Cumhuriyeti'nin başkenti Izhevsk'teki Izhmash fabrikalarında Kalaşnikov tasarımlarına devam etti. 23 Aralık 2013 tarihinde Udmurtya Cumhuriyeti'nin başkenti Izhevsk'te hayata gözlerini yumdu. Öldüğünde 94 yaşındaydı.[1] Mihail Kalaşnikov, 17 Kasım 2013 tarihinden ölümüne kadar olan sürede mide kanaması teşhisiyle yoğun bakımda bulunuyordu.
İngiltere'de Kalashnikov'un anısına bir müze açılmıştır.
