Когда началась Великая Отечественна война, в армию Александра не призвали в силу возраста. Проживая на оккупированной территории в деревне Пестряково, он связался с местными партизанами и, хорошо зная местность, сообщал ценные сведения о дислокации войск нацистов.
В марте 1942 года молодой человек вступил в ряды Красной армии, окончил краткосрочные курсы артиллеристов и уже в июне того же года попал на фронт. Будучи командиром орудия, боевое крещение сержант Иванов получил в районе города Холм и заслужил первую награду — медаль «За отвагу».
Через год Александр окончил курсы младших лейтенантов и был направлен в 811-й стрелковый полк командовать взводом. В 1944 году его приняли в ВКП(б). За несколько месяцев командование отметило его службу 19 благодарностями. Как и в начале войны, разведчик много раз приносил из тыла врага ценные сведения, помогавшие наносить противнику ощутимые удары, а также лично участвовал в захвате 13 «языков».
Вскоре лейтенанта назначили комсоргом стрелкового батальона. Но, не желая штабной работы, он днями и неделями жил в ротах, рассказывал молодым воинам о прошедших боях, о своих вылазках в тыл, показывал боевые приемы и навыки, а также проводил комсомольские собрания. В боях своим бесстрашием подавал пример остальным товарищам.
Свой последний подвиг Александр Иванов совершил 3 февраля 1945 года в бою за населенный пункт Шургаст, что 20 километрами северо-западнее города Ополе (Польша). Приняв на себя батальон после гибели командира, комсорг Иванов столкнулся со страшной преградой, тормозившей наступление – пулеметным огнем из немецкого дзота. Когда подавить огневую точку не вышло никакими способами, Александр решил сделать это сам.
Младший лейтенант Иванов незаметно подкрался к дзоту и забросил туда несколько гранат. На секунды точка притихла, но вот вновь плюнул огнем пулемет. Тогда комсорг решился броситься грудью на амбразуру — пулемет захлебнулся. Лишь тогда советские солдаты смогли подняться и пойти в атаку. Поставленная перед подразделением задача была полностью выполнена.
Указом Президиума Верховного Совета СССР от 10 апреля 1945 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистским захватчиками и проявленные при этом мужество и героизм младший лейтенант Иванов Александр Иванович посмертно удостоен звания Героя Советского Союза. Также он награжден орденами Ленина, Отечественной войны 2-й степени и медалью «За отвагу».