Родился 12 мая 1890 в крестьянской семье в с. Смердово Ковровского уезда Владимирской губернии. Окончил Шуйское ДУ и Владимирскую ДС, а затем — первым магистром Петроградскую ДА в 1915 г. За курсовое сочинение «Кирилл I Лукарис, Патриарх Константинопольский» был удостоен степени кандидата богословия. Оставлен в ДА при кафедре истории Византийской Церкви на два года профессорским стипендиатом. В 1914 г. был командирован для научной работы в Константинополь на два года, где до начала Первой мировой войны занимался под руководством академика Ф.И. Успенского в Русском Историко-археологическом институте. Будучи профессорским стипендиатом Петроградской ДА, одновременно занимался в Петроградском историко-археологическом институте, который закончил в 1917 году. В 1916-1918 гг. был вольнослушателем историко-филологического факультета Петроградского университета. С 1918 г. в различных гражданских вузах страны, сначала доцентом, а затем — профессором, преподавал историю, в том числе и Византии. В 1919-1930 гг. занимал по совместительству должности директора областного Государственного музея во Владимире, председателя областной Комиссии по охране памятников искусства и старины и заведующего Подотделом искусств при Владимирском горисполкоме. С 1951 до 1956 – доцент по кафедре византологии и греческого языка в Московской ДА. В 1956 защитил диссертацию «Критические издания греческого Нового Завета и общепринятый Православной Церковью текст», был удостоен ученой степени магистра богословия и утвержден в должности профессора. В 1956 г. был переведен в Ленинградскую ДА, где был профессором кафедры византологии и общей церковной истории. Одновременно исполнял должность ученого секретаря Совета академии. В 1960 за представленный в Совет Ленинградской духовной академии труд «История Византийской Церкви» (от Константина Великого до отпадения Западной Церкви от Вселенской), была присвоена ученая степень доктора церковной истории, в каковой был утвержден Святейшим Патриархом Алексием 11 ноября 1960 года. Помимо педагогической деятельности, некоторое время исполнял обязанности секретаря Учебного комитета при Священном Синоде и был членом редколлегии «Журнала Московской Патриархии» и редколлегии сборника «Богословские труды». В 1961 году профессор А. И. Иванов по состоянию здоровья вышел на пенсию. Опубликовал около ста научных работ историко-литературного характера. Скончался в ночь на 3 октября 1976 года после тяжелой болезни, на 87-м году жизни.