Родился в Харькове в семье инженера-металлурга, а через несколько лет семья переехала в Москву, где в 1938 году он поступил в Московский университет. В начале Великой Отечественной войны Исааку Моисеевичу было отказано во вступлении в ряды добровольцев (по причине серьёзной близорукости), и вместе с семьей он был эвакуирован в Свердловск, где в 1942 году закончил Свердловский университет. На следующий год сюда же был перемещён преподавательский состав МГУ, и Исаак Яглом поступил в аспирантуру. Защитив кандидатскую диссертацию (1945 год) Исаак Моисеевич работал преподавателем математики в Московском энергетическом институте, позже - в Орехово-Зуевском педагогическом институте, где написал несколько научно-популярных книг. С 1956 года Исаак Моисеевич — доцент (вскоре профессор) кафедры геометрии Московского государственного педагогического института им. В.И. Ленина. С 1974 по 1983 год Исаак Яглом — профессор Ярославского университета, а в последние годы жизни он работал старшим научным сотрудником Академии педагогических наук СССР.
Умер Исаак Моисеевич Яглом 17 апреля 1988 года в Москве.

Подробно: В. Г. Болтянский, Л. И. Головина, О. А. Ладыженская, Ю. И. Манин, С. П. Новиков, Б. А. Розенфельд, А. М. Яглом. Исаак Моисеевич Яглом (некролог) // УМН. — 1989. — Т. 44, № 1(265). — С. 179—180.