Каляев, как говорится в его биографии, в 1903 году в Женеве вступил в "Боевую организацию эсеров". Летом 1904 года в Петербурге участвовал в покушении на министра внутренних дел В. К. Плеве. Осенью 1904 года боевики решили убить Сергея Александровича, дядю императора Николая II, бывшего московского генерал-губернатора и командующего Московским военным округом. Великий князь считался "серым кардиналом" империи, и был одним из тех, кто настоял на вооружённом разгоне шествия 9 января 1905 года в Петербурге. Царя после этого назвали Николаем Кровавым.
2 февраля 1905 года Каляев не бросил бомбу в карету, потому что увидел, что рядом с Великим князем сидят его жена и малолетние племянники. Через 2 дня он все-таки бросил бомбу и был задержан полицией.
7 февраля 1905 года директор Департамента полиции Алексей Лопухин по инициативе вдовы великого князя Елизаветы Фёдоровны организовал её встречу с Каляевым. Великая княгиня в тюрьме передала ему прощение от имени Сергея Александровича, оставила ему Евангелие. Более того, она подала прошение императору Николаю II о помиловании террориста, но оно не было удовлетворено.
Имя Ивана Каляева носили улицы в нескольких городах СССР. Его сыграли Андрей Ростоцкий в фильме "Особых примет не имеет" и Никита Татаренков в сериале "Империя под ударом".