Следуя событиям Heroes Chronicles, Джелу, лидер Лесной стражи Авли и обладатель Клинка Армагеддона, нападает на Килгора, короля варваров Кревлода, в попытке захватить и уничтожить Ледяной Клинок. Как предсказано пророчеством, когда Клинок Армагеддона и Ледяной Клинок сталкиваются в битве, результатом является мощный взрыв, который разрушает мир Энрота. Однако многие жители планеты убегают через таинственные порталы, появляющиеся во время взрыва, которые ведут их в другой мир, называемый Аксеот. Среди беженцев много героев предыдущих частей серии, и многие возвращаются к своим старым обычаям вскоре после прибытия в свой новый дом.
История четвертой части разворачивается в основном через шесть кампаний игры, каждая из которых раскрывает, как были созданы основные королевства Аксеота в результате взрыва и прибытия беженцев из Энрота. Каждая из кампаний сосредоточена на лидере фракции и рассказывает историю о том, как этот лидер стал известным. В отличие от Heroes of Might and Magic III, все шесть кампаний доступны с самого начала, и каждая разворачивается как отдельная история.
Как четвертая часть серии, Heroes of Might and Magic IV привносит в игру множество новых функций, сохраняя при этом старый дизайн интерфейса и геймплей. Игра по-прежнему посвящена исследованию огромных карт с вашими героями и армиями, сбору сокровищ, строительству городов, борьбе с монстрами и победе над вашими врагами. Было придумано 48 новых классов героев и множество новых навыков, так что игра стала еще более сложной в стратегическом плане. Теперь вы можете вести в бой нескольких героев, а также отделять войска от героев.
По сравнению с предыдущими частями, игра внешне сильно изменилась, став псевдо-трехмерной. Геймплей разительно поменялся, сохранив только основу серии - развитие городов, захват ресурсов и боевые схватки с противником. Кому-то новинки могут не понравится, однако это все те же обожаемые народом Герои, лишь сменившие свое обличье.