Микола Зеров народився 26 квітня 1890 року в Зінькові на Полтавщині. Батько поета, Костянтин Іраклійович Зеров, походив із селян Чернігівської губернії. Закінчив учительський інститут у Глухові. Учителював у Кролевці, Переяславі та Зінькові, звідки родом його дружина, Марія Яресько.
У них народилося 11 дітей. Із них досягли дорослого віку семеро. Микола — старший.
По закінченні Зіньківської школи, де його однокласником був майбутній гуморист Остап Вишня, Зеров навчався в Охтирській та Першій київській гімназіях (1903–1908). У 1909–1914 роках — студент історико-філологічного факультету Київського університету Святого Володимира. Зеров був надзвичайно розумним, мав гарну пам’ять. Друзі жартома називали його “Енциклопедією”.
У 1912 році з’явилися друком перші статті та рецензії Зерова в журналі «Світло», газеті «Рада». З 1914 року за наказом попечителя Київського навчального округу Зерова призначено викладачем історії до Златопільської чоловічої, а з жовтня 1916 року — ще й жіночої гімназії. З 1917 року Зеров учителює в Другій Київській гімназії імені Кирило-Мефодіївського братства та викладає латину. У 1918–1920 роках викладає українознавство в Архітектурному інституті, працює редактором бібліографічного журналу «Книгарь» (до початку 1920 року). З осені 1923 року — професор Київського інституту народної освіти.
В цей час Микола Зеров увійшов до елітарного гуртка діячів української культури, що сформувався довкола Георгія Нарбута, на зібраннях якого обговорювалися проблеми розвитку української літератури, малярства, графіки.
У 1920 році обвінчався із Софією Лободою — однією з трьох доньок професора Федора Лободи. Вони зустрічалися 8 років і обвінчалися в Києві.
Проте у шлюбі із цією жінкою Микола Зеров мав гіркий досвід. Адже, як кажуть літературознавці, між Софією та письменником Віктором Петровим (Домонтовичем) виник роман. При цьому Домонтович лишався приятилем Миколи Зерова. Після загибелі Зерова Домонтович та Лобода одружилися.
У Миколи Зерова був єдиний син Констянтин, який помер у 9 років від скарлатини. У той час дружина поета Софія лежала в лікарні в тяжкому стані, і Зерову довелося самостійно пережити поховання сина. Із ним на цвинтарі були лише двоє колег і двоє студентів. Один з них, Абрам Гозенпуд, пізніше згадував, що над свіжою могилою сина Микола Костьович читав давньоримські вірші. Дорога додому була мовчазною.
У побуті Зеров був непрактичним, нібито не міг навіть забити цвяха. Майже всю роботу дружина виконувала сама.
Під час голоду 1920-их він переїхав до Баришівки, де за лекції платили “продуктовою натурою”.
У 33 роки Микола Зеров став професором української літератури Київського інституту народної освіти. Талановитий педагог, Микола Костьович користувався популярністю у студентів. Про його магнетичний вплив ходили легенди.
Зеров товаришував з Хвильовим. І тяжко пережив новину про самогубство однодумця.
Утративши роботу, розбитий особистим горем (зрадою дружини і смертю сина), неокласик у пошуках роботи виїхав до Москви, де його в ніч із 27 на 28 квітня 1935 року його заарештували на станції Пушкіне.
20 травня відправили до Києва для слідства. НКВД звинуватили Зерова у керівництві контрреволюційною терористичною націоналістичною організацією. На першому допиті він заявив однозначно: “До ніякої контрреволюційної діяльності я не причетний, а отже, співучасників назвати не можу”.
За справу взялися костоломи і вибили з нього інші відповіді. Під час обшуку в нього вилучили книжки “Політика” з дарчим написом розстріляного у “справі 28” “терориста” Григорія Косинки та роман “фашиста” Пантелеймона Куліша “Чорна Рада”. Це і були докази тероризму з боку Зерова.
Коли Миколу Зерова відправили відбувати «покарання» на Соловки, він тривалий час намагався морально не зламатися й бодай якось зберегати звички позатюремного життя. Так, у таборі він продовжив свою працю над перекладом «Енеїди» Вергілія, але цей переклад не зберігся.
У 1935 році його засудили до 10 років заслання, але в 1937 вирок був змінений.
3 листопада — Миколу Зерова розстріляв капітан НКВС Матвєєв в урочищі Сандормох у Карелії. 1988 року звідти взяли пригорщу землі й перепоховали біля могили його сина Костика на Лук”янівському цвинтарі. Софія Зерова (1890–1985) похована не тут, а поряд зі своїм другим чоловіком Віктором Петровим (Домонтовичем).
Батько Зерова щотижня писав Сталіну: “Де мій син Микола?”. Нарешті йому відповіли, що син помер від запалення легенів 1937-го. Дружині після війни відповіли, що помер 1942 року. Ні вона, ні батько не дізналися справжньої дати смерті.