Крамской родился 27 мая 1837 в городе Острогожск Воронежской губернии, в семье писаря. После окончания острогожского уездного училища Крамской был писарем в острогожской думе. В 1853 году он поступил ретушером к харьковскому фотографу. В 1856 году он приехал в Петербург, где занимался ретушерством в известной тогда фотографии Александровского. В 1857 году Крамской поступил в Санкт-Петербургскую Академию Художеств учеником профессора Маркова. Вскоре Марков пригласил его в помощники по расписыванию купола храма Христа Спасителя в Москве. Из-за болезни Маркова, всю главную роспись купола сделал Крамской, вместе с художниками Венигом и Кошелевым.

В 1863 году Академия Художеств присудила ему золотую медаль за картину «Моисей источает воду из скалы». До окончания учебы в Академии оставалось написать программу на большую медаль и получить заграничное пенсионерство. Совет Акамии предложил ученикам на конкурс тему из скандинавских саг «Пир в Валгалле». Все четырнадцать выпускников отказались от разработки данной темы, и подали прошение о том, чтобы им позволили каждому выбрать тему, по своему желанию. Последующие события вошли в историю русского искусства как «Бунт четырнадцати». Совет Академии им отказал, а профессор Константин Андреевич Тон отметил: «если бы это случилось прежде, то всех бы вас в солдаты!» 9 ноября 1863 года Крамской от лица товарищей заявил совету, что они, «не смея думать об изменении академических постановлений, покорнейше просят совет освободить их от участия в конкурсе». В числе этих четырнадцати худоджников были: И. Н. Крамской, Б. Б. Вениг, Н. Д. Дмитриев-Оренбургский, Д. Литовченко, А. И. Корзухин, Н. С. Шустов, А. И. Морозов, К. Е. Маковский, Ф. С. Журавлев, К. В. Лемох, А. Григорьев, М. Песков, В. П. Крейтан и Н. В. Петров. Ушедшие из Академии художники образовали «Петербургскую артель художников», просуществовавшую до 1870 года. В 1863—1868 годах он преподавал в школе рисования общества поддержки прикладного искусства. В 1869 году Крамской получил звание академика.

В 1863 году образовалась "Артель художников", в 1870 году образовалось "Товарищество передвижных выставок" одним из основных организаторов и идеологов которого был Крамской.

Под влиянием идей русских демократов-революционеров Крамской отстаивал взгляд о высокой общественной роли художника, принципов реализма, моральной сущности и национальности искусства. Он стал одним из основных организаторов и идеологов общества подвижных выставок искусств Передвижники.

Иван Николаевич Крамской создал ряд портретов выдающихся русских писателей, артистов и общественных деятелей таких как: Лев Николаевич Толстой, 1873, Шишкин, Иван Иванович, 1873, Павел Михайлович Третьяков, 1876, Салтыков-Щедрин, Михаил Евграфович, 1879 — все находятся Третьяковской галерее, портрет Боткина, 1880 — частная коллекция, Москва, в которых выразительная простота композиции, ясность фигуры подчеркивают ведущую часть глубокой психологической характеристи Демократические взгляды Крамского нашли огромное отражение в его портретах крестьян, которые показывают искреннее богатства и внутреннее превосходство простых людей.

Одна из известнейших работ Крамского — «Христос в пустыне» написаная в 1872 году.

Продолжатель гуманистических традиций Иванова Александра Андреевича, Крамской создал религиозный перелом в морально-философском мышлении. Он придал драматическим переживаниям Иисуса Христа глубоко психологическую жизненную интерпретацию (идея героического самопожертвования). Влияние идеологии заметно в портретах и тематических картинах — «Н. А. Некрасов в период „Последних песен“», 1877—1878, «Неизвестная»", 1883, «Неутешное горе», 1884.

Демократическая ориентировка работ Крамского, его критические проницательные суждения об искусстве, и настойчивые исследования объективных критерий оценок особенностей искусства и их влияния на него, развило демократическое искусство и мировоззрение на искусство в России в последней трети XIX век столетия.

Художник умер 24 марта 1887 года, во время работы над портретом доктора Раухфуса, когда он внезапно наклонился и упал. Раухфус попытался оказать ему помощь, но было уже поздно.