История иконы, впоследствии названной Коневской, тесно связана с судьбой преподобного Арсения — основателя Коневской обители. В 1393 году святой решил вернуться на Русь, чтобы распространять традиции иночества в родной земле. На прощание духовный наставник Арсения игумен Иоанн Зидон подарил своему любимому ученику образ Божией Матери и предсказал, что однажды тот станет настоятелем собственного монастыря.
Некоторое время спустя святой Арсений прибыл в Новгород Великий, где получил благословение на создание монастыря. Обитель он решил возвести на Коневском острове, расположенном на Ладожском озере. По преданию, святой с самого начала ощущал благодатную мощь афонской иконы Божией Матери. Вскоре проявилась и ее чудотворная сила.
Местное население острова поклонялось так называемому «конь-камню». Преподобный Арсений взял образ и, совершив с ним крестный ход вокруг идола, изгнал бесчисленное количество бесов, которые разлетелись черными воронами. С тех пор «конь-камень» стал символом победы православия над язычеством, а икона получила название Коневской.
Период русско-шведских войн стал тяжелым испытанием для братии Коневского монастыря. Вместе с чудотворной иконой монахи пережидали нападения в других обителях. Только в 1766 году, после окончательного разгрома Швеции, иноки смогли вернуться в свой монастырь. Однако до 1799 года образ пребывал в Новгороде, где в честь него установили празднество.
В начале XIX века над могилой святого Арсения возвели храм, куда торжественно поместили Коневскую икону. С нее также сделали несколько списков, которые прославились различными чудесами. Позднее игумен Илларион написал службу Коневскому образу Божией Матери, а празднования в честь нее и преподобного Арсения официально вошли в церковный календарь.
После Первой мировой войны Коневский монастырь оказался на территории Финляндии. В 1940 году братию вместе с иконой эвакуировали на территорию общины Кейтеле. Многие православные финны приходили поклониться иконе в военное время.
В 1963 году Коневская обитель была расформирована. Образ Божией Матери отправили в Хельсинки, а оттуда в монастырь Новый Валаам, где она хранится по сей день.
Коневская икона Божией Матери относится к типу Одигитрия (Путеводительница). Традиционно на таких образах Богородица изображается по пояс с младенцем Иисусом, который благословляет правой рукой, а в левой держит свиток. Как и в случае с другими Богородичными иконами, перед Коневским образом можно молиться о разрешении любых проблем. Тем не менее чаще всего верующие просят об исцелении от болезней, особенно связанных с глазами. Также Божию Матерь просят об избавлении от вредных привычек, одержимости и психических недугов.