Родился 16 (28) декабря 1897 года в Лодейно Никольского уезда Вологодской губернии в семье крестьянина. Русский. Окончил церковно-приходскую школу в деревне Яковлевская Гора в 1906 году, Николо-Пушемское земское четырёхклассное училище в селе Щёткино в 1912 году. С 15 лет работал на сезонных работах на лесных биржах в Подосиновце и Архангельске, был табельщиком на лесосплаве.В мае 1916 года призван в Русскую императорскую армию. Окончил учебную артиллерийскую команду, служил в резервной тяжёлой артиллерийской бригаде (Москва), произведён в младшие унтер-офицеры. Участник Первой мировой войны: в 1917 году был направлен на Юго-Западный фронт и воевал в составе 2-го отдельного тяжёлого артиллерийского дивизиона 2-й тяжёлой артиллерийской бригады. Бригада действовала в районе Тарнополя. В ноябре 1917 года бригада, как и многие другие части, была разоружена гайдамаками Украинской Центральной рады, а Конев в числе других солдат выслан в Россию. Демобилизован в декабре 1917 года.