Ратерфорд учился в общинной школе в Делавере, после окончания которой в 1836 г. поступил в школу методистской общины в соседнем Норуолке, а через год мать отправила его в штат Коннектикут в школу более высокого уровня, в которой, правда, основное внимание уделялось древним языкам. Вернувшись в Огайо, Ратерфорд посещал еще несколько учебных заведений, преподаватели которых отмечали его усидчивость и хорошую память, но каких-либо талантов в своем ученике не отмечали.
В старших классах Ратерфорд стал интересоваться политикой. Его симпатии были на стороне вигов. Решив стать профессиональным политиком, он озаботился тем, чтобы получить юридическое образование. Недолгое время он изучал право самостоятельно и под руководством местных юристов в главном городе штата Коламбусе, а в 1843 г. поступил в правовую школу Гарварда. Здесь он, уже имевший базовые правовые знания, в 1845 г. получил диплом и возвратился в Огайо, где открыл свою контору во Фримонте. Вначале дела у него шли не очень, но постепенно он заработал авторитет, особенно после того, как успешно провел дело своего дяди Сардиса, связанное с земельной тяжбой. Вскоре Ратерфорд переехал в Цинциннати, где в 1850 г. основал юридическую фирму — сперва с партнерами, а затем самостоятельно. Вначале он занимался главным образом коммерческими делами, но позже стал выступать и по уголовным делам и приобрел известность успешной защитой нескольких лиц, обвиненных в убийствах. По одному делу он смог убедить судей в том, что женщина, совершившая убийство, в момент преступления была не в себе, в результате чего она была приговорена не к повешению, что казалось почти неизбежным, а к лечению в психиатрической клинике.
В нескольких случаях Хейс выступал адвокатом по делам беглых рабов, которые нашли приют в Цинциннати, пользуясь тем, что штат Огайо был свободным, а рядом, по другую сторону реки, находился рабовладельческий штат Кентукки. Некоторые дела ему удалось выиграть. Постепенно Хейс становился аболиционистом и одним из активистов формировавшейся местной организации Республиканской партии, причем определенное влияние на него в этом смысле оказало изменение в семейном положении. В течение нескольких лет он был знаком с девушкой по имени Люси Уэбб, которая была девятью годами младше его и происходила из семьи врача, активного участника аболиционистского движения, бесплатно лечившего бежавших рабов. Настроения отца передались дочери, которая помогала беглецам и была активисткой движения трезвенников.
Позже, когда Люси была уже супругой президента, ее часто называли «лимонадной леди», так как она отказывалась принимать участие в приемах, на которых подавали спиртные напитки… Когда Хейс перебрался в Цинциннати, они стали встречаться, а в декабре 1852 г. поженились. Люси родила троих сыновей, продолжая одновременно заниматься общественной деятельностью.
Между тем Хейс постепенно втягивался в городскую политику. В 1859 г. он был избран солиситором Цинциннати, то есть городским чиновником, наблюдавшим за правильным ведением судопроизводства. Когда после избрания Линкольна президентом стала разгораться гражданская война, Хейс занял довольно странную позицию. Он твердо выступал против рабовладения и считал, что можно пожертвовать единством страны во имя избавления от каких бы то ни было уступок штатам, которые намеревались порвать с Союзом. «Пусть они уходят», — говорил он на собраниях республиканцев. В то же время в самом Цининнати после выборов 1860 г. большинство получили представители Демократической партии, противники Линкольна. Весной 1861 г. Хейс был смещен с поста городского солиситора. Он собирался вернуться в адвокатуру и даже объявил о создании своей конторы, однако известие о начале военных действий коренным образом изменило его планы.
Хейс записался добровольцем в воинскую часть, которую начал формировать губернатор Огайо Уильям Деннисон. Точно неизвестно, по каким причинам юрист, не имевший никакого военного опыта, получил звание майора 23-го добровольческого пехотного полка Огайо. Видимо, среди волонтеров просто не было более или менее грамотных. После тренировки, продолжавшейся около месяца, полк был направлен в западную часть Вирджинии. Первый бой против сил Конфедерации, в котором участвовал Хейс, произошел в сентябре в районе Карнифекс-Ферри. Полк смог отбить атаку, и хотя Ратерфорд ничем особым не отличился, но все же принял участие в контратаке, заставившей неприятеля отступить. После боя он получил звание подполковника и возглавил полк, который расположился на зимние квартиры в Западной Вирджинии. Несколько месяцев он не участвовал в боях, впрочем, той зимой и на других участках активных действий не было. Весной стычки возобновились. Хейс со своими солдатами участвовал в нескольких рейдах в тыл противника. Во время одного из них он был легко ранен в ногу, но после недолгого лечения возвратился в строй.