В отличие от Джонсона Грант с первых недель своего правления проводил курс на реконструкцию в полном соответствии с решениями Конгресса. На протяжении первого года его президентства было почти завершено возвращение в США южных штатов, ратифицировавших 15-ю поправку к Конституции и предоставивших право голоса неграм. Оставалась Джорджия, правительственные органы которой все еще сопротивлялись утверждению требуемого законодательства. На них было оказано давление, оккупационные власти отказывались вводить в действие принимаемые местными властями решения, что вызывало недовольство населения своим неопределенным положением. В конце концов и этот штат подчинился воле федеральных властей, и в феврале 1871 г. сенаторы из Джорджии были приняты в Конгресс, что завершило восстановление единства страны.
На юге, однако, полного спокойствия не было. Здесь появилась масса выходцев из северных штатов, которые стремились подешевке скупить как крупную, так и среднюю собственность. Имея в виду, что обычно это были люди небогатые и в то же время настроенные авантюристично, их стали называть карпетбеггерами (саквояжниками), подразумевая под этим презрительным словом любителей легкой наживы. Постепенно термин стал употребляться в более широком смысле — в отношении занимавших ответственные должности в южных штатах политических назначенцев Гранта, которые, подобно частным авантюристам, воспринимались как захватчики и грабители.
Атмосфера беспокойства связана была и с деятельностью ку-клукс-клана. Эта тайная организация была образована бывшими солдатами-южанами и проповедовала превосходство белых, выступала с угрозами по отношению к негритянским активистам и их белым покровителям. Имели место случаи расправы после предупреждений, которые посылались в причудливой форме (то ли в виде ветки дуба, то ли горсти зерен апельсина). Случаев расправы (обычно сожжения на костре) было лишь несколько, но из-за слухов, которые распространялись и самими куклуксклановцами, и теми, кому они угрожали, люди ощущали опасность, преувеличенную в сотни раз.
Грант отдал распоряжение о беспощадной расправе с ку-клукс-кланом. По его предложению в апреле 1871 г. был принят закон о ку-клукс-клане, который предоставлял президенту право вводить военное положение в отдельных местностях, где проявлялась активность этой организации. Здесь временно отменялись гражданские права и подозреваемые в терроре предавались военным судам, действовавшим по ускоренной процедуре и выносившим, как правило, жестокие приговоры. Преданные военному суду куклуксклановцы обычно приговаривались к повешению. Наряду с действительными куклуксклановцами жертвами правительственной расправы, подчас приобретавшей террористический характер, становились южане, критически высказывавшиеся относительно уравнивания в правах белых и черных. К 1873 г. организации ку-клукс-клана перестали существовать; они возродились через несколько десятилетий, в новых условиях расового противостояния. Пока же на Юге страсти улеглись, что позволило Гранту в 1873 г. объявить амнистию всем бывшим деятелям Конфедерации.
Правительство Гранта обратило внимание на просветительную сторону реконструкции. На Юге, а попутно с этим и на Севере, начала создаваться система общественных (государственных) начальных школ, пока еще не узаконенная в национальном масштабе. Правда, в южных штатах с согласия местных и центральных властей она была основана на принципе сегрегации — черные обучались отдельно от белых. Почти в каждом крупном и среднем городе появились школы, где дети обучались бесплатно. Однако централизованного финансирования просвещения не существовало, штаты же выделяли незначительные средства. В результате в общественных школах не хватало учителей, а их квалификация была низкой. В сельской же местности возникала система «взаимного обучения», при которой дети разного возраста и уровня подготовки собирались в одном классе с единственным учителем, под руководством которого старшие обучали младших тому, что они уже знали сами. Понятно, насколько низким был уровень подготовки.
Для того чтобы подготовить хотя бы минимальное число учителей-негров, правительство выступило инициатором создания специальных колледжей, на которые были выделены средства из бюджета. Получил известность университет штата Миссисипи имени Алкорна. Он был основан еще в 1830 г. под названием колледж Оукленд, в котором обучались только белые. Но в ходе реконструкции правительство передало здания колледжа с прилегавшими землями для создания высшего педагогического учебного заведения, специально предназначенного для черных. Так в 1871 г. с санкции Гранта был образован университет, в котором и преподавателями, и студентами были исключительно негры. Назван он был в честь покровительствовавшего университету губернатора штата Джеймса Алкорна.