Проверки показали, что в южных штатах значительным, подчас решающим влиянием пользуются бывшие конфедераты. Джонсон столкнулся с тем, что его поспешные меры фактически привели чуть ли не к реставрации прежних рабовладельческих порядков. В южных штатах происходили безнаказанные убийства бывших рабов, в то время как большинство продолжало нести «временную службу» на плантациях. Как оказалось, в законодательных органах южных штатов на руководящих постах оказались 6 бывших членов правительства Д. Девиса, 58 депутатов законодательных органов штатов Конфедерации, 4 генерала и многочисленные офицеры конфедеративной армии. В нескольких штатах были приняты так называемые «черные кодексы», лишавшие бывших рабов гражданских прав. Когда Джонсону доложили эти данные, он был просто растерян.
Он, однако, продолжал вести себя крайне непоследовательно и противоречиво. Поддержав 13-ю поправку к Конституции, внесенную Линкольном, о ликвидации рабства, и придерживаясь намерения постепенно расширять гражданские права освобожденных негров, Джонсон резко высказался против 14-й поправки, которая была внесена в Конгресс еще в 1866 г. и утверждена только 9 июля 1868 г. Президент придирался к мелочам, но главным мотивом отрицательного отношения безусловно было то, что его опередили, что не он был инициатором конституционного дополнения. Поправка ввела предоставление гражданства США любому лицу, родившемуся на территории страны, и запрещала лишение этого права иначе чем по приговору суда. В основном, 1-м разделе поправки говорилось: «Все лица, родившиеся или натурализованные в Соединенных Штатах и подчиненные юрисдикции оных, являются гражданами Соединенных Штатов и штата, в котором они проживают». В то же время поправка запрещала занятие государственных должностей лицам, ранее принесшим присягу на верность Конституции Конфедерации и впоследствии участвовавшим в вооруженном мятеже против правительства США или оказавшим «помощь или поддержку» врагам США.
Джонсон заявил, что поправка нарушает права штатов, и призвал штаты не ратифицировать ее. Еще до ее утверждения он совершил тур по городам страны, выступая главным образом против поправки, в защиту суверенитета штатов, но также резко критикуя Конгресс в целом за принятие «несправедливых решений». Он проповедовал, что гражданские права не требуют специальной охраны со стороны федерации. Встречали его холодно, в некоторых местах присутствовавшие выкрикивали оскорбительные слова. Кроме того, когда тексты выступлений президента появились в печати, оказалось, что он, по существу дела, везде повторял одну и ту же речь, лишь слегка дополняя ее для создания «местного колорита». В результате пресса стала высмеивать президента.
Тем временем Конгресс, где после промежуточных выборов 1866 г. укрепилась Республиканская партия, руководители которой были теперь во враждебных отношениях с президентом, приступил к выработке законов, которые обычно называли реконструкцией по инициативе Конгресса. Четырьмя актами, принятыми в 1867–1868 гг., десять штатов, которые ранее входили в Конфедерацию, были разделены на пять военных округов во главе с генералами, становившимися военными губернаторами. В каждом округе размещались оккупационные войска. Правительства штатов, ранее признанные Джонсоном, были распущены. Под руководством военных губернаторов началась регистрация избирателей, причем право голоса безоговорочно получали бывшие рабы, а около 50 тыс. лиц, в разной степени связанных с властями Конфедерации, были лишены избирательных прав. Вслед за этим проводились выборы на конвенты штатов, которым предстояло выработать и утвердить новые конституции. Эти конституции подлежали ратификации голосованием избирателей. Только по завершении всех этих процедур намечалось проведение выборов в законодательные органы штатов, после чего новые (по существу дела, старые) штаты могли быть приняты в федерацию.
Президент Джонсон выступил против всей этой программы, объявив ее антиконституционной. Он утверждал, что принятые законы нарушают суверенитет штатов и узурпируют президентскую власть. В то же время он с определенным основанием подчеркивал, что избирательное право получает масса людей безграмотных и невежественных. Ему отвечали, что среди черных, избираемых на ответственные посты, немало выходцев с севера, имеющих высшее образование. Этот аргумент, однако, отнюдь не был опровержением утверждения Джонсона по поводу неграмотности бывших рабов, являвшегося повторением того, что еще недавно говорил Линкольн.
Президент налагал вето на законы, а Конгресс их преодолевал 2/3 голосов. Используя свою власть в качестве Верховного главнокомандующего, Джонсон вступил в конфликт с военными губернаторами округов, назначенными решениями Конгресса, стремясь отстранить их от власти. В южной части страны возникала новая угроза хаоса.