Действительно, в ходе первичных выборов Картер определял свою идеологию как «консервативную, либеральную, умеренную, то есть среднюю». Иначе говоря, он почти открыто признавал, что не имеет определенной идеологии и будет действовать сообразно обстоятельствам. Однопартийцам это не понравилось, Картеру в номинации отказали. Был выдвинут другой кандидат — консерватор и сегрегационист Лестер Мадокс, который и стал губернатором.
Потерпев поражение, Картер вновь вернулся к бизнесу, параллельно готовясь к кампании 1970 г. На этих выборах он в целом сохранил промежуточную, неопределенную позицию, но все же высказывался в более консервативном духе, чем ранее. Одновременно он в соответствии с настроениями, распространенными в Джорджии, стремился продемонстрировать свои глубокие религиозные убеждения. Он объявил себя евангелистом — сторонником протестантского течения, которое проповедовало необходимость буквального исполнения установок Евангелия — личного духовного возрождения, строгого соблюдения этических норм и активной миссионерской деятельности. Трудно сказать, насколько искренними были патетические заявления Картера по поводу того, что, став евангелистом, он «заново родился», но на часть населения штата они производили впечатление, тем более что Джимми совершил несколько миссионерских поездок. В любом случае с политической точки зрения его евангелизм оказался выгодным бизнесом.
Конкурентом на первичных выборах был бывший губернатор либерал Карл Сандерс. Чтобы противостоять ему, Картер объявил себя «консервативным популистом», не очень вдаваясь в разъяснения, что это значит. Он обвинил Сандерса в коррупции, но в ответ на требования журналистов доказать это проявил полную беспомощность.
Явная беспринципность выявилась в его позиции по вопросу о правах черных. При встречах с афроамериканскими активистами, включая М. Л. Кинга, он распинался в обещаниях добиться полной ликвидации сегрегации в штате. В то же время он переписывался с Джорджем Уоллесом из Алабамы, считавшимся лидером сторонников сегрегации в национальном масштабе, и приглашал его в штат для выступлений. По мере развертывания избирательной кампании, имея в виду интеграционные установки своего соперника Сандерса, Картер усиливал поддержку расистов и даже в качестве «разоблачительного материала» опубликовал фотографию Сандерса, тепло общавшегося с черными баскетболистами. Картер был номинирован демократами, а затем выиграл выборы и стал губернатором Джорджии. Вслед за этим он изменил тон и стал выступать против наиболее откровенных проявлений расизма. Свою беспринципность он проявил уже в инаугурационной речи, которая, судя по прессе, просто шокировала штат. Он заявил: «Ни один бедный, сельский, слабый или черный человек не должен нести дополнительное бремя, будучи лишенным возможности получить образование, работу или просто справедливое отношение к себе».
Впрочем, за пределами Джорджии о двойственном поведении Картера перед выборами было известно мало, и даже популярный журнал «Тайм» опубликовал в мае 1971 г. статью о «прогрессивном новом юге», посвященную в основном Картеру, поместив на обложке его портрет.
На посту губернатора Картер занимался в основном текущими делами. Он стремился сократить бюджет штата путем объединения ведомств, провел через легислатуру решение о выделении средств на создание учреждений дошкольного воспитания детей, выступил инициатором реформы мест заключения путем предоставления бóльших прав заключенным, в частности возможности получать заочное образование. Не раз он в выступлениях по местному телевидению и на пресс-конференциях заявлял о тех или иных реформах (о создании совета по правам человека, о ликвидации поста вице-губернатора и др.), но тотчас после этого забывал о сказанном и не предпринимал никаких конкретных шагов.
Некоторые меры были приняты по расширению прав негритянского населения. Рядом распоряжений губернатор назначил на административные и судебные должности черных чиновников и юристов. Было широко объявлено о назначении афроамериканки Риты Сэмюэлс советником по назначениям на должности. Столь же демонстративный характер носило размещение портрета М. Л. Кинга в Капитолии штата в Атланте, сопровождаемое демонстрацией протеста, организованной расистами.
Постепенно губернатор стал задумываться о выдвижении на высший пост в стране. В частности, после визита в апреле 1972 г. в Бразилию Джимми заявил, что во время встречи с президентом этой страны Эмилио Медичи последний сравнил его с покойным Джоном Кеннеди.