Новый наместник сразу же взял круто, считая, что в наместничестве и корпусе следует навести порядок, прекратить растранжиривание государственных средств, допускавшееся при М.С. Воронцове, который глубоко не вникал в финансовые дела. Будучи человеком бескорыстным, Н.Н. Муравьев повел решительную борьбу с хищениями, казнокрадством, злоупотреблениями начальниками своим служебным положением, использованием нижних чинов в своих хозяйствах. Это, в свою очередь, вызывало реакцию отторжения, создавало вокруг наместника обстановку негативного отношения к нему значительной части командного состава. Многие из тех, кто был приближен к М.С. Воронцову, чувствовали себя довольно неуютно и при удобном случае стремились покинуть Кавказ, чтобы не работать вместе с генералом Муравьевым. Одним из первых таким человеком оказался начальник Главного штаба Отдельного Кавказского корпуса генерал князь А.И. Барятинский, друг нового императора Александра II, который вскоре покинул свой пост.
Зная В.И. Бебутова как доброго и отзывчивого человека, а также доверительное отношение к нему наместника, официальные лица нередко жаловались ему на черствость и бездушие генерала Муравьева. Так, генерал Ольшевский жаловался В.И. Бебутову на то, что представление его главнокомандующему было «до крайности сухое. Ни одного приветствия или благодарности не было им сказано. Мое самолюбие было задето, и я был сильно взволнован». Он излил всю свою желчь на Муравьева «доброму князю Бебутову, выслушавшему меня с полным участием». Это было сделано, по признанию М. Ольшевского, с учетом того, что В.И. Бебутов часто общался с Н.Н. Муравьевым.
После приезда в Тифлис нового главнокомандующего Отдельным Кавказским корпусом и наместника на Кавказе Н.Н. Муравьева генерал Бебутов возвратился на свое место в гражданском управлении.
Но поскольку Н.Н. Муравьев всецело доверял В.И. Бебутову, знал его работоспособность и возможности, то помимо управления гражданской частью наместничества вверил ему командование всеми войсками на Кавказе, не вошедшими в состав действующего корпуса – на Кавказской линии, в Черномории, Гурии, Абхазии, Мингрелии. Это означало на практике, что на его плечи практически полностью легло управление наместничеством за исключением дел на турецкой границе. Это требовало огромного напряжения сил и здоровья. А тем временем силы не прибавлялись, а уже убывали. Времени на отдых оставалось все меньше. Сказывалось и то, что В.И. Бебутов был человеком ответственным, исполнительным и болевшим за порученное дело. Он заботился прежде всего о других, а не о себе.
Н.Н. Муравьев по случаю своего отсутствия в Тифлисе 16 мая 1855 г. на время командования действующим корпусом возложил управление гражданской частью на Кавказе и за Кавказом, вверил начальнику гражданского управления Закавказского края генерал-лейтенанту князю Бебутову. Всецело доверяя ему и полагаясь на него, Н.Н. Муравьев по возвращении в Тифлис 7 декабря 1855 г. 13 декабря отдал приказ, которым счел необходимым оставить управление гражданской частью на Кавказе и за Кавказом за генералом Бебутовым до особого решения.
Поскольку наместник практически постоянно находился в действующем корпусе, то князю Бебутову пришлось сосредоточиться на текущих делах наместничества. Из одного года и 7 месяцев пребывания на Кавказе Н.Н. Муравьев в Тифлисе был всего 5 месяцев 20 дней, под Карсом 6 месяцев 20 дней и в разъездах находился 6 месяцев 29 дней. Его гражданская деятельность не была в это время особенно активной, как по краткости времени пребывания на посту, так и по военным обстоятельствам. Естественно, что он занимался многими вопросами жизни наместничества, заботясь о том, чтобы они решались как можно лучше. Но для того, чтобы лучше понять подход к решению того или иного вопроса, связанного с местной спецификой, он часто требовал для себя обстоятельные исторические справки, касающиеся прошлого. В этой ситуации его всецело устраивал крупный специалист по гражданской части управления, знаток Кавказа, каким был В.И. Бебутов, которому он всецело доверил гражданское управление краем. Как военному специалисту он доверил ему и все вооруженные силы Кавказа. за исключением действующего корпуса. В то же время он давал ему массу поручений с непременными докладами о том, что было сделано или как решен тот или иной вопрос.