Двадцать первого октября 1802 года император Александр I утвердил его доклад об организации консультаций (совещаний) обер-прокуроров по наиболее сложным делам, по которым не было единства сенаторов. В докладе генерал-прокурор писал, что консультация нужна, чтобы, «
Новшество было воспринято неоднозначно. Например, сенатор И. В. Лопухин писал, что введение консультаций делает Державину честь.
Министр внутренних дел Кочубей осуждал их. Он писал по этому поводу Воронцову: «
Вскоре совещания расширились, и на них стали приглашать трех юрисконсультов. Преемники Державина эти консультации сохранили. Они оставались в министерстве юстиции вплоть до Октябрьской революции, сделавшись правильно организованным учреждением. Они состояли из определенного числа членов, обязанных письменно излагать свои заключения.
Гавриил Романович добился сокращения канцелярского делопроизводства в сенате, что значительно ускорило движение сенатских дел. Он утвердил правила внутреннего распорядка, так называемое «Учреждение департамента министра юстиции или генерал-прокурора», в котором четко был зафиксирован порядок прохождения дел.
Министр юстиции добился принятия указа «О судимых в уголовных палатах за преступление должностей чиновниках», согласно которому осужденные чиновники получили право в течение двух недель обжаловать приговоры судебных палат. В случае отклонения их жалобы «примечания» чиновников отсылались вместе с делом на ревизию в сенат. Это правило, по его мнению, необходимо было для того, чтобы чиновникам, «иногда сверх меры их вин утесненным от губернских начальников», предоставить способ для оправдания.
Державин предложил также принять указ о взяточничестве с тем, чтобы «различить зловредного лихоимца от принимателя из крайней нужды какой-либо безделки», а кроме того, не подвергать «
Генерал-прокурор пытался противодействовать приему на службу в высшие государственные органы лиц по «проискам, взяткам и рекомендациям». С этой целью он добился принятия указа о том, чтобы на высокие должности отбирались лучшие чиновники из губерний. Однако практически этот закон не исполнялся.
Гавриил Романович лично разработал проект закона о третейском совестном суде, над которым трудился очень долго и упорно. Он обобщил богатый опыт зарубежного третейского судопроизводства. Свой проект посылал «на отзыв» и для «примечания» известным юристам. Александру I проект этого закона понравился, но он так и не был тогда принят.
Исполняя должность министра юстиции и генерал-прокурора, Державин, по его словам, старался не допускать «утеснения сильной стороне людей бессильных».
Вот как отзывался о своем начальнике обер-прокурор сената князь А. Н. Голицын: