Смена династий завершила процесс развития государственного устройства, которое уже началось при Омейядах. Из племенного шейха, управляющего по согласию арабских господствующих групп, которое они могли отозвать в любой момент, халиф теперь превратился в самодержца, претендующего на божественное происхождение своей власти, опирающего ее на регулярную армию и осуществлящего через штатную бюрократию. При дворе Аббасидов вожди арабских племен сменились иерархией вельмож, чиновников, а позднее и военных командиров. Новое достоинство халифа выражалось в иных титулах и в более замысловатом церемониале, который сложился под влиянием древнеиранских обычаев, сведения о которых становились известны через перешедших в ислам персидских писцов. Ранние халифы были арабами, обычными людьми, как все, и любой человек мог подойти к ним и обратиться по имени, но Аббасиды окружили себя пышностью и церемонностью роскошного иерархического двора, и приблизиться к ним можно было лишь через длинную вереницу придворных. В принципе халиф по-прежнему подчинялся шариату, священному закону мусульман. На практике же шариат мало ограничивал его власть, так как принуждение халифа к исполнению закона не имело иного механизма, кроме мятежа. Аббасидский халифат, таким образом, был автократией, основанной на военной силе и претендующей почти на божественные права. Аббасиды были сильнее Омейядов в том, что они не зависели от поддержки арабов и потому могли приказывать, а не убеждать. Вместе с тем они были слабее старых восточных деспотий, так как у них отсутствовала поддержка давно сложившейся феодальной касты и устоявшегося духовенства.
Администрация Аббасидов стала развитием администрации поздних Омейядов, и Аль-Мансур открыто признавал, что находится в долгу у омейядского халифа Хишама в том, что касается государственного устройства. Однако влияние прежнего персидского порядка Сасанидов становилось все сильнее, и правление Аббасидов в значительной степени состояло из сознательной имитации сасанидских обычаев, которые распространялись через персидских чиновников и сохранившуюся сасанидскую литературу. Аббасидская администрация уже не основывалась на этнических привилегиях и исключительности. Многочисленный класс ее писцов в значительной мере набирался из мавали и занимал высокое общественное положение. Он был сформирован в несколько диванов, своего рода министерств, например канцелярский диван, военный, диван печати, финансов, почты и тайного надзора и т. д. Руководил чиновничьими армиями, которыми были укомплектованы эти диваны, визирь. Этот пост был нововведением Аббасидов, возможно, персидского происхождения. Визирь был главой всего административного механизма и, как главный исполнительный руководитель при халифе, пользовался огромной властью. Одним из первых визирей был незадолго до того перешедший в ислам Халид аль-Бармаки, происходивший из Центральной Азии, и этот пост находился в руках у семейства Бармакидов, пока Харун ар-Рашид не сместил их в 803 году.
В провинциях власть осуществлялась совместно амиром (эмиром), или наместником-губернатором, и амилем, то есть финансовым надзирателем, оба они располагали собственным штатом чиновников и военных и пользовались некоторой автономией под общим наблюдением начальника почтовой службы, в чьи обязанности входило сообщать обо всем происходящем непосредственно багдадскому дивану почты и тайного надзора. Таким образом центральное правительство поддерживало некоторое разделение властей в управлении провинциями и могло – при условии сохранения системы – воспрепятствовать тенденциям к региональной автономии или выходу из состава государства.
В вооруженных силах арабское ополчение уже не играло важной роли, и арабам, за исключением солдат на регулярной военной службе, постепенно перестали выплачивать пенсии. Армия теперь состояла из войск на жалованье, либо регулярных на постоянной основе, либо добровольцев, набранных для конкретной кампании. Ядром ее была преданная хорасанская гвардия, главная опора нового режима. Некоторое время просуществовал особый арабский род войск, известный как араб ад-давла, «арабы династии», набираемый из арабов, верных новому режиму. Однако он вскоре потерял значение, и впоследствии армия во все большей степени состояла из прошедших специальную подготовку рабов, в основном среднеазиатского тюркского происхождения. Они назывались мамлюками, что буквально означает «принадлежащие», то есть рабы. Со временем это слово стало обозначать военных рабов, которых использовали многие мусульманские самодержцы, а для обозначения рабов, занятых физическим трудом и хозяйственными работами, пользовались другим словом – абд. Все чаще мамлюки были сначала тюркского, а затем африканского происхождения.