Город строился по определённой, чрезвычайно чёткой схеме, учитывавшей все экологические особенности района, с одной стороны, и все притязания людей — с другой. Трудолюбие, терпение, изобретательность и глубоко продуманный подход ко всем строительным операциям, которые проявляли древние зодчие, способны вызвать восхищение у грядущих поколений и чувство предельного неудовлетворения собой у современных архитекторов. Древние строители хорошо знали своё дело: вы не найдёте в городе — в период развитой цивилизации — ни запутанных кривых улочек, ни унылых глухих переулков, ни скособоченных домишек, построенных по принципу «тяп-ляп», ни выползающих на улицу строений, ни беспорядочно лепящихся друг к другу домов, ни улиц с постоянно меняющейся шириной. Небрежности и просчёты в строительстве появились позже, во время упадка цивилизации, когда ослаб надзор городских властей за строительными работами и стали застраивать даже проезжие части улиц.
Архитектурная структура города была одинакова во всех районах цивилизации: он делился на нижний город и цитадель. В нижнем городе находились, как правило, жилые дома, а в цитадели располагались административно-хозяйственные здания, резиденция правителя и т. п.
Со времён первых археологов утвердилось представление о нижнем городе как о квадрате или прямоугольнике, пересечённом внутри сетью улиц, которые тянутся правильными, строго параллельными линиями, пересекающимися под прямым углом. Власти за этим следили, и при разрастании города не возникало кривых переулков, которые можно увидеть во множестве в старинных кварталах современных индийских городов. Все улицы были ориентированы с востока на запад или с севера на юг: как раз в этих направлениях дули ветры, выгоняя застоявшийся душный воздух и отлично вентилируя улицы. Некоторые археологи склонны считать, что именно стремление ориентировать улицы по странам света, а не заранее подготовленный план, придавало им чёткую структуру.
Крупнейшие центральные магистрали имели длину до 1 км и ширину до 10 м, так что арбы и телеги могли свободно передвигаться, не создавая тесноты и заторов. Лучше сохранились узкие улочки — они меньше размыты дождями. Ширина некоторых из них чуть больше метра, и углы кое-где — в самых узких местах — стёрты вьючными животными. Иногда эти углы специально закругляли, чтобы не сбивалась поклажа на поворотах. В некоторых местах на углы зданий приспосабливали специальные деревянные щитки или решётки, которые должны были уберегать прохожих от случайных ушибов и синяков. Пересекающиеся улицы образовывали блоки — самые широкие имели до 10 метров в ширину.
Главным строительным материалом был кирпич — обожжённый и сырцовый, стандартного типа, его стороны относятся как 4:2:1, а размеры колеблются от 26x12,7x5,7 см до 52x21,6x5,7 см. Для разных целей делали разные кирпичи: крупные — для покрытия канализационных каналов, клинообразные — для облицовки колодцев. Г-образные — для выкладывания углов. Необожжённые кирпичи были, как правило, крупнее обожжённых. Кирпичи делали из местных речных наносов, употребляя для этого открытые формы того самого типа, который распространён в Индии до настоящего времени. Лишний ил удаляли, проведя сверху но форме куском дерева, поэтому все кирпичи очень гладкие и ровные. Для обжига кирпичей употребляли обычно в качестве топлива дерево — леса тогда были густы, и недостатка в нём не было. Скрепляли кирпичи илистым раствором, иногда добавляли гипс, большое количество которого содержится в почвах вблизи Мохенджо-Даро. При кладке стен чаще всего чередовали кирпичи, положенные логом и тычком, сохраняя шахматный порядок швов. Были и другие способы. Обмазывали ли сложенные таким образом стены илом или красили их — трудно сказать. Одно несомненно — кирпич был превосходного качества, чрезвычайной прочности.
В тех местах, где не было в достаточном количестве глины и топлива, чтобы делать обожжённые кирпичи, в качестве строительного материала использовали камень. Иногда из камня строили только нижнюю часть домов, а верхнюю сооружали из тростника, обмазанного глиной.
Жилые дома, выделяемые при раскопках по наличию в них очага, состояли из 5–9 комнат, максимальная площадь их равнялась 355 м2
. Относительно их внешнего вида, отделки, внутреннего убранства и других деталей сейчас трудно сказать что-либо определённое: дерево, которое могло использоваться для этих целей, не сохранилось.