Собирать самолет пришлось на улице, под навесом, около бывшего трактира «Раек». Дюралюминия пока было мало, и его расходовали очень экономно. В основном самолет состоял из дерева. Двигатель имел мощность 35 л.с., а полетная масса самолета составляла всего 360 кг. Но, несмотря на свои миниатюрные размеры, АНТв октябре 1923 г. совершил первый полет, а затем благополучно прошел все испытания.
Следующий самолет АНТ-2 (1924) строился наперекор «деревянщикам» целиком из металла. Посмотреть на это чудо — первый в Советском Союзе цельнометаллический самолет — приезжали представители из ВСНХ, Госплана, Академии наук и ВВС. Машина производила на всех сильное впечатление. Испытание самолета весной 1924 г. стало великой победой Туполева.
Именно тогда в него поверили. Его планы и идеи сразу нашли поддержку в ВСНХ и лично у Дзержинского. Вскоре были получены заказы руководства ВВС на создание цельнометаллического самолета-разведчика и цельнометаллического бомбардировщика. Значительно улучшилось финансирование. С кустарными условиями было покончено навсегда. Появившийся вскоре АНТ-3 оправдал все возлагавшиеся на него надежды С этим самолетом связаны первые громкие успехи молодой советской авиации. В 1926 г. экипаж в составе Громова и Радзевича в течение трех дней облетел на АНТ-3 столицы Германии, Австрии, Франции и Польши. Появление этого цельнометаллического самолета в Европе явилось зримым свидетельством растущего могущества Советского Союза. В том же году Шестаков и Фуфаев на таком же самолете совершили перелет из Москвы в Токио и обратно. АНТ-3 потом долго стоял на вооружении ВВС, выпускался в промышленных вариантах разведчика и штурмовика.
Между тем осенью 1925 г. был готов новый самолет АНТ-4, который под наименованием ТБ был принят на вооружение Красной Армии и использовался в качестве тяжелого бомбардировщика. Для Туполева это была этапная модель. С АНТ-4 определяется специализация его КБ как разработчика и создателя тяжелых самолетов-бомбардировщиков. Кроме того, на этом АНТе впервые была опробована двухмоторная схема с расположением двигателей на крыльях. Затем последовали АНТ-6 и АНТ-9. Они строились по той же схеме, что АНТ-4, но имели уже по четыре мотора. Испытания АНТ-6 (ТБ-3) начались в 1930 г. В то время это был самый мощный в мире тяжелый бомбардировщик.
При массе 18,8 т он развивал скорость 288 км/ч, имел потолок 7740 м и дальность полета до 2500 км. До войны было выпущено около 800 этих машин, которые составили основу советской бомбардировочной авиации.
В 1932 г. специально для дальних перелетов КБ Туполева разработало самолет АНТ-2 5, имевший очень длинные и узкие крылья, что позволяло уменьшить мощность двигателя и расход топлива. На этом самолете один за другим в 1937 г. экипажами Чкалова и Громова были поставлены мировые рекорды дальности полета: первый пролетел по маршруту Москва — Северный полюс — Портленд (США); второй — Москва — Северный полюс — Сан-Джасинто (США). В 1934 г. появился восьмимоторный гигант АНТ-20 «Максим Горький» с размахом крыльев 63 м — в то время самый большой самолет в мире Он использовался как пассажирский лайнер и как авианесущий транспортный самолет-матка (на крыльях его располагались два легких истребителя).
Но основным в деятельности КБ Туполева оставалась разработка и создание тяжелых бомбардировщиков. В 1935 г. был построен АНТ-40 (СБ) — первый скоростной бомбардировщик, развивавший скорость до 480 км/ч (по тем временам — очень высокую; в Испании эти машины легко уходили от серийных немецких истребителей). В 1936 г. появился пятимоторный АНТ-42 (ТБ7). Четыре двигателя размещались у этого самолета, как и в прежних моделях, на крыльях, а пятый, предназначенный для наддува, — в фюзеляже. Благодаря наддуву потолок самолета достигал рекордной для того времени высоты — 11 200 м. Очень хорошими были и другие характеристики ТБ-7: на высоте 8600 м он развивал скорость 430 км/ч и при дальности полета 4500 км мог поднять 4 т груза. Во время войны на основе АНТ-42 соратник Туполева Петляков создал свой тяжелый пикирующий бомбардировщик Пе-8, широко применявшийся в боях против немцев.
Вторая половина 30-х гг. ознаменовалась для Туполева многими важными событиями. В 1936 г. его КБ вышло из состава ЦАГИ и было преобразовано в самостоятельный завод авиационной промышленности. Это произошло незадолго до начала грандиозной чистки, предпринятой Сталиным в рядах партии.
В 1937 г. начались аресты сотрудников туполевского КБ по обвинению в шпионаже в пользу Германии. В октябре арестовали самого Туполева. С декабря 1937-го по июль 1941 г. он находился в заключении как «враг народа», хотя судьба его сложилась удачнее, чем у многих других репрессированных. В феврале 1939 г. Туполев возглавил созданное при НКВД закрытое ЦКБ-29, все инженеры, конструкторы и сотрудники которого являлись такими же как и он заключенными, отбывавшими свой срок по обвинению в государственной измене. Это было специфическое порождение сталинской системц — институт-тюрьма, или «шарашка», как ее тогда называли.