Таким образом, Иоанн мог сосредоточить все свое внимание на Малой Азии, где империя контролировала северное, западное и южное побережья, а также территорию, отграниченную условной изломанной линией, идущей от устья реки Мендерес до юго-восточной оконечности Черного моря. К юго-востоку от этой линии располагались турки, большей частью подданные сельджукского султана Икония. Но в последние годы начала поднимать голову новая тюркская династия Данишмендиды, эмир которой, Гази II, правил на пространстве от реки Халис до Евфрата. Имелось также множество кочевых тюркских племен, которые фактически делали что хотели, — так, они захватили византийский порт Атталию, которая ныне была достижима только со стороны моря. Именно эти племена явились целью первой военной кампании Иоанна — в результате жизненно важные сухопутные связи с Атталией были восстановлены. Иоанн вместе с Аксухом вернулись на берега Босфора, весьма удовлетворенные проделанной работой.
В 1122 г. возникли трения в отношениях с Венецией, спровоцированные Иоанном. Во время правления Алексея республика была самым близким союзником империи; для того чтобы расположить к себе венецианцев, василевс в 1082 г. не колеблясь отменил для них таможенные пошлины и даровал им такие торговые привилегии, какими не пользовался никто из иностранцев; венецианский квартал на берегу Золотого Рога разросся до такой степени, что это начало вызывать возмущение со стороны византийцев. И вот когда только что избранный дож Доменико Микель попросил у Иоанна формального подтверждения всех старых привилегий, император отказался наотрез. Венецианцы пришли в ярость, и 8 августа 1122 г. флагманский корабль дожа отплыл из венецианской лагуны — за ним в кильватере следовало 71 военное судно. Целью флотилии была крепость на острове Корфу, которая успешно выстояла в ходе шестимесячной осады. Но на протяжении следующих трех лет венецианцы продолжали проявлять активность в Восточном Средиземноморье, захватив Родос, Хиос, Самос, Лесбос и Андрос, а когда в начале 1126 г. они направили войска для взятия Кефалонии, Иоанн счел, что с него уже достаточно. Агрессия стоила ему намного дороже тех коммерческих привилегий, в которых он отказал венецианцам. В августе василевс зажал свою гордость в кулак и восстановил им все преференции.
В 1130 г., когда император вновь обратил свое внимание на Восток, ситуация там серьезно ухудшилась. Эмир Гази являлся теперь самым грозным правителем в Малой Азии, и в период с 1130 по 1135 г. Иоанн осуществил пять экспедиций против него. Военный успех был столь велик, что в 1133 г. император триумфально вступил в столицу — в традиционной уже манере. Правда, с учетом непростых времен, переживаемых государством, церемониальную колесницу императора, запряженную четверкой белоснежных коней, украсили серебром, а не золотом, но улицы были декорированы, как и всегда в подобных случаях, камкой и парчой, а из окон домов свисали дорогие ковры. На всем пути от сухопутных стен до собора Св. Софии установили трибуны, с которых народ радостно приветствовал торжественную процессию; император шел пеший и нес крест. Подобно тому как это раньше делал Цимисхий, Иоанн отказался садиться в колесницу, предоставив почетное место иконе Богоматери, которая сопровождала императора во всех его кампаниях.
На следующий год василевс опять пошел в поход; там к концу лета его застала новость о смерти эмира Гази, и в начале 1135 г. император вернулся в столицу. За пять лет он отвоевал территории, которые Византия утратила более чем за полвека. Турки не были разбиты полностью, но стало очевидным, что к новым наступательным действиям они перейдут не скоро. Иоанн теперь собирался выступить против двух христианских государств, занимавших территорию, которую он считал имперской: армянского царства Киликия и норманнского княжества Антиохия.
Однако руки у Иоанна пока были развязаны не полностью. У него имелся еще один потенциальный враг, которого следовало нейтрализовать в первую очередь. В 1130 г. граф Сицилии был коронован как король Рожер II. С этого момента стало неуклонно расти его могущество и влияние; помимо всего прочего, он мечтал о завоеваниях чужих земель. В частности, Рожер зарился на государства крестоносцев. Будучи двоюродным братом Боэмунда, он имел серьезные притязания на Антиохию. А торжественно заключенное в 1113 г. бракосочетание его матери Аделаиды с Балдуином I означало, что, если этот брак окажется бездетным — а учитывая возраст супругов подобное следовало предполагать, — корона Иерусалима перейдет к Рожеру. Но Балдуин, потратив огромное приданое Аделаиды, брак аннулировал и отослал бывшую жену назад, на Сицилию. Такое оскорбление Рожер вряд ли забыл и, конечно, имел виды на Иерусалим. Рожер II пока ничего не требовал от Византии, но Робер Гвискар и Боэмунд поначалу тоже не предъявляли империи никаких претензий.