Литвинов настоял на том, чтобы СССР принял участие в работе подготовительной комиссии по проведению международной конференции. Советскому руководству не нравилось, что её работа проходила в Швейцарии, с которой Союз разорвал дипломатические отношения в 1923 году после убийства своего посланника В.В. Воровского. Запад пошёл на принцип, и Литвинов добился серьёзной уступки.
В 1928 году Литвинов настоял на том, чтобы СССР присоединился к Пакту Бриана — Келлога, хотя нас туда и не звали.
В отличие от Сталина, Литвинов не допускал и мысли о возможности сближения с немцами. Будучи наркомом НКИД, Литвинов вёл себя вызывающе в отношении Германии — страны, с которой СССР поддерживал нормальные дипломатические отношения. Он мог игнорировать немецкого посла В. Шуленбурга, не встречаясь с ним по нескольку месяцев. Бывая неоднократно транзитом в Германии, Литвинов ни разу не встретился с кем-либо из её высших официальных лиц.
Вплоть до подписания договора с Германией в августе 1939 года советская пресса резко критиковала нацистский режим. Но даже этот накал критики казался Литвинову слишком слабым. Вот выдержки из его письма Сталину, написанного 3 декабря 1935 года:
Надо сказать, что позиции Литвинова были очень сильны. Так, его наркомат не подчинялся аппарату ЦК даже после того, как все другие ведомства «подключили» к соответствующим отделам. И после отставки его не репрессировали, а из ЦК вывели только накануне войны. Но и до этого ему дали выступить на февральском пленуме 1941 года с резкой критикой сталинской внешней политики.
Литвинову предлагали занять какой-либо важный пост, но он демонстративно отказывался.
Видный советский дипломат А. Громыко вспоминал о том времени:
Свою ориентацию на Запад Литвинов сохранит и после окончания войны, в период охлаждения между СССР и англо-американцами. На встрече с корреспондентом Си-Би-Эс 18 июня 1946 года ему был задан вопрос:
Факт ведения подобных разговоров подтверждает в своих воспоминаниях Микоян. Спецслужбы активно «писали» Литвинова, и записи попадали на стол к Сталину и другим членам Политбюро. Но и тогда Сталин не тронул престарелого фрондёра. Из каких соображений — не совсем понятно. Возможно, сам Литвинов был чем-то вроде неофициального «посла» западных демократий в СССР. А послы, как известно, фигуры неприкосновенные…
В 30-х годах вождь использовал Литвинова как фигуру, через которую было удобно вести диалог с Антантой. Он всё-таки отпустил Чичерина в отставку для того, чтобы никто не мешал ему вести тонкую игру с Западом.