Переходя к основным принципам синхронической лингвистики, Ф. де Соссюр подчеркивает, что «составляющие язык знаки представляют собой не абстракции, а реальные объекты», находящиеся в мозгу говорящих. Однако он указывает, что единицы языка нам непосредственно не даны, что нельзя считать таковыми, например, слова или предложения. В этом пункте «Курс общей лингвистики» решительно порывает с предшествующей традицией, считавшей языковые единицы, прежде всего слова, заранее заданными (что не исключало возможности выработки критериев членения на слова в отдельных неясных случаях). Если дососсюровская лингвистика шла от понятия языковой единицы, то Ф. де Соссюр шел преясде всего от нового для языкознания понятия значимости.
Для уяснения этого понятия Ф. де Соссюр проводит аналогию языка с более простой семиотической системой — игрой в шахматы: «Возьмем коня: является ли он сам по себе элементом игры? Конечно, нет, потому что в своей чистой материальности вне занимаемого им поля на доске и прочих условий игры он ничего для игрока не представляет; он становится реальным и конкретным элементом в игре лишь постольку, поскольку он наделен значимостью и с нею неразрывно связан… Любой предмет, не имеющий с ним никакого сходства, может быть отождествлен с конем, если только ему будет придана та же значимость». То же и в языке: несущественно, имеет ли языковая единица звуковую или какую-либо иную природу, важна ее противопоставленность другим единицам.
Понятию значимости Ф. де Соссюр придавал исключительную важность: «Понятие значимости в конечном счете покрывает и понятие единицы, и понятие конкретной языковой сущности, и понятие языковой реальности». Согласно Ф. де Соссюру, язык — «система чистых значимостей»; «Язык есть система, все элементы которой образуют целое, а значимость одного элемента проистекает только из одновременного наличия прочих». И далее: «В языке нет ничего, кроме различий». Такое понимание языка не согласуется с идеями более ранних разделов «Курса» о языке как хранящейся в мозгу системе и об означающем как
Другое важнейшее для Ф. де Соссюра понятие, наряду со значимостью, — понятие формы, противопоставленной субстанции. И мыслительная, и звуковая субстанции сами по себе аморфны и неопределенны, но язык служит посредствующим звеном между мыслью и звуком, накладывая на них некоторую сетку отношений, то есть форму. Согласно Ф. де Соссюру, «язык — это форма, а не субстанция». В этом месте «Курса» совершенно очевидно влияние В. фон Гумбольдта, проявляющееся и в терминологии. Расходясь с В. фон Гумбольдтом по проблеме energeia — ergon, Ф. де Соссюр сошелся с ним в данном пункте.
Ф. де Соссюр не отрицал важности проблемы языковых единиц, в частности, слова; он замечал: «Слово, несмотря на все трудности, связанные с определением этого понятия, есть единица, неотступно представляющаяся нашему уму как нечто центральное в механизме языка». Безусловно, здесь признается психолингвистическая важность слова. Это замечание также не согласуется с идеей о том, что в языке нет ничего, кроме различий. Однако в первую очередь для Ф. де Соссюра важна система различий, система значимостей, то есть языковая структура (самого термина «структура» в «Курсе» нет, но лингвистика, следовавшая его идеям, очень скоро стала называться структурной). Единицы при таком подходе — лишь нечто производное: «В языке, как и во всякой семиологической системе, то, что отличает один знак от других, и есть все то, что его составляет. Различие создает отличительное свойство, оно же создает значимость и единицу». Общее признание значимостного подхода в структурной лингвистике не означало единства точек зрения. Как и в случае с синхронией и диахронией, можно было приходить к разным точкам зрения, отталкиваясь от разных высказываний Ф. де Соссюра, приходить к разным выводам, либо считая язык системой чистых отношений (глоссематика), либо признавая за единицами собственные свойства (пражцы, Московская школа).