Говоря о звуковой стороне языка, В. фон Гумбольдт исходил из не очень развитого состояния фонетики его времени и даже смешивал звук с буквой. И в то же время у него присутствуют высказывания, предвосхищающие идеи сложившейся лишь почти столетие спустя фонологии: «В языке решающим фактором является не обилие звуков, а, скорее, наоборот, — гораздо существенней строгое ограничение числа звуков, необходимых для построения речи, и правильное равновесие между ними. Языковое сознание должно поэтому содержать… предчувствие всей системы в целом, на которую опирается язык в данной индивидуальной форме. Здесь уже проявляется то, что, в сущности, проявляется во всем процессе образования языка. Язык можно сравнить с огромной тканью, все нити которой более или менее заметно связаны между собой и каждая — со всей тканью в целом».
Среди единиц языка В. фон Гумбольдт прежде всего выделял слово. Выступая против традиционных наивных представлений о происхождении языка, он писал: «Нельзя себе представить, чтобы создание языка начиналось с обозначения словами предметов, а затем уже происходило соединение слов. В действительности речь строится не из предшествующих ей слов, а, наоборот, слова возникают из речи». В то же время любая речь членится на слова; «под словами следует понимать знаки отдельных понятий»; «слово образует границу, вплоть до которой язык в своем созидательном процессе действует самостоятельно». То есть слова уже даны говорящему языком, тогда как «для предложения и речи язык устанавливает только регулирующие схемы, предоставляя их индивидуальное оформление произволу говорящего». Ср. существующую у ряда лингвистов XX в. концепцию, согласно которой слова и «регулирующие схемы» предложений принадлежат языку, а сами предложения — единицы речи. Наряду со словами В. фон Гумбольдт выделял и корни. Он разграничивал корни «как продукт частой рефлексии и результат анализа слов», то есть «как результат работы грамматистов», и существующие в ряде языков реальные корни, нужные говорящим в связи с «определенными законами деривации».
Языковая форма далеко не сводится к внешней, звуковой форме. Еще большее значение имеет внутренняя форма языка, членящая «чувственные впечатления и непроизвольные движения духа». Внутренняя форма, специфическая для каждого языка, проявляется как в членении мира в области лексики, так и в системе грамматических категорий. Например, по мнению В. фон Гумбольдта «понятие наклонения» получило подлинное развитие в древнегреческом, тогда как в санскрите «осталось явно недоразвитым».