Методы статистического анализа исторических текстов (часть 2)

Пусть в нашем распоряжении оказалось какое-то количество произведений одного писателя. Для удобства упорядочим их хронологически (т.е. в порядке написания) и для краткости назовем получившуюся совокупность - ТЕКСТОМ ДАННОГО АВТОРА. Таким образом, текст автора (в нашем определении) может состоять из нескольких различных произведений - романов, повестей, рассказов и т.п.

Выделим теперь из этого текста отдельные фрагменты выборки одинакового объема, т.е. состоящие из одного и того же (фиксированного заранее) количества слов. Это количество слов естественно назвать ОБЪЕМОМ ВЫБОРКИ.

Эти равновеликие (равные по объему) выборки мы будем выделять из текста ЧЕРЕЗ РАВНЫЕ ИНТЕРВАЛЫ, т.е. таким образом, чтобы каждые две соседние выборки были отделены друг от друга примерно одним и тем же количеством слов. Это "расстояние", интервал между соседними выборками мы назовем ШАГОМ. См. рис.Доп-3.1.

Объем выборок и их шаг можно варьировать в зависимости от поставленных задач.

Итак, последовательно двигаясь по тексту одного автора, мы через каждые, например, 10 страниц стандартного книжного текста будем делать выборки одного и того же объема, например, в 2000 слов. Чем длиннее исследуемый текст, тем больше выборок мы сможем сделать. Для коротких произведений число выборок будет невелико, что усложняет анализ, делает результаты неустойчивыми.

Пусть теперь мы избрали какой-либо лингвистический параметр, например частоту употребления писателем предлога "в". Можно изучить эволюцию этого параметра вдоль всего текста, состоящего, быть может, из нескольких отдельных произведений, выстроенных нами в ряд. Для этого сделаем последовательные выборки и подсчитаем для каждой из них значение интересующего нас лингвистического параметра. В результате для каждой выборки (порции) получим свое число. От выборки к выборке оно будет, вообще говоря, меняться. Построим график, отложив по горизонтали целые числа 1,2,3,..., являющиеся номерами последовательных выборок, а по вертикали - значения изучаемой нами лингвистической характеристики.

В результате, эволюция данного параметра вдоль всего исследуемого текста изобразится некоторой ломаной линией.

Следовательно, мы представили каждого писателя не точкой на плоскости или в пространстве, как это делалось, например, в работах [р1],[р2], а графиком - ломаной линией. Она наглядно показывает поведение исследуемого параметра вдоль произведений данного автора. Оказывается, такие графики очень удобны при поиске авторских инвариантов. В самом деле, теперь задача может быть переформулирована так.

Требуется найти такой лингвистический параметр и такой оптимальный объем выборок, чтобы соответствующие им графики изображались бы для каждого автора ПРАКТИЧЕСКИ ГОРИЗОНТАЛЬНЫМИ ЛИНИЯМИ - "ПРЯМЫМИ", т.е. слабо колеблющимися ломаными.

Другими словами, это будет означать, что числовые значения найденного инварианта мало отклоняются от своего среднего значения вдоль произведений каждого отдельного автора. Это явление - сглаживание ломаной кривой и ее стремление к горизонтальной прямой - назовем СТАБИЛИЗАЦИЕЙ лингвистического параметра.

Однако одного факта стабилизации еще недостаточно, чтобы можно было объявить данный параметр - авторским инвариантом. Совершенно необходимо, чтобы стабилизировавшиеся графики (т.е. практически горизонтальные прямые), отвечающие разным группам писателей, ЗНАЧИТЕЛЬНО ОТЛИЧАЛИСЬ бы друг от друга по высоте. То есть, они должны лежать на существенно разных уровнях. Напомним еще раз, что иногда "горизонтальные прямые", отвечающие разным авторам, могут оказаться близкими, лежащими на одном уровне. В этих случаях значения авторских инвариантов близки. Мы отнесем к одной группе писателей с близкими значениями параметров. Чтобы авторский инвариант был действительно эффективен, он должен разделить совокупность всех писателей на несколько групп с существенно разными значениями инварианта.

Если значения авторского инварианта для двух сравниваемых текстов оказываются близкими, отсюда нельзя делать заключение об их принадлежности одному писателю.

Ясно, что априори само существование таких замечательных лингвистических инвариантов ниоткуда не следует. Для их выявления требуется обширный вычислительный эксперимент. И такой эксперимент был нами проведен на протяжении нескольких лет. Перейдем к изложению результатов.

4. ПОСТАНОВКА ЭКСПЕРИМЕНТА. СПИСОК ИССЛЕДОВАННЫХ

НАМИ ПАРАМЕТРОВ.

Для обнаружения "бессознательного параметра" - авторского инварианта, слабо или вообще не контролируемого писателями, мы изучили следующие количественные характеристики текстов.

1) ДЛИНА ПРЕДЛОЖЕНИЙ, т.е. среднее число слов в предложении (подсчитанное для каждой выборки).

2) ДЛИНА СЛОВ, т.е. среднее количество слогов в слове, подсчитанное для каждой выборки.

3) ОБЩАЯ ЧАСТОТА УПОТРЕБЛЕНИЯ СЛУЖЕБНЫХ СЛОВ - ПРЕДЛОГОВ, СОЮЗОВ, ЧАСТИЦ, т.е. процентное содержание служебных слов в каждой выборке.

4) ЧАСТОТА УПОТРЕБЛЕНИЯ СУЩЕСТВИТЕЛЬНЫХ, т.е. их процентное содержание в каждой выборке.