Дисперсионный анализ (ANOVA)

Содержание

Общие определения

Пошаговый пример в STATISTICA

Шаг 1. Выбор анализа

Шаг 2. Задание переменных

Шаг 3. Изменение опций

Шаг 4. Анализ результатов – просмотр всех эффектов

Шаг 5. Анализ результатов – просмотр заданных эффектов

Шаг 6. Анализ результатов – оценка качества модели

Шаг 7. Анализ результатов – анализ контрастов

Шаг 8. Дополнительные результаты

Литература

Общие определения

Целью дисперсионного анализа (ANOVA – Analysis of Variation) является проверка значимости различия между средними в разных группах с помощью сравнения дисперсий этих групп. Разделение общей дисперсии на несколько источников (связанных с различными эффектами в плане), позволяет сравнить дисперсию, вызванную различием между группами, с дисперсией, вызванной внутригрупповой изменчивостью.

Проверяемая гипотеза состоит в том, что различия между группами нет. При истинности нулевой гипотезы, оценка дисперсии, связанной с внутригрупповой изменчивостью, должна быть близкой к оценке межгрупповой дисперсии. При ложности - значимо отклоняться.

В целом дисперсионный анализ может быть разделён на несколько видов:

одномерный (одна зависимая переменная) и многомерный (несколько зависимых переменных);
однофакторный (одна группирующая переменная) и многофакторный (несколько группирующих переменных) с возможным взаимодействием между факторами;
с простыми измерениями (зависимая переменная измеряется лишь один раз) и с повторными (зависимая переменная измеряется несколько раз).

В STATISITICA реализованы все известные модели дисперсионного анализа.

В STATISITICA дисперсионный анализ можно провести с помощью модуля Дисперсионный анализ в блоке STATISITICA Base (Анализ -> Дисперсионный анализ(ДА)). Для построения модели специального вида используется полная версия Дисперсионного анализа, представленная в модулях Общие линейные модели, Обобщённые линейные и нелинейные модели, Общие регрессионные модели, Общие модели частных наименьших квадратов из блока Углубленные методы анализа (STATISTICA Advanced Linear/Non-Linear Models).

в начало

Пошаговый пример в STATISTICA

Мы будем иллюстрировать возможности дисперсионного анализа в STATISITICA, рассматривая пошаговый модельный пример.

Исходный файл данных описывает совокупность людей с разным уровнем дохода, образования, возраста и пола. Рассмотрим, как влияют уровень образования, возраст и пол на уровень дохода.

По возрасту все люди были разделены на четыре группы:

до 30 лет;
от 31 до 40 лет;
от 41 до 50 лет;
от 51 года.

По уровню образования произошло деление на 5 групп:

незаконченное среднее;
среднее;
среднее профессиональное;
незаконченное высшее;
высшее.

Так как данные модельные, то полученные результаты будут носить в основном качественный характер и иллюстрировать способ проведения анализа.

Шаг 1. Выбор анализа

Выберем дисперсионный анализ из меню: Анализ -> Углубленные методы анализа -> Общие линейные модели.

Рис. 1. Выбор дисперсионного анализа из выпадающего меню STATISTICA

Далее откроется окно, в котором представлены различные виды анализа. Выбираем Вид анализа – Факторный Дисперсионный анализ.

Рис. 2. Выбор вида анализа

В этом окне также можете выбрать способ построения модели: диалоговый режим или использовать мастер анализа. Выберем диалоговый режим.

Шаг 2. Задание переменных

Из открытого файла данных выберем переменные для анализа, щелкните кнопку Переменные, выберете:

Доход – зависимая переменная,

Уровень образования, Пол и Возраст – категориальные факторы (предикторы).

Заметим, что Коды факторов в этом простом примере можно не задавать. При нажатии на кнопку OK, STATISTICA задаст их автоматически.

Рис. 3. Задание переменных

Шаг 3. Изменение опций

Обратимся к вкладке Опции в окне GLM Факторный ДА.

Рис. 4. Вкладка Опции

В этом диалоговом окне вы можете:

выбрать случайные факторы;
задать тип параметризации модели;
указать тип сумм квадратов (SS), имеется 6 различных сумм квадратов (SS);
включить проведение кросс-проверки.

Оставим все установки по умолчанию (этого достаточно в большинстве случаев) и нажмём кнопку ОК.

Шаг 4. Анализ результатов – просмотр всех эффектов

Результаты анализа можно посмотреть в окне Результаты с помощью вкладок и группы кнопок. Рассмотрим, например, вкладку Итоги.

Рис. 5. Окно анализа результатов: вкладка Итоги

С этой вкладки можно получить доступ ко всем основным результатам. Воспользуйтесь остальными вкладками для получения дополнительных результатов. Кнопка Меньше позволяет изменить диалоговое окно результатов, удалив вкладки, которые, как правило, не используются.

При нажатии кнопки Проверить все эффекты получаем следующую таблицу.

Рис. 6. Таблица всех эффектов

Эта таблица выводит основные результаты анализа: суммы квадратов, степени свободы, значения F-критерия, уровни значимости.

Для удобства исследования значимые эффекты (p<.05) выделены красным цветом. Два главных эффекта (Уровень образования и Возраст) и некоторые взаимодействия в данном примере являются значимыми (p<.05).

Шаг 5. Анализ результатов – просмотр заданных эффектов

Чтобы посмотреть, каким образом средний уровень дохода различается по категориям, удобнее всего воспользоваться графическими средствами. При нажатии на кнопку Все эффекты/графики появится следующее диалоговое окно.

Рис. 7. Окно Таблица всех эффектов

В окне перечислены все рассматриваемые эффекты. Статистически значимые эффекты помечены *.

Например, выберем эффект Возраст, в группе Отображать укажем Таблицу и нажмём ОК. Появится таблица, в которой для каждого уровня эффекта приведено среднее значение зависимой переменной (Доход), величина стандартной ошибки и границы доверительных пределов.

Рис. 8. Таблица с описательными статистиками по уровням переменной Возраст

Эту таблицу удобно представить в графическом виде. Для этого выберем График в группе Отображать диалогового окна Таблица всех эффектов и нажмём ОК. Появится соответствующий график.

Рис. 9. График зависимости среднего дохода от возраста

Из графика ясно видно, что между группами людей разного возраста есть разница в уровне дохода. Чем выше возраст, тем больше доход.

Аналогичные операции проведём для взаимодействия нескольких факторов. В диалоговом окне Таблица всех эффектов выберем *Пол***Возраст* и нажмём ОК.

Рис. 10. График зависимости среднего дохода от пола и возраста

Получен неожиданный результат: для опрошенных людей в возрасте до 50 лет уровень дохода растёт с возрастом и не зависит от пола; для опрошенных людей старше 50 лет женщины имеют значимо больший доход, чем мужчины.

Стоит построить полученный график в разрезе уровня образования. Возможно, такая закономерность нарушается в некоторых категориях или, наоборот, носит универсальный характер. Для этого выберем Уровень образования * Пол * Возраст и нажмём ОК.

Рис. 11. График зависимости среднего дохода от пола, возраста, уровня образования

Видим, что полученная зависимость не характерна для среднего и среднего профессионального образования. В остальных случаях она справедлива.

Шаг 6. Анализ результатов – оценка качества модели

Выше в основном использовались графические средства дисперсионного анализа. Рассмотрим некоторые другие полезные результаты, которые можно получить.

Во-первых, интересно посмотреть, какую долю изменчивости объясняют рассматриваемые факторы и их взаимодействия. Для этого во вкладке Итоги нажмём на кнопку Общая R модели. Появится следующая таблица.

Рис. 12. Таблица SS модели и SS остатков

Число в столбце Множеств. R2 – квадрат множественного коэффициента корреляции; оно показывает, какую долю изменчивости объясняет построенная модель. В нашем случае R2 = 0.195, что говорит о невысоком качестве модели. В самом деле, на уровень дохода влияют не только факторы, внесённые в модель.

Шаг 7. Анализ результатов – анализ контрастов

Часто требуется не только установить различие в среднем значении зависимой переменной для разных категорий, но и установить величину различия для заданных категорий. Для этого следует исследовать контрасты.

Выше было показано, что уровень дохода для мужчин и женщин значимо отличается для возраста от 51, в остальных случаях различие не значимо. Выведем разницу в уровне дохода для мужчин и женщин в возрасте выше 51 года и между 40 и 50 годами.

Для этого перейдём во вкладку Контрасты и выставим все значения следующим образом.

Рис. 13. Вкладка Контрасты

При нажатии кнопки Вычислить появится несколько таблиц. Нас интересует таблица с оценками контрастов.

Рис. 14. Таблица Оценки контрастов

Можно сделать следующие выводы:

для мужчин и женщин старше 51 года разница в уровне дохода составляет 48,7 тыс. долл. Разница значима;
для мужчин и женщин в возрасте от 41 до 50 лет разница в уровне дохода составляет 1,73 тыс. долл. Разница не значима.

Аналогично можно задать более сложные контрасты или воспользоваться одним из заранее заданных наборов.

Шаг 8. Дополнительные результаты

Используя остальные вкладки окна результатов можно получить следующие результаты:

средние значения зависимой переменной для выбранного эффекта – вкладка Средние;
проверка апостериорных критериев (post hoc) – вкладка Апостериорные;
проверка сделанных для проведения дисперсионного анализа предположений – вкладка Предположения;
построение профилей отклика/желательности – вкладка Профили;
анализ остатков – вкладка Остатки;
вывод матриц, используемых в анализе – вкладка Матрицы;
доступ к опциям отправки спецификаций переменных, кода анализа и предсказанного уравнения в отчёт, а также создании кода модели на языках C/C++/SVB/PMML – вкладка Отчёт.

Результаты доступны как в численном, так и в графическом видах.

Отметим, что набор дополнительных результатов зависит от вида построенной модели, т.е. от используемого модуля.

в начало

Литература

В.П.Боровиков. STATISTICA. Искусство анализа данных на компьютере, 2-е издание, ПИТЕР, 2003, 700 с.

Есть вопросы?

Специалисты StatSoft всегда на связи.

Разобраться в STATISTICA?

Легко!

Отраслевые решения на базе STATISTICA!

Видеоролики STATISTICA

Консалтинг StatSoft:

помощь в принятии верных решений

Big Data:

Как извлечь полезную информацию?

Актуально:

Новые успехи Академии StatSoft в области фармацевтики и медицины

Практика в StatSoft 2023

Крупнейшая торговая розничная сеть выбирает решения TIBCO Data Virtualization

Все новости

База примеров

STATISTICA Trial 13

Академия Анализа Данных

‹‹						››
Пн	Вт	Ср	Чт	Пт	Сб	Вс

Дисперсионный анализ (ANOVA)

Содержание

Общие определения

В целом дисперсионный анализ может быть разделён на несколько видов:

одномерный (одна зависимая переменная) и многомерный (несколько зависимых переменных);

однофакторный (одна группирующая переменная) и многофакторный (несколько группирующих переменных) с возможным взаимодействием между факторами;

с простыми измерениями (зависимая переменная измеряется лишь один раз) и с повторными (зависимая переменная измеряется несколько раз).

В STATISITICA реализованы все известные модели дисперсионного анализа.

Пошаговый пример в STATISTICA

Мы будем иллюстрировать возможности дисперсионного анализа в STATISITICA, рассматривая пошаговый модельный пример.

По возрасту все люди были разделены на четыре группы:

до 30 лет;

от 31 до 40 лет;

от 41 до 50 лет;

от 51 года.

По уровню образования произошло деление на 5 групп:

незаконченное среднее;

среднее;

среднее профессиональное;

незаконченное высшее;

высшее.

Так как данные модельные, то полученные результаты будут носить в основном качественный характер и иллюстрировать способ проведения анализа.

Шаг 1. Выбор анализа

Выберем дисперсионный анализ из меню: Анализ -> Углубленные методы анализа -> Общие линейные модели.

Рис. 1. Выбор дисперсионного анализа из выпадающего меню STATISTICA

Далее откроется окно, в котором представлены различные виды анализа. Выбираем Вид анализа – Факторный Дисперсионный анализ.

Рис. 2. Выбор вида анализа

В этом окне также можете выбрать способ построения модели: диалоговый режим или использовать мастер анализа. Выберем диалоговый режим.

Шаг 2. Задание переменных

Из открытого файла данных выберем переменные для анализа, щелкните кнопку Переменные, выберете:

Доход – зависимая переменная,

Уровень образования, Пол и Возраст – категориальные факторы (предикторы).

Заметим, что Коды факторов в этом простом примере можно не задавать. При нажатии на кнопку OK, STATISTICA задаст их автоматически.

Рис. 3. Задание переменных

Шаг 3. Изменение опций

Обратимся к вкладке Опции в окне GLM Факторный ДА.

Рис. 4. Вкладка Опции

В этом диалоговом окне вы можете:

выбрать случайные факторы;

задать тип параметризации модели;

указать тип сумм квадратов (SS), имеется 6 различных сумм квадратов (SS);

включить проведение кросс-проверки.

Оставим все установки по умолчанию (этого достаточно в большинстве случаев) и нажмём кнопку ОК.

Шаг 4. Анализ результатов – просмотр всех эффектов

Результаты анализа можно посмотреть в окне Результаты с помощью вкладок и группы кнопок. Рассмотрим, например, вкладку Итоги.

Рис. 5. Окно анализа результатов: вкладка Итоги

При нажатии кнопки Проверить все эффекты получаем следующую таблицу.

Рис. 6. Таблица всех эффектов

Эта таблица выводит основные результаты анализа: суммы квадратов, степени свободы, значения F-критерия, уровни значимости.

Шаг 5. Анализ результатов – просмотр заданных эффектов

Рис. 7. Окно Таблица всех эффектов

В окне перечислены все рассматриваемые эффекты. Статистически значимые эффекты помечены *.

Рис. 8. Таблица с описательными статистиками по уровням переменной Возраст

Рис. 9. График зависимости среднего дохода от возраста

Из графика ясно видно, что между группами людей разного возраста есть разница в уровне дохода. Чем выше возраст, тем больше доход.

Аналогичные операции проведём для взаимодействия нескольких факторов. В диалоговом окне Таблица всех эффектов выберем Пол*Возраст и нажмём ОК.

Рис. 10. График зависимости среднего дохода от пола и возраста

Рис. 11. График зависимости среднего дохода от пола, возраста, уровня образования

Видим, что полученная зависимость не характерна для среднего и среднего профессионального образования. В остальных случаях она справедлива.

Шаг 6. Анализ результатов – оценка качества модели

Выше в основном использовались графические средства дисперсионного анализа. Рассмотрим некоторые другие полезные результаты, которые можно получить.

Рис. 12. Таблица SS модели и SS остатков

Шаг 7. Анализ результатов – анализ контрастов

Для этого перейдём во вкладку Контрасты и выставим все значения следующим образом.

Рис. 13. Вкладка Контрасты

При нажатии кнопки Вычислить появится несколько таблиц. Нас интересует таблица с оценками контрастов.

Рис. 14. Таблица Оценки контрастов

Можно сделать следующие выводы:

для мужчин и женщин старше 51 года разница в уровне дохода составляет 48,7 тыс. долл. Разница значима;

для мужчин и женщин в возрасте от 41 до 50 лет разница в уровне дохода составляет 1,73 тыс. долл. Разница не значима.

Аналогично можно задать более сложные контрасты или воспользоваться одним из заранее заданных наборов.

Шаг 8. Дополнительные результаты

Используя остальные вкладки окна результатов можно получить следующие результаты:

средние значения зависимой переменной для выбранного эффекта – вкладка Средние;

проверка апостериорных критериев (post hoc) – вкладка Апостериорные;

проверка сделанных для проведения дисперсионного анализа предположений – вкладка Предположения;

построение профилей отклика/желательности – вкладка Профили;

анализ остатков – вкладка Остатки;

вывод матриц, используемых в анализе – вкладка Матрицы;

доступ к опциям отправки спецификаций переменных, кода анализа и предсказанного уравнения в отчёт, а также создании кода модели на языках C/C++/SVB/PMML – вкладка Отчёт.

Аналогичные операции проведём для взаимодействия нескольких факторов. В диалоговом окне Таблица всех эффектов выберем *Пол***Возраст* и нажмём ОК.

© StatSoft Russia
1999-2023