Интеллектуальные системы.
Теория и приложения

Аннотация

В работе исследуется задача слияния наборов векторных представлений слов от различных предобученных моделей. Поскольку прямое объединение векторных пространств сопряжено с вычислительными трудностями и проблемой локальных минимумов, предлагается переход к ординальным методам агрегации. Доказывается отсутствие циклов в индивидуальных ординальных матрицах попарных сравнений расстояний, что гарантирует эквивалентность алгоритмов Кемени и Коупленда в этом случае. Для агрегированных матриц, где возможен парадокс Кондорсе, алгоритм Коупленда выступает эффективной эвристикой. Также рассматривается метод Борда, не требующий построения турнирных графов. Проведены эксперименты на 10 моделях и 3 датасетах (WordSim-353, MEN, SimLex-999). Показано, что ординальные методы позволяют находить оптимальные комбинации моделей (тройки, четвёрки и пятёрки), превосходящие индивидуальные модели по корреляции Спирмена, при этом разница между методами Борда и Кемени/Коупленда минимальна.

Ключевые слова: векторные представления слов, агрегация моделей, метод Борда, метод Кемени, алгоритм Коупленда, турнирные графы, ординальная матрица.