Новогодний датасет 2018: открытая семантика русского языка

в 8:40, , рубрики: natural language processing, естественный язык, лингвистика, машинное обучение, открытые данные, Семантика, семантическая разметка, сентимент-анализ, Эмоции

Открытая семантика русского языка, об истории создания которой вы можете прочитать здесь и здесь, получила большое обновление. Мы собрали достаточное количество данных, чтобы применить поверх собранной разметки машинное обучение и построить семантическую модель языка. Что из этого получилось смотрите под катом.

Новогодний датасет 2018: открытая семантика русского языка - 1

Что мы делаем

Возьмём две группы слов:

  • бег, съёмка, черчение, поход, ходьба;
  • бегун, фотограф, инженер, турист, атлет.

Для человека не составляет труда определить, что в первой группе представлены существительные, называющие действия или события; во второй — называющие людей. Наша цель — научить решать такого рода задачи машину.

Для этого необходимо:

  1. Выяснить, какие естественные классы существуют в языке.
  2. Разметить достаточное количество слов на предмет принадлежности к классам из п.1.
  3. Создать алгоритм, обучающийся на разметке из п.2 и воспроизводящий классификацию на незнакомых словах.

Можно ли эту задачу решить с помощью дистрибутивной семантики?

word2vec представляет собой отличный инструмент, но всё же он отдаёт предпочтение тематической близости слов, а не сходству их семантических классов. Для демонстрации этого факта запустим алгоритм на словах из примера:

       w1 |       w2 | cosine_sim |
          |          |            |
      бег |      бег |     1.0000 |
      бег |    бегун |     0.6618 |
      бег |   ходьба |     0.5410 |
      бег |    атлет |     0.3389 |
      бег |    поход |     0.1531 |
      бег |   съёмка |     0.1342 |
      бег | черчение |     0.1067 |
      бег |   турист |     0.0681 |
      бег |  инженер |     0.0458 |
      бег | фотограф |     0.0373 |
          |          |            |
   съёмка |   съёмка |     1.0000 |
   съёмка | фотограф |     0.5782 |
   съёмка |   турист |     0.2525 |
   съёмка | черчение |     0.2116 |
   съёмка |    поход |     0.1644 |
   съёмка |  инженер |     0.1579 |
   съёмка |      бег |     0.1342 |
   съёмка |    бегун |     0.1275 |
   съёмка |   ходьба |     0.1100 |
   съёмка |    атлет |     0.0975 |
          |          |            |
 черчение | черчение |     1.0000 |
 черчение |  инженер |     0.3575 |
 черчение |   съёмка |     0.2116 |
 черчение | фотограф |     0.1587 |
 черчение |   ходьба |     0.1207 |
 черчение |      бег |     0.1067 |
 черчение |    атлет |     0.0889 |
 черчение |    поход |     0.0794 |
 черчение |    бегун |     0.0705 |
 черчение |   турист |     0.0430 |
          |          |            |
    поход |    поход |     1.0000 |
    поход |   турист |     0.1896 |
    поход |   ходьба |     0.1753 |
    поход |   съёмка |     0.1644 |
    поход |    бегун |     0.1548 |
    поход |      бег |     0.1531 |
    поход |    атлет |     0.0889 |
    поход | черчение |     0.0794 |
    поход |  инженер |     0.0568 |
    поход | фотограф |    -0.0013 |
          |          |            |
   ходьба |   ходьба |     1.0000 |
   ходьба |      бег |     0.5410 |
   ходьба |    бегун |     0.3442 |
   ходьба |    атлет |     0.2469 |
   ходьба |    поход |     0.1753 |
   ходьба |   турист |     0.1650 |
   ходьба | черчение |     0.1207 |
   ходьба |   съёмка |     0.1100 |
   ходьба |  инженер |     0.0673 |
   ходьба | фотограф |     0.0642 |
          |          |            |
    бегун |    бегун |     1.0000 |
    бегун |      бег |     0.6618 |
    бегун |    атлет |     0.4909 |
    бегун |   ходьба |     0.3442 |
    бегун |    поход |     0.1548 |
    бегун |   турист |     0.1427 |
    бегун |  инженер |     0.1422 |
    бегун |   съёмка |     0.1275 |
    бегун | фотограф |     0.1209 |
    бегун | черчение |     0.0705 |
          |          |            |
 фотограф | фотограф |     1.0000 |
 фотограф |   съёмка |     0.5782 |
 фотограф |   турист |     0.3687 |
 фотограф |  инженер |     0.2334 |
 фотограф |    атлет |     0.1911 |
 фотограф | черчение |     0.1587 |
 фотограф |    бегун |     0.1209 |
 фотограф |   ходьба |     0.0642 |
 фотограф |      бег |     0.0373 |
 фотограф |    поход |    -0.0013 |
          |          |            |
  инженер |  инженер |     1.0000 |
  инженер | черчение |     0.3575 |
  инженер | фотограф |     0.2334 |
  инженер |   съёмка |     0.1579 |
  инженер |   турист |     0.1503 |
  инженер |    атлет |     0.1447 |
  инженер |    бегун |     0.1422 |
  инженер |   ходьба |     0.0673 |
  инженер |    поход |     0.0568 |
  инженер |      бег |     0.0458 |
          |          |            |
   турист |   турист |     1.0000 |
   турист | фотограф |     0.3687 |
   турист |   съёмка |     0.2525 |
   турист |    поход |     0.1896 |
   турист |   ходьба |     0.1650 |
   турист |  инженер |     0.1503 |
   турист |    атлет |     0.1495 |
   турист |    бегун |     0.1427 |
   турист |      бег |     0.0681 |
   турист | черчение |     0.0430 |
          |          |            |
    атлет |    атлет |     1.0000 |
    атлет |    бегун |     0.4909 |
    атлет |      бег |     0.3389 |
    атлет |   ходьба |     0.2469 |
    атлет | фотограф |     0.1911 |
    атлет |   турист |     0.1495 |
    атлет |  инженер |     0.1447 |
    атлет |   съёмка |     0.0975 |
    атлет |    поход |     0.0889 |
    атлет | черчение |     0.0889 |

Как эту задачу решает открытая семантика

Поиск по семантическому словарю даёт следующий результат:

    слово | семантический тег |
          |                   |
      бег |   ABSTRACT:ACTION |
   съёмка |   ABSTRACT:ACTION |
 черчение |   ABSTRACT:ACTION |
    поход |   ABSTRACT:ACTION |
   ходьба |   ABSTRACT:ACTION |
    бегун |             HUMAN |
 фотограф |             HUMAN |
  инженер |             HUMAN |
   турист |             HUMAN |
    атлет |             HUMAN |

Что сделано и где скачать

Результатом работы, опубликованном в репозитории на ГХ и доступным для скачивания, является описание иерархии классов и разметка (ручная и автоматическая) существительных по этим классам.

Для знакомства с датасетом можно воспользоваться интерактивным навигатором (ссылка в репозитории). Также существует упрощённая версию набора, в котором мы убрали всю иерархию и каждому слову присвоили один единственный крупный семантический тег: «люди», «животные», «места», «вещи», «действия» и т.д.

Ссылка на Гитхаб: открытая семантика русского языка (датасет).

О классах слов

В задачах классификации сами классы зачастую продиктованы решаемой проблемой и работа инженера данных сводится к поиску удачного набора признаков, поверх которого можно построить работающую модель.

В нашей задаче классы слов, строго говоря, заранее неизвестны. Здесь на помощь приходит большой пласт исследований по семантике, проделанных отечественными и зарубежными учёными-лингвистами, знакомство с существующими семантическими словарями и WordNet'ами.

Это хорошее подспорье, но всё же окончательное решение формируется уже внутри нашего собственного исследования. Дело здесь вот в чём. Многие семантические ресурсы начали создаваться в докомпьютерную эпоху (по крайней мере в современном понимании компьютера) и выбор классов во многом диктовался языковой интуицией их создателей. В конце предыдущего столетия WordNet'ы нашли активное применение в задачах автоматического анализа текстов и многие вновь созданные ресурсы были заточены под конкретные практические применения.

Результатом стало то, что данные языковые ресурсы одновременно содержат как лингвистические, так и внеязыковые, энциклопедические сведения об единицах языка. Логично предположить, что построить модель, которая бы проверяла внеязыковые сведения, опираясь только на статистический анализ текстов невозможно, ведь в источнике данных просто не содержится необходимых сведений.

Исходя из этого предположения мы ищем только естественные классы, которые могут быть обнаружены и автоматически проверены, опираясь на чисто лингвистическую модель. При этом архитектура системы допускает добавление сколь угодно большого количества дополнительных слоёв информации о языковых единицах, которые могут быть полезны в рамках практических применений.

Продемонстрируем вышесказанное на конкретном примере, разобрав слово «холодильник». Из лингвистической модели мы можем узнать, что «холодильник» это материальный объект, конструкция, является вместилищем типа «коробка или сумка», т.е. не предназначенном для хранения жидкостей или сыпучих тел без дополнительной ёмкости. При этом из этой модели не ясно, что «холодильник» является товаром, причём товаром длительного пользования, а также неясно, что это артефакт, т.е. объект, произведённый человеком. Это и есть внеязыковая информация, которая должна поставляться отдельно.

Результат работы модели для слова «холодильник»

Новогодний датасет 2018: открытая семантика русского языка - 2

Зачем всё это нужно

Как бы то ни было, человек в процессе обучения и познания действительности нанизывает дополнительные сведения об окружающих его объектах и явлениях на естественный каркас, усвоенный им в детстве. При этом некоторые концепты являются универсальными, независящими от предметной области, и могут успешно переиспользоваться.

Скажем «продавец» — это человек + функциональная роль. В некоторых случаях случаях продавцом может выступать группа людей или организация, но при этом всегда сохраняется субъектность: в противном случае будет невозможно выполнение целевого действия. Слова «обмен» или «обучение» называют действия, т.е. у них есть участники, длительность и результат. Точное содержание данных действий может значительно варьироваться в зависимости от ситуации и предметной области, но определённые аспекты будут представлять собой инвариант. Это и есть языковой каркас на который наслаивается переменное внеязыковое знание.

Наша цель найти и исследовать максимум доступной интралингвистической информации и построить на её основе объяснительную модель языка. Это позволит усовершенствовать существующие алгоритмы автоматической обработки текста, в т.ч. таких сложных, как разрешение лексической неоднозначности, разрешение анафоры, сложные случаи морфологической разметки. В процессе мы обязательно где-то будем упираться в необходимость привлечения внеязыковых знаний, но по крайней мере мы будем знать, где проходит та самая граница, когда внутренних знаний о языке уже недостаточно.

Классификация и обучение, набор признаков

Пока что мы работаем только с существительными, поэтому ниже, говоря «слово», будем подразумевать знаки, относящиеся только к этой части речи. Поскольку мы решили использовать только интралингвистическую информацию, то работать будем с текстами, снабжёнными морфологической разметкой.

В качестве признаков возьмём все возможные микроконтексты в которых встречается данное слово. Для существительных это будут:

  • ПРИЛ + X (красивые X: глаза)
  • ГЛАГ + X (вдеть X: нитку)
  • ГЛАГ + ПРЕДЛ + X (войти в X: дверь)
  • X + СУЩ_РОД (X: край стола)
  • СУЩ + X_РОД (рукоять X: сабли)
  • X_СУБЪЕКТ + ГЛ (X: сюжет развивается)

Типов микроконтекстов существует больше, но вышеперечисленные являются наиболее частотными и уже дают неплохой результат при обучении.

Все микроконтексты приводим к базовой форме и составляем из них набор признаков. Далее для каждого слова составляем вектор, i-ая координата которого будет коррелировать со встречаемостью заданного слова в i-ом микроконтексте.

Таблица микроконтекстов для слова «рюкзак»

 микроконтекст |          тип | встречаемость | значение |
               |              |               |          |
    достать из |      VBP_РОД |          3043 |   1.0000 |
       тяжёлый |          ADJ |          2426 |   0.9717 |
        карман |        NX_NG |          1438 |   0.9065 |
   вытащить из |      VBP_РОД |          1415 |   0.9045 |
     полезть в | VBP_ВИН_НЕОД |          1300 |   0.8940 |
         лямка |        NX_NG |          1292 |   0.8932 |
          свой |        NX_NG |          1259 |   0.8900 |
     небольшой |          ADJ |          1230 |   0.8871 |
      огромный |          ADJ |          1116 |   0.8749 |
       большой |          ADJ |           903 |   0.8485 |
       набитый |          ADJ |           849 |   0.8408 |
    содержимое |        NX_NG |           814 |   0.8356 |
      походный |          ADJ |           795 |   0.8326 |
        пустой |          ADJ |           794 |   0.8325 |
    порыться в |     VBP_ПРЕД |           728 |   0.8217 |
    тяжеленный |          ADJ |           587 |   0.7948 |
      школьный |          ADJ |           587 |   0.7948 |
    положить в | VBP_ВИН_НЕОД |           567 |   0.7905 |
      рыться в |     VBP_ПРЕД |           549 |   0.7865 |
      сунуть в | VBP_ВИН_НЕОД |           538 |   0.7840 |
      лежать в |     VBP_ПРЕД |           495 |   0.7736 |
     вынуть из |      VBP_РОД |           484 |   0.7708 |
          день |        NX_NG |           476 |   0.7687 |
        старый |          ADJ |           463 |   0.7652 |
       тяжесть |        NX_NG |           459 |   0.7642 |

Целевое значение, иерархия семантических срезов

Язык располагает естественными механизмами переиспользования слов из-за чего возникает такое явление как многозначность. При этом иногда переиспользуются не просто отдельные слова, а делается метафорический перенос целых концептов. Особенно хорошо это заметно при переходе от вещественных понятий к абстрактным.

Этот факт диктует необходимость иерархической классификации, при котором семантические срезы выстроены в древовидную структуру и разбиение происходит в каждом внутреннем узле. Это позволяет намного эффективнее справляться с многозначностью в микроконтекстах.

Примеры метафорического переноса концептов

Кроме решения насущных практических задач компьютерной лингвистики, наша работа преследует целью исследование слова и различных языковых явлений. Метафорический перенос концептов из вещественной плоскости в область абстрактного — явление, хорошо известное когнитивным лингвистам. Так, например, одним из ярчайших концептов в материальном мире является класс «контейнер» (в русскоязычной литературе часто именуемый «вместилище»).

Другая вездесущая онтологическая метафора — это метафора контейнера, или вместилища (container), предполагающая проведение границ в континууме нашего опыта и осмысление его через пространственные категории. По мнению авторов, способ восприятия окружающего мира человеком определяется его опытом обращения с дискретными материальными объектами и в частности его восприятием себя, своего тела. Человек — существо, отграниченное от остального мира кожей. Он — вместилище (container), и потому ему свойственно воспринимать прочие сущности как вместилища с внутренней частью и наружной поверхностью.

Скребцова Т. Г. Когнитивная лингвистика: классические теории, новые
подходы

Построенная нами модель действует в едином пространстве признаков и позволяет обучаться на вещественных примерах, а предсказания делать в области абстрактного. Это позволяет делать описанный выше перенос. Так, например, следующие слова представляют собой абстрактные контейнеры, что вполне согласуется с интуитивным представлением:

Новогодний датасет 2018: открытая семантика русского языка - 3

Ещё одним интересным примером может служить перенос концепции «жидкости» в сферу нематериального:

Новогодний датасет 2018: открытая семантика русского языка - 4

Выбор алгоритма

В качестве алгоритма мы использовали логистическую регрессию. Обусловлено это несколькими факторами:

  1. Исходная разметка так или иначе содержит определённое количество ошибок и шума.
  2. Признаки могут быть несбалансированными и также содержать ошибки — многозначность и метафорическое (переносное) использование слова.
  3. Предварительный анализ подсказывает, что адекватно выбранная граница раздела должна фиксироваться достаточно простым алгоритмом.
  4. Важна хорошая интерпретируемость алгоритма.

Алгоритм продемонстрировал вполне неплохую точность:

Логи работы алгоритма разметки

== ENTITY ==

  slice |    label | count | correctCount | accuracy |
        |          |       |              |          |
 ENTITY | PHYSICAL | 12249 |        11777 |   0.9615 |
 ENTITY | ABSTRACT |  9854 |         9298 |   0.9436 |
        |          |       |              |          |
        |          |       |              |   0.9535 |

== PHYSICAL:ROLE ==

         slice |     label | count | correctCount | accuracy |
               |           |       |              |          |
 PHYSICAL:ROLE |   ORGANIC |  7001 |         6525 |   0.9320 |
 PHYSICAL:ROLE | INORGANIC |  3805 |         3496 |   0.9188 |
               |           |       |              |          |
               |           |       |              |   0.9274 |

== PHYSICAL:ORGANIC:ROLE ==

                 slice |   label | count | correctCount | accuracy |
                       |         |       |              |          |
 PHYSICAL:ORGANIC:ROLE |   HUMAN |  4879 |         4759 |   0.9754 |
 PHYSICAL:ORGANIC:ROLE |  ANIMAL |   675 |          629 |   0.9319 |
 PHYSICAL:ORGANIC:ROLE |    FOOD |   488 |          411 |   0.8422 |
 PHYSICAL:ORGANIC:ROLE | ANATOMY |   190 |          154 |   0.8105 |
 PHYSICAL:ORGANIC:ROLE |   PLANT |   285 |          221 |   0.7754 |
                       |         |       |              |          |
                       |         |       |              |   0.9474 |

== PHYSICAL:INORGANIC:ROLE ==

                   slice |        label | count | correctCount | accuracy |
                         |              |       |              |          |
 PHYSICAL:INORGANIC:ROLE | CONSTRUCTION |  1045 |          933 |   0.8928 |
 PHYSICAL:INORGANIC:ROLE |        THING |  2385 |         2123 |   0.8901 |
 PHYSICAL:INORGANIC:ROLE |    SUBSTANCE |   399 |          336 |   0.8421 |
                         |              |       |              |          |
                         |              |       |              |   0.8859 |

== PHYSICAL:CONSTRUCTION:ROLE ==

                      slice |     label | count | correctCount | accuracy |
                            |           |       |              |          |
 PHYSICAL:CONSTRUCTION:ROLE | TRANSPORT |   188 |          178 |   0.9468 |
 PHYSICAL:CONSTRUCTION:ROLE | APARTMENT |   270 |          241 |   0.8926 |
 PHYSICAL:CONSTRUCTION:ROLE |   TERRAIN |   285 |          253 |   0.8877 |
                            |           |       |              |          |
                            |           |       |              |   0.9044 |

== PHYSICAL:THING:ROLE ==

               slice |             label | count | correctCount | accuracy |
                     |                   |       |              |          |
 PHYSICAL:THING:ROLE |          WEARABLE |   386 |          357 |   0.9249 |
 PHYSICAL:THING:ROLE |             TOOLS |   792 |          701 |   0.8851 |
 PHYSICAL:THING:ROLE |            DISHES |   199 |          174 |   0.8744 |
 PHYSICAL:THING:ROLE | MUSIC_INSTRUMENTS |    63 |           51 |   0.8095 |
 PHYSICAL:THING:ROLE |           WEAPONS |   107 |           69 |   0.6449 |
                     |                   |       |              |          |
                     |                   |       |              |   0.8739 |

== PHYSICAL:TOOLS:ROLE ==

               slice |           label | count | correctCount | accuracy |
                     |                 |       |              |          |
 PHYSICAL:TOOLS:ROLE | PHY_INTERACTION |   213 |          190 |   0.8920 |
 PHYSICAL:TOOLS:ROLE |     INFORMATION |   101 |           71 |   0.7030 |
 PHYSICAL:TOOLS:ROLE |       EM_ENERGY |    72 |           49 |   0.6806 |
                     |                 |       |              |          |
                     |                 |       |              |   0.8031 |

== ATTR:INORGANIC:WEARABLE ==

                   slice |        label | count | correctCount | accuracy |
                         |              |       |              |          |
 ATTR:INORGANIC:WEARABLE | NON_WEARABLE |   538 |          526 |   0.9777 |
 ATTR:INORGANIC:WEARABLE |     WEARABLE |   282 |          269 |   0.9539 |
                         |              |       |              |          |
                         |              |       |              |   0.9695 |

== ATTR:PHYSICAL:CONTAINER ==

                   slice |           label | count | correctCount | accuracy |
                         |                 |       |              |          |
 ATTR:PHYSICAL:CONTAINER |       CONTAINER |   636 |          627 |   0.9858 |
 ATTR:PHYSICAL:CONTAINER | NOT_A_CONTAINER |  1225 |         1116 |   0.9110 |
                         |                 |       |              |          |
                         |                 |       |              |   0.9366 |

== ATTR:PHYSICAL:CONTAINER:TYPE ==

                        slice |          label | count | correctCount | accuracy |
                              |                |       |              |          |
 ATTR:PHYSICAL:CONTAINER:TYPE | CONFINED_SPACE |   291 |          287 |   0.9863 |
 ATTR:PHYSICAL:CONTAINER:TYPE |      CONTAINER |   140 |          131 |   0.9357 |
 ATTR:PHYSICAL:CONTAINER:TYPE |       OPEN_AIR |    72 |           64 |   0.8889 |
 ATTR:PHYSICAL:CONTAINER:TYPE |     BAG_OR_BOX |    43 |           31 |   0.7209 |
 ATTR:PHYSICAL:CONTAINER:TYPE |         CAVITY |    30 |           20 |   0.6667 |
                              |                |       |              |          |
                              |                |       |              |   0.9253 |

== ATTR:PHYSICAL:PHY_STATE ==

                   slice |   label | count | correctCount | accuracy |
                         |         |       |              |          |
 ATTR:PHYSICAL:PHY_STATE |   SOLID |   308 |          274 |   0.8896 |
 ATTR:PHYSICAL:PHY_STATE |   FLUID |   250 |          213 |   0.8520 |
 ATTR:PHYSICAL:PHY_STATE |  FABRIC |    72 |           51 |   0.7083 |
 ATTR:PHYSICAL:PHY_STATE | PLASTIC |    78 |           42 |   0.5385 |
 ATTR:PHYSICAL:PHY_STATE |    SAND |    70 |           31 |   0.4429 |
                         |         |       |              |          |
                         |         |       |              |   0.7853 |

== ATTR:PHYSICAL:PLACE ==

               slice |       label | count | correctCount | accuracy |
                     |             |       |              |          |
 ATTR:PHYSICAL:PLACE | NOT_A_PLACE |   855 |          821 |   0.9602 |
 ATTR:PHYSICAL:PLACE |       PLACE |   954 |          914 |   0.9581 |
                     |             |       |              |          |
                     |             |       |              |   0.9591 |

== ABSTRACT:ROLE ==

         slice |       label | count | correctCount | accuracy |
               |             |       |              |          |
 ABSTRACT:ROLE |      ACTION |  1497 |         1330 |   0.8884 |
 ABSTRACT:ROLE |       HUMAN |   473 |          327 |   0.6913 |
 ABSTRACT:ROLE |     PHYSICS |   257 |          171 |   0.6654 |
 ABSTRACT:ROLE | INFORMATION |   222 |          146 |   0.6577 |
 ABSTRACT:ROLE |    ABSTRACT |    70 |           15 |   0.2143 |
               |             |       |              |          |
               |             |       |              |   0.7896 |

Анализ ошибок

Возникающие при автоматической классификации ошибки обусловлены тремя основными факторами:

  1. Омонимия и полисемия: слова, имеющие одинаковое начертание, могут иметь разное значение (мука и мука, остановка как процесс и остановка как локация). Сюда же можно отнести метафорическое употребление слов и метонимию (например дверь будет классифицирована как замкнутое пространство — это ожидаемая особенность языка).
  2. Несбалансированность контекстов употребления слова. Некоторые органичные употребления могут отсутствовать в исходном корпусе, приводя к ошибкам при классификации.
  3. Неверно выбранная граница класса. Можно провести такие границы, которые невычислимы из контекстов и требуют привлечения внеязыковых знаний. Тут алгоритм будет бессилен.

На данном этапе мы обращаем внимание только на ошибки третьего типа и корректируем выбранную границу между классами. Ошибки первых двух типов в заданной конфигурации системы неустранимы, но при достаточном объёме размеченных данных они не представляют большой проблемы — это видно из точности разметки верхних проекций.

Что дальше

На данный момент датасет охватывает большинство существительных, существующих в русском языке и представленных в корпусе в достаточном разнообразии контекстов. Основной фокус был сделан на вещественных объектах — как наиболее понятных и проработанных в научных работах. Остаются задачи по уточнению существующей разметки с учётом данных, полученных от алгоритма, и работа с классами на нижних ярусах, где наблюдается падение точности предсказания, обусловленное размыванием границ между категориями.

Но это в своём роде рутинная работа, которая есть всегда. Качественно новой пласт исследований будет касаться возможности классификации того или иного слова в конкретном контексте или предложении, что позволит учесть явления омонимии и полисемии, включая метафору (переносные значения).

Также у нас сейчас в работе несколько сопутствующих проектов:

  • словарь узнаваемости слов РЯ: вариация частотного словаря, где понятность и знакомость слова оценивается в результате краудсорсинговой разметки, а не высчитывается по корпусу текстов.
  • открытый корпус по разрешению лексической неоднозначности: по мотивам соревнования RUSSE 2018 WSI&D Shared Task, проводимого в рамках конференции Диалог-2018, стала понятна полезность корпуса со снятой лексической неоднозначностью для апробации автоматических алгоритмов по дизамбигуации и кластеризации значений слов. Также данный корпус понадобится нам для перехода к описанному в предыдущем абзаце этапу работы над открытой семантикой.

Тональный словарь русского языка

Тональный словарь представляет собой слова и выражения РЯ, размеченные по тональности и силе выраженности эмоционально-оценочного заряда. Проще говоря, насколько то или иное слово является «плохим» или «хорошим».

В настоящий момент размечено 67.392 знака (из них 55.532 слов и 11.860 выражений).

Обратная связь и распространение датасета

Будем рады любой обратной связи в комментариях — от критики работы и выбранных нами подходов до ссылок на интересные исследования и статьи по теме.

Если у вас есть знакомые или коллеги, которым может быть интересен опубликованный датасет, перешлите им ссылку на статью или репозиторий, чтобы помочь в распространении открытых данных.

Ссылка на скачивание и лицензия

Датасет: открытая семантика русского языка

Датасет распространяется по лицензии CC BY-NC-SA 4.0.

Автор: kdenisk

Источник

* - обязательные к заполнению поля