ПРОСОДИЧЕСКИЙ ИНДЕКС: АНАЛИЗ ВЫДЕЛЕННОСТИ СЛОВ С ИСПОЛЬЗОВАНИЕМ MULTI-HEAD ATTENTION И BERT

Аннотация

Статья посвящена проблеме смыслообразования в тексте, где тембр, как особая сверхсегментная окраска речи, играет ключевую смыслоразличительную роль. Благодаря тембру говорящий способен выделить элементы речи. Несмотря на то, что в ранних исследованиях машинного обучения делали акцент на анализе просодических свойств речи, в последующем этот вопрос не получил должного развития. Реципиент улавливает скрытые и небуквальные значения и понимает смысл высказывания посредством определения выделенности элементов речи. Использование механизма многоголосового внимания и BERT позволяет вычислять выделенность слов. Метод, предложенный в работе, основан на моделировании просодического индекса, который является количественной мерой выделенности слова, отражающей его вклад в просодические и семантические аспекты текста. Выяснилось, что метод просодического индекса позволяет оценивать выделенность слов в контексте более точно, чем традиционные методы, такие как bag-of-words и TF-IDF.