Автоматическая генерация коротких текстов на основе применения нейронных сетей LSTM и SeqGAN

Проведено исследование качества генерации коротких текстов на основе применения нейронных сетей LSTM и SeqGAN на русском и английском языках. Для обучения нейронной сети используются следующие подходы: оценка максимального правдоподобия и состязательная сеть, генерирующая последовательность (Se...

Full description

Bibliographic Details
Published in:Вестник Томского государственного университета. Управление, вычислительная техника и информатика № 57. С. 118-130
Main Author: Кривошеев, Николай Анатольевич
Other Authors: Иванова, Юлия Александровна 1986-, Спицын, Владимир Григорьевич
Format: Article
Language:Russian
Subjects:
Online Access:http://vital.lib.tsu.ru/vital/access/manager/Repository/koha:000725852
Перейти в каталог НБ ТГУ
LEADER 03580nab a2200349 c 4500
001 koha000725852
005 20230319234258.0
007 cr |
008 220125|2021 ru s c rus d
024 7 |a 10.17223/19988605/57/13  |2 doi 
035 |a koha000725852 
040 |a RU-ToGU  |b rus  |c RU-ToGU 
100 1 |a Кривошеев, Николай Анатольевич  |9 770068 
245 1 0 |a Автоматическая генерация коротких текстов на основе применения нейронных сетей LSTM и SeqGAN  |c Н. А. Кривошеев, Ю. А. Иванова, В. Г. Спицын 
246 1 1 |a Automatic generation of short texts based on the use of neural networks LSTM and SeqGAN 
336 |a Текст 
337 |a электронный 
504 |a Библиогр.: 26 назв. 
520 3 |a Проведено исследование качества генерации коротких текстов на основе применения нейронных сетей LSTM и SeqGAN на русском и английском языках. Для обучения нейронной сети используются следующие подходы: оценка максимального правдоподобия и состязательная сеть, генерирующая последовательность (Sequence Generative Adversarial Nets, SeqGAN). В данной работе реализация SeqGAN не включает алгоритм Монте-Карло. Предложен и реализован подход на основе возведения значений выходного вектора нейронной сети (вектора вероятностей) в степень, большую 1, данная операция позволяет увеличить качество генерируемого текста, но снижает его разнообразие. Обучение и тестирование проводятся на основе следующих выборок данных: сборника русских стихов с сайта Stihi.ru и подписей к изображениям на английском языке из выборки COCO Image Captions. Проведена оценка качества генерации текстов на основе метрики BLEU. Приведены примеры сгенерированных текстов. Проанализированы аналогичные решения. 
653 |a генерация текста 
653 |a состязательное обучение с подкреплением 
653 |a нейронные сети 
655 4 |a статьи в журналах  |9 879358 
700 1 |a Иванова, Юлия Александровна  |d 1986-  |9 795483 
700 1 |a Спицын, Владимир Григорьевич  |9 69289 
773 0 |t Вестник Томского государственного университета. Управление, вычислительная техника и информатика  |d 2021  |g  № 57. С. 118-130  |x 1998-8605  |w 0210-40860 
852 4 |a RU-ToGU 
856 4 |u http://vital.lib.tsu.ru/vital/access/manager/Repository/koha:000725852 
856 |y Перейти в каталог НБ ТГУ  |u https://koha.lib.tsu.ru/cgi-bin/koha/opac-detail.pl?biblionumber=725852 
908 |a статья 
039
999 |c 725852  |d 725852