"Ладе" можно доверять: как чат-бот помогает жертвам домашнего насилия

Корреспондент ТАСС поговорила с разработчиками, чтобы узнать, как он работает и смог ли оказать реальную помощь тем, кто в ней нуждается. Проректор по развитию на основе анализа данных ВятГУ, победитель специализации "Наука" конкурса "Лидеры России — 2020" Екатерина Митягина поделилась некоторыми историями, которые мы приводим ниже. По этическим соображениям имена девушек в тексте изменены.

"Ладе" можно доверять: как чат-бот помогает жертвам домашнего насилия
© ТАСС

История с освобождением

Марина — студентка. Сейчас у нее насыщенная жизнь: она ходит на пары с одногруппниками, мечтает о собственной счастливой семье, муже и детях. И о собственном большом гардеробе. Раньше она не могла рассчитывать ни на что, кроме обносков. Девушка рано лишилась родных отца и матери и росла в приемной семье. Ее приютили родственники — многодетная семья, где она оказалась младшим ребенком. Отношение к девочке с самого начала было неприветливое. Вся тяжелая работа по дому почти сразу стала ее обязанностью.

При этом жестокие наказания — за малейшую провинность. Девочка жила так годами и не знала, что бывает иначе, поэтому не жаловалась. Да и некому. Невыносимо стало, когда старший брат заметил в Марине женщину. Расположения девушки он не добивался, просто изнасиловал. Девушка пыталась сбежать, но ее нашли и вернули обратно, а позже выяснилось, что она беременна. Приемный отец сам отвел на аборт, после чего жестоко избил.

О том, что девушке приходится несладко, догадывалась ее учительница. Женщина понимала, что тратиться на выпускное платье для Марины никто не будет, и решила подарить его девушке сама. Тут все и открылось. Учительница была шокирована услышанным, захотела помочь. Стала изучать форумы на тему домашнего насилия, начала советоваться с теми, у кого есть аналогичный опыт. По комментариям учителя нашла "Лада" — цифровой след, который обнаружил умный чат-бот, помог связаться сначала с ней, а затем выйти на саму Марину. Помочь девушке взялись специалисты Вятского государственного университета.

Психологу удалось объяснить Марине, что отношение родственников к ней — это не норма, что, к сожалению, она стала жертвой домашнего насилия. Вскоре девушка приняла решение переехать и постепенно смогла начать новую жизнь. Тем не менее с девушкой все еще работают психологи, так как справиться с травмой, которая формировалась годами, задача не из простых.

"Ладе" можно рассказать все

Бывает и так, что жертвы насилия сами находят "Ладу" и впервые решаются признаться в своей беде именно ей, рассказывает Екатерина Митягина. Так случилось с Еленой. Она пережила трагическую смерть мужа и отца в автокатастрофе. Пришлось срочно искать работу — до этого Елена занималась лишь воспитанием детей. Спустя какое-то время женщина встретила другого человека и смогла во второй раз выйти замуж, но, как оказалось, попала в руки к тирану.

Имело место экономическое, физическое и сексуальное насилие. Мужчина не позволял работать и получать пособия на детей, шантажировал, что отправит всех на улицу. Женщина была вынуждена подчиняться, потому что не знала, как противостоять насилию. Жизнь превратилась в бесконечный кошмар, а поделиться было не с кем. Именно тогда Елена решилась написать чат-боту. Вскоре с ней связались специалисты. Сейчас с женщиной работают психологи и юристы центра, которые в том числе помогают отстаивать ее права в суде.

Привычка сильнее

Если кому-то кажется, что жертвами домашнего насилия в основном становятся слабые и недостаточно образованные люди, то вот обратный пример. Светлана — умная, красивая женщина, с несколькими высшими образованиями, более десяти лет замужем за не менее образованным человеком. Они познакомились, когда женщина была в браке. Мужчина сделал все, чтобы она развелась и ушла к нему, а затем постепенно начал психологически ломать свою супругу.

Он высказывал претензии по поводу внешности, вкуса, кулинарных способностей, образованности молодой жены. При этом мужчина контролировал каждый шаг супруги, в том числе общение с друзьями. На любое возражение он отвечал, что она должна быть благодарна тому, что он ее взял в жены с такими недостатками.

Светлана сама написала чат-боту и попросила помощи. Психологи долго с ней работали, объясняя, что она стала жертвой супруга-насильника. Женщина долго не решалась уйти от мужа, терпела унижения и измены. Но потом все же подала на развод.

Кто такая "Лада"?

За каждой из этих историй — женщина со сломанной или искалеченной судьбой. Пока нельзя сказать, что с началом общения с "Ладой" их жизнь резко наладилась, признается руководитель проекта Екатерина Митягина. Это большая долгая работа, которая может длиться годами, а чат-бот существует не так давно — проект по поиску жертв супружеского насилия начали в декабре 2019 года.

Идея его создания возникла, прежде всего, потому, что жертвы супругов-тиранов довольно редко и неохотно обращаются в центры помощи. Как рассказывает Екатерина Митягина, в большинстве случаев, когда идет речь о супружеском насилии, затрагиваются интересы ребенка и центр обязан уведомить соответствующие органы, в том числе полицию, службу опеки, соцзащиты и так далее. А жертвы абьюза боятся, что об их истории кто-то узнает.

"Мы попробовали создать чат-бот, с которым можно пообщаться виртуально. Вроде бы это безболезненно, открыться цифровому помощнику проще. Но тоже возникла проблема — слишком короткая "дорожка" для общения. В большинстве случаев мы перенаправляем людей на психолога, юриста или специалиста нашего центра социально-психологической помощи. Оказалось, даже к такому формату общения люди были не готовы. Вероятно, считали, что их история станет открытой, доступной. А вдруг о них еще напишут", — рассказывает проректор ВятГУ.

Ученые придумали решение — не ждать, когда жертвы сами найдут и обратятся к чат-боту, а пытаться самостоятельно автоматически искать просьбы о помощи, используя алгоритмы машинного обучения. "На самом деле это очень сложная научная задача, — признается Митягина. — Чтобы ее решить, приходится прибегать к ручной экспертной разметке. Нам в этом помогают студенты".

Как обучают умного бота?

Работа чат-бота устроена таким образом, что из огромного множества сообщений он умеет находить именно те, в которых идет речь о насилии. Причем это не просто упоминание о насилии, а просьба о помощи. Такой навык у бота был не с момента создания, его этому обучили. Очень упрощенно процесс его работы выглядит примерно так: чат-боту предоставляют большой объем данных из Сети, а затем показывают алгоритм, по которому из этого множества следует выбрать только те, где содержится просьба о помощи.

Безусловно, чат-бот анализирует далеко не все сообщения в Сети. Его разработчики из ВятГУ совместно с другими вузами состоят в так называемом университетском консорциуме исследователей больших данных. Консорциум был организован Томским университетом, сейчас в него входят другие вузы, которые занимаются анализом данных, а также индустриальные партнеры. Последние и предоставляют ученым материалы в свободное пользование.

Кроме того, томскими специалистами разработана платформа по поиску данных в социальных сетях. Благодаря ее работе у исследователей появляется "корпус" текстов, который постоянно обновляется в автоматическом режиме.

Чтобы обучить чат-бота, все множество текстов сначала должно пройти ручную обработку. После нее из 100 тыс. текстов, к примеру, останется около 5–10 тыс. релевантных. Специалисты исключают все, что не относится к теме супружеского насилия, и даже то, что отражает насилие против других членов семьи.

"Например, нас не интересует старшее поколение и дети — потому что мы все-таки не специальные органы, — поясняет Екатерина Митягина. — Не наш случай и если речь идет о событиях, происходящих в другой стране. Например, была история: в Риме арестовали итальянца, проявлявшего агрессию по отношению к жене-россиянке. Мы нашли их, но затем решили, что пока постараемся помочь хотя бы тем, кто проживает на территории нашей страны".

После того как ученые в ручном режиме разметили релевантные сообщения, обучили нейронную сеть, она уже сама может автоматически искать нужную информацию. Затем наступает следующий этап обучения. Для этого нужно обозначить, на какие еще категории можно разделить сообщения. Например, по типу насилия. Как рассказала Екатерина Митягина, на данный момент выделено физическое, сексуальное, психологическое и экономическое насилие. Когда сделана и эта разметка, нейронная сеть умеет определять тип насилия, обучение можно продолжить по типу насильника: мужчина или женщина. Затем — по видам насилия.

"Например, существует системное насилие, то есть контроль над жертвой. Бывает ситуационное, провокационное, насилие, вызванное разрывом отношений, когда, например, запрещают встречаться с детьми. Есть еще много других характеристик", — отмечает Митягина.

Какие сообщения могут привлечь внимание бота?

Как уже понятно, чат-бот начинает поиск автора сообщения, если видит в нем просьбу о помощи. Сначала ученые искали эти просьбы по ключевым словам типа "спасите", "помогите", "посоветуйте". В какой-то момент, как говорит Екатерина Митягина, стало понятно, что таким образом теряется целый пул сообщений. И тогда было решено анализировать все тексты, которые идут от первого лица.

Если рассказ ведется от третьего лица, и это именно история, а не просто мнение, то и он становится интересен исследователям. В таком случае начинаются поиски дополнительных доказательств того, что события реальны. Для этого ученые разбивают сообщение на отдельные лексемы (смысловые отрезки) и начинают искать подобные истории.

Должны совпасть детали, отдельные подробности, которые вряд ли могли повториться у другого человека. Когда ученые находят несколько похожих сообщений, в которых идет речь об одном и том же человеке, его достаточно быстро находят по цифровому следу, говорит Митягина.

Деликатный подход

Жертвы — это очень боязливые люди, отмечает Екатерина. Писать им напрямую нельзя. Это отпугнет. Человек может закрыться, удалиться из всех соцсетей. К таким людям нужен деликатный подход. Ученые настраивают для них таргет. То есть во время просмотра веб-страниц жертвы насилия видят рекламу чат-бота "Лада". Остается просто кликнуть на баннер. Пользователь сам принимает решение — обратиться за помощью или нет.

"Когда мы точно знаем, что конкретному человеку нужна помощь, мы таким образом выстраиваем таргет, что у него довольно часто появляются сообщения с рекламой нашего сайта. И у нас большой процент переходов. Только когда жертва к нам переходит сама, мы видим, что она смотрела сайт, даже если она ничего не написала, мы все равно можем с ней связаться. Но изначально это должно быть ее решение — обратиться за помощью. Иначе они закрываются. Это невозможно, чтобы мы написали: "Здравствуйте, мы знаем, что у вас проблема", — говорит Митягина.

Вместе с тем она отмечает, что на то, чтобы вывести человека из состояния жертвы, могут уйти годы, "это очень сложный и долгий процесс". Познакомиться с "Ладой" может каждый желающий по ссылке.

Кристина Мирошниченко