Герда-бот: новый сервис родительского контроля анализирует опасный контент и уведомляет родителей

На прошлой неделе в тестовом режиме запустился сервис «Герда». Это бот, который анализирует группы с опасным контентом в соцсети «ВКонтакте» и сообщает родителям, если ребёнок стал участником одной из них. Мы поговорили с Марком Евлампиевым, одним из создателей «Герды», и узнали подробности работы нового сервиса родительского контроля.

Расскажите о себе: где учились, чем занимаетесь сейчас?

Я учился в Высшей школе экономики в Перми, изучал маркетинг. Закончил бакалавриат и магистратуру. Сейчасживу и работаю в Москве.

Кто разработал бота «Герду»?

У нас небольшая команда единомышленников: помимо меня, есть ещё несколько разработчиков и аналитик-лингвист. Также мы регулярно советуемся с экспертами. Ещё до начала разработки проекта мы связались снесколькими детскими психологами, рассказали нашу идею, потому что нам важно было понять, точно ли мыидём в нужную сторону, не будет ли хуже, если такой сервис появится. Эксперты сказали, что идея здравая, ноеё нужно правильно реализовать.

Мы сами находим опасные группы через определённые алгоритмы, но также сотрудничаем с несколькимобщественными организациями (например, «Правда вместе»), которые также ищут подобные страницы. У нихесть списки, которыми мы тоже пользуемся.

А раньше вы создавали проекты детско-родительской тематики?

Нет, но мы занимались изучением социальных сетей. Например, в 2016 году я писал диссертацию об уровне счастья — через нейронные сети анализировал посты Instagram-пользователей в Перми, изучал локации, фотографии, подписи, комментарии.

Как появилась идея сервиса? «Вдохновили» нашумевшие истории про синих китов?

В целом у нас исследовательский интерес. Хочется в этом самим разобраться, найти какие-то закономерности. Да и давно думали сделать проект, связанный с детьми, потому что тема актуальная. Но окончательно идеясложилась после событий в пермской школе, когда один из учеников устроил поножовщину, а потомвыяснилось, что он был подписан на «Колумбайн» и интересовался другим опасным контентом.

Сколько групп и сообществ вы проанализировали, готовясь к запуску? 

Пока мы запустились в тестовом режиме, и на данный момент в нашей базе порядка тысячи групп, и мыежедневно её обновляем.

Обновления происходят автоматически?

Пока это происходит в полуручном режиме. Мы сами анализируем названия, описания, контент, комментарии. Наши алгоритмы ещё не могут определять всё на 100%. Но думаю, что большая часть работы в дальнейшембудет автоматизирована.

В каких случаях «Герда» информирует родителей?

Сейчас всё просто — состоит ли ребёнок в группе из нашей базы или нет. Мы решили начать с этого несложногоалгоритма, чтобы поскорее запуститься (на разработку сейчас мы потратили три недели).

Но ведь чтобы получать информацию из опасных групп, ребёнку необязательно в неё вступать: он можетне быть участником сообщества, но при этом периодически заходить туда и читать / смотреть контент, который там публикуется.

Безусловно. Но вот что важно. Приступив к разработке, мы изучали опыт зарубежных коллег. Американские и европейские стартапы дают родителям полный контроль: сервисы следят за переписками, действиями, перемещениями. Мы решили, что не будем идти по этому же пути и будем использовать только открытую информацию, потому что вторгаться в личную жизнь ребёнка — это не самый лучший вариант.

Полный текст интервью читайте на сайте Media Kid

Или посмотрите ещё что-нибудь интересное:

Интернет-зависимость: рекомендации психолога родителям подростков

Сказка или быль: как создают книги с дополненной реальностью

Нашкодили: зачем детям кодинг и программирование?

– Образовательные сайты для детей