«ВКонтакте» запустили нейросеть для поиска суицидальных групп
Сеть может распознавать нежелательные изображения и тексты, призывающие к суициду.
Социальная сеть «Вконтакте» запустила собственную нейросеть, способную выявлять нежелательный контент.
По разработанному алгоритму нейросеть может распознавать на изображениях, размещенных пользователями, различные объекты, в том числе людей, предметы одежды, растения и животных. Картинкам присваивается специальный рейтинг, по которому сеть определяет, содержатся ли в аккаунте или группе опасные материалы, порнография или спам. Также нейросеть «обучена» анализировать хэштеги и текст на фотографиях.
Когда нежелательный контент обнаруживается, алгоритм отправляет его на проверку модераторам или убирает из новостных лент и поисковой выдачи. При этом специальный сценарий работает для борьбы с «группами смерти». Изображения и тексты на суицидальные темы автоматически удаляются. Страницы авторов, разместивших контент, блокируются.
Алгоритм нейросети разработан на основе предыдущих жалоб участников «ВКонтакте». Как рассказал директор направления Big Data и Machine Learning соцсети Андрей Законов, новая технология помогает более эффективно бороться с противоправным контентом, а также дает возможность формировать новостные ленты с учетом предпочтений пользователей.
Нейросети действуют по принципу работы мозга человека, однако распознавать простые объекты у них выходит гораздо лучше, чем у людей, пишут .
