ОБЩЕСТВО

«ВКонтакте» запустили нейросеть для поиска суицидальных групп

Сеть может распознавать нежелательные изображения и тексты, призывающие к суициду.

Социальная сеть «Вконтакте» запустила собственную нейросеть, способную выявлять нежелательный контент.

По разработанному алгоритму нейросеть может распознавать на изображениях, размещенных пользователями, различные объекты, в том числе людей, предметы одежды, растения и животных. Картинкам присваивается специальный рейтинг, по которому сеть определяет, содержатся ли в аккаунте или группе опасные материалы, порнография или спам. Также нейросеть «обучена» анализировать хэштеги и текст на фотографиях.

Когда нежелательный контент обнаруживается, алгоритм отправляет его на проверку модераторам или убирает из новостных лент и поисковой выдачи. При этом специальный сценарий работает для борьбы с «группами смерти». Изображения и тексты на суицидальные темы автоматически удаляются. Страницы авторов, разместивших контент, блокируются.

Алгоритм нейросети разработан на основе предыдущих жалоб участников «ВКонтакте». Как рассказал директор направления Big Data и Machine Learning соцсети Андрей Законов, новая технология помогает более эффективно бороться с противоправным контентом, а также дает возможность формировать новостные ленты с учетом предпочтений пользователей.

Нейросети действуют по принципу работы мозга человека, однако распознавать простые объекты у них выходит гораздо лучше, чем у людей, пишут «Известия».