«ВКонтакте» запустила нейросеть для поиска суицидального контента и порнографии

Социальная сеть «ВКонтакте» запустила алгоритм собственной разработки для поиска «опасного» контента. Технология способна определять опасные и мошеннические материалы, спам и порнографию.

Алгоритм присваивает информации специальный рейтинг, определяя, содержится ли на картинках запрещенный контент. Технология также способна анализировать текстовые надписи на изображениях, пишут «Известия».

В случае, если нейросеть характеризует данные как «опасные», они направляются модераторам для проверки.

«Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством. Мы обучили нашу нейросеть на основе жалоб пользователей на разный контент», — пояснил руководитель направления Big Data и Machine Learning «ВКонтакте» Андрей Законов.

Ранее белорусские следователи попросили у российских коллег помощи в борьбе с «группами смерти».