ВКонтакте развивает безопасную среду для пользователей: представлена нейросеть, которая защищает от нежелательного внимания с режимом «Личное пространство»

27.12.2022 |

Специальные алгоритмы соцсети будут выявлять оскорбительные комментарии и токсичное поведение, а также предлагать активировать «Личное пространство» — режим, который позволяет оградить себя от нежелательного внимания.

Команда ВКонтакте разработала уникальную нейросеть, способную определять ругательства, оскорбления и другие негативные высказывания в постах и комментариях. С помощью собственных алгоритмов соцсеть будет выявлять всплески подобной активности на страницах пользователей, предупреждать их о возможной опасности и предлагать включить режим «Личное пространство» — специальный набор настроек, который позволяет на время ограничить круг общения, оградить себя от нежелательных собеседников и отдохнуть от лишнего внимания.

Предложение активировать режим будет приходить пользователям, которые за час получили более трёх негативных комментариев или постов от юзеров, не входящих в список их друзей. Подобная активность будет отслеживаться и фиксироваться с помощью нейросети: алгоритм на основе искусственного интеллекта будет сразу отправлять уведомление с предложением включить режим. После отправки уведомления нейросеть приостановит свою работу на сутки, а потом возобновит. В сумме пользователю может прийти не более трёх уведомлений за месяц. Нейросеть считывает активность только в открытых профилях.

После активации режима «Личное пространство» настройки приватности страницы изменятся на неделю: писать и звонить смогут только друзья или друзья друзей, а отправлять заявки в друзья — только друзья друзей. Профиль пользователя станет закрытым: добавлять его в чаты и отмечать на фотографиях получится только у друзей. Помимо этого, после включения режима пользователи будут видеть в ленте новостей специальные тематические материалы и рекомендации для улучшения ментального здоровья. Через неделю режим отключится, при необходимости его можно активировать снова.

Иван Корнеев, глава команды модерации и администрирования ВКонтакте:
«Главный приоритет ВКонтакте — безопасность и комфорт наших пользователей. В социальной сети есть более 20 настроек приватности, выбрать которые можно по своему усмотрению, а благодаря режиму „Личноепространство“ пользователи могут оградить себя от нежелательного общения всего в одно касание. В рамках нашего подхода по внедрению полезных инноваций мы разработали уникальную нейросеть. Она была обучена на сотнях тысяч специально размеченных негативных комментариев. Благодаря этому она способна эффективно распознавать токсичные фразы, чтобы помочь пользователям лучше понять, когда стоит оградить себя от нежелательного внимания, чтобы сохранить ментальное здоровье».

В середине октября ВКонтакте представила режим «Личное пространство», призванный помочь в формировании комфортной и дружелюбной среды.

Ранее социальная сеть начала предупреждать пользователей о подозрительных собеседниках в мессенджере. В новом групповом чате или беседе с незнакомым человеком теперь появляется уведомление о потенциальной опасности, если алгоритмы зафиксировали подозрительную активность. Благодаря тому, что пользователи своевременно получают предупреждения о возможной угрозе, мошенникам сложнее обманным путём заполучить чужие деньги, пароли и другие личные данные.