Boom metrics
Умные вещи27 июня 2024 7:41

ОК начали автоматически обнаруживать и скрывать эротические изображения в соцсети

Обновление стало еще одним шагом к поддержанию на платформе комфортной среды
Источник:kp.ru
Фото: ОК

Фото: ОК

«Одноклассники» теперь автоматически обнаруживают и размывают в ленте и комментариях к публикациям в соцсети изображения и GIF-файлы, которые пользователи считают эротическими. Обновление стало еще одним шагом к поддержанию на платформе комфортной среды.

Если пользователь захочет посмотреть скрытое изображение или GIF-файл, он может кликнуть по нему либо проигнорировать и пропустить. Чтобы лучше выявлять и ограничивать такой контент, ОК провели исследование среди пользователей и выяснили, что именно они считают эротикой, которую не хотят видеть. Людям предложили оценить, насколько изображения откровенны и неприемлемы, и выразить свое желание или нежелание сталкиваться с ними в соцсети.

На примерах, которые респонденты посчитали нежелательным, инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент. Всего ОК использовали более шести миллионов файлов и разработали две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определенному типу, за счет чего он или размывается, или остается в первоначальном виде.

Помимо скрываемого контента, ОК по результатам исследования определили, какие категории изображений можно показывать пользователям соцсети. Например, обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей (классическая живопись с Венерой или статуи с Аполлоном, пловцы, ватерполисты, легкоатлеты и другие). При этом пользователи все так же могут пожаловаться на нежелательный и неприемлемый контент любой категории в интерфейсе соцсети или через обращение в службу поддержки.

Александр Москвичев, директор по продукту ОК: «Создание комфортной среды для взаимодействия пользователей - один из главных приоритетов ОК. За последние два года мы реализовали десятки улучшений в продукте, которые позволяют людям чаще общаться, смотреть видео, комментировать и знакомиться друг с другом на площадке, не опасаясь грубости, неприемлемого контента или навязчивых знакомств. Теперь благодаря помощи наших пользователей и технологиям люди в ОК будут видеть еще меньше нежелательного контента».

ОК активно внедряют новые технологии, чтобы создавать комфортную среду для увлечений и общения. Ранее соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их: вместо ненормативной лексики пользователи видят звездочки. Также ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент. Например, блокируют то, что предназначено для аудитории 18+, и размывают фотографии со сценами насилия. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.