Тайные проверки для сервиса знакомств

Задача:

Решение:

Чтобы проверить сервис знакомств на наличие нарушений, мы выстроили процесс в четыре этапа: от создания профилей до систематизации нарушений. Проект оказался ближе к исследованию в области социальной инженерии, чем к классической модерации.

1. Создание реалистичных профилей

• Фотографии:
  Использовали нейросети для генерации внешности, но сразу столкнулись с проблемами: непропорциональные черты лица, неестественные детали, дублирующиеся элементы. Потребовалась доработка изображений, чтобы они выглядели как фото живых людей.Для каждого профиля подготовили не менее 3–4 изображений в разных контекстах (селфи, на улице, в кафе и т.п.), чтобы вызывать доверие.

• Пол и возраст:
  Создали 6 профилей, как женских, так и мужских, разных возрастных категорий (от студентов до взрослых состоявшихся людей). Это позволило проверить, как реагируют пользователи на разные социальные типажи.

2. Разработка легенд и анкет

• Легенды:
  У каждого персонажа была своя история: имя, профессия, интересы, жизненные обстоятельства. Например: «Артем, 38 лет, архитектор, только переехал в город, ищет общения». Легенды писались редакторами Data Light живо и без шаблонных фраз.
• Тональность и стиль:
  В проверках учитывались и разные стили общения: кто-то шутит, кто-то сдержан, кто-то активно флиртует. Это помогало тестировать разные поведенческие сценарии.

3. Подбор и обучение исполнителей

• Выбор исполнителей
  Проверку проводили реальные люди, каждому были переданы детализированные анкеты, легенды и фото.
• Инструктаж:
  Мы обучили исполнителей:
  • как вести диалог;
  • как реагировать на потенциальные нарушения;
  • как собирать и фиксировать доказательства (скриншоты, ссылки, логи переписки);
  • в каких случаях прекращать общение и сообщать координатору
• Обратная связь:
  В течение проекта с проверяющими проводились регулярные созвоны для разбора сложных ситуаций, поддержания легенд и оперативной корректировки подхода.

4. Ведение переписок и фиксация нарушений

• Объем переписок:
  За 1,5 месяца было проведено 2118 переписок. В день — от 40 до 80 чатов на одного исполнителя.
• Каналы общения:
  Общение велось как на сайте, так и в сторонних мессенджерах. Переход в них отслеживался — фиксировались причины и поведение пользователей после перехода.
• Классификация нарушений:
  Нарушения делились на типы:
  • Предложение интимных услуг;
  • Вымогательство с участием несовершеннолетних;
  • Рекрутинг в нелегальные проекты (крипта, работа с «приватными клиентами»);
  • Мошенничество (подставные свидания, фальшивые вакансии и т.п.);
  • Несоответствующее правилам поведение (угрозы, шантаж, провокации).