4 мин.

Спортс” изнутри: как устроены модерация, авторизация и защита ваших данных?

Как устроена авторизация и регистрация пользователей? А модерация комментариев или редактор постов? Лиды юнитов разработки Спортса” – Андрей Панисько и Максим Пеший – пришли в подкаст «Коллеги, добрый день!» и подробно рассказали, что под капотом наших блогов.

Такие детали наверняка зацепят даже читателей, которые не очень сильны в технологиях, но хотят узнать, что стоит за нашим привычным интерфейсом. А уж технических спецов тем более!

Очень советуем весь подкаст целиком на ВидеоСпортсе’’, а тут мы выбрали несколько самых любопытных деталей.

Авторизация и регистрация – это правда так просто, как кажется?

У нас классическая история: регистрация через логин-пароль или с помощью соцсетей. Но дальше уже всякие технические сложности, которые приходится решать разработчикам. Например, если раньше человек уже был зарегистрирован по электронной почте, а теперь авторизовался через соцсети, мы со 100-процентной вероятностью сможем определить, что это тот самый человек. Здесь у нас все настроено: автоматика такие вещи умеет схватывать. 

Есть еще нюансы с теми, кто для разных нехороших целей заводит по несколько аккаунтов. Поэтому мы при некоторых случаях регистрации просим указать мобильный телефон, сохраняем его и, если потом кто-то придет с таким же номером – мы его не пропустим. 

Также у наших пользователей есть возможность авторизоваться через телеграм. Идея все та же: нажимаешь одну кнопочку – и ты на Спортсе” со своей аватаркой, ником. Можешь комментировать, лайкать, дизлайкать и так далее.

Немало головной боли добавляет, что нам нужно проводить регистрацию сразу на разных доменах: кроме основного, у нас же есть еще m-домен. Условно человек авторизуется на десктопной версии сайта, нам обязательно в этот же момент нужно провести эту авторизацию и на мобильной версии. Пользователь об этом не думает, но когда зайдет с телефона, мы сможем это все связать – и нужные куки сохранятся.

Безопасность

Извне к нашей базе пользователей не пробраться. Мы изолированы на уровне сети: вся наша инфраструктура защищена, так как выделена в отдельные подсети, которые обычному интернету снаружи не видны.

Даже если злоумышленники получат прямой доступ к этой базе, все самые ценные и чувствительные данные все равно хранятся в зашифрованном виде. Причем зашифрованы они в один конец: расшифровать те же самые пароли мы сами не сможем при всем желании.

Модерация комментариев – что там делают люди, а что нет? И причем тут «мокрые киски»?

Модерация у нас многослойная. Людям в нее приходится вмешиваться уже на последнем рубеже, когда кто-то прорвался через все предыдущие механизмы. С человеческой модерацией все понятно: кто-то увидел непотребный комментарий, пожаловался, дальше жалоба прилетела в админку, специальные люди ее обработали. 

Но чтобы нечто злое на сайте вообще оказалось, нужно сильно постараться. Первым рубежом обороны у нас работает сервис «Антихейт» на базе машинного обучения: в некоторых случаях просто предупреждает пользователя, что что-то в его комментарии может не понравиться некоторым участникам сообщества.

Если этого оказалось недостаточно, а пользователь все-таки хочет оставить подозрительный комментарий, он попадает на дальнейшую проверку в другую машинку, которая примерно по тем же правилам проверит, действительно ли коммент выглядит как что-то неприятное. Каждый такой комментарий получает оценку – если число достигает определенного порогового значения, мы формируем на него автоматическую жалобу. Дальше вступает модератор.

Есть механизм стоп-слов. Там очень много всего, не только обсценная лексика, в том числе самые разные выражения, которые считаются оскорбительными среди болельщиков. Такое мы тоже отслеживаем и отлавливаем.

Еще одна проверка связана со спамерами. Оставить коммент со ссылкой обычному пользователю нельзя – нужно нарастить свой рейтинг. Но даже если кто-то опубликует нечто рекламное или незаконное, у нас настроена проверка контента – такие вещи мы обычно не пропускаем.

Легендарная история – борьба с мокрыми кисками. Когда несколько недель была игра в кошки-мышки: наша разработка доблестно пыталась остановить спамеров, а ребята придумывали новые ходы. Пользователи очень радовались новости, что мы все-таки победили мокрых кисок.

***

На Спортсе” регулярно появляются новые команды или существующие – перестраиваются, поэтому всегда можно дорасти до тимлида. Либо стать старшим по отдельному продукту.

Для примера – донаты. Это полноценный проект, который в момент разработки вели два человека. Им лид был нужен лишь как консультант – возможно, чтобы не совершить очевидных ошибок. В остальном они делали все сами – и таких кейсов очень много.

К тому же в компании немало горизонтальных переходов. В этом смысле мы можем позволить себе большую гибкость.

А прямо сейчас мы в поиске сразу нескольких профильных IT-сотрудников:

– Frontend Developer

– Frontend Developer [Platform]

Приходите к нам работать, чтобы вместе делать спорт и Спортс’’ лучше!

Вакансии и внутренняя кухня компании
46 комментариев
По дате
Лучшие
Актуальные
Жаль, что система так и не научилась банить почти теряющего сознание от голода
Ответ Desperate Time
Жаль, что система так и не научилась банить почти теряющего сознание от голода
Система (ее техническая часть) сама никого не банит, решение всегда за человеком, а со спамерами это всегда кошки-мышки – они ищут новые лазейки, мы их закрываем и так раз за разом. Единственный вариант это победить полностью – премодерация, но сами понимаете, это не вариант в случае Спортса.
Система (ее техническая часть) сама никого не банит, решение всегда за человеком, а со спамерами это всегда кошки-мышки – они ищут новые лазейки, мы их закрываем и так раз за разом. Единственный вариант это победить полностью – премодерация, но сами понимаете, это не вариант в случае Спортса.
он пишет всегда одинаковое, неужели нельзя настроить?
Модерация у вас не многослойная, а отвратительная, давайте так.

"Первым рубежом обороны у нас работает сервис «Антихейт» на базе машинного обучения" — который сносит множество годных и смешных комментариев просто потому что он обучен на такой вот выборке, но при этом антихейт полностью игнорирует откровенных провокаторов а-ля ригобер, все комментарии которого это топорный байт. Или споры о политике.

"Есть механизм стоп-слов. Там очень много всего, не только обсценная лексика, в том числе самые разные выражения, которые считаются оскорбительными среди болельщиков. Такое мы тоже отслеживаем и отлавливаем" — прекрасный механизм, когда за междометие их трех букв можно улететь в бан на три дня, а потом на главной прочитать, как один человек назвал другого словом на букву П из семи букв. Или про заднее отверстие литвина во всех подробностях.

И нет, мой комментарий не носит оскорбительный характер, ваша плашка опять ошиблась.
Ответ yrchq
Модерация у вас не многослойная, а отвратительная, давайте так. "Первым рубежом обороны у нас работает сервис «Антихейт» на базе машинного обучения" — который сносит множество годных и смешных комментариев просто потому что он обучен на такой вот выборке, но при этом антихейт полностью игнорирует откровенных провокаторов а-ля ригобер, все комментарии которого это топорный байт. Или споры о политике. "Есть механизм стоп-слов. Там очень много всего, не только обсценная лексика, в том числе самые разные выражения, которые считаются оскорбительными среди болельщиков. Такое мы тоже отслеживаем и отлавливаем" — прекрасный механизм, когда за междометие их трех букв можно улететь в бан на три дня, а потом на главной прочитать, как один человек назвал другого словом на букву П из семи букв. Или про заднее отверстие литвина во всех подробностях. И нет, мой комментарий не носит оскорбительный характер, ваша плашка опять ошиблась.
Антихейт вообще ничего не сносит, он максимум плашку-предупреждение может показать

Про логику работы с матом рассказывали например вот здесь: https://www.sports.ru/football/blogs/3092518.html
Ответ yrchq
Модерация у вас не многослойная, а отвратительная, давайте так. "Первым рубежом обороны у нас работает сервис «Антихейт» на базе машинного обучения" — который сносит множество годных и смешных комментариев просто потому что он обучен на такой вот выборке, но при этом антихейт полностью игнорирует откровенных провокаторов а-ля ригобер, все комментарии которого это топорный байт. Или споры о политике. "Есть механизм стоп-слов. Там очень много всего, не только обсценная лексика, в том числе самые разные выражения, которые считаются оскорбительными среди болельщиков. Такое мы тоже отслеживаем и отлавливаем" — прекрасный механизм, когда за междометие их трех букв можно улететь в бан на три дня, а потом на главной прочитать, как один человек назвал другого словом на букву П из семи букв. Или про заднее отверстие литвина во всех подробностях. И нет, мой комментарий не носит оскорбительный характер, ваша плашка опять ошиблась.
Да на фоне таких, например, новостей на главной это звучит особенно забавно :)
https://www.sports.ru/football/1116928443-fanaty-atletiko-skandirovali-madridista-sukiny-deti-ix-materi-lyubyat-.html
>>Модерация у нас многослойная. Людям в нее приходится вмешиваться уже на последнем рубеже, когда кто-то прорвался через все предыдущие механизмы.

у меня однажды удалили цитату из "Мертвых душ", Гоголь бы через "машинки" спортса не прорвался.

ага, про этот комментарий ИИ тоже пишет, что он, возможно, носит оскорбительный характер.
Ответ uchiyamada
>>Модерация у нас многослойная. Людям в нее приходится вмешиваться уже на последнем рубеже, когда кто-то прорвался через все предыдущие механизмы. у меня однажды удалили цитату из "Мертвых душ", Гоголь бы через "машинки" спортса не прорвался. ага, про этот комментарий ИИ тоже пишет, что он, возможно, носит оскорбительный характер.
Можно и цитатой из Библии санкции заработать, если это несет нарушение – это не дает абонемента на отмену санкций само по себе из-за факта отсылки
Можно и цитатой из Библии санкции заработать, если это несет нарушение – это не дает абонемента на отмену санкций само по себе из-за факта отсылки
Вопрос: почему дисквалифицированные не блокируются навсегда, а продолжают писать?
Спортсу кроме сервиса "Антихейт" нужен сервис "Антихайп" - выпиливать посты и новости от всех авторов, которые переводя интервью тренеров, перевирают сказанное или вовсе придумывают какие-нибудь небылицы во имя кликбейта.
У меня был аккаунт на вашем сайте с 2012го года. Я активно участвовал в жизни сайта, писал комменты(у меня был рейтинг 90000+), создавал новости, отправлял вам имейлы о багах на сайте, даже присылал идеи по улучшению сайта.

Где-то полгода назад ваши боты меня навсегда забанили за то, что обнаружили у меня 2й аккаунт, которым я пользовался 1 раз в жизни и то случайно.

С тех пор я на сайте почти не сижу. Спасибо!
Ответ заблокированному пользователю
У меня был аккаунт на вашем сайте с 2012го года. Я активно участвовал в жизни сайта, писал комменты(у меня был рейтинг 90000+), создавал новости, отправлял вам имейлы о багах на сайте, даже присылал идеи по улучшению сайта. Где-то полгода назад ваши боты меня навсегда забанили за то, что обнаружили у меня 2й аккаунт, которым я пользовался 1 раз в жизни и то случайно. С тех пор я на сайте почти не сижу. Спасибо!
Вы вечно хвастаетесь как у вас все продвинуто и круто устроено, но отношение к людям у вас конченое. Я много раз писал вам в саппорт, объяснял вам ситуацию, но получал только дежурные отписки - так мол по правилам.
Ответ заблокированному пользователю
Вы вечно хвастаетесь как у вас все продвинуто и круто устроено, но отношение к людям у вас конченое. Я много раз писал вам в саппорт, объяснял вам ситуацию, но получал только дежурные отписки - так мол по правилам.
Выходит вам плевать, что человек вел бурную жизнь на сайте в течение 12 лет, даже помогал вам, а вы его выкинули с сайта, просто потому что такие правила)

Это все что нужно знать о вашей беспонтовой модерации.
Я так и не понял, как у вас работает Антихейт, если выскакивает плашка, то кнопка "Отправить" перестает работать.
Я уже не говорю о том, что это все криво работает, цитируешь сообщение собеседника, а на тебя защита агрится.
А что с борьбой против накрутки лайков? Когда смотришь на лидеров среди блогов (в том числе таких, что в зравом уме никто вообще не откроет), и практически у всех стабильно аккурат именно 40-50 лайков под статьей - смех разбирает)
"Модерация у нас многослойная" - возможно, но к качеству ее работы у людей есть весьма обоснованные вопросы.
К тем, что уже приведены тут в комментах, добавлю, например, свой удаленный, о логическом мышлении в списке требований к кандидатам на должность известного баньщика. Он злободневный, но ничего оскорбительного в нем 100% нет. Его удаляли дважды в разных формулировках.
Висят эти картиночки разных клубов у никнейма.
Я не являюсь специалистом по Торпедо. Оставил пару комментариев в новостях, связанных с Торпедо, мне поставили лайки. Висит теперь чуть ли не годами у меня значок Торпедо. Убрать его нельзя. Я его убираю, а он снова появляется.
Я уважаю Торпедо, без проблем. Но очевидно на сайте есть люди, которые именно эксперты по теме, лучше отдать эти значки им.
Когда эту систему изменят? Когда можно будет самостоятельно убирать эти значки?
Ответ Evgeny Valyaev
Висят эти картиночки разных клубов у никнейма. Я не являюсь специалистом по Торпедо. Оставил пару комментариев в новостях, связанных с Торпедо, мне поставили лайки. Висит теперь чуть ли не годами у меня значок Торпедо. Убрать его нельзя. Я его убираю, а он снова появляется. Я уважаю Торпедо, без проблем. Но очевидно на сайте есть люди, которые именно эксперты по теме, лучше отдать эти значки им. Когда эту систему изменят? Когда можно будет самостоятельно убирать эти значки?
Здравствуйте! Мы убрали бейдж «Торпедо» рядом с вашим никнеймом. Самостоятельно это можно сделать в настройках Личного кабинета (раздел «Настройки»). Бейджи появляются за активность и рейтинг в материалах о команде и закрепляются только у подписчиков соответствующего тега. Если вы отпишетесь от тега Торпедо — бейдж больше не будет отображаться.
Подробнее про эту систему можно прочитать по ссылке: https://www.sports.ru/football/blogs/3176724.html
Здравствуйте! Мы убрали бейдж «Торпедо» рядом с вашим никнеймом. Самостоятельно это можно сделать в настройках Личного кабинета (раздел «Настройки»). Бейджи появляются за активность и рейтинг в материалах о команде и закрепляются только у подписчиков соответствующего тега. Если вы отпишетесь от тега Торпедо — бейдж больше не будет отображаться. Подробнее про эту систему можно прочитать по ссылке: https://www.sports.ru/football/blogs/3176724.html
Вы убрали и вот он снова на месте. Я ничего не трогал.
Думаете, я его не пытался самостоятельно убрать? Не работает это у вас. Хватает на один день того, что я этот бейджик убираю. А потом снова бейджик появляется рядом с никнеймом. Делать это нужно мне каждый день? Конечно, я этого делать каждый день не буду.
Нет у меня никакой особой активности по тегам Торпедо. Я не пишу никаких материалов про Торпедо. Написал что-то вроде "Удачи Торпедо", мне лайков немного поставили и всё, теперь у меня этот бейджик висит годами. Я уже давно боюсь материалы про Торпедо комментировать, чтобы может бейджик ушел.
Отписываться от тега я не буду, я слежу в любом случае за Торпедо и хочу продолжать это делать. Но вам нужно починить систему бейджиков, чтобы их можно было убирать не на один день. И еще нужно изменить эту систему, чтобы давали их более реальным экспертам. Тех, кто пишет про Торпедо, например.
"Модерация" 4-х инкогнито, ставящих минусы без всяких объяснений и делающая коммент плохо читаемым - это идиЁтизм, а не модерация. Это наплевательство не только на комментирующего, но и на читателей, пытающихся прочитать.