Не очень часто, но сталкиваюсь с проблемой очень некачественного искусственного интеллекта (ИИ), который применяется для модерирования контента в Facebook. Со стороны кажется, что используются довольно примитивные правила обнаружения, как им кажется, агрессии, после чего следуют баны разной продолжительности. Понятно, что для Цукерберга использование ИИ для модерации вынужденная мера, поскольку модерация людьми это очень дорогое удовольствие на фоне громадных объёмов генерируемого контента.
Основная претензия к качеству ИИ – слабое понимание контекста и тональности комментариев пользователей. Ну, например, фраза «оторвите руки оператору, который снимал это видео» не является агрессией или угрозой реальному оператору. Это просто фигуральная характеристика его криворукости, выражающаяся в непопадании в кадр головы или части тела снимаемого артиста. Я бы сказал, что эта фраза вообще мем. Но железяка имени Цукерберга не распознаёт подобные оттенки и тупо лепит баны. Это тем более не хорошо на фоне того факта, что Facebook паразитирует на контенте, создаваемом пользователями. Вместо жандармских замашек логично было бы придумать более лояльные схемы.
Во многом алгоритмы модерации Facebook это следствие его монопольного положения, хотя эта монопольность снижается, например, благодаря Телеграму, куда мигрируют многие авторы из Facebook.
Сергей Горбачевский