Утёкшие файлы проекта SteamGPT раскрывают амбициозные планы Valve по интеграции искусственного интеллекта в систему модерации популярной платформы цифровой дистрибуции игр. Согласно полученным данным, компания разрабатывает инструменты на базе ИИ, которые помогут модераторам эффективнее справляться с растущим потоком подозрительной активности пользователей.
Основная идея проекта заключается в автоматизации первичного анализа инцидентов. Модераторы Steam ежедневно сталкиваются с тысячами жалоб на нарушения — от токсичного поведения в чате до попыток мошенничества и распространения недозволенного контента. Ручная обработка каждого случая требует значительных затрат времени и ресурсов.
Система на основе ИИ должна помочь сортировать и приоритизировать обращения, выявляя наиболее серьёзные нарушения и отсеивая ложные тревоги. Это позволит команде модерации сосредоточиться на критических случаях, требующих человеческого суждения и вмешательства.
Раскрытие деталей проекта вызывает вопросы о том, как Valve планирует использовать данные пользователей для обучения моделей ИИ и какие меры безопасности будут реализованы для защиты конфиденциальности. Компания пока не дала официального комментария по поводу утёкшей информации.
Интеграция ИИ в системы модерации становится всё более распространённой практикой среди крупных онлайн-платформ, однако подобные проекты часто вызывают опасения у сообщества относительно справедливости автоматических решений и потенциальных ошибок алгоритмов.