Discord: фильтр запрещённых слов без случайных банов
Модерацию текста можно автоматизировать встроенным Discord AutoMod или отдельным ботом. Список слов, регулярное правило и ML-фильтр — разные механизмы: нельзя обещать, что любой бот понимает контекст или безошибочно распознаёт оскорбление.
Начните с политики
- Определите запрещённое поведение и исключения, включая цитаты, обсуждение правил и отдельные каналы.
- Выберите доступный тип правила и действие: блокировка сообщения, уведомление модераторам или другое поддерживаемое действие.
- Проверьте правило в тестовом канале на допустимых и недопустимых фразах.
- Задайте порядок пересмотра решения и возможность обратиться к модератору.
Если нужен отдельный бот
Выбирайте идентифицируемый проект с понятным доступом к сообщениям и политикой данных. Не выдавайте Administrator только потому, что так проще установка. Права бота и его положение среди ролей должны соответствовать реально необходимым действиям.
Почему не стоит начинать с вечного бана
Совпадение фрагмента слова может ошибочно сработать на имени или цитате. Для неоднозначных случаев безопаснее очередь проверки или более мягкая реакция, чем автоматическое исключение навсегда. Встроенные действия AutoMod и возможности стороннего бота не следует считать одинаковыми.
Проверяйте журнал срабатываний, ограничьте доступ к нему и не храните лишние сообщения бессрочно. Эффективность фильтра оценивают по пропускам и ложным срабатываниям, а не по числу наказанных участников.