Что проверяется
Каждый фильтр включается и выключается отдельно, со своим действием и своими числами. Значения по умолчанию намеренно осторожные: из коробки включены только фишинг и фейковый nitro, потому что в этих двух случаях ложное срабатывание обходится дешевле, чем пропуск.
- Спам: частота сообщений за интервал, по умолчанию 5 сообщений за 5 секунд
- Повторяющийся текст: одно и то же сообщение раз за разом
- Ссылки с белым списком и отдельно реклама инвайтов Discord
- Капс: по доле от сообщения, начиная с минимальной длины
- Упоминания и массовые упоминания, с возможным учётом @everyone
- Ghost ping: упоминание, которое удаляют через считаные секунды
- Потоки эмодзи и спойлеров, у каждого свой лимит
- Zalgo и другие злоупотребления отображением
- Фишинг: домены-двойники и подозрительные TLD в сочетании с приманками вроде free, nitro, gift или claim
- Фейковые раздачи nitro и крипто-мошенничество
- Собственные регулярные выражения, которые проверяются перед сохранением
- Чёрный список слов и фраз
Борьба с обходом
Перед сравнением текст нормализуется: приводится к нижнему регистру, очищается от диакритики, leetspeak сворачивается обратно (0 в o, 1 и ! в i, 3 в e, 4 и @ в a, 5 и $ в s, 7 в t), а невидимые символы нулевой ширины удаляются. Так отсекаются очевидные обходные пути, и не нужно писать отдельное правило на каждое написание.
Обнаружение фишинга работает с той же нормализованной формой. Домен сравнивается с названиями, которые он подделывает, а не с фиксированным чёрным списком, поэтому только что зарегистрированный двойник ловится при первой же публикации.
Лестница эскалации
У каждого правила свой ответ, а модуль эскалации добавляет правила, которые срабатывают при повторных нарушениях в пределах окна, по умолчанию один час. Первое нарушение может просто удалить сообщение. Третье в пределах окна отправит участника в тайм-аут.
Поскольку каждое автоматическое действие создаёт кейс, история AutoMod и история ручной модерации лежат в одной записи. Модератор, проверяющий участника, видит и то и другое.
Исключения
Правила можно ограничивать. Администраторы по умолчанию игнорируются, а в список исключений можно добавить любую роль. Каналы исключаются по одному, поэтому в канале с мемами можно разрешить капс и стены эмодзи, а в канале объявлений нельзя.
Именно ограничение по областям не даёт AutoMod превратиться в то, на что все жалуются. Правило, которое срабатывает не там, где нужно, отключают совсем. Правило, которое работает только там, где есть смысл, остаётся включённым.