фильтр “плохие слова” [закрыт]

StackOverflow https://stackoverflow.com/questions/24515

  •  09-06-2019
  •  | 
  •  

Вопрос

Не очень технично, но...Я должен внедрить фильтр плохих слов на новом сайте, который мы разрабатываем.Поэтому мне нужен список "хороших" плохих слов для наполнения моей базы данных...есть какой-нибудь намек / направление?Оглядываясь по сторонам с помощью Google, я нашел это один, и это только начало, но не более того.

Да, я знаю, что такого рода фильтры легко обойти...но воля клиента есть воля клиента !!!:-)

Сайту придется отфильтровывать как английские, так и итальянские слова, но для итальянских я могу попросить своих коллег помочь мне с составленным сообществом списком "parolacce" :-) - подойдет электронное письмо.

Спасибо за любую помощь.

Это было полезно?

Решение

Я не видел ни одного указанного языка, но вы можете использовать это для PHP, он будет генерировать регулярное выражение для каждой выполняемой работы, так что даже намеренные ошибки в написании (т.Е.@ss, i3itch ) также будут пойманы.

<?php

/**
 * @author unkwntech@unkwndesign.com
 **/

if($_GET['act'] == 'do')
 {
    $pattern['a'] = '/[a]/'; $replace['a'] = '[a A @]';
    $pattern['b'] = '/[b]/'; $replace['b'] = '[b B I3 l3 i3]';
    $pattern['c'] = '/[c]/'; $replace['c'] = '(?:[c C (]|[k K])';
    $pattern['d'] = '/[d]/'; $replace['d'] = '[d D]';
    $pattern['e'] = '/[e]/'; $replace['e'] = '[e E 3]';
    $pattern['f'] = '/[f]/'; $replace['f'] = '(?:[f F]|[ph pH Ph PH])';
    $pattern['g'] = '/[g]/'; $replace['g'] = '[g G 6]';
    $pattern['h'] = '/[h]/'; $replace['h'] = '[h H]';
    $pattern['i'] = '/[i]/'; $replace['i'] = '[i I l ! 1]';
    $pattern['j'] = '/[j]/'; $replace['j'] = '[j J]';
    $pattern['k'] = '/[k]/'; $replace['k'] = '(?:[c C (]|[k K])';
    $pattern['l'] = '/[l]/'; $replace['l'] = '[l L 1 ! i]';
    $pattern['m'] = '/[m]/'; $replace['m'] = '[m M]';
    $pattern['n'] = '/[n]/'; $replace['n'] = '[n N]';
    $pattern['o'] = '/[o]/'; $replace['o'] = '[o O 0]';
    $pattern['p'] = '/[p]/'; $replace['p'] = '[p P]';
    $pattern['q'] = '/[q]/'; $replace['q'] = '[q Q 9]';
    $pattern['r'] = '/[r]/'; $replace['r'] = '[r R]';
    $pattern['s'] = '/[s]/'; $replace['s'] = '[s S $ 5]';
    $pattern['t'] = '/[t]/'; $replace['t'] = '[t T 7]';
    $pattern['u'] = '/[u]/'; $replace['u'] = '[u U v V]';
    $pattern['v'] = '/[v]/'; $replace['v'] = '[v V u U]';
    $pattern['w'] = '/[w]/'; $replace['w'] = '[w W vv VV]';
    $pattern['x'] = '/[x]/'; $replace['x'] = '[x X]';
    $pattern['y'] = '/[y]/'; $replace['y'] = '[y Y]';
    $pattern['z'] = '/[z]/'; $replace['z'] = '[z Z 2]';
    $word = str_split(strtolower($_POST['word']));
    $i=0;
    while($i < count($word))
     {
        if(!is_numeric($word[$i]))
         {
            if($word[$i] != ' ' || count($word[$i]) < '1')
             {
                $word[$i] = preg_replace($pattern[$word[$i]], $replace[$word[$i]], $word[$i]);
             }
         }
        $i++;
     }
    //$word = "/" . implode('', $word) . "/";
    echo implode('', $word);
 }

if($_GET['act'] == 'list')
 {
    $link = mysql_connect('localhost', 'username', 'password', '1');
    mysql_select_db('peoples');
    $sql = "SELECT word FROM filters";
    $result = mysql_query($sql, $link);
    $i=0;
    while($i < mysql_num_rows($result))
     {
        echo mysql_result($result, $i, 'word') . "<br />";
        $i++;
     }
     echo '<hr>';
 }
?>
<html>
    <head>
        <title>RegEx Generator</title>
    </head>
    <body>
        <form action='badword.php?act=do' method='post'>
            Word: <input type='text' name='word' /><br />
            <input type='submit' value='Generate' />
        </form>
        <a href="badword.php?act=list">List Words</a>
    </body>
</html>

Другие советы

Остерегайтесь типичные ошибки.

"Apple совершила вопиющую ошибку, вытеснив своего визионера - я имею в виду, посмотрите, что было дальше!"

Хм."clbutt".

Google "clbuttic" - тысячи просмотров!

Есть кое-кто, кто называет свою машину "clbutt".

Существуют доски объявлений "Clbutt Steam Engine".

Словарь Вебстера - не помогает.

Хм.Что это может быть?

ПОДСКАЗКА:Люди, которые делают предположения о своих сценариях регулярных выражений, будут оштрафованы, когда они повторят эту грубую ошибку.

У Shutterstock есть репозиторий Github с список плохих слов используется для фильтрации.

Вы можете проверить это здесь: https://github.com/shutterstock/List-of-Dirty-Naughty-Obscene-and-Otherwise-Bad-Words

Если кому-то нужен API, Google в настоящее время предоставляет индикатор плохих слов.

http://www.wdyl.com/profanity?q=naughtyword

{
response: "false"
}

Обновить:Теперь Google удалил этот сервис.

Я бы посоветовал просто удалять сообщения по мере того, как вам становится о них известно, и блокировать пользователей, которые чрезмерно откровенничают в своих публикациях.Вы можете говорить очень оскорбительные вещи, не используя никаких бранных слов.Если вы заблокируете слово ass (он же осел), то люди просто наберут $ $ или /\ 55, или что еще им нужно ввести, чтобы пройти фильтр.

+1 по поводу ошибки Clbuttic, я думаю, что для фильтров "плохих слов" важно сканировать как начальные, так и конечные пробелы (например, " ass "), а не только точную строку, чтобы у нас не было таких слов, как clbuttic, clbuttes, buttert, buttess и т.д.

ClueBot из Википедии имеет фильтр плохих слов, прочитайте его источник.

http://en.wikipedia.org/wiki/User:ClueBot/Source#Score_list

Вы всегда можете убедить клиента провести сеанс с пользователями, которые просто постоянно публикуют ругательства, и найти простое решение для добавления их в систему.Это большая работа, но, вероятно, она будет более репрезентативной для сообщества.

Исследуя эту тему, я определил, что необходимо нечто большее, чем просто список, который выполняет произвольные замены.Я создал веб-сервис, который позволяет вам определить желаемый уровень "чистоты".Он также предпринимает усилия для выявления ложноположительных результатов, т. е.где слово может быть плохим в одном контексте, но не в других.Взгляните на http://filterlanguage.com

Лицензировано под: CC-BY-SA с атрибуция
Не связан с StackOverflow
scroll top