質問: 適切な冒fan的なフィルターをどのように実装しますか 私たちの多くは、ユーザー入力、検索クエリ、および入力テキストに冒とく的または望ましくない言語が含まれる可能性がある状況に対処する必要があります。多くの場合、これは除外する必要があります。さまざまな言語や方言の宣誓単語の良いリストはどこにありますか?適切なリストを含むソースで利用可能なapiはありますか?または、単に「はい、これはきれいです」または「これは汚れていません」といくつかのパラメーターで言うapi?a $$、azz、a55など、システムをだまそうとする人々を捕まえるための良い方法は何ですか?phpのソリューションを提供する場合のボーナスポイント。 :)編集:単にプログラムの問題を回避するという回答への応答:たとえば、ユーザーがパブリックイメージ検索を使用して、デリケートなコミュニティプールに追加される写真を見つけることができる場合、この種のフィルターの場所があると思います。彼らが「ペニス」を検索できるなら、彼らはたぶん多くの写真を得るでしょう。その写真が必要ない場合は、wordを検索用語として使用しないようにすることは、間違いなく確実な方法ではありませんが、優れた門番です。そもそも単語のリストを取得することが本当の問題です。だから、私は本当に単一のトークンが汚れているかどうかを把握し、それを単純に禁止する方法に言及しています。私は完全に陽気な「長い首のキリン」参照のような感情を妨げることを気にしません。そこでできることは何もありません。 :)
回答: ゲームの後半でも、いくつかの調査を行って、ここで偶然見つけました。他の人が言ったように、それが自動化された場合、それはほとんど不可能に近いですが、デザイン/要件が場合によっては(しかし常にではない)人間のやり取りが不敬であるかどうかを確認することができる場合、mlを検討することができます。 https://docs.microsoft.com/en-us/azure/cognitive-services/content-moderator/text-moderation-api#profanity は、現在さまざまな理由で私の選択です: 多くのローカライズをサポート データベースを更新し続けるので、最新のスラングや言語についていく必要はありません(メンテナンスの問題) 可能性が高い場合(つまり、90%以上)、実際に拒否することができます。 冒とく的であるかどうかわからないフラグの原因となるカテゴリを観察し、誰かにレビューして、それが冒or的であるかどうかを教えることができます。 私の必要性のために、それは他のユーザーがユーザー名を見る/見る公的な商用サービス(ok、ビデオゲーム)に基づいていました/しかし、デザインは不快なユーザー名を拒否するために冒proフィルターを通過する必要があります。これについての悲しい部分は、ユーザー名は通常複数の単語が連結された単一の単語(最大n文字)であるため、古典的な「clbuttic」問題が発生する可能性が高いことです。繰り返しますが、microsoftの認知サービスは「assist」をテキストとしてフラグ付けしません。 hasprofanity = trueですが、カテゴリのいずれかの確率が高いとフラグを立てることがあります。opが「a $$」について尋ねると、フィルターを通過した結果がここにあります: ご覧のように、不敬ではないと判断しましたが、そうである可能性が高いため、レビューの推奨としてフラグを立てます(人間のやり取り)。可能性が高い場合は、「申し訳ありませんが、その名前はすでに使用されています」と返すことができます。そうでない場合でも、反検閲の人や何かに対する不快感が少なくなります人間のレビューを統合するか、「ユーザー名が実際の運用部門に通知されました。ユーザー名が確認および承認されるまで待つか、別のユーザー名を選択する」ことができます。または何でも...ちなみに、このサービスのコスト/価格は私の目的では非常に低いです(ユーザー名はどのくらいの頻度で変更されますか?)が、再び、opではデザインがより集中的なクエリを要求し、支払い/購読するのが理想的ではない可能性がありますmlサービス、または人間によるレビュー/相互作用はありません。それはすべて設計に依存します...しかし、設計が法案に適合する場合は、おそらくこれがopのソリューションになります。興味があれば、私は将来のコメントに短所をリストすることができます。