ケーススタディ 05

Anti-dirt

Anti-dirtというプラットフォームは、企業のリスクサービスの重要な一部で、企業のさまざまなproduct lineに対して、ユーザー投稿の中の敏感な言葉(政治に関連する言葉や、低俗な悪口など)の管理、評価、検出、取り出し、使用のサービスを提供しています。

  • ByteDanceのセンシティブワード管理プラットフォームのプロセスを、最もよく使われる「キーワード追加」から作り直しました。
  • 常連ユーザー4人にインタビューし、キーワード追加の時間を10.23分から8.4分に短縮しました(−18%)。
  • リデザイン後のユーザー評価は4.94 / 5でした。
役割
製品戦略 · ユーザー調査 · ユーザーエクスペリエンス
ソフト
Figma · Lark
タイムライン
2021年3月〜2022年10月(在籍中)
−18%キーワードを追加する時間(10.23分 → 8.4分)
4.94 / 5ユーザー評価
270UV(ユーザービュー)
カプセル化呼び出しreviewの送信された数量の調整監査ページデータスマートな割り当てリアルタイムreview(内容)マシンreview能力(モデル)手動review機能(review queue)投稿の特性を取得します。✅ User ID✅ 投稿時間…特定の戦略に一致します:❓ ワードリストにするかどうか❓ 審査のために送る必要がありますか?❓ 特別な処置が要りますか…特性値yesユーザー投稿reviewプロセスマッチするリスク特性を取得する手動レビューに送信するかどうかを決定するreviewのために送信されるデータタスク パッケージを作成するタスクの割り当てモデルを棚に置くモデルを選択するreviewモデルキーワード選択重複排除サンプルの選択reviewのしきい値を調整するスマートヒントヒートマップ、ハイライト語、フレーム抽出キューの振り分け集約キュー

Anti-dirt の役割

一般的に、言葉に関連する内容を処理する時、NLP Modelをよく使います。しかし、NLPモデルを訓練するのに時間がかかり、ミスもある。だから、敏感な言葉を見つけて、素早くて正確で効率的なテキストマッチング技術を使うのが「Anti-dirt」の考え方だ。

関連する法律・法規により検索結果が表示されないという検索結果ページ キーワードは検索できません

最初の言葉がアスタリスク2つに置き換えられた商品レビュー キーワードはシールドされます

ある出来事についての百科事典の記事 何が起きたのかを尋ねるコメントが付いた動画 キーワードを含む投稿は下架されます。

2種類のユーザー

Anti-dirtは、固定なユーザーグループを持ち、3年以上の歴史があります。ユーザーは主に2つの分類に分かれています:敏感なワードリストの作成者とワードリストの使用者です。

ワードリスト 作成者

プラットフォームのコアワードリストの運用と保守

基本情報

  • 学歴:学士
  • デバイス:MacBook Pro 13インチ
  • 利用時間:平日10時〜19時

Work objectives and scenarios

需要に応じてキーワードを追加する

  • さまざまなチャネル (owls platform、online badcaseなど) に基づいて文言のニーズを収集し、機密用語を追加します。
  • 内容と一致方法の評価がオンラインに与える影響を確保し、単語の品質を保証します。

ワードリストに関する日常業務

  • 新しいビジネスへのアクセスに関する日常的なコンサルティング、提案、およびプロモーションを行います。
  • 機能レベルのアクセス権の管理

ワードリストを最適化する

  • オンラインデータに基づいて、ワードリスト内の単語のtag、免除単語、combination単語などの詳細な情報を最適化および更新します。
  • ワードリストの特別なニーズ (六*、二十*など)
  • ビジネスニーズに応じてワードリストを最適化する

ワードリスト ユーザー

内容安全チームによる安全戦略開発

基本情報

  • 学歴:大学院
  • デバイス:ThinkPad
  • 利用時間:平日10時〜19時

Work objectives and scenarios

ビジネス関連のワードリストの許可を取得する

  • ワードリスト管理者への許可申請をする

onlineデータのモニタリングとフィードバック収集する

  • オンラインで単語リストの効果を監視し、機密コンテンツに関するユーザーのフィードバックを収集します
  • 審査プロセスに入る可能性を低く抑える

オンライン事故調査

  • プロジェクトの振り返り、retrospective
  • 漏れやミスに基づいて、ワードリストの管理者に要件を提供します。

プラットフォームのリデザインを計画する

ユーザーのフィードバックをもとに、次のステップの再設計戦略を考えました。

以前のバージョンのホーム画面:product lineごとにワードリストがぎっしり並んでいる

以前のVersion:

  • 機能の構成:いくつかの製品ラインでは、安全上の問題から機能的に利用が難しい状況でした。
  • 使い方:新しいユーザーにとって、使い方を理解するのが難しい状況でした。
  • 誰でも知っていない機能:一部の機能は、以前に開発されたため、誰も説明できない状態でした。

再構成

以前のバージョンの問題点:

デザイン解決方法:

一部のプロセスがブロックされている

  • 特殊な概念の説明が不明確です。
  • フォームの必須と選択項目が明確でないため、繰り返し操作が発生しやすいです。
  • 一部のエラーメッセージが欠落しているため、プロセスの理解に余分なコストがかかります
  • 文案理解のコストを削減し、プラットフォームの文案を統一します。
  • 操作へのフィードバックを強化し、エラーを防ぐデザインを実装して効率を向上させます

操作効率が低い

  • 機能分割感が薄い、機能が平坦化している。
  • ユーザーの経路が混乱しています。
  • 情報の階層感が薄く、重要な情報が明確でありません。
  • 操作に対するフィードバックが不足しています
  • 一般的なガイドとヒントを提供し、ユーザーがページ操作をより制御できるようにします。
  • 操作経路を削減し、不要な操作を削除します。
  • インターフェースの表示を最適化し、情報をより集中させます

ページ間の一貫性がない

  • 同じ種類のコンポーネントの一貫性のない使用
  • プラットフォームの視覚要素とインタラクション形式を統一化します

まず、最も頻繁に使われるモジュールから

以前の「敏感な言葉の編集」フォーム:すべての項目が左側に詰め込まれ、右側は余白

「キーワード追加」は一番よく使われる機能です。

でも、前の版本は、ユーザーの習慣についての調査もなく、BE(開発エンジニア)の同僚が作った形式で提供されていました。

そのため、ユーザー調査を行った結果、この機能を最適化することが最も価値があるとわかりました。私は4人の一般のユーザーに調査を行い、彼らからフィードバックを収集しました。

😭 「全部のプロセスは私にとって長すぎます。キーワードを追加しようとするたびに、常に500から1000語の単語があり、それを5分で終えたいです。しかし、常に多くのフォームフィールドを入力する必要があります。」

🤬 「タグ付け機能は本当に使いにくいです。ツリー形式の選択器には多くのレイヤーがありますが、レイヤーの下に何があるのかわからないので、何度も展開しなければなりません。」

🤨 「キーワードの追加用のページは右側が完全に余白で、すべてのコンテンツが左側に詰め込まれています。それが気に入りません…」

😃 「全体的には問題ありません… ここで1年間働いているので、もう慣れました。」

問題を解決するために私が行ったこと

  • まず、ユーザーが元々していたことを続けられるようにし、機能の使い方法を勉強のコストを減らすことを目指しました。
  • 次に、ユーザーがフォームを入力する際にストレスを減らし、快適に感じるように心がけました。
  • その後、全体のプロセスを彼らの日常に合わせて設計し、いくつかのフィールドの順序を変更し、キーワードを追加する手順を明確にしました。
  • 最後に、細かいが使用効率に影響するinteractionについて改善しました。

新しいキーワード追加フロー:3つのステップ(情報設定、プレビュー、追加方法)、キーワードグループ、一括入力と備考

👏🏻👏🏻👏🏻 ローンチ後、私がユーザーからpositiveフィードバックをもらいました。

ユーザーからのチャットメッセージ:「新しい敏感ワード管理画面はかなり気に入っています。ずいぶん便利になりました。高評価をひとつ」、同僚たちのリアクション付き

そのほか4つの機能改善

Variant word生成器

キーワードからvariant wordを生成するword expansionツール

Variant wordとは、形、発音が似ている言葉。例えば:「习近平」と「刁近平」。

ユーザーにより簡単で直接な解決策を提供する:

  • ユーザーにできるだけ簡単なvariant word解決案を提供する
  • 作成されたvariant wordを直接確認できる
  • 簡単なクリックですべてを選択できて、選択解除も簡単にできる

審査センター

審査センター:タスクの分類、未完了タスクの数字バッジ、タスクのプロセス

ビジュアルのHint、情報の分別:

  • 審査タスクの異なる分類をビジュアルに明確にする
  • ユーザーに数字のバッジで未完了タスクを通知する
  • ユーザーが効率的に情報を処理するために、情報を階層によって分別する
  • ユーザーが現在のタスクのプロセスとプロセスnodeの管理人を明確的に知らせる

検出ツール

検出ツール:左にワードリストの設定、右にタスクリスト

  • 異なる目的を持つ人々向けに設計されています(検出タスクマネージャー/検出オペレーター)
  • ユーザーができるだけ効率的に検査データの入力を完了できるように
  • 手動入力とファイルのインポートの両方をサポートします

検出結果ページ:上部にhit rate、false hit rate、recall rate、下に命中の詳細

検出結果ページには大量の情報が含まれていますが、重要な情報を整理し、ユーザーが関心を持つ可能性のあるすべての要素を強調しました。

自動的にexemption wordを推薦します

自動で推薦された言葉を使ってワードリストにexemption wordを追加する

通常、machine reviewで敏感な情報に命中したと判断されるのは、exemption word不足だ。結果はmanually reviewに送って、人手がかかる。

しかし、現在のexemption wordは主に単語リストマネージャーの自分の判断によって生成されており、人力消費が発生し、精度が不足しています。

「自動的にexemption wordを推薦する」機能は、単語リストマネージャーの労力を節約し、同時にmanual reviewに送るリスクを解消し、machine reviewとmanual reviewの生態系のバランスを維持するのに役立ちます。

👏🏻👏🏻👏🏻 ローンチ後のポジティブなフィードバック:

exemption word推薦機能のお知らせへのチャットの反応:「すごい」「0から1、とてもすごい」「一年前には想像もできなかった機能」

リリース後の結果

ユーザー評価
4.94/5
UV ユーザービュー
270▲
キーワードを追加する時間を短縮する (当初10.23 分 → 8.4 分)
18%▼

Highlight

プラットフォーム全体のプロセスを再構築し、主要な機能の開発を強化し、低頻度の機能を弱化しました。全体的に、プラットフォームの使用効率と満足度が大幅に向上しました。

Lowlight

各製品ラインは再設計に対して比較的満足していますが、まだいくつかの課題が残っています。たとえば、新しいキーワードを追加するページのプロセスが長すぎる、重要な情報がpreview段階で見落とされるなどの問題があります。

In all

MVPバージョンをリリースしましたが、B2B製品は複雑でビジネスに関する背景があるため、ユーザーのフィードバックを得るために継続的にユーザーと話をする必要があります。