Discourse AI：AI機能の先行プレビューが始まりました！

（本ブログはDiscourse公式サイトに2023年4月24日に掲載されたFalcoの「Introducing Discourse AI」を日本語訳にしています。）

我々は、Discourseコミュニティと人工知能を統合する第一歩となる「Discourse AI」の導入を嬉しく思います。新しいプラグインは、新機能の提供と既存機能の強化の両方を一元的に行うソリューションです。

今回のリリースでは、7つの異なるDiscourse AIモジュールを出荷します。これらのモジュールは、コミュニティマネージャー、メンバー、モデレーターが検索と新しいトピックのセマンティック関連提案、センチメント分析、有害性検出、トピックとチャットの要約、NSFWイメージ検出、校正、提案された編集、翻訳などの機能で投稿を改善するようなタスクを支援するように設計されています。

これらの機能の詳細や、次に予定しているロードマップについても、ぜひお読みください！

‍

Discourse AIモジュール
‍

Discourse AIでは、オンラインコミュニティのニーズに応じて独立して有効化できるモジュールとして、すべての機能を1つのプラグインに保持することにしました。

また、私たちはあなたを単一の会社のAPIに縛り付けないことを一つの優先事項としています。そのため、すべてのコミュニティは、データプライバシー、パフォーマンス、機能セット、ベンダーロックインをバランス取りながら、彼らにとって意味のあるプロバイダーを選ぶことができます。

では、何のためらいもなく、今日から使用を開始できるモジュールを見ていきましょう。

‍

セマンティック関連トピック
‍

トピックの最後に到達すると、Discourseは次に読むべきトピックの5つの提案を表示します。現在、我々は匿名ユーザーに対しては5つのランダムなトピックを、ログインユーザーに対しては未読のトピックを使ってそのリストを生成していますが、特定の主題を研究しているときにはあまり役に立ちません。

新たなSemantic Suggested機能では、現在のトピックとインスタンス内のすべての他のトピックとの間のSemantic Textual Similarityを用いて、人が探しているものにもっと関連性のあるトピックを提案します。

ビデオゲームに関するトピックは、他の類似したゲームや続編を提案し、テクノロジーに関するトピックは、他の関連したテクノロジーを提案し、新しいバンドのアルバムに関するトピックは、同じバンドの他のアルバムや類似したものを提案します。

私たちはこの新しい提案されたトピックの機能をMetaで過去数週間走らせてきて、これまでの結果に非常に興奮しています。

コミュニティセンチメント
‍

センチメントモジュールでは、オンラインコミュニティ内のすべての投稿をセンチメント（ポジティブまたはネガティブ）および/または感情（喜び、驚き、怒り、嫌悪、恐怖、悲しみ、または中立）で自動的に分類します。これにより、スタッフチームはコミュニティの健康状態について有益な洞察を得ることができ、カテゴリ、トピック、ユーザーレベルを含むさまざまな軸でのセンチメントの分析を容易にします。

Composer AIヘルパー
‍

以下のシナリオで自分自身や知り合いを見つけたことはありますか？

あなたのお気に入りのDiscourseインスタンスで新しいトピックを書くことになったが、良いタイトルを思いつくのが難しい。名前をつけるのは難しい！

助けになると思われるトピックに対して返信しようとしているが、それが書かれた言語を十分に理解することはできても、その同じ言語でよく考えられた返信を言葉にするのはそれほど簡単ではない。

ちょうど良いサイズの投稿を書き終えたところだが、あなたの議論は確固としているが、もしあなたが全体を見直す時間を取るなら、それらはもっと良く提示されるだろうが、それには誰も時間がない！

私たちは何度もそのような状況に自分自身を見つけ、Discourse上でのコミュニケーションを緩和するために、Composer AI Helperモジュールを作成しました。

あなたの投稿を作成した後、✨アイコンをクリックし、以下のオプションからいずれかを選択します：

- タイトルを提案する
- 英語に翻訳する
- 校正する
- 表を作成する
そして数秒後、AIから助けを得ることができます。

有害性検出

有害性モジュールは新しい投稿とチャットメッセージをスキャンし、それらをさまざまなラベルにわたる有害性スコアで分類します。これらの有害性スコアはすべて報告可能であり、コミュニティモデレーターはあなたのインスタンスに適していない可能性のあるコンテンツを特定することができます。

さらに一歩進めて、カスタマイズ可能な有害性しきい値を超えるコンテンツの自動フラグ付けを有効にすることもできます。これにより、潜在的に問題のあるコンテンツがDiscourseレビューキューに入り、あなたのモッドチームによって手動で分析されることになります。

NSFWイメージ検出
‍

NSFWモジュールは、ユーザーの投稿で新たにアップロードされたすべてを自動的にスキャンし、発見された各イメージを通常不適切と考えられるコンテンツのために分類します。分類の内容は、モデレーターチームに対して報告可能であり、必要に応じて、一定の閾値を超えるコンテンツの自動フラグ付けを有効にすることもできます。

セマンティックサーチ
‍

Related Topicsと同様の埋め込み技術を使用して、フルページ検索にセマンティック検索オプションを導入しました。これは、キーワードの代わりに完全に文言された質問を使用して検索するときに特に有用です。

要約
‍

要約モジュールは、トピックやチャットチャンネルの短い要約をユーザーに提供し、長い議論の概要を数秒で把握することができます。

モジュールのプロバイダー

‍
上記の通り、私たちは新しいAI機能を提供することに専念していますが、その際にプライバシーを侵害することはありません。以下に、各モジュールの現在のプロバイダーとモデルをご覧ください。CDCKは、OpenAIのようなSaaSプロバイダーのAPIキーとともに、我々のインフラストラクチャでオープンソースモデルのホスティングを手掛けています。

- 有害性検出はhttps://github.com/unitaryai/detoxifyによって提供されています。
- センチメントはhttps://huggingface.co/j-hartmann/emotion-english-distilroberta-baseとhttps://huggingface.co/cardiffnlp/twitter-roberta-base-sentiment-latestを使用しています。
- NSFW検出はhttps://github.com/GantMan/nsfw_modelとhttps://github.com/bhky/opennsfw2を使用しています。
- セマンティックサジェストトピックとセマンティックサーチは、埋め込みを生成するためにhttps://github.com/UKPLab/sentence-transformersまたはOpenAIを使用し、ストレージと検索のためにhttps://github.com/pgvector/pgvectorを使用しています。
- Composer AI Helperは、OpenAIまたはAnthropicの各APIを使用しています。
- 要約はhttps://huggingface.co/philschmid/bart-large-cnn-samsum, https://huggingface.co/philschmid/flan-t5-base-samsum, https://huggingface.co/pszemraj/long-t5-tglobal-base-16384-book-summary, OpenAIまたはAnthropicを使用しています。
既存のモジュールについて他のプロバイダーを追加したい場合はお知らせください。私たちはお客様の選択肢を増やすことを目指しています。

‍

次は何？
‍

今日提供開始した機能をあなたのフィードバックに基づいて改善し続けることに興奮しています。また、Discourseでのコミュニティ体験を豊かにするための追加要素についても、多くのアイデアがあります。いくつかの例を以下に示します：

- 画像からのテキストの抽出
- PII検出
- AIを使用したトピックサムネイルの生成
- 自動イメージキャプション
- 絵文字の文脈に応じた提案
いつものように、あなたのフィードバックを楽しみにしていますので、下のコメント欄であなたの思いを共有してください。

‍

免責事項
‍

私たちはAIを取り巻く実験に非常に注意深く取り組んでいます。私たちは頼りにしているアルゴリズムは、それらが訓練されたデータがどの程度良いかによります。偏り、不正確さ、幻覚はすべて私たちが許容する必要がある可能性があります。私たちは定期的にAIモジュールを再訪問、テスト、改良しています。AIモジュールで問題のある問題に遭遇した場合は、ai-safety@discourse.orgまでご連絡ください。

‍

あなたのオンラインコミュニティにDiscourse AIをインストールする
‍

今日からすべてのエンタープライズ顧客にDiscourse AIプレビューを提供します！あなたのインスタンスにインストールして設定するために、私たちのサポートチームにお問い合わせください。お客様のフィードバックと現実世界の使用に基づいて、他のホストプランでの利用可能性を決定します。興味がある場合は、team@discourse.orgまでご連絡ください！

あなた自身のサーバー上でDiscourseを自己ホストしている場合は、OpenAI / Anthropicに依存するモジュールをすぐに使用することができ、オープンソースモジュールを使用するためにMetaの自社ホスティングDiscourse AIトピックガイドを参照することができます。