OpenAI が AI を使ってインターネット コンテンツを管理したいと考えていることについてどう思いますか?

生成型 AI チャットボットの登場以来、スパムや大量のテキストに悩まされるプラットフォームが増えています。 ChatGPT の開発元である OpenAI は現在、この問題を独自に解決したいと考えています。 GPT-4 言語モデルに基づくモデレーション ツールは、プラットフォームの作業を容易にするように設計されています。

OpenAI がブログ投稿で約束したのは、投稿の処理速度の向上とガイドラインのより一貫した施行でした。 当然のことながら、AI ツールは基本的に人間によるレビューよりも高速に大量のテキストを処理できます。 しかし、もう 1 つの利点は、ルールの実装に準拠していることです。

その結果、GPT-4 はコンテンツの評価において一貫性が高まり、適応したガイドラインをより迅速に実装できるようになります。 ルールを調整してそれらの変更を実装するには、通常、人間のレビュー担当者の場合は数週間から数か月かかりますが、AI システムの場合は数時間しかかかりません。 たとえば、OpenAI によれば、GPT-4 を使用すると、仕様の重要なポイントを特定してガイドラインを改良することが容易になります。

オープンAI

AIツールは人々にとっての救済にもなるはずです。 ソーシャル ネットワークによって生成される大量のコンテンツを管理することは、ストレスが多く、精神的に疲れる作業であると考えられており、この業界の労働条件もしばしば批判されています。 ちなみに、これは OpenAI に代わって ChatGPT 出力の最適化と調整に取り組んでいる人にも当てはまります。

監査APIを有料サービスとして提供

OpenAI の監査ツールには API 経由でアクセスできます。 つまり、一つ明らかなのは、これは有料サービスであり、同社は明らかに事業領域を拡大しようとしているということだ。 コストの上昇はすでに春に報告されていたため、収入は必要である。 この計算に基づくと、OpenAI だけでも ChatGPT を実行するために必要なインフラストラクチャに 1 日あたり約 70 万ドルを支払う必要があります。 最近の報告によると、状況は改善していない。

コストに加えて競争も激化しており、以前の熱狂は（少なくともユーザーレベルでは）沈静化しつつあるようです。 分析サービスSimilarWebによると、ChatGPTのユーザー数は7月に12%減少した。 2か月連続となります。 これに加えて、モデルのトレーニングに必要な Nvidia GPU が必要ですが、現在入手は困難です。

AIによるテキスト氾濫との戦い

OpenAI は監査に言語モデルを使用する最初の企業ではありません。これらは削除すべきコンテンツを特定するのに役立つと、MetaのAI責任者ヤン・ルカン氏は数か月前に説明した。

プラットフォームが生成 AI ツールを使用する場合、その制限を考慮する必要があります。 OpenAI 自身も、言語モデルのトレーニングや調整時に発生する可能性のある望ましくない歪みについて語っています。 同社はブログ投稿で、「すべてのAIアプリケーションと同様に」結果は人間によって定期的に確認されるべきだと述べた。 調整は常に必要です。

これらのツールがどれほど有望であるかはまだ分からない。よくある問題は、グレーゾーンや境界線上の領域に該当する質問に関しては、AI システムが実際に正確な判断を下すことができるかどうかです。

OpenAI が AI を使ってインターネット コンテンツを管理したいと考えていることについてどう思いますか?

インターネット上には、悪質、有害、誤解を招く、または違法なコンテンツを含む大量の情報とコンテンツが存在します。したがって、AI テクノロジーを使用してインターネット コンテンツを管理することで、コンテンツをフィルタリングおよびレビューし、ユーザーがより安全で正確かつ価値のある情報を入手できるようにすることができます。

しかし、この目標にはいくつかの課題と論争も生じています。まず、AI 技術は複雑な意味や文化的背景を理解して解釈する上で限界があり、誤った判断や正当なコンテンツの過剰な検閲につながる可能性があります。第二に、適切なコンテンツを決定する際には主観的な判断が伴う可能性があり、言論の自由や情報の流れに関する懸念が生じる可能性があります。さらに、コンテンツ管理に AI に依存すると、承認と責任の問題も生じる可能性があります。

したがって、OpenAI が AI を使用してインターネット コンテンツを管理したいという希望は、技術的な実現可能性、法律や規制、倫理基準、ユーザーと社会の権利と利益の尊重など、さまざまな要素を考慮する必要があります。 AI 技術の使用が透明性と信頼性を備え、言論の自由、イノベーション、オープンなインターネット環境を妨げるのではなく、プラスの影響を与えることを保証することが重要です。