Ofcom、検索エンジンは自傷行為のゲートウェイとして機能すると発表

ChatGPT の発表以来、コンテンツの安全性への大きな変化が見られました。 ChatGPT やその他のチャットボットの自己検閲は、検索エンジンに関してはあまり問題になりませんが、Ofcom は現在、危険性の 1 つである自傷行為コンテンツへの簡単なアクセスを強調しています。

Network Contagion Research Institute (NCRI) による Ofcom に関する新しい調査では、Google、Bing、DuckDuckGo、Yahoo!、AOL などの主要な検索エンジンが、自傷行為を称賛または称賛するコンテンツへのゲートウェイとして機能する可能性があることがわかりました。 Web ページ、画像、ビデオが含まれます。

研究の一環として、NCRIは、本当の意味を隠すためにオンラインコミュニティで使用される一般的な自傷行為に関する質問と不可解な用語を入力した。 37,000 件の検索結果に基づいて、有害な自傷行為のコンテンツが蔓延しており、画像検索は特に危険であり、不可解な検索用語を使用するとより有害なコンテンツが表示されることがわかりました。

Ofcom のオンライン安全ポリシー開発ディレクターである Almudena Lara 氏は、この調査結果について次のようにコメントしています。

「検索エンジンは人々のオンライン体験の出発点となることが多く、私たちは検索エンジンが深刻な自傷行為を伴うコンテンツへのワンクリックゲートウェイとして機能するのではないかと懸念しています。

検索サービスは、春に予定されている広範な協議に先立って、その潜在的なリスクと、特にオンラインで子どもの安全を守るための保護措置の有効性を理解する必要がある。」

この研究における主な注意点の 1 つは、安全な検索と画像ぼかしの設定が研究者によって使用されていないことです。保護者が適切なフィルターを設定している場合、セーフサーチなどの機能はデフォルトでオンになり、オフにするオプションはなく、子供たちに何らかの保護を提供する必要があります。

Ofcom は、英国で最近可決されたオンライン安全法の執行機関です。子どもたちが自傷行為の促進、自殺、摂食障害などの有害なコンテンツに出会う可能性を減らすための措置を講じるよう検索エンジンに指示する。春には相談会の予定です。

出典:オフコム