インスタグラムは来週から新機能を導入する予定だ。10代のユーザーが明らかに自傷行為や自殺に関連するキーワードを短期間に複数回検索しようとすると、プラットフォームは保護者にリマインダーを送り、保護者が率先して子供の精神状態に気を配るよう推奨する。親会社のMetaも、同様の早期警告メカニズムが今年後半に同社のAIチャットボット製品にも拡張される予定だと述べた。

この機能は、まず米国、英国、オーストラリア、カナダで開始され、「保護者による監視」設定を有効にしている青少年アカウントにのみ適用されます。つまり、保護者と青少年の両方が監視機能をオンにすることを積極的に選択した場合にのみ、保護者は関連する通知を受け取ります。メタ氏によると、この機能は今年後半にさらに多くの地域に拡大される予定だという。

Instagramの発表文によると、ほとんどの10代ユーザーは自殺や自傷行為に関連したコンテンツを積極的に検索しないという。ユーザーがそのような検索を行う場合、プラットフォームの既存のポリシーでは、関連する検索結果を直接ブロックし、心理的サポートやヘルプ ホットラインを提供するリソース ページにユーザーを誘導します。 Instagramは、新しい警告メカニズムの目的は、コンテンツ制限を緩和することではなく、ブロックポリシーを維持しながら、子供が「助けを求める信号」を発する可能性がある場合に、親が介入して適時にサポートを提供する機会を与えることであると強調した。同プラットフォームはまた、通知が頻繁になりすぎて警告効果が弱まるのを避けるため、「保護者への必要な通知」と「過度の中断の回避」のバランスを取るよう努めると述べた。

具体的な提示方法としては、若いユーザーが自傷行為や自殺に関連する単語を短期間に繰り返し検索したとシステムが判断した場合、電子メール、テキストメッセージ、WhatsAppなどのチャネルを通じて保護者にリマインダーが届くほか、アプリ内にも通知がポップアップ表示される。この通知は、保護者に子どもの最近の検索行動を思い出させるだけでなく、デリケートな話題について十代の子どもとコミュニケーションをとる方法に関するガイダンス リソースも付属しており、保護者が会話の準備を整えるのに役立ちます。