研究者らは人工知能を利用して、ユーザーがコメントを投稿する前に言い換えの提案を提供することで、二極化しているトピックに関するオンラインディスカッションの質と礼儀正しさを向上させる方法を開発しました。彼らは、人工知能を正しく使用すれば、よりフレンドリーで安全なデジタル環境を構築できると主張しています。
オンラインでの会話は現在、公開討論において中心的な役割を果たしています。しかし、ソーシャル メディア プラットフォームやデジタル ニュース メディアのコメント セクションは、議論、脅迫、中傷にまで発展する議論で埋め尽くされており、特に意見の対立を招く話題に関する議論は顕著です。
現在、ブリガム ヤング大学 (BYU) とデューク大学の研究者は、オンライン チャットを調整し、チャットの品質を向上させ、礼儀正しさを促進できる人工知能を開発しました。
彼らはフィールド実験のために1,574人の参加者を募集し、政治的議論でしばしば提起される分裂問題である米国の銃規制に関するオンライン議論に参加するよう求めた。各参加者は銃規制に反対する人とペアになりました。
ペアリングが成功すると、会話の相手が治療条件または対照条件にランダムに割り当てられ、会話が始まりました。会話を処理する際、参加者はメッセージを送信する前に GPT-3 から 3 つの言い換え提案を受け取ります。参加者はAIが提案する3つの選択肢から1つを送信するか、自分のオリジナルメッセージを送信するか、任意のメッセージを編集するかを選択できる。
1 回の会話につき平均 12 件のメッセージが送信され、AI は合計 2,742 件のメッセージが書き換えられたと示唆しました。参加者は AI が提案した単語の変更を 3 分の 2 の確率で受け入れました。 AI の言い換え提案を 1 つ以上実行した人のチャット パートナーは、会話の質が大幅に向上し、政敵の視点に耳を傾ける意欲が高まったと報告しました。
研究の共著者の一人であるデビッド・ウィンゲート氏は、「言い換えが頻繁に行われるほど、参加者は会話が対立を生むものではなく、話を聞いてもらえている、理解されていると感じる可能性が高いことがわかった」と述べた。
研究者らは、今回の調査結果は、このスケーラブルなソリューションがインターネットに飽和する有害なオンライン文化に対抗できることを示唆していると述べている。 AI介入はさまざまなデジタルチャネルにわたって広く実施できるため、範囲や利用可能性が限られているサイバー礼節に関する専門的なトレーニングコースよりも導入が容易であると彼らは述べている。
研究者らは、この研究は、人工知能が正しく使用されれば、より前向きなオンライン環境を作り出し、思いやりと敬意を持った議論を促進する上で重要な役割を果たすことができることを最終的に示していると述べている。
「今後もより多くのBYDの学生がこのような向社会的なアプリケーションを構築できるようにし、BYDが機械学習の倫理的な使用方法を実証するリーダーになれることを願っています」とウィンゲート氏は語った。 「情報が支配する世界では、世界の情報をポジティブで社会的に有益な方法で処理できる学生が必要です。」
この研究は米国科学アカデミー紀要（PNAS）に掲載された。