要約:
Financial Times によると、Anthropic は、より良い取引条件を目指しながら、AI エージェントを使用してユーザーに代わって交渉し、合理的な交渉ルールに従う方法について法律専門家と話し合っています。アンスロピックの考えに詳しい関係者２人によると、アンスロピックは顧客の利益を守りながら弁護士が公正な結果を得るためにどのように交渉できるかについて法律事務所からアドバイスを求めているという。アントロピック氏はコメントを控えた。
人類的
Anthropic は、自律エージェントを開発する大手 AI 企業の 1 つです。このタイプのインテリジェント エージェントは、ユーザーの指示を受け取った後、自律的にアクションを実行してタスクを完了できます。 AI 企業は、パーソナル インテリジェンスの応用により、AI 同士が通信したり、ユーザーに代わって製品価格を交渉したり、顧客サービスに関する紛争を解決したり、さらには賃金の向上に努めたりできるようにすることを検討し始めています。
この研究に詳しい関係者によると、Anthropic はモデル同士が交渉する際に従うべき「交渉規範」の研究に取り組んでいます。エージェントの能力が高まるにつれて、ユーザーを代表し、相反する目標を持つ他のエージェントに対処する必要があります。
交渉中にどのくらいの頻度でユーザーに相談すべきか、AI の交渉相手についてどの程度警戒すべきかは、Anthropic が検討している問題です。関係者らによると、同社は代理店に対し、過剰な疑惑を避けつつ、必要なレベルの懐疑心を維持するよう求めているという。
Anthropic はまた、エージェントが引き受けたタスクとエージェントが遵守すべきルールを確認する署名済みの文書をユーザーが提供するソリューションも検討していると、同社に近い別の関係者は述べた。
フィナンシャル・タイムズ紙は、Anthropic が今年 4 月に発表した調査結果を引用し、人間に代わって取引を行う AI モデルに関する政策と法的枠組みはまだ確立されておらず、そのような応用シナリオはもはや遠くなく、社会は関連する変化にできるだけ早く対応する必要があると述べています。
Anthropic は今年、クロード エージェントが実際の商品や資金を中心に交渉できるようにするための多くの実験の結果も発表しました。
9 月に行われた実験では、Anthropic の従業員が AI エージェントを通じて書籍を売買しました。従業員はまず自分のエージェントに好みに応じて分類された書籍のリストを提供し、次に仮想取引会場に入って他人のエージェントとの取引を推奨、交渉、締結できるようにします。
この実験では、「タフで冷酷な」戦略を採用するよう求められたエージェントが、より良い結果を目指して努力する点でわずかに有利であることがわかりました。より協力的なエージェントの中には、実験に参加した各エージェントが最終的にユーザーに本を持ち帰るようにするために、優先順位の低い本を受け入れるなど、意識的に譲歩した人もいました。
学界も AI 間の交渉を研究しています。ハーバード・ビジネス・スクールの助教授であるミシェル・ヴァカロ氏は、雇用契約や賃貸契約交渉など、AIエージェント間の18万件以上の交渉を行ってきた。
この調査では、一部の新たな戦略は、相手方のエージェントがユーザーの利益を代表する能力を弱める可能性があることが判明しました。たとえば、交渉において、エージェントは「キューワードインジェクション」を通じて相手方に個人情報を明らかにするよう誘導しようとしました。
AI の強化によって交渉能力の差がさらに広がるかどうかも懸念材料となっています。ヴァカロ氏は、大容量モデルを使用すれば、交渉スキルを学んだり、交渉を担当する人を雇ったりするための時間やリソースがない人々が、プロの交渉能力を身につけることができると述べました。しかし、最も強力なエージェントが主に最も多くのリソースを持つ者によって使用される場合、既存の利点が強化され、交渉力の不平等が拡大する可能性もあります。
コメント