カリフォルニア州の法律は、AIのみに基づいて企業が従業員を解雇したり懲戒したりすることを禁止している

要約:

カリフォルニア州知事のギャビン ニューサムは、雇用主が従業員を解雇したり懲戒したりする際に人工知能に依存することを制限するロボット上司禁止法 (SB 947) に署名しました。新しい法律は、企業が自動化された意思決定システムのみに基づいてそのような意思決定を行うことを禁止し、主要な意思決定ツールとしての AI の使用も制限します。雇用主が解雇や懲戒の決定を行うために主に AI の出力に依存している場合、管理者の評価、同僚の評価、人事ファイルなどの他の情報と組み合わせて、人間の審査員によって検証される必要があります。影響を受ける従業員には、AI が決定に重要な役割を果たしたこと、システムによってどのような従業員データが使用されたか、決定について詳しく説明できる人間の担当者も書面で通知される必要があります。

この法案の起草者であるカリフォルニア民主党州上院議員ジェリー・マクナーニーは、労働者は機械やAIによって解雇されたり罰を受けたりすべきではないと述べた。人工知能は生産性の向上が期待されていますが、間違いや判断ミスを犯し、偏見を示す可能性もあるため、人間が AI ツールを制御する必要があり、その逆ではありません。カリフォルニア労働総連合会の会長であり、この法案の主要な支持者でもあるロレーナ・ゴンザレス氏は、労働組合とカリフォルニア労働者が州に職場でのAI規制の主導権を握るよう促し、職場にAIが入り込むことに米国民がどのように対応すべきかについての議論を変えたと述べた。

マクナーニー氏は 2025 年に初めてこの法案を提出しました。その年、この法案は圧倒的多数でカリフォルニア州の両院を通過しましたが、依然としてニューサム氏が拒否権を発動していました。ニューサム氏は当時、規制のない自動化された意思決定が従業員に損害を与える可能性があることを認めたが、労働条件に影響を与える可能性のあるAIシステムについて企業に事前に従業員に通知するよう義務付けることには反対し、当初の法案はすべての企業と無害なツールに対して広範すぎる通知義務を設定していると主張した。マケナニー氏は今年2月にこの法案を再提出した際、事前通知要件を削除し、ギグワーカーにも保護を拡大する条項も削除した。後者はウーバーやリフトなどの配車サービス会社から強く反対されていた。この変更により、テクノロジー団体やビジネス団体からのロビー活動の圧力は緩和されたが、カリフォルニア州の企業は署名前から法案に反対し続けた。

進歩商工会議所のカリフォルニア州と米国西部の政策・広報担当上級ディレクター、ロバート・シングルトン氏はニューサム氏への書簡の中で、この法案は雇用主が自動化された意思決定システムに「主に依存している」場合に義務を果たすことを求めているが、この重要な概念が定義されていないため、テクノロジーがいつ意思決定を支援するものから主要な基盤になるのかを企業が判断するのが困難になっていると述べた。同氏は、共通のツールが規制されるかどうかが明確でなければ、雇用主は意思決定の一貫性を高めたり、安全上のリスクを特定したり、管理者がより適切な判断を下せるのに役立つテクノロジーの使用に消極的になる可能性があると警告した。

ニューサムは最近、AI 関連の一連の行動をとりました。今月初め、同氏はAIモデルが引き起こす可能性のある実存的リスクに「手遅れになる前に」対処するための大統領令に署名し、AIモデルを独立して評価・監査する州レベルの枠組みの確立を推進した。同氏はまた、連邦政府が米国民を保護する責任を放棄していると批判した。 OECDが昨年発表した調査によると、米国は自動管理ソフトウェアの適用において世界をリードしている。米国の管理者の 90% は、会社では従業員の指揮、監視、評価に少なくとも 1 つのツールを使用していると回答しました。メタ社の元従業員らは今年7月、同社がAI支援システムを利用して従業員を解雇対象に選別し選別し、病気休暇や家族休暇をとった従業員に不当な影響を与えたと主張して訴訟を起こした。メタ氏は関連する告発を否定した。米国の小売業界関連の非営利団体ユナイテッド・フォー・リスペクトが５月に発表した調査では、アマゾンとウォルマートの従業員も人事決定の自動化について懸念を強めていることが明らかになった。同グループは昨夏、従業員管理におけるAIの利用を経営陣に開示するようウォルマートの株主に要求したが、失敗した。

この新しい法律は、米国で AI に対する国民の懸念が高まり続ける中で制定されました。 7月のギャラップ世論調査では、アメリカ人の39％がAIは利益よりも害をもたらすと考えており、2025年の31％から増加している。今年8月のピュー・リサーチ・センターの調査では、アメリカ人の71％がAIが「人々の仕事を奪う」と信じていることが判明し、約2年前から約7ポイント増加した。ニューサム氏は2028年の大統領選への出馬を検討しており、民主党候補者にとってAI政策は重要な争点になるとみられている。カリフォルニア州共和党知事候補スティーブ・ヒルトンも公にSB947を支持しており、この法案は十分に厳格ではないと考えている。同氏は、雇用主は従業員が解雇されるか、降格されるか、定時勤務を失うか、収入を得るために依存しているプロジェクトから排除されるかどうかをAIに判断させるべきではないと述べた。

カリフォルニア州は、職場 AI に関してこのような厳格な規制枠組みを確立する最初の州となります。過去 5 年間にわたり、イリノイ州やその他の地域では、雇用決定への AI の参加に対する制限が制定されてきました。今年1月に発効したイリノイ州公法103-0804は、特定の雇用シナリオでAIが使用される場合には雇用主に従業員に通知することを義務付けているが、雇用決定を行うためのエージェントのようなデジタルシステムの導入は禁止していない。同様の法案は全国の多くの州で未だに審議されていない。今年6月、民主党のエド・マーキー上院議員とブライアン・シャッツ上院議員は、雇用主が仕事関連の意思決定を自動化された意思決定システムに依存することを禁止する同名の連邦法案を提案した。しかし、議会はAI規制法を積極的に推進していないため、法案の見通しは限られている。同様の法案はニューヨーク州、ルイジアナ州、ニュージャージー州でも提案されているが、まだ実行されていない。ニューヨーク州は今年初め、新たなAIデータセンターを禁止した国内初の州となった。カリフォルニア州の新法により、他の州も職場での AI 法案の加速を促す可能性がある。

リベラル派の人権擁護団体である電子フロンティア財団は、この法案への署名は自動意思決定システムを使用する職場の従業員を保護するための重要な一歩であり、今後も労働団体と協力して職場での尊厳を維持する政策を推進すると述べた。