AIが給与や評価を決める時代が来る？Uberの集団訴訟から考える「AI上司」とデータ活用の倫理

同じ出発地点から同じ目的地まで乗客を運ぶ仕事内容なのに、ある運転手には27ポンド、別の運転手には23ポンドの報酬が提示される。仕事内容はまったく同じであるにもかかわらず、提示される金額が異なるという現象が起きているといいます。

これはイギリスやオランダなどでUberの運転手たちがヨーロッパの裁判所で起こした集団訴訟の中で議論されている論点の一つです。運転手側は「過去に安い仕事を何度も受けていたから、AIが『この人なら安くても断らない』と学習し、個別に報酬を下げているのではないか」と訴えています。

もちろん、Uber側はこの主張を全面的に否定しており、需要の急増やGPS上の位置、システムテストなどの条件によって一時的に差が出るだけで、個人の履歴によって意図的に下げているわけではないと説明しています。この裁判の結末がどうなるかはまだ分かりません。

しかし、このニュースを追う中で私が強く感じたのは、これは決して遠い外国のギグワーカー（単発の仕事を請け負う働き手）だけの問題ではなく、数年後のあらゆる企業の職場に波及しうるテーマだということです。

今回の記事では、AIによる「動的価格設定」が労働の現場に入り込んだときに何が起きるのか、そして経営者や事業者がデータ活用を進める上で忘れてはならない倫理について考えてみたいと思います。

「個別最適化」という名の「個別値下げ」が起きる仕組み

ホテルの宿泊費や航空券のチケット代が需要に応じて変動する「ダイナミックプライシング（動的価格設定）」は、ビジネスの世界では一般的になっています。購入者の利便性や需要に合わせて価格を変える仕組みは、企業の収益最大化にも貢献します。

しかし、これが「顧客への販売価格」ではなく「働く人への賃金・報酬」に適用された場合、意味合いが大きく変わってきます。

企業やAIの視点から見れば、従業員一人ひとりの過去の行動パターンや事情に合わせて待遇を調整することを「個別最適化」と呼ぶかもしれません。しかし、働く側から見れば、自分の事情や断りにくさを利用された「個別値下げ」に感じられます。

たとえば、「この人は帰り道の方向だから安くても受けるだろう」「この人は過去に昇給を断られても辞めなかったから、今回も据え置きで問題ない」「この人は家庭の事情でこの時間帯しか働けないから、条件を下げても離職しない」といった予測がAIによって精度高く行われるとしたらどうでしょうか。

AIが進化すればするほど、個人の勤務履歴、有給休暇の取得頻度、残業の受け入れ具合などから「その人が離職しないギリギリの最低条件」を導き出せるようになってしまいます。

給与交渉における「情報の非対称性」とブラックボックス化

従来の労使交渉や給与査定であれば、少なくとも人間同士のやり取りがありました。「なぜ自分の評価がこの金額なのか」を上司に訊ねたり、納得がいかなければ人事や経営層に抗議したりする機会が残されていたわけです。

しかし、評価や報酬設定がAIのアルゴリズムに委ねられると、判断理由がブラックボックス化します。

画面に提示された金額に対して疑問を持っても、上司や会社の担当者自身が「AIのシステムが算出した結果だから」としか答えられない状態が生まれます。何を変えれば評価が上がるのか、どのデータが影響してその条件になったのかが本人に分からないまま、提示された条件を受け入れざるを得なくなります。

ここで本当に恐ろしいのは、AIに感情がないことではありません。こちらの置かれた状況や感情、断りにくいという「弱み」を、自分以上に精密にAIに把握され、交渉の判断材料に使われてしまうことです。会社側だけが相手の手札をすべて見ている状態で交渉が行われるため、非常に不公平な構造が生まれてしまいます。

正社員の評価や配置転換にもAIが介入する未来

「これはプラットフォーム型の仕事の話であって、自社のような正社員中心の会社には関係ない」と思われるかもしれません。ですが、AIを使った人事評価ツールやシフト管理、業務割り当ての自動化はすでに一般企業にも広がっています。

今後、昇給額の決定、賞与の配分、負荷の高い仕事の割り当て、勤務シフトの調整、さらにはリストラや配置転換の優先順位にまで、AIの予測モデルが組み込まれていく可能性があります。

その時に問われるのは「AIがどれだけ正確に計算できるか」という技術論だけではありません。「どのデータを評価に使ってよいのか」「AIが提示した条件に対して、人間が説明を求めたり異議を申し立てたりする権利をどう残すか」という、人間側のルール設計です。

効率化やデータ活用を推進することは企業にとって重要ですが、働く人の弱みにつけ込むような形で最適化を進めてしまえば、一時的にコストが抑えられたとしても、長期的なエンゲージメントや信頼関係は確実に崩壊します。

データやAIは、働く人を縛り付けるためではなく、現場の負担を減らし、正当な成果を可視化するために使うべきだと私は考えています。便利さの裏にある技術の「使い道の倫理」について、私たち中小企業の経営者も真剣に向き合っていく必要があります。

CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。現場の支援を通じて、単なるツールの導入にとどまらず、社内の業務改善やデータ活用に関するご相談に寄り添っています。お気軽にご相談ください。