イギリスの国営放送BBCで、化粧品のMACでの大きなRedundancy（リダンダンシー／ビジネスや会社都合による解雇）での手法が問題となったことについて扱っていました。
私自身、もとはITエンジニアでソフトウェアの開発に１０年以上携わった経験と、リクルートメントに８年ほど携わっていることから、非常に興味を持いちつつ、かつ、非常にディストピアな現実に驚きました。
UKでしか見られないかもしれませんが、ここより視聴可能です。

司会は、大学卒業後にリクルーターとして数年働いた後、ジャーナリズムに興味をもって再び大学でジャーナリズムを学び、BBCのジャーナリストとなったダニエルさん。とってもチャーミングで、誰とでも垣根なく話せる人なんだろうな、と思いました。

ここでは、MACでリダンダンシーにあった女性Make-up Artist３人が登場します。このMACの親会社は、アメリカ本社のエスティ―ローダーだそうです。彼女たちは、リダンダンシーのプロセスについては、ほぼ説明がないまま、欧米で大きく使われているリクルートメントAIソフトウェアを通して質問に答えたものを録画するように言われます。ここでは、このソフトウェアのアルゴリズムが、誰をリダンダンシーの対象にするかを決め、人事等の「人間」は通さなかったそうです。親会社の人事に問い合わせても、このソフトウェアは、表情や動き等の数万のビジュアルポイントを録画・分析している（＝コンピューターは正しい結果を出したに違いない）と言われ、何を基準に彼女や他の従業員の仕事での有能性を判断したのには答えが得られなかったそうです。そのため、この３人は、リダンダンシーの理由が不明確、不平等だということで会社を訴えます。
このソフトウェア会社は、本来リクルートメントに使うことを意図しており、リダンダンシーを目的とするようには意図していない、とはしていましたが、基本は、アルゴリズムやデータはさまざまな人々にチェックされており、バイアス（偏り）はなく、とても公平で正確だと主張していました。
そうでしょうか？
この会社で、外部アドバイザーとして数年働いていた専門家は、何度このソフトウェアの問題性に指摘しても企業は何も行わなかったという理由で辞職しました。その人によれば、「アルゴリズムはバイアスがかかっているし、データも不十分・不正確で、このソフトウェアはお金の節約（＝企業の利益を増やすため）のためだけでに存在している」と断言していました。

既に日本でも同じことは起こっていると思いますが、履歴書の多くはコンピューターのアルゴリズムによって合否が決められ、最初の面談はビデオレコーディングでコンピューターのアルゴリズムが合否を決定し、その後やっと人間が履歴書に目を通したり、面談を行うということになります。
リクルーターや企業にとっては、プロセスを早め経費節約ということで役に立っているでしょうが、これは、個人にとっても社会にとっても良いことなのでしょうか？
また、アルゴリズムは人間よりもバイアスがなく、正確で人々の真の姿を見つける、という謡文句は科学的に事実であるとどの程度証明できるのでしょう？

多くのAI専門家も、人間のように複雑で予期しにくいものに、アルゴリズムを使って判断しようとするのは、適切な使い方ではないとしています。

この番組でも専門家との実験等も交えながら挙がっていたよくある問題点は以下です。

ー アルゴリズムを組んだ人の偏見がどうやっても入る。
ー アルゴリズムは不透明。「創造性」をどうやってアルゴリズムが判断しているのか、アルゴリズムを組んでいる人々でも明瞭に説明できない。
ー データは常に不完全で不十分。特に、Facial Recognition（表情認識）については、白人のデータは多いが、有色人種のデータは限られていて、しかもデータに「悲しい」「うれしい」「怒っている」等のラベルを設定するのは、ギグワーカー（インターネット上で最低賃金も出ない状態で働いている世界中の人々）で、スタンダードが設定されているわけでもなく、その写真にラベルをつける人々の主観によっていて、データとして信用性はとても低い。それらのデータによって判断を行うアルゴリズムは、当然信頼性が高いとは言えない。
ー ビデオの場合、スピーチを自動的に文字に変換し、その文字が「チームワーク」「一緒に」等の言葉を多く含んでいれば、チームワークに向く人だと判断する等のアルゴリズムが組まれていることが多い。しかし、方言やアクセントによって正しく文字に変換されていないことが多々生じているのは、既に証明されており、その場合は、上記のことばを多用していてもコンピューターに認識されていないので、カウントされない。また、それらの言葉を多用していることがチームワークに向いているかどうかを判断するのにどの程度有効なのかも証明されていない。

また、コンピューターには嘘をつけないという説もありますが、履歴書に背景と同じ色（人間からは見えない）で実際には取得していないMBAや、爵位等を入れると、突然アルゴリズム上での履歴書の点数があがるという実験もありました。

また、このソフトウェアだけでなく、ゲームを通して行動パターンを知るというリクルートメントのソフトウェアもありましたが、結果的には同じで、科学的に信用できるものではありません。

結果的に先述したMACの３人は、会社とNDA（Non Disclosure Agreementー秘密保持契約）を結び、金額や内容については外部について話すことはできないけれど、基本的には会社の決定が間違っていたということでそれなりの賠償金を支払われたそうです。彼女たちが言っていたのは、「自分たちは、裁判にもっていけるという余裕があったけど（裁判にかかる費用を払える経済力や精神的なサポート）、みんながそういう幸運な立場にいるわけじゃない。自分の権利について立ち上がって闘い、大変だったけど、自分の自信にもなった」と言っていました。
また、彼女たちだけでなく他からの訴えもあり、前述したソフトウェア会社は表情認識の大部分の機能をソフトウェアから外したそうです。

私自身は、AI機能を持ったリクルートメントソフトウェアを使っていますが、AI機能をオフにしています。
今まで、日本人だけでなく多くのヨーロピアンや、アゼルバイジャンといった国々やさまざまな国で育ってきた人々と英語や日本語での面談を行ってきましたが、一人一人の個性やタレントは全く違っていて、アルゴリズムでははかりきれないし、心理テストのように決まりきった型、例えば２６種類の型等にはめ込むことはできません。人間はもっと複雑で、状況や人によって、それに合わせて調整した言動を行うので、二択式（Yes/No）といった心理テストでは、はかりようがありません。アメリカの大手の心理テストの会社も、同じテストを別の日に同じ人が受けると違う結果が出ることは分かっていて、科学的な信用性はなく、世間話のきっかけ程度にしかならないことは認めています。
実際にひとと話してみると、履歴書にいくつかの空白があるのは市民戦争のために国全体で学校に行ける状態ではなかった時代を体験したためであったり、仕事を何度か変わっているのは、近隣の大きな国からの経済制裁を受けて、その国のロジスティクスの会社の７０パーセントぐらいがつぶれてしまったことに影響されている場合もありました。履歴書上では、日本語試験（ＪＬＰＴ）がよくなくても、非常に頭の回転が速く気がきいて、相手の言いたいことを素早く理解し、的確な受け答えができる人もいました。日本語試験のレベルは高くても、どうしても日本語では話が通じにくく、英語では非常にコミュニケーションがスムーズにいく場合もありました。
私自身は、決まりきった定型のインタビューは行いません。
なぜならみんな違うからです。
私が目指しているのは、その人が人生で何をしたいのか、何が大事で譲れないのかを知り、その人の人生にとって現時点での最良の選択ができるようサポートすることです。
自分自身の良い部分を最大限に使って伸ばし、会社や社会に貢献し、自分も周りも楽しく生き生きと働きつつ、自分のもっと大きな夢や家族との時間を大切にすることも可能だと信じています。
他の会社で働いたときは、定型通りにインタビューを行うようにとのプレッシャーもありましたが、私の自由形式で他の人よりも良い結果をきちんと出していたので、そのまま自由形式を続けました。
これには、私自身の地球上のさまざまな国からきた友人や知り合いとの関わり、ITエンジニア・ジュエリーデザイナー・リクルートメントという違ったプロフェッションを経験していること、なんにでも興味をもちしっかりとリサーチして自分の知識にしていること、ひとへの純粋な興味、アートセラピーやカウンセリングの勉強を通して学んだこと等が混ざり合って、自由に対話をすることを可能にしているのだと思います。

また、この番組でも、これらのソフトウェアの活用については、「利益・お金＞＞＞＞＞ひと」という構図は明確であり、リクルーターでも自分の営業成績をあげてコミッションを増やすことばかり考えている人の言動はひどいものでした。
まず最初に、「ひと」がきて、正しいことをしていれば、結果的にどこかでプロフィットはやってくる、という考え方でないと、どこかでほころびが出てくるように思います。

ただ、これらのテクノロジーはこれからも使われていくことは避けられないので、最低限の対策はせざるを得ないでしょう。
ただ、コンピューターに「No」と言われても、信用性はないので、深く気にせず、自分のよい部分をいかせる仕事に注目して、選択しましょう。
コンピューターに未来を決められるのではなく、自分がどうしたいのかをよく考え理解して、それに合わせた未来をつくっていきましょう。もしかしたら、それはPaid Job（賃金を払われる仕事）ではなく、あなた自身が新たに作り出す仕事なのかもしれません。