AIが出した答えを、そのまま信じていいんだろうか。
開発の現場では、もう常識になっている
最近、開発の現場では、こんな考え方が広がっているという話を読みました。
「作業を自動化できることと、その結果が正しいことは別」
生成AIは、確率的に出力する仕組みです。だから、いつでも間違えることがある。
実際、AIが自動で入力した値が、実際の条件と一致しないケースがあった、という報告もあるそうです。
だから、こう対処するようになっている。
AIの出力は、あくまで候補値として表示する。判断の根拠も、一緒に示す。そのうえで、人間が確認する。
確定するときは、「誰が、いつ、何を根拠に確定したか」まで、記録として残す。
AIの答えを、そのまま”確定した値”として保存してはいけない。
「AIは判断を代行するためではなく、判断を支援するために使う」
開発の現場で、よく言われる言葉だそうです。
なら、なぜ私はAIで「診断」を作るのか
人事や総務として、4社で働きました。
人を採用したり、育てたり、時には評価したりする側です。
2016年に独立して、今年で10年になります。
辞めた理由は、いくつかありますが、いちばん大きいのはこれでした。
知識や経験を活かして行える業務ではあった。だけど、やりがいは感じられなかった。組織の意志を重視し、個人の想いなどは重要視されなさ過ぎていた。それに、私自身の能力・才能的に個人と向き合う方が発揮できると悟った。
組織の中で、人を”評価”する側から離れて、10年。
今、私はAIで「診断」を作っています。
人を評価する側から離れたはずなのに、AIに「診断」をさせようとしている。
矛盾していないだろうか、と自分でも思うことがあります。
この問いに、今日は向き合ってみようと思います。
世の中のAIは、どうしているんだろう
前回の記事で、AIを使って自分を知ろうとする2つのサービスを取り上げました。
ひとつは、
タレントマネジメントの上場企業。AIが、本人も気づいていない価値観やキャリア志向を分析して、可視化する。そのうえで、目標とのギャップを埋める道まで示してくれる、というものでした。
もうひとつは、
日記のように書けるアプリ。こちらは逆に、AIがすべてを教えるのではなく、利用者自身が考え、気づくための”余白”を残す設計を選んでいました。
この2つだけじゃありません。
最近は、管理職向けに、部下との対話をAIが読み取って、ヒントを返すツールも増えてきています。
診断、相談、伴走——呼び方はいろいろですが、AIが「自分を知る」お手伝いをする、という意味では同じジャンルです。
共通しているのは「AIが答えを出す」形
並べてみると、共通点が見えてきます。
タレントマネジメントのAIは、データから答えを出す。
日記のアプリは、答えを出さないと決めている。
でも、どちらも”AI”が、その人の状態を読み取って、何かを返している。
スコアであれ、気づきのきっかけであれ、”返すもの”を作っているのはAIです。
管理職向けのツールも、会話や日報をAIが読み取って、ヒントを返す。
処理するのも、AI。返すのも、AI。
私が作っている2つのハックラボは、実はここが違います。
眠れる才能ハックラボは、点数をつけていない
眠れる才能ハックラボは、GEM（カスタムAI）で作った診断アプリです。
入力すると、AIが何かを返してきます。
でも、それは点数ではありません。
「あなたは82点です」「上位20%に入っています」というような、優劣や順位がつく形にはしていません。
返ってくるのは、ネームと、特性と、アクションプラン。
基本は、この3層構造です（テーマによっては、ネームとアクションプランの2層のこともあります）。
ネームと特性は、いまの自分を”見える化”するためのもの。
そして、いちばん大事にしているのが、アクションプランです。
行動して、結果が出て、また行動する。
このループが、伸びしろになる。
点数は、そこで止まってしまいます。
82点も、上位20%も、出た瞬間に確定してしまう。
でも、人はそこで終わりません。
明日には、違う自分になっているかもしれない。
AIが人を”点数化・選別”する時代に、私がGEMでやりたかったのは、その逆でした。
見える化「目標と価値観」のサポートツールとして。
評価するためじゃなく、次の行動を見つけるために使ってほしいんです。
らしさととのうハックラボは、言葉を取り上げない
らしさととのうハックラボには、AIと一緒に進める機能があります。
そもそも、自分と向き合うためのフォームが並んでいます。
紙に印刷して手で書いてもいいし、画面の上でAIと話しながら進めることもできます。
そのAIに、私は2つのことだけをさせています。
ひとつめ。
「人間関係がしんどい」のように、いま困っていることを文章で入れると、合いそうなフォームを3枚、理由をつけて出してくれます。出すところまでが、AIの仕事です。そこからどれを開くかは、自分で決めます。
ふたつめ。
開いたフォームでは、AIが順番に問いを出してくれます。
いきなり白い紙を前にすると、手が止まる。でも「今日、いちばん引っかかったのは何でしたか」と聞かれると、少しだけ出てくる。その、聞いてくれる役です。
詰まったときは、例も見せてくれます。でも、それも例どまりです。
AIは、代わりに答えません。
設計の中に、こんな一文を入れています。
ユーザーのすべての回答は”原文のまま”保持し、言い換え・要約・短縮をしない。
AIが、言葉を整えない。AIが、代わりに要約しない。
出てきた言葉は、たどたどしくても、まわりくどくても、そのまま残す。
言葉を出すのは、最後まで自分のままです。
そして、残る
もうひとつ、大事にしていることがあります。
残る、ということです。
AIとの対話は、”残さないと”自己理解にならない。
マイトレフォームは、ずっと紙でやってきたワークです。
紙との対話は、”残るから”自己理解が深まる。
書いた紙は、後で読み返せます。1ヶ月後に開いて、「あの時、こう思ってたんだ」と気づく。
残っているから、比べられる。積み重ねられる。
AIと進める版でも、同じことをしたかったんです。
AIとの会話をどう扱うかは、サービスによって違います。履歴がずっと残るものもあれば、しばらくすると消えるものもある。
うちは、Aiとの会話は残していません。入力した内容をこちら側で保存しない、と決めているからです。
だから、質問と答えを対にした一覧のテキストを、入力中にいつでも出せるようにしてあります。自分でコピーして、自分の手元に持って帰る。
ページに残らなくても、自分の手元には残せる。その形にしました。
話した内容が、”手元に残る器”であるかどうか。
それが、AIとの対話を”伴走”と呼べるかどうかの境目だと思っています。
確定させるのは、AIではなく本人
冒頭の話に、戻ります。
開発の現場では、AIの出力を、そのまま確定した値として保存してはいけない、という話でした。
AIの出力は、あくまで候補。判断根拠を示した上で、人が確認する。確定するときは、「誰が、いつ、何を根拠に確定したか」まで残す。
眠れる才能ハックラボも、らしさととのうハックラボも、同じ形をしています。
AIが出すのは、ネームであり、特性であり、問いです。
でも、それを”自分のもの”として確定させるのは、AIではありません。
自分自身です。
私が人事だった頃、人を評価する側にいて、いちばん違和感を持っていたのは、そこでした。
誰かが、誰かの価値を、外から確定させてしまうこと。
AIが確定するようになっても、同じことが起きるだけです。確定するのが人からAIに変わっただけで、”外から確定される”という形は、何も変わっていない。
だから、私が作るAIは、確定しません。
材料を出す。問いを渡す。答える場所を用意する。
そこから先、確定するのは、いつも自分自身です。
まず1枚、書いてみませんか
もし、今の話にちょっとでも引っかかるものがあったら。
「らしさととのうハックラボ」の中に、AIと話しながら進められるフォームがあります。
2枚は、登録なしで、いますぐ開けます。
メールを登録すると、7枚まで開きます。
→ [らしさととのうハックラボ]
点数はつきません。言葉を出すのは、いつも自分自身です。
