AIに頼んだ集計が終わり、「完了しました」と返ってくる。画面にエラーは無く、数字もそれらしく並んでいる。そのまま会議の資料に貼って、次の仕事へ移る。

その「完了しました」のあと、人はどこで確かめればよいのでしょうか。この記事では、DX Factoryの運用の中で実際に見つかったことをもとに、人が確かめる場所をお伝えします。

目次

「完了しました」を、そのまま完了として扱わない

DX Factoryでは、自社の運営や、納品物の作成やチェックなどのサービスにもAIを活用しています。しかし、最終の責任は人にある以上、AIが「保存しました」「完了しました」と言っても、それだけでは完了として扱いません。

前提を確かめること。実際に動かして、画面で確かめること。本番のデータを写して、テストで確かめること。この3つを通して、はじめて完了となります。

AIに任せきりにせず、仕事の流れの途中に人の確認を入れる。これはヒューマン・イン・ザ・ループ（Human in the Loop）と呼ばれる考え方です。ヒューマン・イン・ザ・ループとは、AIや自動化の仕組みの流れの中に、人が確かめたり判断したりする場面を、あらかじめ組み込んでおく考え方です。難しく聞こえますが、特別な仕組みは要りません。AIが作ったものを人が画面や紙で見る、試しに動かしてみる、といったアナログな作業を組み合わせるだけでも実現できます。

ここからは、前提、操作、テストという確かめる場所ごとに、DX Factoryの運用の中で見つかったことをお伝えします。

1. 前提を確かめる

依頼された数字の集計で、集計する範囲が決め打ちになっていて、あとから増えたデータが抜けていたことがあります。集計の結果に、エラーは出ていませんでした。でも、人が見るとどこかおかしい。そこで、同じ集計を見直すのではなく、別の方法で合計を出して突き合わせたところ、どこから抜けているかが分かりました。原因は、集計の作り方にありました。

計算をいくら確かめ直しても、集計する範囲という前提が違っていれば、同じ数字が出てきます。人が先に確かめるのは、計算よりも前提のほうです。（集計表がエラーを出さずに壊れていく話は、こちらのコラムでも書いています）

2. 実際に動かして、画面で確かめる

DX Factoryでは、業務で使うGoogle Apps Script（GAS）のアプリも、AIと一緒に作っています。あるアプリに新しい画面を作ったとき、AIは決めた条件の組み合わせを総当たりで確かめ、「食い違いはありません」と報告しました。ところが、反映した直後に人が実際の画面で動かしてみると、日時が見慣れない形で表示されていました。また、特定の条件では、画面上の項目を動かせなくなるエラーも見つかりました。

AIの確かめ方は、組み合わせごとの結果が正しいかを見るものでした。画面にどう見えるか、人がどう操作するかまでは見ていませんでした。この場所で人が確かめるのは、使う人と同じように画面を見て、実際に操作してみることです。

3. 本番のデータを写して、テストで確かめる

注文の取り込みの仕組みをAIと一緒に作ったとき、AIが用意した自動のテストは、すべて合格していました。そのあと、本番に近いデータを使って、人が実際に取り込みを試しました。すると、取り込みで作られる行では、空欄で残る項目があり、その結果、誤った計算結果が出ることが分かりました。エラーも警告も出ない形でした。そこで、入力エラーを直すと同時に、注文データの取り込み後に、人が目視で確認できる画面を追加しました。

AIのテストが確かめていたのは、取り込みの処理そのものでした。取り込んだ行がその先の計算でどう扱われるかは、本番に近いデータで動かして、はじめて見えました。

人が入る場所を決めておく

AIに任せた仕事を、全部人が見直す必要はありません。前提、操作、テスト。この場所だけは人が確かめる、と先に決めておきます。

そして、どこに入るかを決めるのも、人です。どこで間違いが起きやすいか、どこで間違えると後で困るかは、業務と数字を知っていなければ、見えにくいものです。人が入る場所を決めるには、経験が必要です。

こんな会社で、こう使える

  • AIに集計や資料づくりを任せている会社なら、「どの範囲を対象にしましたか」と一言だけ聞く。範囲の答えが返ってくれば、その範囲で足りるかを人が判断できます。大事な数字だけは、元のデータから別の方法で合計を出して突き合わせてみてください。
  • AIに作らせた仕組みは、反映する前か、反映した直後に、人が実際の画面で動かしてみる。AIから「食い違いはありません」と報告を受けても、それはAIが確かめた範囲についての答えです。日時の見え方や操作のしやすさは、人が画面で確かめます。
  • 新しい仕組みは、本番のファイルを写したもので試し、結果を人が見る。料金や金額のように、間違っても画面に何も出ない項目から確かめてみてください。

AIを業務に置くことは、置いて終わりではありません。どこで人が確かめるかを決めることも設計に含まれます。DX FactoryのAI導入支援では、対象の業務を一緒に決めてAIを設定し、手順書をお渡しします。

よくある質問

Q1. 全部を人が確かめる時間はありません。

全部は要りません。前提、操作、テストのように、人が確かめる場所を先に決めておき、そこを確かめます。それも、間違えると後で困る仕事や、次の判断に使う数字から始めてください。

Q2. 確かめる作業も、AIに任せればよいのではありませんか。

任せること自体は役に立ちます。ただ、AIが確かめるのは、AIが見ている範囲の中だけです。画面にどう見えるかのように、その範囲の外にあることは、人が見ないと気づきにくいものです。頼むときは、「別の出し方で合計を出して、元の数字と比べて」のように見る場所か出し方を変え、返ってきた結果を人が見てから次へ進めてください。

Q3. どこから始めればよいですか。

いまAIに任せている仕事のうち、いちばん大事なものについて、前提、操作、テストのどこを人が見ているかを書き出すところからです。人が見ていない場所が見つかれば、そこが最初に人が入る場所になります。

まとめ

AIに任せた仕事の「完了しました」は、人が確かめてはじめて完了になります。この記事では、確かめる場所として、前提、操作、テストの3つを紹介しました。DX Factoryの運用で見つかったことも、それぞれこの3つの場所で見つかりました。

前提を確かめた集計の件には、続きがあります。この集計と同じ仕組みの中に、同じ作りの箇所がほかに無いかも探しました。探した範囲では、いま数字を取りこぼしている箇所は見つかりませんでしたが、データが増えればいつか同じ形になる箇所は残っています。

この記事で紹介した3つは、どれもヒューマン・イン・ザ・ループの実例です。AIは速く、たくさんの作業をこなします。人は決めた場所で結果を見て、おかしいと気づき、判断します。AIに任せるところと人が確かめるところを分けておけば、AIに任せる仕事を増やしても、間違いに気づきやすくなります。DX Factoryは、AIと人がそれぞれ得意なところを受け持つ役割分担こそが、生産性を上げる確かな方法だと考えています。

確認の数をむやみに増やすより、人が入る場所を決めて、次の報告を受けたときに、その場所だけ確かめてみてください。

いまの業務の中で、どこで人が確かめればよいかを一緒に整理することもできます。無料相談で、いまの状態をお聞かせください。売り込みはありません。