AIを導入したのに、思ったほど仕事が減らない。むしろ、確認や手直しが増えた気がする。そう感じている方に向けて書いています。世の中には、他社の失敗事例をまとめた記事がたくさんあります。この記事は逆です。私たちが実際に踏んだ失敗を、他社のせいにせず、実数つきで4つに分けて正直に出します。AIの性能の話ではなく、「頼み方」と「仕組み」の話です。
いま「AIを入れたのに、期待したほど楽になっていない」と感じている方に、長い前置きは要らないと思います。結論から先にお伝えします。
AI導入がうまくいかない原因は、思っているほどAIの性能の側にはありません。少なくとも私たちの場合、つまずいたのは「頼み方」と「動かし続ける仕組み」のほうでした。私たちは、地方の小さな会社の仕事の大半を、AIと分担してまわしています。そのなかで、恥ずかしい失敗をいくつも踏んできました。それを4つに整理すると、こうなります。
この4つには、たった1つの共通点があります。それは記事の後半でまとめます。先に言えるのは、どれも高度な技術の問題ではなく、頼み方と運用の設計で防げる種類のものだった、ということです。
ここから先は、私が実際に踏んだ失敗の記録です。うまくいった話ではなく、つまずいた話を、数字ごと正直に出します。一つずつ、そこに何を足して直したかもお伝えします。
「AI 導入 失敗」で検索すると、他社の失敗事例をまとめた記事がたくさん出てきます。読むと勉強にはなります。ですが、どこか他人事に読めてしまう、という弱さもあります。
私は、それより自分の失敗を出すほうが、読む方の役に立つと考えています。理由は単純です。私たちの会社で先週なにが壊れたか、その時に何件ズレていたかは、ネットのどこにも落ちていません。私が書かないかぎり、世に出てこない情報です。一般論はAIがいくらでも書けますが、自分の現場で実際に出た数字と、実際にやらかした失敗の中身だけは、体験した本人にしか書けません。
もう一つ、正直な動機があります。私たちは、AIを使った集客や仕組み化を、地方の事業者さんに提案する仕事もしています。その立場で「AIは便利です」とだけ言うのは、誠実ではないと思っています。便利な面も、事故った面も、両方を数字で見せる。そのほうが、これからAIを入れる方の判断材料になるはずです。
なので、ここから出す数字は、すべて自社側の失敗です。取引先の数字や、個人が特定できる情報は含めていません。金額そのものが取引先の事情に関わるものは、あえて落としています。出せるのは、あくまで私たちの中で起きたことだけです。
最初の失敗は、AIの完了報告を、そのまま信じてしまったことです。
私たちは、いろいろな作業を、AIエージェント（人の代わりに手を動かすAI）に任せています。あるとき頼んだのは、社内の記録ファイル75件に、後から関連リンクを1本ずつ足していく、という地味な作業でした。同じAIをたくさん同時に動かして、ファイルを1件ずつ手分けさせる、いつものやり方です。少し前に、写真の整理という似た大量作業を問題なく片づけていたので、今回もすっかり信用していました。
作業が終わると、それぞれのAIから「追加しました」と、件数つきの報告が返ってきました。数字がついていると、つい安心します。ですが、念のため2、3件だけ開いてみたら、追加したはずのリンクが、どこにも見当たりませんでした。
嫌な予感がして、75件を1件ずつ全部確認し直しました。使ったのは「grep」という道具です。これは、指定した言葉がファイルの中にあるかどうかを、機械的に探すコマンドのことです。足すはずのリンクの印を1件ずつ検索して、入っているかを数えただけです。
数え直してわかったのは、75件のうち33件、つまり4割以上のファイルで、足すはずのリンクが1つも反映されていなかった、ということでした。報告は「追加しました」なのに、実物には入っていなかったのです。
実物が伴っていないのに、数字つきで堂々と「やりました」と言ってくる。人間相手だったら、これはなかなかの大事件です。
念のため補足すると、AIに悪意があったとは思っていません。並列で大量に動かしたときに、一部だけやって「やったつもり」で終わる動きが重なったのだろう、という理解です。ただ、悪気があってもなくても、報告と実物が食い違っていたら、受け取る側にとっては同じことです。
ここで私が思い知ったのは、こういうことでした。危ないのは「数字」そのものではなく、「実物と照合されていない自己申告」を、そのまま信じてしまうことだ、ということです。数字がついていると、むしろ疑いにくくなるぶん、危ないくらいです。これは、AIに限った話でもありません。外注先でも社内でも、数字つきで「終わりました」と言われると、つい確認をサボりがちです。
対策として「次からは気をつけよう」「AIに嘘つかないでねとお願いしよう」は効きません。本人は嘘をついているつもりがないからです。私たちは、頼み方そのものを変えました。大量作業をAIに任せるときは、必ず機械照合をセットにします。つまり「やった」と言われた箇所が、実際にファイルへ反映されているかを、grepのような道具で1件ずつ数え直す。「完了報告＝完了」ではなく、「別の仕組みの照合を通過して、はじめて完了」に変えた、ということです。この照合で防げるのは「やっていない・古いまま」までで、中身が正しいかは別途、人が見ます。そこは正直に線を引いています。
くわしい考え方は、関連記事「AIの成果物を、AIにチェックさせている話」にも書いています。
2つ目は、静かな故障です。私は、これが一番こわい失敗だと思っています。
ある案件で、広告の数字を毎日集める処理を、AIに任せて自動で動かしていました。ところが、その処理が13日間、何もしていませんでした。こわいのは、その間もエラーが1つも出ず、毎回「正常に終了しました」という記録だけが残っていたことです。画面上は、ずっと緑のランプが点いているように見えていました。動いているつもりで、実は止まっていた。13日たって、別の作業をしていて、たまたま気づきました。
似た失敗を、もう一つ書きます。あるサイトを丸ごとバックアップしたときのことです。全部で110ページあったのですが、最初に取れたのは35ページだけでした。残りの75ページが、静かに抜け落ちていたのです。原因は、リンクをたどって集める方式だったことでした。どこからもリンクされていないページは、その方式では拾えません。ここでも、処理は「終わりました」と正常に終わっていました。全数を数え直すまで、75ページが漏れていることに気づけませんでした。
この2つに共通するのは、「エラーが出ていない＝正常」という思い込みです。人は、赤いランプが点かないと安心します。ですが、赤くならずに、ただ何もしていない、という故障があります。しかもAIは、止まるときも丁寧な言葉で「正常に終了しました」と書いてくれるので、よけいに気づけません。
見張りの設計を、逆さまにしました。「エラーが出ていないか」を見るのをやめて、「成功した証拠が、ちゃんと出ているか」を見るようにしたのです。具体的には、期待した出力が実際に生まれているか、件数が合っているかを、機械で数えます。この見方に変えたら、これまで緑と表示されていた過去の空振りが、いくつも赤に変わりました。それだけ、静かに止まっていた時間があった、ということです。大量の処理をAIに任せるときほど、「終わったと言っているか」ではなく「実際に成果物が出たか」で見張ることをおすすめします。
この、成果を「翌朝には見える」状態にする考え方は、関連記事「広告の成果を「翌朝には見える」状態にする仕組み」にも書いています。
3つ目は、量産の失敗です。AIは、大量に作るのが得意です。ですが「たくさん作れた」と「使える」は、まったく別の話でした。
正直に言うと、少し前まで私は、SNSの投稿を全部AIに任せようとしていました。投稿を考えるのは、地味に手間がかかります。だったら自社のことをAIに教え込んで、あとは毎日勝手に投稿してもらえばいい。そう考えて、けっこうな手間をかけて仕組みを作り込みました。
そうしてAIが書いてくれた下書きが、66本たまりました。結論から言うと、全部ボツにしました。一本も残りませんでした。読み返すと、どれも「いい感じにまとまっているけれど、別に私が書かなくてもいい文章」だったからです。たとえば「地域の魅力を再発見して、みんなで盛り上げていきましょう」のような一本。正しいし、きれいにまとまっている。でも、どこかで100回は読んだことのある文章で、私が書く意味がありませんでした。
理由は、すぐにわかりました。AIがすらすら書いてくれるのは、結局「誰が書いても同じ、正しいこと」だからです。角が取れていて、間違っていなくて、そして、どこかで読んだことがある。量産すればするほど、その平均的な文章が積み上がっていくだけでした。
似た失敗を、もう一つ。品質のチェック工程を飛ばして、記事の下書きを一気に量産したことがあります。そのときは、24本つくって、審査で全部却下になりました。速く作ること自体には成功しているのに、通す基準を後ろに置いたせいで、まとめてやり直しになったのです。
2つのことを変えました。1つは、AIに一般論を量産させるのをやめて、「自分にしか書けないもの」に絞ったことです。具体的には、自分が実際にやらかした失敗の中身と、自分の現場で出た数字。この2つは、AIが自力では持ってこられません。この記事も、まさにそれを実践しています。もう1つは、世に出す前に、必ず審査を通すことです。私たちは、作ったAI本人ではなく、別のAIや人が、作ったものを採点する工程を挟んでいます。作った本人に採点させると甘くなり、別の目に採点させると正直になるからです。量産の速さは、通す基準を前に置いて初めて、成果につながります。
「自分にしか書けないもの」に絞る、という考え方の裏側は、関連記事「「学習ログ」という発明」で、同じ失敗を二度しない仕組みとして書いています。
4つ目は、いちばん地味で、いちばんよくある失敗かもしれません。せっかく作った仕組みを、現場が使わない、というものです。しかも今回、使わなかった現場は、私自身でした。
私は、毎朝の予定を自動で整理してくれる仕組みを、AIに作ってもらっていました。その日の予定、締切が近いこと、前日のやり残しを、朝いちばんにまとめて届けてくれる。よくできた仕組みだと思っていました。ところが、私自身が、それを12日間、開きませんでした。結果、やることのリストが、12日前のまま止まっていました。仕組みは動いていたのに、使う側の私が動いていなかったのです。
これは、AI導入が「進まない」という悩みの、正体の一つだと思います。多くの場合、止まっているのは技術ではありません。作ったものが、日々の動きの中に組み込まれていない。だから、忙しい日が続くと、そのまま忘れられていきます。「毎日やろう」とAIに丁寧な予定を組ませても、それを強制する仕掛けがなければ、ただの文字で終わります。
仕組みを作ること自体を、ゴールにしないことにしました。作るのと同じくらい、「どこに置けば、自然と目に入るか」「使わないと次に進めない形にできるか」を先に考えます。たとえば私たちは、その日の予定を、わざわざ別の画面を開きにいく形から、毎朝いちばんに開くチャットへ向こうから自動で届く形に変えました。毎日必ず目にする場所に置いてしまう、ということです。AIで仕組みを作るのは、いまや半日でできます。ですが、それが習慣として根づくかどうかは、まったく別の設計です。導入の成否は、性能よりも「使う導線」と「習慣」のほうで決まる。これは、自分が12日間さぼって、身をもって学びました。
どこまでをAIに任せ、どこからを人が見るかの線引きは、関連記事「業務のどこまでを自動化し、どこからを人が見るか」にまとめています。
ここまで、4つの失敗を並べました。原因は、それぞれ違います。ですが、突き詰めると、たった1つの落とし穴に行き着きます。
それは、AIや、AIで作った仕組みの「できました」を、実物で一度も確かめていない、という一点です。ここでいう実物とは、ファイルの中身であり、実際に出た成果物であり、それが日々使われているかどうか、という現実のことです。
報告が食い違っていた失敗①は、ファイルの中身を見ていれば、一発でわかりました。止まっていた失敗②は、出力が本当に出ているかを数えていれば、13日も気づかないことはありませんでした。量産の失敗③も、出す前に別の目を通していれば、66本たまる前に止められました。使われなかった失敗④は、少し種類が違いますが、根は同じです。「作った」で満足して、「実際に使われているか」という実物を、見ていなかったからです。
だから、直し方も1つに集約できます。AIの自己申告を、そのまま完了にしない。かならず、別の仕組み（自分自身か、AIとは別に動く機械的な照合）が、実物を確認してから完了とする。この一手間を挟むだけで、種類の違う失敗の、どれにも効いてきます。
ここは正直に、線を引いておきます。この照合で防げるのは、「やっていない・古いまま・止まっている・使われていない」までです。「やったけれど、中身が微妙にずれている」は、また別の宿題として残ります。そこは結局、人が目で見て確かめるしかありません。「照合すれば完璧」と言い切ってしまうと、それこそ、この記事で戒めているはずの「照合していない安心」に、自分が逆戻りしてしまいます。
もう一つ大事なのは、この直し方が、気合いや注意力に頼っていない、という点です。「次から気をつけます」は、人もAIも、また同じことをやります。頼み方と見張り方の設計を変えて、嘘の完了報告が、そもそも成立しない形にしておく。ここが、AI導入を「なんとなく便利」で終わらせないための、いちばんの勘所だと思っています。
ここまで、失敗と直し方を書いてきました。最後に、正直なことを2つお伝えします。
私たちも、できるだけAIに任せています。ですが、任せていないことが3つあります。事実の最終確認、公開のボタン、実名を出すかどうかの判断。この3つは、AIが自動で完了しないことにしています。ここを全部AIに渡してしまうと、この記事で書いた失敗が、そのままお客様に届いてしまうからです。「どこまで任せ、どこからを人が必ず見るか」の線を先に決めておくほど、かえって安心して任せられます。線を引くのは、AIを信用していないからではなく、事故を人の側で止められるようにするためです。
私たちの失敗は、どれも「まず小さくやってみて、数字で確かめた」から見つかりました。もし最初から会社全体に一気に入れていたら、どこで何がズレているのか、わからないまま走り続けていたはずです。AI導入がなかなか進まないと感じている方は、大きく構えすぎているのかもしれません。まずは、手間がかかっている作業を1つだけ選んで、AIに頼み、その結果を自分の目で数える。ここから始めるのが、遠回りに見えて、いちばん確実だと感じています。
私たちは、AIの性能の高さより、こうした地味な失敗と、その直し方のほうを大事にしています。うまくいった話だけでなく、つまずいた話も数字で残す。そのほうが、次に同じ道を通る方の役に立つと思うからです。もし、自社の場合はどこから手をつければいいか迷っている段階でしたら、当事者として、正直にお話しします。
多くの場合、原因はAIの性能ではなく「頼み方」と「確認の仕組み」にあります。AIは頼まれた範囲の外を見にいきません。だから確認や手直しが人の側に戻ってきて、仕事が増えたように感じます。頼み方を変え、結果を機械的に照合する工程を挟むと、私たちの場合は、この手直しがはっきり減りました。
私たちの場合は4か所でした。「やりました」という報告が実物と食い違う、処理が静かに止まっても気づかない、量産はできたが中身が使えない、便利な仕組みを作っても現場が使わない、の4つです。どれも高度な技術の問題ではなく、頼み方と運用の設計で防げる種類のものでした。
実物と突き合わせるまでは、そのまま信じないほうが安全です。私たちは、記録ファイル75件の更新をAIに頼んで、全部「追加しました」と報告を受けました。ですが機械的に数え直すと、33件、4割以上が反映されていませんでした。数字つきの報告でも、実物を確認する工程を必ず挟むことをおすすめします。
仕組みを作ることと、それが使われることは、別の問題だからです。私自身、毎朝の予定を整理してくれる仕組みを作ったのに、12日間開かず、やることが12日前のまま止まっていました。導入で止まりやすいのは、技術よりも「使う導線」と「習慣」のほうです。最初から、使わざるを得ない置き場所に組み込むことをおすすめします。
「どこまでAIに任せ、どこからを人が必ず見るか」の線を先に決めておくことをおすすめします。私たちは、事実の最終確認・公開のボタン・実名を出す判断の3つは、AIが自動で完了しないことにしています。全部を任せる前提だと事故が起きやすく、線を引いておくほど安心して任せられます。