絶望を呼ぶDifyの罠

ノーコードという甘い罠と情シス担当者の絶望

最近インターネットを開けば、Dify という神ツールを使えばプログラミングの知識がなくても誰でも簡単に自社専用のAIが作れる、というような夢物語を謳う記事が溢れ返っています。社内のPDFやエクセルをドラッグアンドドロップで読み込ませるだけで、まるで熟練のベテラン社員のように社内のあらゆる質問に即答してくれる魔法のチャットボットがわずか一時間で完成する。そんな甘い言葉に躍らされ、多くの地方企業のIT担当者や情シス部門が、経営層からの強いプレッシャーを背負いながら期待に胸を膨らませて自社AIの開発に着手します。

しかし、その数週間後に待ち受けている結末は、大抵の場合、悲劇を通り越した圧倒的な絶望です。

確かに、システムを立ち上げること自体は驚くほど簡単でした。しかし完成していざ現場の社員にテスト運用をさせてみると、AIから吐き出される回答は支離滅裂で、まるで十年前にタイムスリップしたかのような的外れな数字を自信満々に提示してきます。最新の主力商品のスペックを聞いているのにすでに廃番となった旧製品の情報を尤もらしく語り出し、社内の経費精算のルールを聞けば、五回の改訂が行われる前の古びた稟議規定を引っ張ってくる。

このようなAIのハルシネーションを見せつけられた現場の社員たちはあからさまに鼻で笑い、やっぱり機械なんて役に立たないじゃないかと吐き捨てます。そして二度と誰もそのチャットボットの画面を開こうとはせず、情シス担当者は経営陣から費用対効果はどうなっているんだと冷たく詰め寄られ、孤独の中で頭を抱えることになるのです。

AIの頭脳は悪くない。食わせた過去十年分のデータが完全に腐っている

なぜこのような悲惨な事態に陥るのでしょうか。多くのIT担当者は、AIモデル自体の性能が悪いのだと思い込み、より高額な上位の LLM への切り替えを検討したり、プロンプトの調整に文字通り寝食を忘れて没頭したりします。しかし、いくらAIの知識エンジンを最新のものに取り替えたところで解決の糸口は永遠に見えてきません。

根本的な原因は、AIに対する指示の出し方やAIの頭の良さなどにあるのではないのです。自社専用AI、つまり専門用語で言うところのRAGシステムを構築するためにAIに読み込ませた、あなたの会社の社内データそのものが根本から腐敗しているからに他なりません。

よく考えてみてください。あなたの会社の共有サーバーの深淵には何が眠っているでしょうか。十年前から引継ぎのたびにコピーとペーストを繰り返され、ファイル名が最新版の最新版の最終確認用.xlsxといった奇怪な名前になったエクセルの山。退職した前任者が独自のマクロを組み込み、現在では誰も解読できないブラックボックスと化した売上管理表。そして、現場の実態と全く乖離したまま放置されている、監査の時にだけ引っ張り出される体裁だけのマニュアルPDFたち。

AIは、読み込まれたこれらのデータを純粋に、そして信じられないほど忠実に読み解き学習してしまいます。情報が古かろうがファイル名に最新と書いてある以上、AIはそれを真実だと信じて回答の根拠にしてしまうのです。人間であれば文脈や日付を見てなんとなく無視するようなゴミデータを、AIは平等な価値のある情報としてフラットに吸収し、その結果として狂気に満ちた嘘の回答を平然と生成し始めます。

どんなに優秀な天才シェフを連れてきても、腐りかけの食材と泥水しか与えられなければ美味しい料理を提供することは不可能です。それと全く同じ単純な事実を無視して、多くの企業はAI開発という名のギャンブルに突っ込んでいきます。

スパゲッティ化するワークフローと、ログがサーバーを食いつぶす地獄

近年運用フェーズに入った企業でさらに深刻な問題となっているのが、ノーコードツールの恐ろしさであるワークフローのスパゲッティ化です。プログラミングの知識がない担当者が、良かれと思って次々と機能や条件分岐を追加していくうちに、誰にも全貌が理解できない巨大で複雑怪奇なシステムが生み出されてしまう現象です。

作った本人が異動や退職をした瞬間、そのDifyのシステムは完全にメンテナンス不可能となり、少しでもエラーを吐けば即座にシステム全体が停止するという信じられない時限爆弾へと変わります。

さらに追い打ちをかけるのが、生データと呼ばれるログの問題です。AIアプリを運用しているとユーザーからのあらゆる質問とAIの回答履歴がすべてログとして保存されていきます。本来であればこれらを分析して精度を上げるのに使うのですが、大半の企業はただ無自覚に保存し続けています。その結果、数年分の全く意味を持たない会話履歴のテキストデータがゴミとしてサーバーのストレージ容量を容赦なく食いつぶし、ある日突然システムの保守費用が爆発的に高騰するという技術的な絶望に直面することになります。

AI開発の九割は、前任者の残したゴミを片付ける泥作業

私が岩手でクライアントの自社専用AIエージェント構築を請け負う際、最初の数週間はコードなど一文字も書きません。私たちが何をしているかといえば、クライアント企業の埃をかぶったサーバーの中に入り込み、狂ったように増殖した無数のファイル群を一つ一つ開き、これは現在も有効なルールか、これは誰のいつのメモかということを現場の社員と一緒に文字通り泥まみれになりながら仕分けし、不必要なデータを徹底的に抹殺する作業です。

AI開発という言葉からは華やかで知的な最先端の仕事を想像するかもしれません。しかしその実態は、前任者たちが怠慢の末に放置してきた情報のゴミ屋敷に清掃業者として足を踏み入れ、何トンもの腐ったデータを分別し、清書し直し、AIが読み込みやすい構造データへと変換し続けるという、途方もなくアナログで地獄のようなドブさらいの作業なのです。

この泥作業、つまり強烈な情報のクレンジングと業務手順の徹底的な棚卸しから逃げて、ただ便利そうなツールにお金を払えば万事解決するなどという幻想は今すぐ捨て去るべきです。

業務プロセスが標準化されておらず、属人化 された暗黙知がテキスト化されておらず、データの真贋を判断するルールも存在しない。そんな無秩序な状態の企業に強力なツールを与えても、既存の混乱がAIという拡声器を通して十倍の速度で組織中に撒き散らされるだけです。

Difyに血を通わせ、真の社内エージェントを構築する唯一の手段

ここまで絶望的な現実を語ってきましたが、自社データや専門知識を学習した専用AIの持つ破壊力は、適切に構築されれば地方の企業が抱える人手不足という致命傷を一撃で吹き飛ばすほどの凄まじさを持っています。

ベテラン社員が一日何時間も費やしていた過去図面の検索や、複雑な見積もりの一次作成といった泥臭い業務を、AIが一切の文句も言わず数秒で完璧に片付けてくれる光景は、もはやSFではなく私たちの目の前で実際に稼働している現実です。

これを読んでいる情シス担当者、あるいは経営陣のあなたに問いたいと思います。使い物にならないとお蔵入りになったシステムの管理画面を眺めながら、自分たちの技術力が足りないのだと諦めてはいないでしょうか。諦める必要はありません。あなたが躓いているのはITの技術的障壁ではなく、自社のブラックボックス化した業務とデータに向き合うという組織的な壁にすぎないからです。

だからこそ我々Aqshはシステム構築の依頼を受けた際、単なる開発ベンダーとしてではなく、業務の棚卸しとデータ整理を強制的に執行する泥臭いコンサルタントとして現場に深く入り込みます。どのエクセルが本当に必要なのか。どの業務フローを根本から変えなければAIに載せられないのか。あなたが一社員としては社内の反発を恐れて言えないような痛みを伴う業務改革を、第三者の専門家として容赦なくメスを入れていきます。

ツールにただデータを放り込んだだけの死んだボットではなく、自社の本当の血肉が通い現場が手放せなくなる真のエージェントを本気で手に入れたいのなら。岩手県・法人向けAIソリューションページ を熟読し我々にコンタクトをとってください。

あなたの会社のサーバーに眠る腐ったエクセルの山を、最強のナレッジエンジンへと昇華させる泥臭い戦いを、共に岩手の地で始めましょう。