生成AIとは？できること・苦手なことを業務導入前に整理

生成AIとは、学習したデータのパターンをもとに、文章、画像、音声、コードなどの内容を生成するAIです。業務では説明文の下書きや資料の整理などに利用を検討できますが、文章が自然であることと、内容が事実であることは別です。

初めて使う担当者は、「何が作れるか」に加え、入力、生成処理、出力の確認を分けて理解すると、任せる範囲を決めやすくなります。この記事では製品比較より前の基礎を整理します。

生成AIは、入力を受けて内容を作る

Microsoftは生成AIを、テキストや画像、コードなどを生成するAIとして説明しています。すべての製品が同じ種類の入力や出力に対応するわけではありません。Microsoft「生成AIのしくみ」

文章を扱う大規模言語モデル（LLM）では、文脈に続くtoken、つまり文字列を処理する単位を予測して文章を生成します。NISTは、この仕組みから正しい内容だけでなく、誤った内容や矛盾する内容も生じ得ると説明しています。NIST「Generative AI Profile」2.2

したがって、自然な日本語で答えたからといって、根拠資料を確認したとは限りません。業務で使う際は、回答を読む作業と、その根拠を確かめる作業を分けて考えてください。

一つのサービス内で複数の機能が組み合わされることもあるため、画面の見た目だけでは判断しにくい場合があります。以下は機能の役割を理解するための対比です。

やりたいこと	主に求める処理	受け取るものの例	確認の出発点
社内の原文を探す	検索	該当する文書や箇所	文書の版、適用対象
指定した数字を合計する	計算	条件に沿った計算結果	入力値と計算式
読み手に合わせて説明文を作る	生成	新しく組み立てた文章	元情報との一致、追加や省略

例えば、AIへ合計を尋ねる場合も、文章の生成だけで答えたのか、計算機能を使ったのかを確認したいところです。数字の正確さが必要なら、確認できる計算式や処理結果に戻れる運用を選びます。

検索機能付きのAIであっても、見つかった資料と、資料を使って作られた説明は別の確認対象です。この区別は「検索できる製品なら間違わない」という思い込みを避けるのに役立ちます。

生成できる内容がそのまま使えるかは、作業と許容する誤りによって変わります。次は導入前の整理例であり、性能を測定した結果ではありません。

試す作業	生成AIへ渡す材料	期待する出力	人が確認する点
説明文の下書き	確認済みの箇条書き	読者向けの文章案	元にない約束や事実を加えていないか
文章の要約	使用を許可した原文	要点を短くした文	例外、条件、否定を落としていないか
表現案の比較	目的と伝える内容	複数の言い回し	意味が変わらず読者に伝わるか
コードの案	要求と制約	実装候補	動作、権限、入力の扱い、保守性

コードが生成されたことは、実行結果が確認されたことを意味しません。説明文も同様で、作成した段階と確認を終えた段階を分けます。

生成AIの誤りは、明らかな文字化けだけではありません。NISTは、誤った内容を確信的に示したり、根拠らしい説明や引用を作ったりするリスクを挙げています。NISTの説明

次の文章は説明用の仮例です。元の案内に「実施日は調整中」とあるのに、生成した紹介文が「来月から実施します」となった場合、文章として自然でも、未決事項を確定情報へ変えています。

確認する際は「文章が読みやすいか」だけでなく、誰、いつ、何を、どの条件で、という要素を元資料と照らします。資料に答えがない場合は、推測で補うより、確認が必要な項目として残す使い方を勧めます。

最初に製品機能を広く試すより、次の三つを小さく決めてみてください。

これは法令や特定製品の利用条件を代わりに定めるものではありません。実際の情報の扱いは、自社の規則と利用サービスの条件に合わせます。詳細は、生成AIの社内利用ルールで扱っています。

まずは、元情報と見比べられる短い文章で、生成された内容のどこが便利で、どこに確認が必要かを体験すると理解しやすくなります。用途を選ぶ段階では、生成AIの業務活用事例も参考にしてください。業務への適用については、お問い合わせからご相談いただけます。