事例紹介
USE CASEスモールスタートから始める生成AI活用 社内データで動くAI環境を構築
■自社のデータで答えるAIチャットを導入。業務に根付いた生成AI活用へ
全社で活用できる生成AIを導入したい ―― そのニーズに対し、多くの企業が直面するのが「コスト」と「内製化」という2つの壁だ。
ニシム電子工業では、短期間かつ現実的なコストで、自社データを活用したAIチャット環境を整備し、社内問い合わせ対応や開発業務の効率化を実現した。
■全社員が利用する業務用AIチャットを求めて、社内プロジェクトを立ち上げ
ニシム電子工業株式会社(以下「ニシム電子工業」)は、1963年創業の九州電力グループの総合エンジニアリング企業だ。60年以上培ってきた電源・通信・監視・制御の経験を活かし、電力インフラや地方自治体、一般企業などに向けて「産業×IT」のソリューションを展開。電気・通信システムの設計・製造・施工・運用・保守までのワンストップサービスを提供している。
同社のシステムソリューション部の町野和也氏は、主に、九州電力をはじめとする電力会社の電力設備の監視や運用補助のためのWebシステムの開発を担当している。その経験から、社内で利用するための生成AIシステムの研究開発プロジェクトに参加した。
ニシム電子工業株式会社
ソリューションデザイン本部 システムソリューション部 IoTシステムグループ
町野 和也 氏
プロジェクトでは、全社員が利用する業務効率向上のための対話型のAIチャットを構築することになった。基本的な用途としては、メールの文面の要約や、プログラムのコード生成などを想定。また、社内の規定やマニュアルの内容について、AIチャットに質問して、文書を検索して回答するRAG（Retrieval-Augmented Generation：検索拡張生成）の用途も検討していた。
■コストの壁を前に、RAGスターターパックによるスモールスタートへ
ニシム電子工業は、当初、ある法人向け生成AIプラットフォームのサービスを検討し、希望者100～200名程度で試験利用を実施した。ただし、1ユーザーごとのライセンス料が発生し、全社員分ではコストが膨大になることが課題となった。また機能拡張の柔軟性も限られていた。
そこで自社で内製開発することを検討し、生成AIとRAGのシステムの開発について勉強するために、サイオステクノロジー株式会社（以下、サイオス）が開催したハンズオンセミナーに参加することになった。このセミナーで、サイオスの「RAGスターターパック」を知り、導入の容易さとセキュリティ面でのメリットから採用を検討することになった。
「RAGスターターパック」は、企業が自社の社内データ（就業規則、マニュアル、仕様書など）を安全に活用して、AIチャットボットを素早く構築・検証できるRAGの導入支援パッケージだ。通常、インフラ構築やセキュリティ、アプリ開発など多くの技術的な手間がかかるところ、最短1営業日という圧倒的なスピードで導入できるのが特徴である。
RAGスターターパックは、機能をあえて必要最小限に絞ることで、低コストかつ最短1営業日という圧倒的なスピードで自社専用のAI環境を立ち上げられる検証用パッケージだ。 インフラ構築やセキュリティなど、初期の技術的なハードルをクリアし、まずはRAGの実用性を自社データで試すための「土台」としての役割を持つ。顧客テナントのAzure上に構築されるため、入力やRAGで使われるデータを自社で管理できる。企業向けのセキュアな生成AIサービス「Azure OpenAI Service」を利用することで登録した社内データが生成AIの公開モデルの学習に利用されないことを保証している。つまり、機能とコストを絞りつつも企業のデータを扱う上で最も重要なセキュリティ面が最初から考慮されているわけだ。
ニシム電子工業では、RAGスターターパックのカスタマイズ性、コスト、セキュリティ面からの検討を重ね、社内の承認を受けて、導入を進めた。
■スモールスタートで見えた、実用性と導入のしやすさ
サイオスがAzureの環境上にRAGスターターパックの基盤を構築し、ニシム電子工業が、この基盤の上で、RAGのデータソースとしてマニュアルなどの社内文書を投入して、社内データを参照する生成AIのチャットシステムを構築した。
構築されたシステムは、使い勝手の良さやRAGの回答精度を含めて、満足できる水準だったという。さらに、データソースとして、WordやExcel、PDF、テキストなど、ファイル形式を問わず、既存の社内文書をそのまま取り込め、活用できる点も評価が高かった。
町野氏は「RAGはかなりハードルが高い技術だと思っていたのですが、『これほどスムーズに構築できるのか』と本当に驚きました」と語る。
構築されたAIチャットは、見た目はシングルページのシンプルなものだが、中身は内部処理やAzureのサービスの利用などを活用し、開発されており、今後のカスタマイズや機能拡張を見据えた"土台"としての完成度も高かったという。そのため、「スモールスタートとして最適だと感じました」と町野氏は語る。
他社サービスとの比較も重要だった。機能面では同様のサービスもあるが、機能が充実するほどコストが高くなる傾向がある。その点、スターターパックは比較的低コストで自社環境にAI基盤を構築できる点も評価のポイントだった。
■さらなる業務への適用を求めて「社内ナレッジ活用AIチャットサービス」へ
ニシム電子工業では、RAGスターターパックによるスモールスタートでの導入で当初想定していた内容を実現できていたことから、社内でさらに業務への適用を広げたいという要望が高まった。
具体的な要望として、部署ごとにデータソースを選んで使い分ける機能や、AIチャットでのプロンプトにファイルを添付してそれを参照して回答する機能といった、より実務に近い使い方への要望が挙がった。部門ごとに参照すべき情報が異なる業務に対応するため、柔軟なデータ活用が求められたのである。
「その時点では実現できるか分かりませんでしたが、サイオスさんに相談したところ、すぐに『社内ナレッジ活用AIチャットサービス（スタンダード）』をご提案いただき、導入を決めました」（町野氏）
「社内ナレッジ活用AIチャットサービス（スタンダード）」は、部署ごとの参照権限管理や、複数モデルの切り替え、よく利用する質問文のテンプレート管理など、企業が実業務で安全かつ本格的に生成AIを活用するために『必要十分な機能』をあらかじめ一通り揃えた製品だ。カスタマイズ開発不要で最短2営業日という圧倒的なスピードで構築・導入できるサービスだ。
ニシム電子工業の導入で責任者を務めたサイオスのシニアアーキテクトの水倉良明は本サービスの開発の背景を次のように語る。
「多くの企業様を支援する中で、実業務に投入する段階になると、セキュリティや管理機能など『ChatGPTと同等の豊富な機能』を求められるケースが非常に多いと実感しました。そうした実務に必要な要件を最初から網羅し、導入したその日から現場で即戦力として活用いただけるようにパッケージ化したのが、社内ナレッジ活用AIチャットサービスです。」
サイオステクノロジー株式会社
プロフェッショナルサービスSL
シニアアーキテクト
水倉 良明
特徴としては、すぐに業務で使い始められるだけでなく、柔軟に調整可能であることだ。社内FAQや過去の業務資料の活用など、業務に応じたチューニング、さらにプロンプトやパラメータの調整により、利用目的に最適な回答精度を引き出すことができる。
生成AIモデルの自由度も特徴だ。OpenAI GPT、Google Gemini、Anthropic Claudeといった主要なAIモデルに対応しており、後からより高性能で安価なモデルが登場した場合でも、システム改修なしで変更できる。
高いセキュリティも特徴の1つである。ユーザーごとの参照権限設定や、ハルシネーションを抑制する回答根拠（出典）の提示、入力データの学習非利用の保証など、企業が安心してAIを導入するための機能を標準装備しており、エンタープライズ品質の安全性を提供している。
これらの特徴のうえで、「導入して終わり」にしない伴走支援サービスも備えている。AIではデータの質や業務内容によって期待通りの回答が得られないケースもあるが、標準パッケージには利用方法のトレーニングや問い合わせ対応も含まれており、サイオスが原因分析からチューニングの支援まで、定着に向けたサポートを徹底的に行う。標準機能にないカスタマイズ開発についても柔軟に対応できる。
RAGの回答精度向上に継続的に取り組み、仮説と検証を繰り返して改善を重ねてきたと水倉は語る。
「単純なRAGアーキテクチャでは実業務に耐えられないことが多いですが、当社ではデータや質問のパターンを分類し、ユーザーの質問に応じて、AIが最適な検索アルゴリズムを自動で判断・選択して実行する仕組みなど、最新の研究論文の手法を複数組み合わせて改善を繰り返しました。その結果、当初は50%に満たなかった回答精度を90%近くまで引き上げることに成功し、そのノウハウを当社サービスに凝縮しています。」
さらに、それらの精度改善のパラメータ群を顧客ごとに調整できる形で提供し、多様な業務でのRAGの効果的な活用方法、普及に向けての取り組みを伴走支援サービスで継続的に支援している。
■業務を止めないフェーズ分割。即時利用と複数モデル対応を両立
ニシム電子工業では、この「社内ナレッジ活用AIチャットサービス（スタンダード）」を導入するにあたり、すぐに活用したいという要望に加えて、提供されている標準モデル以外にも、GeminiやClaudeといった別の生成AIモデルを利用する要望もあった。
そこで、「2段階で導入を提案しました」と、サイオスでプロジェクトマネージャーを務めたエンジニアの臼井將人は話す。
サイオステクノロジー株式会社
プロフェッショナルサービスSL
エンジニア
臼井 將人
第1段階では、標準機能で「社内ナレッジ活用AIチャットサービス（スタンダード）」を導入した。社内文書をそのままアップロードするだけで、RAGから参照して回答を返すことができる。これによって、ニシム電子工業ではすぐに利用を開始できた。
第2段階として、OpenAI以外に新たにGoogle Gemini、Anthropic Claudeの生成AIモデルに対応し、切り替えて利用できる機能を提供した。部署によって、Claudeはソースコードの読み書きが得意といったように、用途に合わせて使い分けたいという要望があったためだ。また、主要な生成AI事業者のモデルに対応することで、一つの生成AI提供事業者にロックインすることなく、後からより高性能で安価なモデルが登場した場合でも、システム改修なしで利用できるのも、進化の速い生成AI技術の世界では大きなメリットと言える。
導入にあたっては、町野氏はそれまでAzureの利用経験が少なかったため、実際にAzure環境を構築して実運用するための使い方を勉強する必要があった。これについても、サイオスの支援を受けながらひとつひとつ課題を解決し、導入を進めることができたという。
こうして構築したAIチャットサービスは、現在、全社で利用されている。たとえば、自社製品に組み込むソフトウェアを開発する部署では、このAIチャットサービスを活用し、ClaudeのAIモデルを使って、ソースコードを生成している。
また、全部門にて実務レベルで使ってもらう普及活動にも取り組んでいる。たとえば、数年前に更新した社内ポータルサイトのマニュアルをRAGのソースとして活用し、社員の使い方をサポートするチャットボットも構築した。「経費精算などの手続きをするときに、各種情報を確認する手間がチャットボットで簡単になり、業務効率化につながると感じています」（町野氏）。
■AI活用の次のステージへ、業務連携・自動化を見据える
本AIチャットサービスが稼働したことで、サイオスの導入支援に対しても、高い評価が寄せられている。
「今回、サイオスさんの支援で、自社専用の生成AIやRAGを気兼ねなく利用できる環境ができました。各種設定についてもレクチャーを受けながら進めることができ、技術面だけでなく導入プロセスの面でも手厚く支援いただけたことが、非常に心強かったですね。特にサイオスさんの高い技術力を活かして構築されたという点に、大きな安心感があります。カスタマイズについての要望に耳を傾け、実現方法を含めて検討しながら進めてくれたことにも本当に感謝しています」と町野氏。
ニシム電子工業での今後の利用について、システムソリューション部の矢野 景祐氏は次のように語る。
「より社内の業務に寄り添って活用し、業務効率化に寄与できるように活用していく予定です。また、対話型のAIチャットだけではない利用形態や、業務特化型のAIエージェントなど、機能の拡張ができれば、より活用の幅が広がると思います。サイオスさんには今後も期待しています。」
ニシム電子工業株式会社
ソリューションデザイン本部 システムソリューション部 IoTシステムグループ
矢野 景祐 氏
最後に、サイオスの「社内ナレッジ活用AIチャットサービス」の導入を検討している企業に向けて、同社の導入経験に基づいたアドバイスで結んだ。
「このサービスは、スモールスタートから始めて、自社のやり方に応じてカスタマイズも含め、段階的にステップアップしていけるサービスです。そのため、導入検討しているどの企業にも合わせた進め方ができるサービスではないかと考えています」
