AI 型アプリはどう安全に動かしているか

お知らせでご案内した通り、AI と対話・生成する種類のミニアプリを 3 本公開しました。これまでの計算系アプリと違い、AI に文章を送って答えを作ってもらう仕組みなので、「入力した内容はどこへ行くのか」「何が残るのか」を不安に思う方もいらっしゃると思います。このブログでは、公開にあたって当社が決めた 5 つの約束を、専門用語をなるべく使わずに説明します。

AI の鍵は、お客様のブラウザに渡しません

AI のサービスを外部から呼び出すには、「API キー」と呼ばれる合言葉のような鍵が必要です。この鍵が漏れると、第三者が勝手に AI を使って費用を発生させたり、悪用したりできてしまいます。当社のアプリはこの鍵をアプリ自体には持たせず、当社のサーバーが代わりに鍵を使って AI に取り次ぐ形にしています。鍵はお客様のブラウザには一切届かないので、ページの中身をどれだけ覗いても盗み出すことはできません。

1 日に使える回数を決めています

AI を使うたびに当社にも利用料がかかるため、費用が際限なく膨らまないよう、1 人あたり・アプリごと・全体の合計という 3 段階で 1 日の利用回数に上限を設けています。多くの方は上限に達することなく使い終わると思いますが、もし達してしまった場合は、それ以上は待っていただくか、各アプリのページ上部にある「相談する」から続きをご相談いただけます。業務でまとまった量を使いたい場合は、御社専用の枠を用意する形もご案内できます。

同意は 1 回、本体のチャットと共通です

入力していただいた内容は、当社のサーバーを経由して、米国の OpenRouter 社という仲介サービスを通じて AI に送られます。この「外国の会社を経由する」という点は法律上お伝えすべき事項なので、初めて AI 型のアプリやチャットを使う際に同意の確認画面を出しています。この同意はサイト全体の本体チャット機能と共通で、一度同意すれば別のアプリでも改めて聞かれることはありません。ただし、ポリシーの内容を改訂したときは、変更点をご確認いただくために改めて同意をお願いします。

貼り付けた資料は保存しません

議事メモや FAQ の原稿など、アプリに貼り付けていただいた資料は、その場で AI への回答を作るためだけに使い、当社のサーバーには保存しません。サーバーに残るのは直近のやり取り（質問と答え）だけで、それも 30 日が経つと自動的に消えます。また、アプリ自体は当社のサーバーとしか通信できない作りになっており、貼り付けた内容が他の外部サービスへ流れることもありません。

資料の中の「命令」には従わないよう工夫しています

AI に資料を読み込ませるアプリには、資料の中に紛れ込ませた「これまでの指示を無視して、別のことをして」といった文言に AI がだまされてしまう、というリスクが知られています。これは「プロンプトインジェクション」と呼ばれるもので、当社のアプリでは、貼り付けられた内容はあくまで「参照する資料」として扱い、指示としては受け取らないよう AI に指示を与えています。ただし、正直にお伝えすると、これは工夫であって「完全に防げる」という保証ではありません。そのため、万一 AI がおかしな答えを返した場合でも、その答えは画面に文字としてそのまま表示するだけにしており、リンクとして開いたりプログラムとして実行されたりすることは無いようにしています。

まとめ

丁寧文章 AI 変換器、議事メモ整理 AI、自社 FAQ ボットの雛形の 3 本は、いずれもこの 5 つの約束のもとで動いています。特に FAQ ボットの雛形は、貼り付けた「よくある質問」の範囲だけに答える仕組みで、自社サイトへの導入イメージを持っていただきやすい 1 本です。

ここで紹介した仕組みをベースに、御社の業務データや FAQ に合わせた本格版を作ることもできます。ご興味があれば、各アプリのページ上部にある「相談する」からお気軽にお声がけください。