こんにちは、近ごろのAIは本当にすごいですね。
5月22日の経済財政諮問会議で、高市さんが、ケアプランの作成支援などについてAIを最大限に活用して現場の負担軽減と生産性の向上を一体的に進めるべきと促していました。
介護業界もAI活用が進んでいきそうです。
うちの事業所ではAIを活用全然できてません。計画書や記録などの書類にはどうしても要配慮個人情報が絡んできますので扱いが非常に難しいです。
少なくともWeb版AIサービス（無料版のChatGPTやGemini、Claude、個人向けの有料版など）でプランを作るのは止めておきましょう。危なすぎます。
AI活用においては、学習に使用されるかどうか、ログやキャッシュが残るかどうか、国内リージョン指定できるか（プロンプトがどこで処理されるか）などを慎重に整理しないといけません。
難しいことは省きますが、企業向けAIサービスや介護ソフトなどにAIを導入したものなどを利用していく流れになっていくのでしょうが、こうしたSaaSベンダーは、セキュアな開発環境（Azure、AWSなど）を裏側で契約してシステムを構築していますので、基本的には国内リージョン限定・学習なしで提供はされると思います。
ただ、全部が全部そうではありませんので、利用される際は規約などをきちんと確認してくださいね。
またAIで作られたプランや記録の是非については、結局のところ、AIで作られたかどうかよりも内容が適切かどうかが重要になるのではと思っています。
AIを用いて、それなりの訪問介護計画や記録は作ることはできますが、地域によって書き方や取り扱いがさまざまですので（特に訪問介護計画）、運営指導等をクリアできるかどうかはまた別の話です。
また、計画や記録は法的な証拠として機能するものですから、どこまでいっても不正確の可能性があるAIにすべてを任せることはできず、使うにしてもあくまで下書きとして使っていくということになります。
最終的な確認と責任は人間が持たなければなりません。Human-in-the-loop（人間の介在）というやつですね。
