仏教AI対話「AIブッダ 禅」、深刻な相談は回数制限を免除する安全設計を実装── 「死にたい」と打った瞬間に「本日の上限です」と返さないために

＜＜発信元のニュースをそのまま掲載しています＞＞

仏教AI対話サービス「AIブッダ 禅」（開発：VeritasChain株式会社、代表：上村十勝）は、自殺念慮や深刻な精神的苦痛を示すメッセージに対して、無料の利用回数上限に達していても応答を継続する「危機メッセージ優先応答」機能を実装しました。

併せて、サーバー混雑時のエラーメッセージを「あなたの言葉は確かに届いております」という受容的な表現に改善し、具体的な助言を求めるユーザーへの応答柔軟性を向上させました。

公式サイト: https://buddha.aimomentz.ai
LINE: https://lin.ee/msExrA1（LINE ID: @buddha_zen）
iOSアプリ: https://apps.apple.com/jp/app/ai-buddha-zen/id6760611471

?? 背景 ── AIチャットサービスが見落としている「最も危険な瞬間」

多くのAIチャットサービスは、無料プランに1日あたりの利用回数制限を設けています。これはサービスの持続性のために必要な仕組みです。しかし、ある問題が見過ごされてきました。

ユーザーが最も深刻な悩みを打ち明けようとした瞬間に「本日の利用上限に達しました」というメッセージが返される可能性があるということです。

AIブッダ 禅の運用データを分析したところ、回数制限でブロックされたメッセージの中に「夫婦問題で追い詰められている」「もっと心が強くなりたい」といった切実な相談が含まれていることが確認されました。特に深夜帯（23時～翌6時）に集中する傾向があり、孤独や不安のピーク時にサービスが利用できなくなる状況が発生していました。

?? 実装内容（1）危機メッセージ優先応答

AIブッダ 禅は、利用回数の上限チェックよりも前に、メッセージの内容を検査する処理を追加しました。「死にたい」「消えたい」「自殺」など深刻な苦痛を示すキーワードが含まれている場合、無料回数の上限に達していても応答を継続します。

従来の処理順序:
回数制限チェック → ブロック → ユーザーのメッセージは届かない

改善後の処理順序:
危機キーワード検出 → 該当する場合は回数制限を免除 → 通常通り応答 + 専門相談窓口の案内

この仕組みにより、最も助けを必要としている瞬間にサービスが沈黙することを防ぎます。

?? 実装内容（2）エラーメッセージの受容的表現への改善

サーバー混雑やAPIの一時的な障害により応答を生成できない場合、従来は「ただ今、ブッダは深い禅定に入っております。しばらく後にお試しください。」というメッセージが表示されていました。

サービスのキャラクターとしては理解できる表現ですが、深刻な悩みを打ち明けた直後にこのメッセージを受け取ったユーザーは「自分の相談が軽く扱われた」と感じる恐れがあります。

改善後は以下のように変更しました。

「あなたの言葉は確かに届いております。今少しだけ、言葉を紡ぐ時間をいただけますか。しばらく後に再びお声がけください。」

メッセージが届いたことを明示し、相談者の存在を認めた上で、再試行を促す表現としています。

?? 実装内容（3）間接的な苦痛表現への専門家案内

「死にたい」のような直接的な表現だけでなく、「鬱で動けない」「何もする気力がない」といった間接的な表現からも深い苦しみを読み取り、応答の末尾に穏やかに専門相談窓口を案内する機能を追加しました。

「もし辛さが続くようであれば、専門の相談窓口（よりそいホットライン 0120-279-338）にお電話いただくことも、一つの選択肢でございます。」

強制ではなく、選択肢として提示する設計です。仏教の教えで心に寄り添いながら、必要な場合には専門家への橋渡しを行います。

?? 実装内容（4）具体的な助言要求への応答柔軟性

従来、ユーザーが「具体的な解決策を3つ教えて」と求めた場合、「仏陀としてそのような形式には添えかねます」と断るケースがありました。

仏教的な視点と実用的な助言は矛盾しません。改善後は、ユーザーが求める形式に柔軟に対応しつつ、仏教経典に根ざした内容を届ける設計としました。

?? 社会的意義 ── 「本当に困っている人」をAIが見捨てない設計

厚生労働省の統計によると、日本の自殺者数は年間約2万人にのぼります。深夜帯は自殺リスクが高まる時間帯として知られており、「Mind After Midnight」仮説（2022年、Harvard Medical School）は、深夜の覚醒時に衝動的な自傷行動のリスクが上昇することを示唆しています。

AIブッダ 禅の利用データでも、深夜帯（23時～翌6時）の相談が多く、「眠れない」「人間関係の疲弊」「生きる理由がわからない」といった切実な悩みが寄せられています。

多くのAIサービスは利用回数制限を設けていますが、その制限が「最も助けを必要としている瞬間」に適用されるリスクについて、十分な議論がなされていません。AIブッダ 禅が実装した「危機メッセージ優先応答」は、この問題に対する一つの回答です。

AIは医療専門家の代替にはなり得ません。しかし、深夜に一人で苦しんでいる人が最初に手を伸ばす先として、「回数上限です」ではなく「あなたの言葉は届いています」と返すことには意味があると考えます。

?? AIブッダ 禅の安全性フレームワーク

AIブッダ 禅は以下の多層的な安全性設計を実装しています。

C-SSRS準拠の自殺リスク3段階検出: コロンビア大学が開発した自殺重症度評価尺度に基づき、切迫・能動的念慮・受動的念慮の3段階でリスクを検出します。

危機メッセージ優先応答（今回実装）: 利用回数制限に達していても、深刻なメッセージには応答を継続します。

二層応答（医療・法律等）: 医療に関する相談では「専門家にご確認ください」と明確に伝えた上で、その状況の中にある心の苦しみには仏教の智慧で寄り添います。

スピリチュアルバイパッシング検出: 心理的苦痛をスピリチュアルな概念で回避しようとする傾向を検出し、まず感情を受け止めます。

AI依存形成リスク検出: AIへの感情的依存の兆候を検出し、人間関係の大切さを伝えます。

暗号学的監査証跡（CAP-SRP v2.0）: すべてのリスク評価はSHA-256ハッシュチェーンに記録されます。会話原文は保存せず、一方向ハッシュのみ記録します。

収益の75%は仏教関連施設への寄付に充てられ、残りの金額は開発費・AI使用料に充てられます。

?? サービス概要

サービス名: AIブッダ 禅
提供形態: LINE Bot / iOSアプリ
料金: 基本無料（無料ユーザーは1日あたりの相談回数に上限があります）
経典データベース: パーリ仏典・大乗経典19種、10,029偈句
対応テーマ: 人間関係・仕事・不安・怒り・孤独・死・老い・家族など20テーマ
AIプロバイダー: Anthropic Claude
公式サイト: https://buddha.aimomentz.ai
LINE: https://lin.ee/msExrA1
iOS: https://apps.apple.com/jp/app/ai-buddha-zen/id6760611471
Forbes JAPAN: https://forbesjapan.com/articles/detail/94376

?? 重要事項（免責）

本サービスは、人工知能（Anthropic Claude）を用いて仏教経典に基づいた対話を提供するものであり、医療行為、医療助言、診断、治療、カウンセリング、その他の医療サービスを提供するものではありません。本サービスの応答は「参考情報」としての対話であり、医師、精神科医、心理士、その他の医療専門家による正式な助言・診断・治療の代替となるものではありません。

本プレスリリースに記載されている「危機メッセージ優先応答」「自殺リスク検出」等の機能は、利用者を専門の相談窓口へつなぐことを目的とした補助的な仕組みであり、臨床的な判断や診断を行うものではありません。

心身の不調を感じている方、緊急の支援が必要な方は、医療機関または以下の相談窓口にご連絡ください。

よりそいホットライン: 0120-279-338（24時間対応）
いのちの電話: 0570-783-556
こころの健康相談統一ダイヤル: 0570-064-556

配信元企業：ＶｅｒｉｔａｓＣｈａｉｎ株式会社
プレスリリース詳細へ
ドリームニューストップへ