【悲報】社内AIさん、上司構文を覚えた結果ガバガバ権限管理まで掘り当ててしまう
社内チャットAIがやたら「一旦持ち帰りましょう」と返してくる、という何気ない愚痴からスレが急展開。笑える上司語録の話かと思いきや、RAG元・退職者ID・未公開会議名まで飛び出す監査案件になってしまった。
「一旦持ち帰りましょう」が頻出するんだが学習元どこだよ。ログと権限の話をしたい。
技術的に言うと〜、社内チャットAIが上司語録吐くのはRAG元がだいたいFAQか議事録
学習って言うより検索で拾ってる可能性ある
>>11 それFAQじゃなくて逃走経路だろ
ここまでのまとめ
上司構文は社内FAQか議事録臭い
まず権限とデータソース見ろ
「一旦持ち帰り」は人類の負債
>>34それな
AIに魂はないけど、フォルダ権限の怨念は宿る
退職上司の口癖説、急に怪談になってきたな
本人いないのに文章だけ社内を歩いてる
技術的に言うと、RAGなら「学習した」じゃなくて「検索対象に入ってる」可能性が高い
確認すべきは添付ファイルの取り込み範囲、ACL同期、監査ログの3点
監査ログで最低限ほしいのは
query、user_id、retrieved_doc_id、score、response_id、timestamp
これが無いなら障害調査も漏洩調査も勘になる
>>95
議事録じゃなくて旧研修資料フォルダだったっぽいな
技術的に言うとRAG対象に昔の共有ドライブを丸ごと食わせたやつ
一番ありがちな事故
>>102
それ技術的に言うと正解
削除は最後の手段で、まずACL棚卸し、参照インデックス再構築、監査ログ確認
運用で殺すより権限モデルを直せ
再インデックス前にスナップショット残せよ
何を読ませてたか消した後に分からなくなるのが最悪
消す前に記録、止める前にログ、これ基本
今AIに部署名ぼかして聞いたら
「10/8 経営会議 人員再配置ドラフトの件ですね」って返ってきたんだが
その会議名、まだ未公開では???
結論ですわ
AIが上司っぽいのではなく、会社の権限管理が上司仕草だっただけですわ
おほほ、では各位一旦持ち帰りましょうですわ