【悲報】社内AI要約、「誰も言ってない決定事項」から外部掲示板まで巻き込む地獄へ
社内チャットのAI要約が、存在しないはずの「来週から全員対応」を生み出したというスレ。最初はAIの幻覚あるあるかと思いきや、予定表・草稿・部署名・外部掲示板まで絡む大事故疑惑に発展した。
『来週から全員対応』って要約されたけど誰も言ってない。便利なんだが運用ミスると事故るよな。
うちの会社も『検討する』が『実施する』に昇格してたわ
AI課長かな
社内チャットの要約は『参考情報』ってラベル必須だな
DecisionとSummaryを分けないとステークホルダーが燃える
ちょっと長くなるが、候補は3つある
1つ目は誰かが書いて消した
2つ目は別チャンネルの予定を混ぜた
3つ目はAIが『来週』『全員』『対応』を勝手に接続した
要するにだな、要約だけ見ても犯人は分からん
>>57
正論
論理削除データをembedding済みで検索に残すパターンもある
削除したのにベクトルDBから生えてくるやつ
77 名無しさん＠お腹いっぱい。