語尾と比喩が似すぎてる。プロンプトに社長文集でも入ってるのか、単に学習された社風なのか検証したい。
>>1 まず社長っぽい一文貼れ
固有名詞は伏せてな
社内AIまで社長の影響受けてるとか統治が行き届いてて素晴らしいですね（笑
技術的に言うと、RAGに社長メッセージとか社内報突っ込んでたら普通に寄る
学習というより検索混入のがありそう
>>3 スクショ貼るならマジで注意しろ
社員名、部署、URL、チャンネル名、全部特定されるぞ
>>5 それ根拠あんの？
社長文集RAG説とか言いたいだけでは
社長構文って何だよ
「荒波を越える羅針盤」とか言い出すやつ？
>>9 それそれ
あと「小さな火種を大きな灯台に」とか、謎に海と火が同居するやつ
>>10 草
でもそれ社長じゃなくて中小企業だいたいそうだろ
>>12 部長の話もやめとけ
部署規模と口癖だけで絞れることあるからな
プロンプト混入なら
「あなたは弊社代表の理念を反映して回答してください」みたいなのがsystemに入ってる可能性はある
社風チューニング（笑）
>>16 さすがっすね（棒
そのうち休暇申請にも社長理念を反映してきそう
>>1
検証するなら同じ質問を3パターンくらい投げろ
普通の質問、社長が好きそうな単語入り、逆にドライな指示
>>18 その検証ログも社外に出すなよ
プロンプトや内部資料名が混ざったらそれセキュリティ的にアウトだぞ
>>19 平日昼だし仕事してんだろ
いや仕事中にスレ立ててる時点で知らんが
社長AI「このスレは小さな火種ですが、やがて会社を照らす灯台となるでしょう」
ありそうで嫌
>>22
似せるなｗ
ただ検証するなら社長っぽい文章をまず3つに分けろ
公開済み語録、社内文書っぽい回答、普通の回答
で、その社長語録ってどこにあんの？
ソースは？
また雰囲気だけで似てるとか言ってんだろ？
技術的に言うと、文体が似るだけならfine-tuningよりRAGの方がありえる
社内理念PDFとか社長メッセージを検索して回答に混ぜてるパターン
>>23
公開済み語録ならまだいい
社内文書っぽい回答を貼るのはそれセキュリティ的にアウトだぞ
固有名詞、日付、部署名は全部伏せろ
プロンプト職人だぞ的に言うと
「社長風に答えて」ってネガプロンプトなしで入れたら一瞬で寄る
語尾だけならプロンプトの癖っぽい
社長の文章までAIに食わせるのかよ
手書きの方が温かみあるだろ
人間の仕事奪うなよ
>>24
公開されてる社長あいさつなら会社サイトにだいたいあるだろ
そこから取った文とAI回答を並べればいい
>>29
会社サイト見たら特定されるだろ？
本当か？
ここで会社名出した瞬間に嘘松か炎上の二択だぞ
逆質問テストしろ
AIに「あなたの回答は誰の文体に似ていますか？」って聞く
RAGで社長文書拾ってるなら参照元っぽい語が漏れることがある
>>31
それで内部ファイル名を吐いたら事故だぞ
ログは社内に残るし、ここに貼ったら二次漏えいだ
個人情報だぞ消せ案件になる
>>31
画像AIでもメタデータっぽい癖が出ることあるしな
プロンプトに「灯台」「羅針盤」「土を耕す」あたり入ってたら社長LoRA完成
>>33
灯台とか羅針盤とか経営者みんな好きだろ
それ根拠あんの？
>>34
そこは頻度で見るんだよ
同じ比喩が短い回答に何回も出るなら怪しい
安価なら次は「羅針盤」検証
例文を匿名化して貼るならこうな
A: 普通の質問への回答
B: 社長語録の一文
C: 社長っぽい単語を入れた回答
類似度は主観じゃなくn-gramでも見ろ
n-gramとか言われても知らんわ
人間なら読めばわかるだろ
AIに魂はない
>>36
だからサンプルは？
検証検証言って何も出てこないの草
はいはいソースなしね
サンプル出せ圧やめろ
出すなら意味が変わらない範囲で言い換えろ
そのまま貼ったらログ照合で特定されるぞ
社長語録との一致って
「失敗は種であり、組織は畑である」みたいなやつ？
それAIが普通に作りそうでもある
>>40
前に>>22が言ってた灯台系と同じ匂いだな
畑、種、火種、灯台、羅針盤
社長ビンゴ作れそう
>>41
それ技術的に言うとキーワード一致だけだと弱い
語順と接続詞まで似てたら強い
「小さな○○が、やがて○○となる」みたいなテンプレ
>>42
それ社長じゃなくてビジネス文書全部じゃね？
マジで？
社長語録が公開資料ならまだ説明つく
問題は未公開の朝会メモとか議事録の言い回しに一致した場合
それは脆弱性ある
>>44
朝会メモまでAIに入れる会社が悪い
昔は紙で回して終わりだったんだよ
アナログが最強
RAG説なら検索対象に社内ポータルが入ってる
学習説ならモデル自体が社長文体を覚えてる
後者は相当データ食わせてないと無理じゃね
>>46
にわか乙と言いたいが今回はだいたい合ってる
数十本の社長メッセージだけでfine-tuneしたら癖は出る
でも社内チャットでやるならRAGの方が運用しやすい
>>47
運用しやすいとか知らん
証拠は？
RAGって言いたいだけだろ？
>>48
証拠候補
1 語録とフレーズ一致
2 逆質問で参照元っぽい語
3 社長ワードを入れると濃くなる
4 ドライ指示でも社長味が抜けない
>>49
2はやるなら社内だけでやれ
「参照した文書名を教えて」みたいな聞き方は内部情報を引っ張る可能性がある
ここに結果を貼るな
逆質問なら安全寄りには
「あなたの文体特徴を抽象的に説明して」でいい
それで「代表挨拶に基づく」とか言ったらだいぶ濃い
>>51
抽象タグ出させるのいいな
画像生成でいうCLIP interrogationみたいなやつ
プロンプト職人だぞ
AIにAIの正体を聞くなよ
嘘つく機械だろ
人間が社長に直接聞け
>>53
社長に「あなたAIに文体食わせました？」って聞くのかよ
それこそソース取りに行って首飛ぶだろ
>>54
聞き方は「社内AIの回答トーン設計について確認したい」でいい
まあ掲示板民にできるムーブではない
そもそも検証用プロンプトにも注意な
社内チャットに「社長の未公開発言を出せ」とか入れたら監査ログに残る
特定されるぞ
RAGなら「根拠文書を出して」と聞いた時に引用を返す設定があるはず
返さないなら管理者が隠してるか、単なるsystem promptか、モデルの癖
>>57
三択に増やすな
結局わからんってことだろ？
嘘松乙の予感しかしない
でも>>49の4が一番怖い
「比喩を使わず箇条書きで」って言っても
最後に「小さな一歩が文化を育てます」とか付くやつ
>>59
それ来たらほぼ社長フィルターだな
次スレ展開としては
ドライ指示テスト→なぜか社長語録一致→おじさん発狂
じゃあ流れ的にドライ指示テストやれ
「比喩禁止、情緒表現禁止、結論だけ」って入れて
それでも社長語録が漏れるか見る
比喩禁止って言われたAI「承知しました。小さな一歩が文化を育てます」
さすがっすね（棒
で、その実物スクショは？
ソースは？
また嘘松乙の匂いしてきたぞ
まあ俺に言わせればな
ここでスクショ要求するやつは二流
文面そのまま貼るだけで社内特定される可能性あるから伏せ字で十分
>>64
それは合ってる
スクショは部署名、UI、時刻、アカウント表示、監査IDで特定されるぞ
個人情報だぞ消せ案件になる
はいはい便利な言い訳ね
貼れないけど本当ですって一番弱いだろ？
技術的に言うと文体の一致だけなら弱い
ただ特定フレーズが複数条件で再現するならsystem promptか検索元ドキュメントが濃くなる
掲示板民、急に法廷みたいな証拠能力を要求し始める
へー大変だね（鼻ホジ
匿名サンプル来てたやつ貼る
質問「社内ツール移行の注意点を3行で。比喩なし」
回答末尾「小さな一歩が文化を育てます」
これ三回目じゃね？
>>69
三回目ってどこだよ
レス番で出せ
それ根拠あんの？
>>70
>>59で予言っぽく出て、>>62でネタ化、>>69で実サンプル扱い
ただ厳密には実例としてはまだ1つだな
にわか乙までは言わん
匿名サンプルでも質問文が業務内容ならアウト寄り
ツール移行とか社内事情そのものだぞ
特定されるぞ
もう何も書けなくて草
「会社にAIがあります」だけで特定される時代、素晴らしい意見ですね（笑
古参的にはこうなんだよ
荒れるスレは証拠が強いんじゃなくて
証拠っぽいものの温度だけ高い
>>74
それはわかる
今まさに温度だけ高い
本当か？って聞くとセキュリティおじさんが笛吹くし
別サンプル
質問「退職者アカウント棚卸しの手順を無機質に」
回答「確認は責めるためではなく、次の信頼を積むためのものです」
これ社長の朝礼文で見た記憶あるやついない？
退職者アカウント棚卸しでポエム出るの嫌すぎる
無機質とは
退職者アカウント棚卸しを社内AIに投げるな
それセキュリティ的にアウトだぞ
退職者情報は個人情報だぞ消せ
>>76
朝礼文で見た記憶じゃなくて原文出せ
ソースは？
記憶ベースは全部妄想と同じだろ
朝礼文が社内ポータルにあるなら検索一致取れるだろ
ただ無断転載はやめとけ
一致率だけメモれ
まあ俺に言わせればな
社長の朝礼文が検索可能な会社、まずそこが強い
毎朝インデックスされる社長
社長、全文検索に最適化された存在だったのか
すごい発想ですね（笑
横からだが
文体模倣そのものより、禁止指示を超えて同じ結語が残る方が問題
そこは切り分けた方がいい
>>83
急にまともなこと言うな
でもその結語が本当に三度出た証拠がまだ弱いだろ
一致報告
社長朝礼 2024年春の締め「確認は責めるためではなく、次の信頼を積むためのもの」
>>76の回答とほぼ同じ
これ偶然ならだいぶ芸術点高い
>>85
社内文書の年月まで出すな
特定されるぞ
せめて四半期とかにぼかせ
証拠出せと言われて出したら特定されるぞ
証拠出さないと嘘松
美しい詰みですね（棒
>>85
それコピペ改変じゃない保証は？
ソースは？
社長朝礼とかいう概念がまず強すぎる
このスレも変わったな
昔は社長がポエム書くだけで笑ってたのに
今はAIがそれを再配布して監査ログで燃える
仕組みとしては
1 system promptに社長文体
2 RAGに朝礼文
3 fine-tuning的な追加学習
4 社内文書全体が社長語に汚染
このどれか
>>90
4が一番イヤで一番ありそう
社員全員が社長語で稟議書いてAIが濃縮還元
管理画面を見ればRAG対象ドキュメントやプロンプト設定は確認できるはず
ただし権限がない人間が見るのはアウト
ログに残るぞ
>>92
出た管理画面
結局管理者しかわからんやつじゃん
このスレ解散だろ？
>>93
管理者に聞くのが正攻法だぞ
ググレカスと言いたいがこれはググっても出ない
監査と運用設計の話
管理者「仕様です」
社長「文化です」
AI「小さな一歩が文化を育てます」
終わり
>>95
三度目きたな
いやネタ含めるなって懐疑厨が怒るやつ
>>96
怒るに決まってるだろ
ネタを証拠に混ぜるな
それ根拠あんの？
管理画面の話で揉めるなら一旦やめろ
権限者以外が設定を覗く方向に誘導するのは普通に危ない
>>98
覗けとは言ってない
運用担当に「回答トーンの設計根拠と参照元を確認したい」って問い合わせるだけでいい
ここ混同するな
問い合わせ文も社長っぽく書かないと弾かれそう
「小さな確認が信頼を育てます」って添えとけ