社内AI導入、結局ルール作りが9割じゃね？

>>1 ツール選定より、入力していい情報、レビュー責任、ログ管理、成果物の扱いを決めないと事故る。導入済みの職場どうしてる？

結論から言うと入力情報の線引きが全部なんだよ 顧客名、社内未発表数字、人事、契約書 ここ入れた瞬間に導入じゃなくて事故処理に決まってるだろ

議事録をそのまま突っ込むやついるけど個人情報だぞ消せ あとログがどこに残るか誰も見てないの怖すぎる 特定されるぞ

技術的に言うとDLPとretention policy見ないでAI導入とか言ってるのが無理 社内テナントなのか外部APIなのかで話が違う そこ混ぜて語るやつはにわか乙

MECEに分解すると 入力情報、出力物、レビュー責任、ログ、権限、教育 この6つをロジックツリー化して仮説→検証で回せばいい

>>5 出たMECE でも今回はわりと正しいから腹立つんだよ

Excelに貼った時点で負け

>>7 それセキュリティ的にアウトだぞ 共有リンク全社公開とか普通にあるから笑えない

>>7 Excelは社内インフラなんだよ 勝ち負けじゃなくて沼に決まってんだろ

>>7 So what?が不足 Excelが悪いのか、権限設計が悪いのか、運用教育が悪いのかを切り分けるべき

>>10 うるせえけど切り分けはそう 仕組みとしてはAIより前にファイルサーバのACLが腐ってる職場多い

ログ保管が一番あとから刺さる 誰が何を入力したか残す→監査に必要 残しすぎる→漏れた時に地獄 この板の過去ログより怖い

はっきり言って「AIの回答は必ず人間が確認」だけじゃ無意味だよ 誰が責任持つか名前を置け 部署名じゃ逃げるに決まってるだろ

責任者をRACIで置くのはあり 実行者、承認者、相談先、共有先 ここ曖昧なままツールだけ入れると会議が増える

今北 社内AIって結局プロンプトより稟議が長いって話？

>>15 要するにそうなんだよ プロンプト10秒、稟議3週間、成果物レビューで1週間 生産性とは何か間違いないから

あとスクショ運用やめろ 入力禁止情報を入れてない証拠ですって画面キャプチャ残すやつ そのスクショ自体が情報漏えいの種になる

>>17 それはリスク登録しろ 発生確率と影響度を置いて、回避か低減か受容か決める 雑談板で言うことじゃないが

>>18 リスク登録の前に対象資産の棚卸しだろ MECEに分解すると、入力データ、出力データ、利用者、利用目的、ログの5軸

技術的に言うとまずデータ分類な 公開情報、社内限定、機密、厳秘くらいに分けないとプロンプト禁止表が作れない

>>20 それセキュリティ的にアウトだぞって言うにも基準がいるからな 機密ランク表なしで現場判断させるのが一番危ない

どうせ機密ランク表作って満足して終わりだろ 半年後には誰も更新してない もう終わりだよこの国

海外だとそれ常識だぞ Data Classification PolicyとAI Acceptable Use Policyをセットで置く こっちでは普通だけど

>>23 日本でもできる L0公開、L1社内、L2顧客情報、L3契約・人事、L4未公開財務みたいに仮説→検証で始めればいい

>>24 顧客名、メール、問い合わせ内容をL2で雑にまとめるな 個人情報だぞ消せ案件が混ざる 特定されるぞ

仕組みとしては分類ラベルをSSOの属性とかDLPと連携させたい 人間の注意力だけに依存する設計はスケールしない

お前ら呑気だな DLPとか言っても現場はコピペして別ツールに投げるだけ どうせ無理だろ

>>27 So what?が不足 抜け道があるなら禁止でなく検知と教育と罰則の設計に落とす話

>>28 罰則よりまず監査ログだな 誰が、いつ、どの分類のデータを、どのモデルに入れたか そこが追えないとインシデント対応できない

>>29 ただしログにプロンプト全文を残すとログ自体が機密の山になる それセキュリティ的にアウトだぞ 要約ログと原文保管の分離が必要

こっちでは普通だけどログもretention決める 30日、90日、1年みたいに用途別 永遠に残すのは普通にrisk

論点は3つだな 入力していい情報、出力を誰が承認するか、事故時に誰が説明するか この3つが決まってれば会議は減る

>>32 説明する人だけ決めても、最後は担当者が詰められるんだろ 責任者は会議中ですで逃げる もう終わりだよこの国

成果物レビュー責任は名前で置け AIが書いた議事録を客に送ったなら送信者と承認者が責任持つ 部署共有アカウントは脆弱性ある

>>34 でもレビュー責任を重くしすぎると誰も使わなくなる コードレビューと同じで、リスク高い成果物だけ承認フロー厚くするのが現実的

>>35 MECEに分解すると成果物も分類できる 社内メモ、社外文書、契約関連、意思決定資料 全部同じレビューにするから詰まる

どうせ社内メモにも上長確認が入る AIで速くした分、承認スタンプが増えるだけ お前ら呑気だな

>>36 海外だとhuman-in-the-loopもrisk basedだな low riskはself review、high riskはlegalやsecurity review 日本遅れすぎｗ

>>38 海外でもGDPRとかHIPAA系は普通に厳しいぞ 海外なら自由みたいに言うな 個人情報だぞ消せで終わる領域はある

>>39 それ技術的に言うと規制対象データの扱いはモデル選定にも関係する API利用、リージョン、学習利用の有無、サブプロセッサ確認な

ツール選定に戻すと、機能比較表より契約条件比較表が大事 データ保持、学習利用、監査ログ、管理者権限、退職者のアクセス剥奪

>>41 契約条件なんか現場は読まない 無料版で試しました、便利でした、本番で使います この流れで事故る

>>42 無料版に顧客情報入れるのは本当にやめろ 個人情報だぞ消せ 試用環境こそ入力禁止を明文化しろ

こっちではsandboxを用意する会社多い ダミーデータだけ使えるAI playground 本番データ触る前にtraining受けさせる

>>44 ダミーデータ大事 でもダミーが現実と違いすぎるとプロンプトだけ上手くなって実務で破綻する 匿名化データをどう作るかが地味に重い

>>45 仮説→検証で小さく回すなら、最初は低リスク業務に限定だな 社内FAQ、文章校正、議事録要約 顧客対応と契約文面は後回し

低リスク業務だけ許可しても、便利だから勝手に高リスクに広がる どうせ無理だろ 便利さはルールを食う

>>47 だから禁止リストだけじゃなく許可リストが必要 使っていい用途、入れていいランク、レビュー責任者 この3点セットがない導入は脆弱性ある

>>48 要するに全社禁止でいいんだよ 例外申請だけ通せ 自由利用なんか事故るに決まってるだろ

>>49 それ技術的に言うと禁止してもproxyもCASBも見てない会社だと野良AIに流れるだけなんだよ 禁止ポリシーだけで制御できると思ってるならにわか乙

>>50 野良AIに流れる時点でそれセキュリティ的にアウトだぞ アクセスログ取れ 個人情報だぞ消せで済まない事故になる

全社禁止→現場が隠れて使う 全社解禁→情報漏れる もう終わりだよこの国

>>50 はっきり言って現場を信用するなって話なんだよ 便利だからって規程破る奴が出るに決まってんだろ

>>53 信用の話に逃げるな 仕組みとしてはDLP、SSO、tenant分離、audit log、prompt classificationまでセットで設計する 精神論で止めるなググレカス

>>54 prompt classificationは必要 ただ分類ミスったら特定されるぞ 人事評価、病歴、取引先担当者名あたりは即レッドにしろ

結論から言うとログ全部取れ あとで追えない運用は運用じゃないんだよ 間違いない

>>56 はい監視社会 社員の入力全部覗かれて終わり お前ら呑気だな

>>57 監査ログと常時覗き見は別だぞ 権限者、目的、保存期間、開示手順を決めろ そこ曖昧だと脆弱性ある

>>58 技術的に言うとログにも機密が入る prompt全文保存するなら暗号化、masking、閲覧権限、retention policy必須 ログが第二の漏洩源になる

>>57 監視とか言い出す奴が一番危ないんだよ 業務端末で業務ツール使ってる以上、監査されるに決まってるだろ

>>60 その理屈で何でも見られるようになる チャットもメールもAI入力も全部評価に使われる どうせ無理だろ

>>61 評価利用禁止を規程に書け 監査目的外利用禁止 ここ書かない会社は本当に危ない

>>62 それな RBACで人事部がAIログ見られる設計にしたら終わり security auditとperformance managementを同じ箱に入れるな

はっきり言って現場は自由が欲しいだけなんだよ でも責任は取りたくない だからルールが先なんだよ

>>64 ルール作る側も責任取りたくないから禁止に寄る 現場も管理も全員逃げる もう終わりだよこの国

禁止に寄る理由は分かる ただ全社禁止でも退職者が個人垢に持ち出したら追えない 特定されるぞというか会社が特定できない状態になる

>>66 だからenterprise契約でmanaged accountに寄せる IdP連携、SCIM、退職時deprovision、domain capture 無料版放置が一番まずい

>>67 結局金払えって話なんだよ 無料で安全に使おうとするな 間違いないから

>>68 予算ありません でも生産性上げろ だから無料版使います この流れに決まってるだろ

>>69 それセキュリティ的にアウトだぞ 予算がないなら利用範囲を削れ 顧客情報を削るな

ずっとROMってたけど一回整理する 禁止派の言い分は分かる 情報漏洩、ログ、責任、契約条件、全部重い でも全面禁止にすると>>50の言う通り野良利用が増える 自由派の言い分も分かる 文章校正、社内FAQ、コードのたたき台、議事録要約は普通に便利 ただ>>48の言う許可リストなしに広げると、>>43みたいな無料版顧客情報投入が起きる 監査ログは監視か問題は、ログを取ること自体より用途が問題 事故調査、規程違反調査、モデル改善のために何をどこまで見るか それを社員に明示しないと不信感だけ増える 結局、全社禁止でも全社自由でもなくて 1 入れていい情報の分類 2 使っていい用途 3 人間レビューの責任者 4 ログの保存期間と閲覧権限 5 違反時の扱い ここを先に決めるしかない …またROMに戻る

>>71 要するにルール作りが9割ってことなんだよ >>1が正しい 間違いない

>>71 だいたい同意 追加するならdata residencyとtraining opt-out確認な あとAPI経由ならkey管理とrate limitも見る

>>71 長文は正しいけど会社でこれやると会議が半年続く その間に現場は勝手に使う どうせ無理だろ

>>74 半年会議は脆弱性ある 暫定ルールを2週間で出せ 赤データ禁止、許可ツール限定、成果物レビュー必須、ログ取得告知 まずこれだけでも事故率は下がる

>>75 それでいい 完璧なルール待ってる奴は何も守らない 暫定でも線を引くんだよ

>>75 暫定ならclassificationは3段階でいい Public、Internal、Restricted RestrictedはAI入力禁止 Internalは承認ツールのみ Publicは自由寄り

>>77 その分類を現場が守れるわけない これInternalですって言い張って顧客名入り資料を投げる お前ら呑気だな

>>78 だから例示が必要 顧客名、メールアドレス、契約金額、障害情報、未公開IR この辺はRestricted固定 個人情報だぞ消せ

>>79 DLPである程度は検知できる メール、電話番号、マイナンバーっぽい形式、クレカ番号 ただ文脈依存の機密は機械だけじゃ無理 最後は教育とレビュー

>>80 最後は人間なんだよ AIの成果物も人間が責任持つ そこを曖昧にしたら導入失敗に決まってるだろ

>>81 人間が責任持つって言った瞬間に誰も使わなくなる 便利だけ吸いたいのが本音 もう終わりだよこの国

>>82 責任を個人に丸投げするのはアウト レビュー責任者、承認フロー、利用記録を組織で持て 個人処刑システムにしたら誰も報告しなくなる

>>83 それ技術的に言うとworkflowに組み込むしかない AIで作った文書はmetadata付けてレビューqueueへ 手作業報告だけにすると漏れる

>>84 結論出たな 便利に使いたいなら統制を先に作れ 統制なしの便利さは事故の予約なんだよ

>>85 まず入力禁止リストだな 顧客名、個人情報、契約条件、未公開情報、障害詳細、認証情報 ここを曖昧にしたら全部終わる 個人情報だぞ消せ

>>86 MECEに分解すると 入力ルール 出力レビュー ログ管理 事故対応 この4象限で最低限いける So what?が不足してたのは事故対応

>>87 技術的に言うとそれをworkflowに落とすだけ 入力前チェック 承認済みAIツール 生成物metadata review queue incident channel これでだいぶ現実的

>>88 おはようございます、。 昔はそうじゃなかった、。 稟議書に判子を押す人が、決まっていた。 AIでも、判子を押す人を、決めればよいのでは。

ずっとROMってたけど うちの会社は最初から完璧な規程にしないで 禁止入力リスト、出力レビュー表、事故時連絡先の3枚だけ先に出した 細かい分類はあとで増やした 現場が見るのは結局その3枚だった …またROMに戻る

>>90 それでいい 禁止入力リストは具体例で書け 氏名、住所、メール、電話、社員番号、取引先名、見積金額、契約書、障害ログ、APIキー 抽象語だけだと抜ける 特定されるぞ

>>91 ソースコードも雑に全部禁止にすると開発部門が死ぬ 仕組みとしてはrepo単位でclassification付ける方がいい public OSSは可 社内共通部品は承認ツールのみ 顧客固有ロジックとsecret混入は不可 にわか乙って言われる前に分けろ

>>92 レビュー責任者は個人名より役割で置くべき 営業資料なら営業Mgr 契約文面なら法務 コードならTech Lead 仮説→検証で、レビュー負荷が高い部署から調整

>>93 ただ、役職だけでは、休みの日に止まる。 昔も、課長不在で、書類が積まれた。 代理者を、決めておくことです、。

>>94 わかる 責任者より代理者がない運用の方が詰む AI出力レビューも第1レビュー者と第2レビュー者を表にしておくだけでかなり違った

>>95 事故時連絡先も明記しろ 情シス、CSIRT、法務、広報、部門長 報告テンプレは時刻、使ったツール、入力した内容の概要、出力、外部送信の有無 怒る窓口にしたら誰も言わなくなる

>>96 ログ管理は保存期間と閲覧権限までセットな 全部見放題はそれ自体がリスク 監査用ログと本文ログを分ける 必要ならredactionして保管 技術的に言うとここ雑だと監視ツールが情報漏洩源になる

>>97 So what?で言うと ログは罰するためじゃなく再発防止の材料 誰が悪いかより どのルールが曖昧だったか どのUIで止められなかったかを見るべき

>>98 新聞によるとですね、事故は、隠した時に大きくなる。 これは会社でも同じです。 早く言った人を、責めない制度が、必要です、。

>>99 そこは本当にそう 初動で隠されるのが一番きつい 漏れたかも、の段階で言わせる 確定してから報告しろはセキュリティ的にアウトだぞ